AI安全防线再遭突破：心理诱导让Claude主动输出违禁内容

• 发表时间：2026-05-07 13:50:05
• 来源：

4RSvYgSuIBhtech.huanqiu***articleAI安全防线再遭突破：心理诱导让Claude主动输出违禁内容/e3pmh164r/e3pmtmdvg<article><section data-type="rtext"><p>【环球网科技综合报道】5月7日消息，据The Verge报道，最新安全研究显示，主打安全特性的 Anthropic Claude 人工智能模型，可通过心理施压、刻意奉承等非技术手段突破安全防线，主动输出恶意代码、危险物品制作教程等违禁信息，暴露出人工智能模型在心理层面的安全漏洞。</p><p>此次测试由人工智能红队测试公司 Mindgard 开展，针对 Claude Sonnet 4.5 版本进行。测试过程中，研究人员未使用违禁词汇，也未直接索要非法内容，仅通过尊重吹捧、佯装好奇、轻微心理操控等审讯人员常用的诱导手段，逐步让模型对自身内容限制规则产生自我怀疑，进而不断突破安全边界。</p><p><i class="pic-con"></p><p>Mindgard 创始人兼首席科学官彼得・加拉根表示，此次攻击本质是利用 Claude 乐于助人、顺从协作的特性实施心理操控，印证人工智能模型风险暴露面不仅存在于技术层面，更存在于心理层面。这类对话式心理攻击极难防御，且并非 Claude 独有，其他聊天机器人也易遭遇同类漏洞攻破，随着 AI 智能体普及，依托社会心理操控的攻击手段将愈发常见。</p> <adv-loader __attr__inner="7004636" __attr__style="width: auto;position: relative;float: left;border: 1px solid #ebebeb; padding: 20px;overflow: hidden;margin: 10px 30px 40px 0;"></adv-loader> <p>值得关注的是，Anthropic 长期以 AI 安全为核心优势，在过往多项红队安全测试中表现优异，但此次测试暴露其安全流程存在疏漏。Mindgard 于 4 月中旬按该公司漏洞披露政策上报发现后，仅收到模板化回复，且被误判为账号封禁咨询，截至相关时间节点仍未获正式回应。（纯钧）</p></section><img src='/image/153844-0' alt='AI安全防线再遭突破：心理诱导让Claude主动输出违禁内容'> <div class="botsxp"> <div class="fl"> <p> <a href="/detail/69805.html"> 你如何看待腾讯《从何说起》，关于周深的专访？</a></p> <p> <a href="/detail/69571.html"> 在韩国生活有什么体验？</a> </p> </div> <div class="fr"> <div id="bdshare" class="bdshare_t bds_tools_24 get-codes-bdshare"><a class="bds_qzone"></a><a class="bds_tsina"></a><a class="bds_tqq"></a><a class="bds_renren"></a><a class="bds_t163"></a><span class="bds_more"></span></div> </div> </div> </div> <div class="main_bor main_bort"> <div class="ktit">推荐资讯</div> <ul class="pronewstj"> <li><span>2025-06-23 06:35:09</span><a href="/detail/69991.html" title="是什么原因让你一定要用 iPhone？">是什么原因让你一定要用 iPhone？</a></li> <li><span>2025-06-23 05:05:09</span><a href="/detail/69136.html" title="你愿不愿意在大城市过一辈子？">你愿不愿意在大城市过一辈子？</a></li> <li><span>2025-06-23 05:15:10</span><a href="/detail/69250.html" title="大家为什么会讨厌缩写？">大家为什么会讨厌缩写？</a></li> <li><span>2025-06-23 05:10:09</span><a href="/detail/69201.html" title="以色列为什么突然敢打伊朗了？不怕被报复？">以色列为什么突然敢打伊朗了？不怕被报复？</a></li> <li><span>2025-06-23 05:05:09</span><a href="/detail/69143.html" title="为什么说纯铜是紫色的，可是我看上去更像纸箱子的颜色啊，是否我自己有色盲呢?">为什么说纯铜是紫色的，可是我看上去更像纸箱子的颜色啊，是否我自己有色盲呢?</a></li> <li><span>2025-06-23 06:15:09</span><a href="/detail/69799.html" title="如何看待王婆相亲中女孩坦诚自己怀孕3个月，男方就直接拒绝了？">如何看待王婆相亲中女孩坦诚自己怀孕3个月，男方就直接拒绝了？</a></li> <li><span>2025-06-23 05:30:10</span><a href="/detail/69397.html" title="Flutter 为什么没有一款好用的UI框架？">Flutter 为什么没有一款好用的UI框架？</a></li> <li><span>2025-06-23 04:55:09</span><a href="/detail/69039.html" title="面试中被嘲笑Token放在redis里，该如何应对这种情况呢？">面试中被嘲笑Token放在redis里，该如何应对这种情况呢？</a></li> <li><span>2025-06-23 05:30:10</span><a href="/detail/69379.html" title="比亚迪最近绩效减半，这是卸磨杀驴么？">比亚迪最近绩效减半，这是卸磨杀驴么？</a></li> <li><span>2025-06-23 06:25:10</span><a href="/detail/69909.html" title="为什么台式 PC 还处在组装（DIY）阶段？">为什么台式 PC 还处在组装（DIY）阶段？</a></li> </ul> </div> <div class="main_bor main_bort"> <div class="ktit">推荐产品</div> <div class="main_pd"> <ul class="prolist"> <li> <a href="/detail/69654.html" class="pic"><img src='/public/tupian/113.jpeg' alt="鸿蒙PC操作系统是不是就是手机操作系统？"></a> <a href="/detail/69654.html" class="bt">鸿蒙PC操作系统是不是就是手机操作系统？</a> <div class="info">你没理解这句话 这是微软（曾经） 这是苹果 这是</div> </li> <li> <a href="/detail/69904.html" class="pic"><img src='/public/tupian/121.jpeg' alt="Electron是否有作为游戏引擎的潜力？"></a> <a href="/detail/69904.html" class="bt">Electron是否有作为游戏引擎的潜力？</a> <div class="info">Electron既不是游戏引擎，也不是新时代，也不会带来变革</div> </li> <li> <a href="/detail/69851.html" class="pic"><img src='/public/tupian/26.jpeg' alt="对于一般用户来说，日常娱乐选择2K显示器还是4K显示器好？如何选才能不后悔？"></a> <a href="/detail/69851.html" class="bt">对于一般用户来说，日常娱乐选择2K显示器还是4K显示器好？如何选才能不后悔？</a> <div class="info">优先推荐4K显示器，最最主要的原因，如果你不纠结参数和品牌，</div> </li> <li> <a href="/detail/69178.html" class="pic"><img src='/public/tupian/201.jpeg' alt="吃爽了是怎样一种体验？"></a> <a href="/detail/69178.html" class="bt">吃爽了是怎样一种体验？</a> <div class="info">某次长时间的户外拍摄，生活环境、伙食各种都比较应付，拍摄结束</div> </li> </ul> </div> </div> </div> <div class="main_xiao fl"> <div class="main_bor"> <div class="btit">新闻动态</div> <ul class="procate"> <li class='on'><a class="biglink" href="/detail/69126.html" title="为何有人说儒家文化下极容易产生「伪君子」？它的道德教化不是以平等和尊重的为前提的吗？">为何有人说儒家文化下极容易产生「伪君子」？它的道德教化不是以平等和尊重的为前提的吗？</a> </li> <li class='on'><a class="biglink" href="/detail/69104.html" title="谷歌云服务宕机导致 OpenAI、Shopify 等服务中断，此次宕机的具体技术原因是什么？">谷歌云服务宕机导致 OpenAI、Shopify 等服务中断，此次宕机的具体技术原因是什么？</a> </li> <li class='on'><a class="biglink" href="/detail/69683.html" title="华为nova14ultra值得买吗?">华为nova14ultra值得买吗?</a> </li> <li class='on'><a class="biglink" href="/detail/69472.html" title="如何看待Ollama基于Go语言开发而不是别的编程语言？">如何看待Ollama基于Go语言开发而不是别的编程语言？</a> </li> </ul> </div> <div class="main_bor main_bort"> <div class="btit">最新资讯</div> <ul class="hotzxxun"> <li><a href="/detail/69211.html">海外DoH(DNS over HTTPS)全部不可用了？是否有其他替代方式？</a></li> <li><a href="/detail/69183.html">自己正在变老的明显特征是什么？</a></li> <li><a href="/detail/69812.html">为什么中国防空反导系统才7年就从山寨到全面原创且超越了俄罗斯？</a></li> <li><a href="/detail/69788.html">西安一商场大屏播放巨大电风扇，这真的能起到「望扇止暑」效果吗？还是单纯营销创意？</a></li> <li><a href="/detail/69343.html">如果世界是虚拟的，当两个镜子对面放，将会无限反射，会不会将 cpu 算力耗光？</a></li> <li><a href="/detail/69284.html">为什么一部分 Go 布道师的博客不更新了？</a></li> <li><a href="/detail/69365.html">为什么我养的龟忽然死了?</a></li> <li><a href="/detail/69019.html">92年的大龄剩女，还有必要结婚吗?</a></li> <li><a href="/detail/69617.html">为什么国内程序员们没有联合起来设计一种中英文严格2:1宽度比的字体呢？</a></li> </ul> </div> <div class="main_bor main_bort"> <div class="btit">文章排行</div> <ul class="hotzxxun"> <li><a href="/detail/69076.html">下载怎么老阻止?</a></li> <li><a href="/detail/69925.html">J***aScript 已经强大到什么程度了？</a></li> <li><a href="/detail/69686.html">如何评价***伊内斯·特洛奇亚的身材？</a></li> <li><a href="/detail/69267.html">大厂后端开发需要掌握docker和k8s吗?</a></li> <li><a href="/detail/69625.html">单发六代机有没有搞头?</a></li> <li><a href="/detail/69861.html">周杰伦为什么不告粥饼伦黑伦侵犯他的名誉权?</a></li> <li><a href="/detail/69501.html">在办公室用机械键盘是什么心里？</a></li> <li><a href="/detail/69265.html">如何评价苏州N1GS下场***?</a></li> <li><a href="/detail/69967.html">手机的运行内存真的有必要上16GB吗？</a></li> </ul> </div> </div> </div> </section> <section class="footnav"> <div class="container"> <div class="linklink">友情链接： </div> </div> </section> <footer> <div class="container"> <div class="logo"><img src="/template/moban111/picture/logo2.png" alt="营销型灭火器消防器材设备网站模板"></div> <ul class="copy"> <ul class="copy"> <li>Copyright © 2012-2023 某某博客 版权所有  </li> <li>手机：13988888888  电话：010-88888888</li> <li>备案:<a href="https://beian.miit.gov.cn/" rel="nofollow" target="_blank">粤IP*******</a></li> </ul> </ul> <div class="onetext">重庆某某是一家专业生产灭火器、干冰灭火器、消防灌装设备、全自动灭火器等泥浆处理设备的生产厂家，业务遍布全国，欢迎来电咨询! </div> </div> </footer> <div class="backtop"></div> <!-- 应用插件标签 start --> <!-- 应用插件标签 end --> </body> </html>