4RSvYgSuIBhtech.huanqiu***articleAI安全防线再遭突破：心理诱导让Claude主动输出违禁内容/e3pmh164r/e3pmtmdvg<article><section data-type="rtext"><p>【环球网科技综合报道】5月7日消息，据The Verge报道，最新安全研究显示，主打安全特性的 Anthropic Claude 人工智能模型，可通过心理施压、刻意奉承等非技术手段突破安全防线，主动输出恶意代码、危险物品制作教程等违禁信息，暴露出人工智能模型在心理层面的安全漏洞。</p><p>此次测试由人工智能红队测试公司 Mindgard 开展，针对 Claude Sonnet 4.5 版本进行。测试过程中，研究人员未使用违禁词汇，也未直接索要非法内容，仅通过尊重吹捧、佯装好奇、轻微心理操控等审讯人员常用的诱导手段，逐步让模型对自身内容限制规则产生自我怀疑，进而不断突破安全边界。</p><p><i class="pic-con"></p><p>Mindgard 创始人兼首席科学官彼得・加拉根表示，此次攻击本质是利用 Claude 乐于助人、顺从协作的特性实施心理操控，印证人工智能模型风险暴露面不仅存在于技术层面，更存在于心理层面。这类对话式心理攻击极难防御，且并非 Claude 独有，其他聊天机器人也易遭遇同类漏洞攻破，随着 AI 智能体普及，依托社会心理操控的攻击手段将愈发常见。</p> <adv-loader __attr__inner="7004636" __attr__style="width: auto;position: relative;float: left;border: 1px solid #ebebeb; padding: 20px;overflow: hidden;margin: 10px 30px 40px 0;"></adv-loader> <p>值得关注的是，Anthropic 长期以 AI 安全为核心优势，在过往多项红队安全测试中表现优异，但此次测试暴露其安全流程存在疏漏。Mindgard 于 4 月中旬按该公司漏洞披露政策上报发现后，仅收到模板化回复，且被误判为账号封禁咨询，截至相关时间节点仍未获正式回应。（纯钧）</p></section><img src='/image/153844-0' alt='AI安全防线再遭突破：心理诱导让Claude主动输出违禁内容'></p> </article> <!--上一页下一页--> <div class="info-detail-ud"> <div class="up"><a href="/detail/136663.html" title=" 男女对立会在 10后里缓和吗？"> 上一篇 : 男女对立会在 10后里缓和吗？ </a> </div> <div class="down"><a href="/detail/136663.html" title=" 男女对立会在 10后里缓和吗？"> 上一篇 : 男女对立会在 10后里缓和吗？ </a>> </div> <div class="next"> <a href="/detail/136663.html" title=" 男女对立会在 10后里缓和吗？"> 上一篇 : 男女对立会在 10后里缓和吗？ </a> </div> <!--相关文章--> <div class="rel-article-list"> <ul> <li> <a href="/detail/136918.html" title="" > <img src="/public/tupian/36.jpeg" alt=""> <div class="text"> <p class="atitle"></p> <p class="desc">直接回答不墨迹：直接在项目中集成使用（通过客户端库连接ES集...</p> </div> <span class="time">2025-06-28</span> </a> </li> <li> <a href="/detail/136199.html" title="" > <img src="/public/tupian/142.jpeg" alt=""> <div class="text"> <p class="atitle"></p> <p class="desc">即使提供N+7的补偿，还是遭到了一些员工的抵制。 公司长距离...</p> </div> <span class="time">2025-06-28</span> </a> </li> {dede:likearticle row='4' titlelen='80'} <li> <a href="/" title="" > <img src="" alt=""> <div class="text"> <p class="atitle"></p> <p class="desc">...</p> </div> <span class="time"></span> </a> </li> {/dede:likearticle} <div class="clear"></div> </ul> </div> </div> </div> <div class="r_shihu_lm rl"> <!--最新资讯--> <div class="latest_lm"> <div class="first_oneall"><a href="/detail/136337.html" title="" > </a> </div> <div class="oneall_list"> <ul> <li> <span class="lm_tag">| Golang 的 Web 框架该怎么选择？Web 开发又该怎样学？ |</span> <a href="/detail/136190.html" title="" target="_blank"> <p class="oneall_artcle"> </p> </a> <a href="/detail/136190.html" title="" target="_blank"> <div class="oneall_titleimg fl"> <img src="/public/tupian/92.jpeg" alt="" /> </div> </a> <p class="oneall_smalltext rl"> 推荐一个大家都没提到的 Connect 。 可以同时构建 r... </p> <a href="/detail/136190.html" title="" target="_blank"> <span class="oneall_more rl"> 查看详情>> </span> </a> </li> <div class="clear"></div> <li> <span class="lm_tag">| 有什么 j***ascript 的好书推荐？ |</span> <a href="/detail/136098.html" title="" target="_blank"> <p class="oneall_artcle"> </p> </a> </li> <li> <span class="lm_tag">| 你见过最奇怪的体质是什么？ |</span> <a href="/detail/136275.html" title="" target="_blank"> <p class="oneall_artcle"> </p> </a> </li> <li> <span class="lm_tag">| 韩国人在电影上非常凶猛能打，现实中韩国男人的战力如何? |</span> <a href="/detail/136062.html" title="" target="_blank"> <p class="oneall_artcle"> </p> </a> </li> <li> <span class="lm_tag">| 如何系统地学习Rust语言？ |</span> <a href="/detail/136061.html" title="" target="_blank"> <p class="oneall_artcle"> </p> </a> </li> <li> <span class="lm_tag">| 维护一个大型开源项目是怎样的体验？ |</span> <a href="/detail/136806.html" title="" target="_blank"> <p class="oneall_artcle"> </p> </a> </li> <li> <span class="lm_tag">| 和老公的月子仇导致忘不了想离婚，大家帮我看看应该离婚吗？ |</span> <a href="/detail/136072.html" title="" target="_blank"> <p class="oneall_artcle"> </p> </a> </li> <li> <span class="lm_tag">| 求pr安装包及安装方法? |</span> <a href="/detail/136373.html" title="" target="_blank"> <p class="oneall_artcle"> </p> </a> </li> <li> <span class="lm_tag">| 工作后在开始练字，有推荐的练习方向吗？ |</span> <a href="/detail/136053.html" title="" target="_blank"> <p class="oneall_artcle"> </p> </a> </li> <li> <span class="lm_tag">| 电影《碟中谍》系列中哪一部最好？ |</span> <a href="/detail/136502.html" title="" target="_blank"> <p class="oneall_artcle"> </p> </a> </li> <li> <span class="lm_tag">| 阿里合伙人「缩编」至 17 人，张勇、彭蕾、俞永福等 9 人退出，对阿里业务及企业管理有哪些影响？ |</span> <a href="/detail/136784.html" title="" target="_blank"> <p class="oneall_artcle"> </p> </a> </li> </ul> </div> <!--药材大全--> <div class="bk_lm"> <div class="bk_lm_title"> <a href="/" title="" target="_blank"> <h3></h3> </a></div> <div class="bk_artcle_img"> <div class="l_artcle_img fl"> <a href="/detail/136686.html" title="" > <img src="/public/tupian/108.jpeg" alt="" /> </a> <a href="/detail/136686.html" title="" > <p class="artcle_img_title"></p> </a> </div> <div class="l_artcle_img fl"> <a href="/detail/136514.html" title="" > <img src="/public/tupian/173.jpeg" alt="" /> </a> <a href="/detail/136514.html" title="" > <p class="artcle_img_title"></p> </a> </div> </div> <div class="clear"></div> <div class="artcle_title_list"> <ul> <li> <a href="/detail/136426.html" title="" > <span class="artcle_num"></span> <span class="artcle_title_name">「京东外卖」小范围测试骑手帮扔垃圾服务，每单平台补贴骑手 0.5 元，你会选择让骑手帮扔垃圾吗？</span> </a> </li> <li> <a href="/detail/136649.html" title="" > <span class="artcle_num"></span> <span class="artcle_title_name">上海迪士尼为什么老是打架？</span> </a> </li> <li> <a href="/detail/136214.html" title="" > <span class="artcle_num"></span> <span class="artcle_title_name">科技工作者，今年是你入行的第几年？还记得刚入行时的自己吗？若能与那个「新人」通话60s，你会聊什么？</span> </a> </li> <li> <a href="/detail/136521.html" title="" > <span class="artcle_num"></span> <span class="artcle_title_name">postgresql也很强大，为何在中国大陆，mysql成为主流，postgresql屈居二线呢？</span> </a> </li> <li> <a href="/detail/136207.html" title="" > <span class="artcle_num"></span> <span class="artcle_title_name">越正经的女人越容易做出疯狂的事吗？</span> </a> </li> <li> <a href="/detail/136170.html" title="" > <span class="artcle_num"></span> <span class="artcle_title_name">大家认为该不该有彩礼的存在？</span> </a> </li> </ul> </div> </div> </div> <div class="clear"></div> <!--图片02--> <div class="r_shihu_lm_img"> <a target="_blank"> <img src="/template/moban437/style/images/shihu_a02.jpg" /> </a> </div> <!--药材价格--> <div class="wd_lm"> <div class="bk_lm_title"> <a href="/" title="" target="_blank"> <h3></h3> </a></div> <div class="wd_artcle"> <div class="first_artcle"> <a href="/detail/136788.html" title="" target="_blank"> <h5></h5> </a> <div class="wd_artcle_img"> <a href="/detail/136788.html" title="" target="_blank"> <img src="/public/tupian/181.jpeg" alt="" /> </a> </div> <p class="wd_smalltext"> ... </p> <div class="clear"></div> <a href="/detail/136788.html" title="" target="_blank"> <span class="wd_more">[ 查看详细 ]</span> </a> </div> <div class="clear"></div> <div class="wd_artcle_list"> <ul> <li> <a href="/detail/136349.html" title="" target="_blank"> <span class="artcle_num"></span> <span class="artcle_title">微信服务器会保留聊天记录吗,会保存多久?</span> </a> <span class="artcle_time">2025-06-28</span> </li> <li> <a href="/detail/136027.html" title="" target="_blank"> <span class="artcle_num"></span> <span class="artcle_title">为什么我看到的电***4k银幕分辨率还比不过手机，模糊不清，还有严重拖影？</span> </a> <span class="artcle_time">2025-06-28</span> </li> <li> <a href="/detail/136155.html" title="" target="_blank"> <span class="artcle_num"></span> <span class="artcle_title">你是因为什么肥胖起来的?</span> </a> <span class="artcle_time">2025-06-28</span> </li> <li> <a href="/detail/136461.html" title="" target="_blank"> <span class="artcle_num"></span> <span class="artcle_title">Windows上有没有一分多屏和多屏合一的软件？</span> </a> <span class="artcle_time">2025-06-28</span> </li> <li> <a href="/detail/136241.html" title="" target="_blank"> <span class="artcle_num"></span> <span class="artcle_title">双胞胎为什么要穿得一模一样，目的何在？</span> </a> <span class="artcle_time">2025-06-28</span> </li> </ul> </div> </div> </div> <!--药材市场--> <div class="yj_lm"> <div class="bk_lm_title"> <a href="/" title="" target="_blank"> <h3></h3> </a> </div> <div class="yj_artcle_list"> <ul> <li> <a href="/detail/136438.html" title="" target="_blank"> <div class="yj_artcle_img"> <img src="/public/tupian/144.jpeg" alt="" /> </div> </a> <div class="yj_artcle_box"> <a href="/detail/136438.html" title="" target="_blank"> <h1 class="yj_artcle_title"></h1> </a> <p class="yj_artcle_smalltext">曾经就是全国一张卷啊 曾经震惊全国的山东两女生状告教育部教育... </p> </div> <div class="clear"></div> <span class="yj_artcle_time">2025-06-28</span> </li> <div class="clear"></div> <li> <a href="/detail/136401.html" title="" target="_blank"> <div class="yj_artcle_img"> <img src="/public/tupian/102.jpeg" alt="" /> </div> </a> <div class="yj_artcle_box"> <a href="/detail/136401.html" title="" target="_blank"> <h1 class="yj_artcle_title"></h1> </a> <p class="yj_artcle_smalltext">有一个网站可以查任意一个网站的技术栈。 w***alyze... </p> </div> <div class="clear"></div> <span class="yj_artcle_time">2025-06-28</span> </li> <div class="clear"></div> <li> <a href="/detail/136751.html" title="" target="_blank"> <div class="yj_artcle_img"> <img src="/public/tupian/126.jpeg" alt="" /> </div> </a> <div class="yj_artcle_box"> <a href="/detail/136751.html" title="" target="_blank"> <h1 class="yj_artcle_title"></h1> </a> <p class="yj_artcle_smalltext">基本是炒起来的，一碗原味猪杂汤粉，本钱5块钱，敢卖20一碗。... </p> </div> <div class="clear"></div> <span class="yj_artcle_time">2025-06-28</span> </li> <div class="clear"></div> <li> <a href="/detail/136272.html" title="" target="_blank"> <div class="yj_artcle_img"> <img src="/public/tupian/64.jpeg" alt="" /> </div> </a> <div class="yj_artcle_box"> <a href="/detail/136272.html" title="" target="_blank"> <h1 class="yj_artcle_title"></h1> </a> <p class="yj_artcle_smalltext">分类讨论。 第一类：广大平时基本什么都不练的普通人 这类人... </p> </div> <div class="clear"></div> <span class="yj_artcle_time">2025-06-28</span> </li> <div class="clear"></div> </ul> </div> </div> <!--图片02--> <div class="r_shihu_lm_img"> <a target="_blank"> <img src="/template/moban437/style/images/shihu_a03.jpg" /> </a> </div> <!--药材批发--> <div class="cp_lm"> <div class="bk_lm_title"> <a href="/" title="" target="_blank"> <h3></h3> </a> </div> <div class="cp_list"> <ul> <li> <a href="/detail/136240.html" title="" target="_blank"> <div class="cp_img"> <img src="/public/tupian/56.jpeg" alt="" /> </div> <p class="cp_title"></p> </a> </li> <li> <a href="/detail/136805.html" title="" target="_blank"> <div class="cp_img"> <img src="/public/tupian/68.jpeg" alt="" /> </div> <p class="cp_title"></p> </a> </li> <li> <a href="/detail/136217.html" title="" target="_blank"> <div class="cp_img"> <img src="/public/tupian/0.jpeg" alt="" /> </div> <p class="cp_title"></p> </a> </li> <li> <a href="/detail/136324.html" title="" target="_blank"> <div class="cp_img"> <img src="/public/tupian/192.jpeg" alt="" /> </div> <p class="cp_title"></p> </a> </li> </ul> </div> </div> <!--关注我们--> <div class="r_wechat"> <div class="bk_lm_title"> <h3>关注我们</h3> </div> <div class="r_wechat_img"> <img src="/template/moban437/style/images/weixin.jpg" /> </div> <div class="r_wechat_text"> <span>添加微信好友，关注最新动态</span> </div> </div> </div> </div> <div class="clear"></div> <!--返回顶部--> <div class="actGotop"> <a href="javascript:;" title="返回顶部"></a> </div> <!--网站底部--> <div id="bottom" class="g-footer"> <div class="gft-wrap"> <div class="weima"> <p style="height:106px;"><img src="/template/moban437/style/images/weixin.jpg" width="106" height="106" alt="AI安全防线再遭突破：心理诱导让Claude主动输出违禁内容_武冈市网站建设_网站建设公司_网站建设设计制作_seo优化"></p> <p>扫一扫关注我们</p> </div> <dl class="gft-版权@|备案:<a href="https://beian.miit.gov.cn/" rel="nofollow" target="_blank">粤IP*******</a>|<a href="/sitemap.xml">网站地图</a><dt><a>菜单导航</a></dt> <dd><a href="/list/laowaxiang">涝洼乡</a></dd> <dd><a href="/list/bayixiang">八一乡</a></dd> <dd><a href="/list/zilongxiang">梓龙乡</a></dd> <dd><a href="/list/xiashizhen">夏石镇</a></dd> <dd><a href="/list/caotangzhen">草堂镇</a></dd> <dd><a href="/list/suidexian">绥德县</a></dd> </dl> <dl class="gft-版权@|备案:<a href="https://beian.miit.gov.cn/" rel="nofollow" target="_blank">粤IP*******</a>|<a href="/sitemap.xml">网站地图</a><dt><a>联系我们</a></dt> <dd> QQ： </dd> <dd> 微信： </dd> <dd> 地址： </dd> </dl> <dl class="gft-版权@|备案:<a href="https://beian.miit.gov.cn/" rel="nofollow" target="_blank">粤IP*******</a>|<a href="/sitemap.xml">网站地图</a><dt><a href="###">网站地图</a></dt> <dd> <a href="/sitemap.xml" target="_blank">Sitemap</a> </dd> <dd> <a target="_blank" href="http://wpa.qq.com/msgrd?v=3&uin=&site=qq&menu=yes">友情链接</a> </dd> </dl> <div class="copyling"> <span> 网站备案号： </span> </div> </div> </div> </div> </body> </html>