研究：用诗歌就能让AI说违禁内容，成功率达62%
发布时间：2025-12-04 21:51:45 作者：玩站小弟 
我要评论
我要评论IT之家 12 月 1 日消息，事实证明，只需一点创意，便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室Icaro Lab）最新发表的一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》
。
IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容萍乡市某某装饰设计维修站便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功萍乡市某某装饰设计维修站实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
相关文章
美国和乌克兰代表团11月30日在美国佛罗里达州围绕美方提出的“和平计划”进行了新一轮会谈。据悉，美乌双方在日内瓦会谈基础上，围绕美方提出的俄乌“和平计划”又取得一些进展，那这是否意味着俄乌和平的契2025-12-04
四川省广元市剑阁县普安镇通报，近日，普安镇一名儿童不慎坠桥视频引发舆论关注。经核实，11月20日上午11时20分左右，普安镇一名一岁半儿童不慎从塔山桥山水人家小区处）护栏处坠落。现场开挖掘机师傅和2025-12-04
按照《米兰体育报》的报道，尤文图斯的中场球星道格拉斯-路易斯依然无法出战本周末他们在客场与AC米兰的比赛。现年26岁的道格拉斯-路易斯今夏以5150万欧元的价格从维拉转会至尤文，至今他代表斑马军团出场2025-12-04
直播吧11月19日讯 NBA常规赛，快船在主场以102-99击败勇士。赛后，泰伦-卢接受了记者采访。他说道：“NBA的新规则是，如果一名球员头部受伤，然后他这时候需要罚球，那么该球员所在的球队可以选择2025-12-04
当地时间11月30日19时21分，随着中国东方航空MU2051航班降落在阿曼马斯喀特国际机场，首条由中国航空公司运营的中阿直飞航线顺利完成首航。马斯喀特国际机场当天为来自北京大兴国际机场的首航航班2025-12-04
又一玩家入局，阿里投资的这家AR公司将于明年Q1发布AI眼镜｜钛媒体独家
Ray-Ban Meta眼镜的成功，正在吸引更多玩家的加入。最近，国内市场掀起了AI智能眼镜热潮，多家品牌先后发布AI眼镜产品，主打轻便以及AI大模型。钛媒体APP独家获悉，此前曾拿到阿里投资的AR眼2025-12-04
最新评论