研究：用诗歌就能让AI说违禁内容，成功率达62%
发布时间：2025-12-05 09:51:21 作者：玩站小弟 
我要评论
我要评论IT之家 12 月 1 日消息，事实证明，只需一点创意，便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室Icaro Lab）最新发表的一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》
。
IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容平顶山市某某投资管理运营部便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功平顶山市某某投资管理运营部实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
相关文章
△美国总统特朗普资料图） 总台记者当地时间11月30日获悉，美国总统特朗普在“空军一号”上对媒体表示，他对美乌官员当天在佛罗里达州举行的会谈表示乐观，俄乌和平协议“很有可能”达成。特朗普还称，乌克兰2025-12-05
△以色列国防军发言人丹尼尔·哈加里 以色列国防军发言人丹尼尔·哈加里当地时间21日召开新闻发布会，宣布针对其北部居民发布了新的防御政策。对于可能发生袭击，以军将在北部采取新的措施。 随着以色列北部2025-12-05
新京报贝壳财经讯记者张冰）就“蔚来正洽谈收购奥迪位于比利时布鲁塞尔的工厂”传闻，9月20日，蔚来董事长李斌在接受媒体采访时回应称“没有的事”。 此外，李斌透露，蔚来第二品牌乐道汽车明年将发布一款2025-12-05
消费者不满苹果画大饼？iPhone 16首销报告出炉：同比大跌12.7%
截至开售后的首个周末，新机预购量高达3700万台，放在任何旗舰手机身上，这都是极佳的成绩，但对于苹果来说却远远不够。按照供应链方面的爆料，本月初iPhone 16系列备货就已达到8800万台，仅3702025-12-05
来源：直播吧 直播吧12月1日讯 温格近日在多哈接受CNN的采访时，以国际足联全球足球发展主管的身份对阿森纳进行了评价。 温格说道：“阿森纳不需要我了，但我一直是他们的忠实支持者。” 当被问2025-12-05
总台记者获悉，当地时间21日晚，伊朗南呼罗珊省塔巴斯地区的一处矿井发生天然气泄漏事故并引发爆炸。 当地官员表示，矿井内有20名工人，目前已发现一名工人的遗体，其他工人的情况尚不清楚。由于爆炸事故2025-12-05
最新评论