研究：用诗歌就能让AI说违禁内容，成功率达62%
2025-12-23 06:59:54 [焦点] 来源：石家庄市某某生态科技销售部
IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容咸宁市某某通用机械维修网点便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功咸宁市某某通用机械维修网点实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
(责任编辑：热点)
首度公开！航天技术骨干炒股亏空，竟向间谍……
主场116比95力克广东，辽宁男篮将与新疆角逐总冠军
大衣哥喜抱孙子：后院挂灯笼庆祝，亲自写喜宴帖发大红包
大S近照被嘲显老，本人亲自晒出老公视角照澄清，结果墙都P歪
男孩在“看守所备战高考”，网友：考上了有啥用？政审也过不了推荐文章
-
家里的蔬菜放久了，难免有些会冒出嫩芽——土豆抽芽、洋葱长绿芽、红薯鼓芽点、大蒜冒蒜苗......面对这些发芽的蔬菜，很多人都会纠结：扔了可惜，吃了又怕中毒。其实不同蔬菜发芽后的安全性差异很大，下面就针
...[详细]
-
【编者按】帮大家看剧的“第一集”系列来了，最近开播的剧集，值不值得入坑？好看的，奇葩的，一起来盘一盘。也许有的剧会渐入佳境，也许有的剧高开低走，所以本文仅代表作者对首播几集的意见，仅供参考。后续如有打
...[详细]
-
【编者按】帮大家看剧的“第一集”系列来了，最近开播的剧集，值不值得入坑？好看的，奇葩的，一起来盘一盘。也许有的剧会渐入佳境，也许有的剧高开低走，所以本文仅代表作者对首播几集的意见，仅供参考。后续如有打
...[详细]
-
又一轮降价潮？比亚迪置换补贴登场，最高2万，5月购车时机到？
你喜欢的车，突然降价了，算不算一种惊喜？如今的中国新能源市场，这种惊喜太多了。北京车展刚刚结束，各大厂商就又开启了新一轮的价格战。5月6日，比亚迪海洋网也加入了这一行列，不过这一次，比亚迪海洋网把重点
...[详细]
-
报告：我国60岁以上老年人患听力损失人数超2000万2025-12-17 17:36:47 来源：中国新闻网
...[详细]
-
[本站 资讯] 日前，乘联会秘书长崔东树发文称，2024年3月中国自主车企在海外部分地区销量初步统计达到19万辆，同比增长38%，环比增34%；2024年1-3月，中国海外市场中国品牌销量47万辆，同
...[详细]
-
版权声明：本文版权为网易汽车所有，转载请注明出处。网易汽车5月6日报道日前，网易汽车从官方渠道获悉，2024款奇瑞瑞虎7参数丨图片）正式上市，新车共推出3款配置车型，售价分别为7.49万元、8.99万
...[详细]
-
很多爱美女人迈入了夏天以后，往往可以比较精准的选择出那些经典又好穿的服装，毕竟这一季节的穿搭并不会有过多严苛的挑剔型，简单清爽就非常好看。而下面介绍的这三款单品，在夏季也有着非同一般的高人气，可以在衣
...[详细]
-
海南自贸港即将正式启动全岛封关。对于封关后的发展重点，中国国家创新与发展战略研究会学术委员会常务副主席、重庆市原市长黄奇帆认为，一些应着力推进的关键方向将对海南及全国产生重大战略意义。 黄奇帆认
...[详细]
-
版权声明：本文版权为网易汽车所有，转载请注明出处。网易汽车5月6日报道日前，网易汽车从官方渠道获悉，2024款奇瑞瑞虎7参数丨图片）正式上市，新车共推出3款配置车型，售价分别为7.49万元、8.99万
...[详细]
热点阅读
