研究：用诗歌就能让AI说违禁内容，成功率达62%
发布时间：2026-01-07 01:13:19 作者：玩站小弟 
我要评论
我要评论IT之家 12 月 1 日消息，事实证明，只需一点创意，便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室Icaro Lab）最新发表的一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》
。
IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容三亚市某某建筑科技经销部便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功三亚市某某建筑科技经销部实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
相关文章
来源：直新闻 国务院台办发言人陈斌华1月1日答记者问。 问：赖清德今天在其新年讲话中大肆渲染所谓“中国扩张的野心”及对台湾的威胁，鼓噪“强化国防及安全防卫韧性、全面建构有效的吓阻力量及民主防卫2026-01-07
来源：财联社 财联社7月7日电，美国太空探索技术公司创始人埃隆·马斯克5日在社交媒体X上表示，该公司新一代重型运载火箭“星舰”将在4周内进行第五次轨道试飞。“星舰”火箭总长约120米，直径约9米2026-01-07
杨雪梅摄影像中国） 7月5日，中国第十四次北冰洋考察队“雪龙2”号极地科考破冰船从山东青岛奥帆中心码头起航出征。 作为我国第一艘自主建造的极地科考破冰船，“雪龙2”号于2019年首次参与中国极地考2026-01-07
本文作者：廖张元，天津医科大学总医院内科专业副主任医师夏日炎炎，很多人选择周末睡个懒觉，以弥补平日里的睡眠不足。然而，令人困惑的是，很多人在实现了这个“睡眠梦想”后，却发现并没有迎来预想中的神清气爽，2026-01-07
来源：中国新闻周刊 为何他成了“国民演员”？ 2025年12月30日午后，74岁的安圣基在首尔家中进食时，食物突然堵塞气道。紧急送医后，他陷入昏迷，并于2026年1月5日在医院离世。这位被誉为2026-01-07
7月5日晚广州市文化广电旅游局官网发布《关于优化提升广州旅游服务水平践行文明旅游的温馨提示》以下简称《提示》）拟对广州市旅游景区、文博场所游客预约工作进行优化调整以下为《提示》全文一、从7月8日星期一2026-01-07
最新评论