生物安全研究 | GeneBreaker: 针对DNA语言模型的越狱攻击及其致病性指导

grit 发布于 2025-06-02 15 次阅读


该研究提出了一种名为GeneBreaker的框架,系统性地攻击DNA基础模型,并展示了这些模型生成病原体类似序列的能力,对生物安全构成潜在威胁。研究利用生物学上合理的提示工程和搜索策略,成功诱导模型生成SARS-CoV-2和HIV-1等病毒序列,并评估了模型的脆弱性。这项研究强调了大型DNA模型的双重用途风险,并呼吁加强模型安全措施,发表于 2025年06月02日

原文链接:https://x.com/BiologyAIDaily/status/1929461025209991210

此作者没有提供个人介绍。
最后更新于 2025-06-08