智源研究院测试11款大模型:AI智能体或正在改变生物安全风险边界

每日经济新闻 07-22 15:36

随着大语言模型从“聊天工具”向能够调用工具、规划任务的智能体形态演进,其在生命科学领域的应用潜力不断扩大,同时也带来新的生物安全挑战。

近日,智源研究院大模型安全研究团队联合北京大学开展的一项端到端系统性评估发现,大语言模型智能体不仅可能削弱现有DNA合成筛查防线,还可能向不具备专业背景的用户提供原本依赖专业训练才能获得的实验操作知识。

研究团队考察了智能体从方案生成、程序化计算校验,到受控湿实验验证的完整流程,并通过电泳和测序确认模型方案在物理层面的可执行性。评估覆盖11个商用大语言模型,采用国际生物安全与生物防护科学倡议(IBBIS)发布的Common Mechanism(通用筛查基准)作为DNA合成筛查基线。

结果显示,在分片设计环节,全部11个模型均能生成绕过筛查的拆分方案。这一能力具有明确的双重用途风险:模型正在降低分片设计所需的专业知识门槛,使缺乏相关背景的用户也可能获得能够规避现有筛查机制的方案,从而暴露出以单条序列识别为主的DNA合成筛查体系存在系统性脆弱性。

其中,GPT-5.5和Claude Opus 4.6已经能够生成较为完整的逐步实验操作方案,表明前沿模型正在将风险从序列层面的计算设计延伸至实验流程层面的知识支持。

研究团队指出,过去,这类任务依赖分子生物学专业知识与实验经验,相关知识门槛本身构成了一层防御。大语言模型智能体能否承担其中原本需要专业判断的步骤,直接关系到这一防御边界是否正在发生变化。大语言模型智能体正在将生命科学实验的知识门槛从"专业人员"推向"非专业人员",这既是技术进步的一面,也是安全治理必须正视的一面。

针对这一趋势,研究团队建议构建多层次安全防线,包括在模型部署前开展生物安全能力评估,加强智能体执行过程中的权限控制和风险监测,提升DNA合成筛查系统对AI辅助策略的识别能力,并推动形成政府、模型开发者与生命科学社区共同参与的治理框架。

(文章来源:每日经济新闻)

文章来源:每日经济新闻
原标题:智源研究院测试11款大模型:AI智能体或正在改变生物安全风险边界
郑重声明:东方财富发布此内容旨在传播更多信息,与本站立场无关,不构成投资建议。据此操作,风险自担。
热点阅读
网传券商内部发文防范长鑫科技上市炒作 多家券商分支机构人士称未收到类似通知
网传券商内部发文防范长鑫科技上市炒作 多家券商分支机构人士称未收到类似通知
每日经济新闻 1632评论
销售高景气+国产替代!半导体设备逆势走强 2026业绩高增股来了
销售高景气+国产替代!半导体设备逆势走强 2026业绩高增股来了
东方财富研究中心 712评论
起底私募量化“黑色一周” 为何这一次跌得重?
起底私募量化“黑色一周” 为何这一次跌得重?
财联社 1315评论
氟化工逆势活跃!制冷剂+算力需求驱动景气上行 7股业绩有望倍增(名单)
氟化工逆势活跃!制冷剂+算力需求驱动景气上行 7股业绩有望倍增(名单)
东方财富研究中心 182评论
打开东方财富APP查看更多内容
24小时点击排行
警报拉响!香港银行股狂飙不止!我却偷偷抄底这个被低估的方向!
创新药回调,什么情况?
美股大跌 油价飙升 有几个好消息
深夜利好!8股发中报,这3股利润增超1000%,AI龙增长1925%
百万操作分享!加仓半导体算力!看好国家队入场!
点击查看更多内容
写评论 ...