在AI（人工智能）掀起生产力变革之际，安全已成为至关重要的议题。
4月25日，第二届腾讯云黑客松智能渗透挑战赛决赛暨腾讯安全沙龙在北京圆满落幕。该活动通过各种场景验证AI Agent（智能体）在复杂渗透任务中替代重复性人工操作、提升攻防效率的能力，并从不同视角探讨了AI Agent的发展潜力与潜在安全风险。
腾讯云安全总经理、云鼎实验室首席架构师李滨在接受包括《每日经济新闻》记者在内的媒体记者采访时表示，伴随AI的普及应用，传统安全漏洞并没有消失，甚至由于大量AI辅助工具快速生成代码，而产生了更多的安全问题；同时传统安全风险在结合AI的风险特点后，也衍生出了大量新形态的安全风险。
李滨还强调，AI融入生产流程带来的信任关系的变化，是Agent和AI安全里最核心的问题之一。
以近期热门的OpenClaw（一款开源人工智能体框架，俗称“龙虾”）、Hermes（一款开源人工智能体框架，俗称“马”）等智能体为例，当它被授权以用户的身份和权限行事时，其身份和权限的判断、多Agent与资源之间的互信、行为的约束与追溯都成为难题。
《每日经济新闻》记者了解到，AI给安全控制带来的另一大变化是，AI作为“超级中间体”，打通所有系统后带来的“安全模型倒置”。传统的网络安全攻防体系强调“纵深防御”，从外到内层层推进、层层设防。然而，AI打通所有系统后，大模型的“上下文空间”成为连接所有系统的隐含通道，安全防御的关注点从过去的“从外到内”，转变为需要同时防御“从内到外”，新形态的复杂安全模型和以往完全不同。
面对这些新挑战，行业专家认为，防御体系智能化升级迫在眉睫。
腾讯安全云鼎实验室攻防负责人李鑫表示，在网络安全攻防领域，成本是一个核心议题。过去，由于防御领域人才短缺与防御体系存在明显短板，攻防双方的成本严重不对等，攻击方往往能以较小成本实现“四两拨千斤”的效果。然而，进入AI时代，防御方借助AI技术实现了能力上的快速提升，尽管攻击方也会利用AI进步，但防御端的进步会更快。
《每日经济新闻》记者了解到，从攻击视角来看，AI时代的攻击行为将更趋隐蔽。人类攻击者通常存在某些行为特征与缺陷，而AI驱动的攻击则能实现高度隐秘，仅需通过指令或提示词即可完成一系列难以察觉的恶意行为。攻防博弈正不断向更深维度发展，腾讯安全也在持续探索如何利用AI技术对抗AI攻击，并推动相关方案落地。
李鑫举例道，当前，AI已具备一定的自进化能力。例如，某些智能体在遭受攻击时，能够根据日志与环境信息自主识别攻击行为，定位问题并完成修复，表现出初步的“免疫”功能。这意味着，未来安全防护的思路将从过去依赖人工打补丁演变为自我防御，通过一个“健壮的免疫系统”，来自动识别威胁、自主实施防护。
（文章来源：每日经济新闻）
