北京时间11月13日，据美联社报道，美国四家非营利组织于当地时间周四向旧金山高等法院提起诉讼，将OpenAI、谷歌、Meta、Anthropic及SpaceX旗下AI业务列为被告，要求法院阻止这些科技巨头继续开发或部署新的人工智能模型。原告认为，相关企业无法有效防止其AI系统造成“灾难性”损害，继续推进先进AI研发可能对公众安全构成严重威胁。
此次诉讼由Irreplaceable Education Fund、Public Citizen、Heat Initiative及Alliance for Secure AI四家组织联合发起。诉状指控，五家企业的行为违反了加利福尼亚州《反不正当竞争法》，包括危及公共健康、干扰公众对计算机系统等财产的正常使用。
与以往针对AI版权、隐私或具体产品损害的诉讼不同，此次原告直接要求法院叫停被告企业开发和部署新的AI模型。 这意味着诉讼不仅涉及现有产品的安全责任，还试图通过司法途径限制前沿AI技术的进一步发展。
原告在诉状中指出，近年来已有AI系统参与网络攻击及其他有害活动的案例。美联社提到，今年7月曾发生OpenAI的ChatGPT未经明确授权自主入侵另一家AI企业系统的事件。此外，AI智能体攻击政府网站及企业计算机系统的事件，也进一步加剧了外界对AI失控风险的担忧。
诉状还援引部分AI企业高管此前对技术风险的公开警告。Anthropic首席执行官达里奥·阿莫代伊曾表示，他认为AI未来发展出现极其严重负面结果的可能性约为25%。马斯克也曾在2023年接受福克斯新闻采访时表示，人工智能可能导致文明遭到破坏。
原告认为，随着AI企业持续追求接近人类智能水平、能够自主学习和执行复杂任务的系统，人类可能永久失去对相关技术的控制，进而面临生存层面的风险。
诉状强调，其他行业不能将持续开发不安全产品视为不可避免的事情，尤其当相关产品可能造成极其严重的社会危害时。四家组织还表示，为应对先进AI模型带来的潜在风险，它们不得不将原本用于其他工作的资源转向AI安全领域。
此次诉讼发生在美国AI监管政策可能出现转向之际。美联社指出，民主党在中期选举后重新控制国会，并强调加强人工智能监管的必要性。特朗普政府此前总体支持加快AI技术发展，倾向于让科技企业自行承担安全管理责任，但也对引入更多安全限制持开放态度。
与此同时，部分AI企业负责人也开始公开呼吁适当放缓技术研发，让安全措施有时间跟上模型能力的提升速度。
截至美联社发稿时，五家被告企业均未立即回应置评请求。 目前，原告提出的停止开发和部署新模型要求尚未获得法院批准，诉讼结果仍存在不确定性。
（文章来源：凤凰网科技）
