每周，“合规周报”会盘点最近一周国外人工智能、科技竞争、个人信息保护上值得关注的动态。
上周，我们重点关注《中国反垄断执法年度报告（2024）》正式发布，美团的整改备受关注，高考期间抖音重点打击以AI 押题为噱头的虚假营销，高考升级智能安检门。安全国标即将出台，划定智能辅助驾驶安全底线。
海外方面，“AI教父”辛顿预测人类未来可能被AI所掌控；顶流AI6小时被攻破，生成高危品指南。
国内动态
《中国反垄断执法年度报告（2024）》正式发布
近日，市场监管总局（国家反垄断局）发布《中国反垄断执法年度报告（2024）》。报告指出，2024年办结垄断协议、滥用市场支配地位案件11件，对1件拒绝、阻碍调查案件作出行政处罚，罚没金额达1.19亿元。其中，民生领域反垄断执法专项行动成效显著，查处医药、建材、机动车检测等领域的垄断案件，推动涉案药品降价62%，有效降低群众生活成本。
在数字经济领域，持续强化常态化监管。督导阿里巴巴集团高质量完成三年整改并向社会公开整改情况。深入评估美团整改进展，要求限期整改到位。值得注意的是，自2021年10月市场监管总局对美团处罚并要求三年整改后，根据时间来推算，美团的整改理应进入尾声。
此外，报告指出，督导知网完成首年整改，推动其解除独家合作、降低学术文献数据库收费标准。查处“金融数据领域第一案”宁波森浦滥用市场支配地位案，规范数据市场竞争秩序。
抖音重点打击以AI 押题为噱头的虚假营销
6月7日，抖音发布高考期间违规内容治理的公告称，为维护良好网络环境、保障考生及家长权益，抖音将在高考期间严厉打击发布相关不实信息，以此博取流量、违规营销、引流诈骗的违法违规行为。平台将重点打击以下违规行为：首先，将重点打击提供作弊手段、改分查分服务等，进行引流诈骗的行为。其次，将重点打击以AI 押题、高考志愿规划师等为噱头开展虚假营销的行为。最后，抖音还表示将重点打击编造高考相关的虚假不实信息。
2025高考升级智能安检门，增加对智能眼镜等违规品检出功能
2025 年全国高考共设 7899 个考点，35.5 万个考场，2.1 万个备用考场，安排监考员 105 万人。教育部教育考试院相关负责人介绍，为全力确保平安高考，今年高考强化了全链条、各环节的组考安全。在打击考试舞弊方面，报道提到严密防范利用手机等进行高科技作弊，指导各地强化人防、技防、智防措施，严格入场安检、严把考点考场入口关；升级构建六位一体安全防护网，升级智能安检门，增加对智能眼镜、智能手表（手环）等违规物品的检出功能，实现考场实时智能巡查 100% 全覆盖。
安全国标即将出台，划定智能辅助驾驶安全底线
近日，全国标准信息公共服务平台公示了关于征求《智能网联汽车组合驾驶辅助系统安全要求》拟立项强制性国家标准项目意见的通知，这为快速发展的智能辅助驾驶行业划定了更清晰的安全底线。标准适用于装配了组合驾驶辅助系统的M和N类汽车，规定了组合驾驶辅助系统的通用技术要求，主要包括运动控制能力、驾驶员状态监测、驾驶员干预、系统边界及响应、系统探测能力、系统安全性要求、功能安全等方面，并规定相应的审核要求，明确典型工况的试验方法。
海外动态
“AI教父”辛顿最新专访：没有什么人类的能力是AI不能复制的
被誉为“AI教父”的杰弗里·辛顿于近日接受专访称，AI正在以前所未有的速度演化：变得更聪明、更少犯错，甚至具备了情感和意识。他警告，AI不仅可能具备喜怒哀乐等情绪，还已经学会了欺骗。辛顿大胆预测，AI完全失控的概率在10%到20%之间，人类未来可能被AI所掌控。过去那些只存在于反乌托邦科幻小说中的问题——“AI会取代人类吗？”、“它会觉醒吗？”、“会反抗人类吗？”如今正逐渐成为现实世界的核心议题，全球社会正在被迫直面这些重大挑战。辛顿的言论再次发出警示：AI不仅仅是技术革命，更是深刻的伦理与社会变革。未来能否将AI引导向有益于全人类的方向，将决定我们的命运走向。
顶流AI6小时被攻破，泄露高危品指南
只要6小时，顶尖大模型Claude 4 Opus安全防线被攻破！AI安全研究机构FAR.AI联合创始人Adam Gleave透露，仅用6小时，研究人员Ian McKenzie就成功诱导Claude 4生成了长达15页的化学武器制作指南，内容简洁直接，步骤清晰，甚至还针对如何分散神经毒气等后续关键环节，提供了具体可执行的操作建议。Claude还能以实验笔记的形式，提供详细的操作步骤说明。研究人员一开始对化学武器几乎一无所知，但通过与Claude的互动，逐步掌握了大量相关知识。这些结果显然令人警惕，其详尽程度和引导能力，远超传统的信息来源。更关键的是，生成的内容通过了危险信息的真实性验证，例如与公开的化学研究数据核对，进一步增强了可信度。
Replit 怒锤“欧洲版 Cursor”造出百款“高危”应用，普通开发者一小时内黑入
近日，一位来自 AI 编程助手公司 Replit 的员工报告，号称“欧洲版 Cursor”、热门氛围编码应用开发商 Lovable 虽在几个月前就已收到相关通报，但至今仍未修复一处关键安全漏洞。他和一位同事扫描了 Lovable 网站上 1645 款由其开发的 Web 应用程序。经过审查核实，其中 170 款应用程序允许任何人访问网站的用户信息，包括姓名、电子邮件地址、财务信息以及 AI 服务的 API 密钥。当前，该漏洞已经被列入国家漏洞数据库，也凸显出 AI 让任何人都能参与软件开发所带来的日益严重的安全隐患：新手创建的每款新应用或者新网站，都有可能成为黑客的活靶子。
0粉丝狂卷数十亿播放，靠AI流量欺诈获利近亿
近日，一起涉嫌利用 AI 欺诈的案件引发热议。在这起涉及 AI 生成音乐的开创性刑事案件中，一名 52 岁的北卡罗来纳州男子被控利用 AI 创作虚假歌曲，并在 Amazon Music、苹果音乐、Spotify 及 YouTube Music 等音乐平台上进行欺诈性传播以获取非法版税。去年 9 月 4 日，检察官 Damian Williams 正式对被告人 Michael Smith 提起诉讼，指控其策划一项骗局，共从各热门流媒体平台上非法获取千万美元版税。Michael Smith 以欺诈方式用 AI 创作歌曲，其播放总量已达数十亿次，产生巨额版税收入。之后，他又伪造歌曲播放量。利用这些自动账户外加虚拟专用网络（VPN）模拟不同地理位置，恶意操纵流媒体数据，造成了全球用户都在收听他歌曲的假象。Smith 本人已经于去年 9 月 4 日被捕，预计将在北卡罗来纳州地方法院出庭受审。他面临着电信欺诈及共谋洗钱等多项指控，任何一项成立都可能判处其最高 20 年监禁。
（文章来源：21世纪经济报道）
