“下单一份小笼包到家庭地址”“帮我订一张去杭州的火车票”，只要对手机说出需求，它就能自动完成下单指令。这不是想象，能够跨应用自动操作的人工智能手机即可做到。
去年3月，“人工智能手机”首次出现在政府工作报告，随后各大厂商相继推出AI手机，上演一键比价、自动整理行程、跳过广告等“十八般武艺”。技术创新带来便捷应用的同时，安全风险、权责归属、公平性等问题也随之而至，AI手机的合规制度构建值得关切。1月13日，由上海市第三中级人民法院与华东政法大学联合主办的AI手机合规制度构建研讨会在华东政法大学长宁校区召开，来自法学界、司法界的数十位专家汇聚一堂，共同剖析新技术新产品带来的机遇与挑战。
AI手机合规制度构建已刻不容缓
与传统智能手机相比，AI手机把大模型直接写进芯片和操作系统，使手机具备“天生智能”，能够根据用户的语音或文字指令，理解屏幕上显示的内容，并在多个应用之间完成信息查找和操作处理，具有自主性、感知决策、快速响应等能力，也孵化出语音订票、AI导购、离线会议速记等新场景，激发市场消费潜能。随着端侧大模型在AI手机中深度应用，由此引发了系统权限、数据安全及责任分配等法律与合规挑战日益凸显。华东政法大学党委副书记韩强表示，这些议题已超越单纯技术范畴，成为融贯技术逻辑、法律制度与伦理规范的综合命题，AI手机合规制度构建已刻不容缓。
不久前，某知名大模型AI手机上市后却遭争议，其获取权限允许应用模拟用户输入事件，这或将带来用户账户安全风险，因此受到微信、淘宝及多家银行应用的屏蔽。有关个人信息的保护，始终伴随信息技术的发展。华东政法大学高富平教授指出，诞生于前网络时代的个人信息保护制度，在万物互联的大数据+AI时代已显力不从心。他指出，个人信息保护以个人为主体，核心是通过信息处理全流程保障用户知情权，防范数据滥用侵害个人尊严与自由。但在AI时代，个人数据的收集、控制与处理全面“失灵”，用户知情权难以保障，隐私泄露成为常态。“AI更加加剧了每个人的失控、无力感。”高教授指出，个保法发展的未来一定不是简单的修补改造，而是推导重建。
在鼓励创新与规范秩序之间寻找平衡
AI手机引发的隐私安全、数据权属、不正当竞争等问题亟待厘清，如何在鼓励创新与规范秩序之间找到平衡，成为监管与立法的核心命题。“在监管与立法方面，不妨让子弹再飞一会儿。”会上，世界知识产权组织仲裁员陈锦川提出，如同和过去印刷术、基因编辑的出现一样，数字时代手机与大模型融合是必然趋势，应该秉持“不扼杀创新、不放任风险”的原则，通过正当竞争方式实现利益平衡，从而形成新的利益格局。
就在本月10日，《互联网应用程序个人信息收集使用规定（征求意见稿）》出台。华东政法大学副教授徐骁枫认为，新规恰为AI手机这一技术革新与风险共生的产物划定了合规坐标系。徐骁枫指出，AI手机凭借端侧大模型的本地处理优势与跨应用协同能力，重构了人机交互范式，却也因“无障碍权限滥用”“数据流动模糊”“责任链条断裂”等问题，对个人信息保护体系形成冲击“；《规定》的核心价值在于以”最小必要“”透明可控“”责任闭环“三大原则，为AI手机的创新划定安全边界，同时避免过度规制扼杀技术潜力。华东政法大学特聘副研究员王镭说：”我们需要重构个保法的规范意义，即避免信息与人之间的意义关联给个人权益造成影响。而不与人产生意义关联的纯粹数据处理技术过程，不应落入规制范围。这也是鼓励技术发展和创新的应有态度。
会上，专家学者各抒己见。上海知识产权法院副院长刘军华表示，可以预见，人工智能的技术的运用对经济、社会的发展、运行规律、组织结构等产生重大的影响，既要从整体上考察新一轮技术革命所可能带来的各种影响，也要沉着应对，找准真正的问题所在和法律干预的时机和方式。中国社科院长城学者李明德强调，AI手机相关法律问题应回归本质，通过反不正当竞争、反垄断等现有法律框架解决争议；中国人民大学法学院教授郭禾提出，保障用户对AI功能的实质知情是合规核心，应避免笼统告知，让用户在关键节点自主选择；同济大学教授单晓光坦言AI手机议题前沿复杂，兼具挑战性与研究价值；世界知识产权组织仲裁员陈锦川建议监管立法不宜过早定调，应给市场竞争留出调整空间；华东政法大学教授高富平则认为传统个人信息保护法制度已失灵，需转向强化数据处理者义务。此外，华东政法大学教授王迁、上海市高级人民法院知识产权庭副庭长徐俊、上海知识产权法院知产二庭庭长钱光文、上海市检察院三分院第六检察部主任孙秀丽等分别从版权保护、跨端数据抓取判定等角度分享见解。
（文章来源：上观新闻）
