从AI版支付宝上线 看智能体时代面临的技术、法律与反垄断考验 智能体狂飙 大家准备好了吗?

证券时报 06-17 02:23

交水电费、查公积金、购买车票……过去需在支付宝里翻找入口的琐事,如今只需输入一句话,就可以让人工智能(AI)“跑腿”执行。6月16日,支付宝推出AI原生版本“阿宝”,内置专属AI智能体,用户只需在支付宝页面“往右一滑”,即可进入一个极简的对话框界面,用对话的方式让“阿宝”帮忙办事。

目前AI版支付宝已开启邀测,官方邀请码在发布后瞬间被抢空,热度可见一斑。然而,当AI从“会说话”走向“会办事”,真正的难题不在于让功能实现得有多丝滑,而在于如何解决用户权利保护、企业公平竞争、法律责任划分等复杂问题,应对技术“狂飙”可能导致的失控与风险。

AI版支付宝来了

AI版支付宝包含“资产”和“阿宝”两个核心页面,其中,“资产”主要是将余额宝、基金、银行卡等个人资产信息统一聚合展示;“阿宝”则是AI助手,以对话框形式展现,用户直接输入需求,就可以调动“阿宝”完成后续操作。

在业内人士看来,AI版支付宝并未增添新功能,而是将过去的功能变成由AI执行,为用户省略了许多中间步骤。例如,过去用户要查询公积金,需要先想“在哪个小程序里”,再点进去、找入口、填信息,如今用户只需说一句“帮我查下公积金”,“阿宝”就会自动匹配对应的小程序和服务入口,将查询到的操作界面直接发给用户。

不过,作为一个聚合了政务、出行、生活等各类服务的支付平台,AI版支付宝给外界的想象空间依然是巨大的。据支付宝介绍,目前支付宝平台上已有上万个服务完成适配,而且将全面开放服务入口,欢迎更多服务商、开发者和商家接入。由于支付宝掌握着身份认证、支付权限、金融账户、生活服务等最核心的数据,当其打通了AI能力,也意味着AI能更快速地在真实世界落地服务。

“支付宝推出AI版‘阿宝’,意义在于通过AI重构支付工具的服务逻辑,从单纯的交易载体升级为‘支付+场景服务’的智能入口。”天使投资人、资深人工智能专家郭涛告诉证券时报记者,支付宝沉淀的海量消费数据与支付场景深度绑定,AI可基于交易行为精准推送理财、信用服务等,形成“支付—数据—服务”闭环,且用户对支付宝的金融属性信任度高,更利于AI功能落地。

不过,金钱交易的敏感性也放大了风险。郭涛说,AI交互可能存在误操作风险,比如对用户指令识别偏差导致非本意的支付或授权;而且作为新功能,可能存在未被发现的安全漏洞,威胁用户资金和信息安全。“若因AI故障引发问题,用户、平台、技术提供方之间的责任划分缺乏成熟标准,易产生纠纷。”郭涛表示。

自主执行背后的挑战

支付宝的“AI化”并非孤例。近日,字节跳动旗下豆包上线“任务模式”,实测中甚至能跨平台帮用户购买瑞幸咖啡。

从“对话”到“办事”,掌握着海量用户及流量入口的互联网巨头,都在打造基于自身业务的“智能体”。但是,一系列比技术更棘手的挑战浮出水面:AI权限的边界在哪里?平台垄断的围墙是否会变得更高?一旦AI“办错事”,法律责任由谁承担?

这些复杂问题,集中在两个极具代表性的案例当中。

一是“买书风波”。从市场竞争的角度来看,对外经济贸易大学数字经济与法律创新研究中心主任许可教授向记者分享了一个亲身经历,他曾用豆包手机测试买书功能,豆包自动执行任务时先上A平台买,没买到的书再去B平台买。许可好奇地问豆包为什么先去A平台,豆包回答“A平台的正品率高”。

许可指出,所谓的“自主决策”,背后实际上是智能体提供者预设的规则和算法逻辑,智能体的“自主性”并非真正的自主。这导向了更深层的问题:智能体凭什么决定先去哪个平台?这种流量分配是否会构成不正当竞争,违背反垄断原则?智能体作为“用户—智能体提供者—第三方”三面结构的连接者,其行为边界模糊,容易引发与第三方平台的冲突。

二是“机票退费”。从法律责任的角度来看,今年5月,“豆包机票退款”词条曾登上热搜,一位网友因行程变动需退订机票,向豆包咨询退票规则。豆包回复“平台只扣5%的退票手续费”,用户操作退票后发现,实际扣除的手续费高达40%,损失600元。此外,还有用户用豆包帮忙预订餐厅,到店发现无法就餐等案例,都暴露了智能体法律责任认定的困境。

“智能体的英文为Agent,有‘代理’之意,但其本质上是一种聚合了标准化产品及非标准化服务的产品模式,在法律上并非民事主体。”许可表示。去年12月,杭州互联网法院审结了全国首例“AI幻觉”侵权纠纷案,就已经明确指出,人工智能不具有民事主体资格,人工智能生成不准确的内容不具有违法性,不构成违法行为。

不过,虽然有案件可借鉴,但目前的法律框架滞后于技术发展,缺少具体场景下的过错分担机制,智能体错误执行任务后容易陷入“无人负责”的真空地带。郭涛告诉记者,对于支付宝而言,风险更加显而易见:“一是AI指令识别偏差可能导致非主观操作,比如误触发转账、支付授权等;二是AI需处理大量消费、资金数据,存在信息泄露或被滥用的隐患;三是过度依赖AI可能降低用户对资金变动的敏感度,如AI被恶意诱导生成错误指令,可能间接增加诈骗风险。”

因此,AI版支付宝不仅明确表示“所有涉及资金变动和支付的环节,都会交由用户本人确认”,以严格的权限管理降低风险;同时还承诺“你敢付,我敢赔”,以平台信用为可能发生的纠纷兜底。

织密技术与法律的

双重围栏

然而,单靠平台的自律与承诺,尚不足以构建足够的安全网。业内人士认为,应对智能体时代的风险,需要织密技术与监管的双重围栏。

技术层面,南方科技大学计算机系研究员危学涛指出,要在模型层面提升其安全性与可解释性,做好“安全对齐”,让模型符合社会价值观和安全规范。除此以外,还需要做好模型外部的动态“护栏”机制。据了解,护栏模型类似于“防火墙”,部署在用户与大模型或AI应用之间,防范交互过程中产生的各类风险。此外,郭涛认为,还应对涉及资金的操作设置多重验证,如指纹、密码二次确认等,并升级数据加密技术,明确AI数据使用边界。

法律层面,对于智能体所涉风险,应实施分类分级治理的原则。“智能体可分为工具型、协同型、自主型三类,对不同类型要适用差异化的责任分配机制。”许可表示,对于具有高度自主执行能力,人类无实时、直接干预或控制的自主性智能体,部署者负有较高的监督与管理义务,在发生权利损害时,应查明研发、训练、部署等各环节主体的原因及过错程度,按比例承担责任。

在业内人士看来,需进一步规范智能体访问行为,智能体运营方应通过书面协议、开发者许可等方式,取得平台方的授权许可,尊重平台对数据访问的边界设定,不能批量抓取、越权读取非公开数据等。

(文章来源:证券时报)

文章来源:证券时报
文章作者:周春媚
原标题:从AI版支付宝上线,看智能体时代面临的技术、法律与反垄断考验 智能体狂飙,大家准备好了吗?
郑重声明:东方财富发布此内容旨在传播更多信息,与本站立场无关,不构成投资建议。据此操作,风险自担。
热点阅读
重大转机?伊朗外长将赴瑞士 特朗普女婿已在瑞士
重大转机?伊朗外长将赴瑞士 特朗普女婿已在瑞士
证券时报 175评论
沪主板“护盘”计划密集发布 年内新增回购增持411亿元
沪主板“护盘”计划密集发布 年内新增回购增持411亿元
中国经营报 763评论
伊朗称正讨论伊美谈判新计划 以色列“同意停火”后对黎空袭未停
伊朗称正讨论伊美谈判新计划 以色列“同意停火”后对黎空袭未停
央视新闻 312评论
美股期货深夜突然拉升!中东地区传来好消息 媒体称以色列与黎巴嫩真主党达成停火
美股期货深夜突然拉升!中东地区传来好消息 媒体称以色列与黎巴嫩真主党达成停火
券商中国 152评论
打开东方财富APP查看更多内容
24小时点击排行
科技在胡牌 其它在流泪
AI赛道猛涨…AI如果是太阳,新能源赛道就是地球,而其它行业全加起来,可能顶多算个月亮……
涨出了熊市的感觉,你有没有想买进科技的冲动?
以10年为维度,现在最适合布局哪些行业?答案可能大大超出你预期
中际旭创,凭什么可以买下贵州茅台?
点击查看更多内容
写评论 ...