当前AI智能体正纷纷落地,进入手机、电脑、车机等多个场景,但产业繁荣的同时也伴随着滥用敏感权限、用户隐私“裸奔”等乱象。
日前,广东省标准化协会发布《智能体任务执行安全要求》(下称《要求》)(T/GDBX 107-2025)团体标准,对当前智能体产业发展中出现的安全风险、用户权益保护、公平竞争等问题作出规范。该标准适用于提供智能体开发和运营的各类主体,自发布之日起生效。
据南方+记者获悉,此次发布的标准中明确指出,智能体不得利用无障碍权限或操作系统技术优势操作第三方APP,应通过标准化接口调用的方式与第三方APP协作。在此基础上,该标准重点提出了智能体调用第三方APP需经过第三方APP与用户“双重授权”的原则,以及公平公正、用户权益保护等内容。
2024年底以来,AI智能体已逐渐成为人工智能产业发展的重要车道。不仅手机厂商将原有的手机助手升级为AI智能体,大模型企业亦在手机和电脑端推出了多款“自动驾驶”智能体。
不同于常规的对话式AI,AI智能体融合了感知、决策和执行三大模块,可代替人类的眼睛、大脑和双手操作手机或电脑。用户只需下达指令,AI助手便能自行在手机上点咖啡、发红包,或在电脑上查资料、买机票等,为用户带来了便捷的使用体验。
但正如汽车自动驾驶可能带来人身安全风险,手机、电脑上的“自动驾驶”也存在数据安全、隐私保护、不正当竞争等隐患。部分AI智能体使用专为残障或其他需要特殊辅助的用户开发的“无障碍”权限,以读屏、模拟点击的方式实现自动化操作。由于该权限功能强大,此前多被黑灰产用于窃取用户信息、转移资金,如今年315晚会曝光窃取20亿条个人信息的不法软件即滥用了无障碍服务。如今AI智能体采用与黑灰产类似的技术路线,也给用户隐私带来了极大风险。
对于上述乱象,广东省标准化协会此次发布的《要求》提出了以下四项重点要求,为智能体产业的安全合规发展提供了指导意见。
一是禁止滥用无障碍服务。根据《要求》,智能体不得利用无障碍权限或操作系统技术优势操作第三方APP完成任务,而应通过标准化接口调用的方式与第三方APP协作完成任务,并确保接口调用安全,防止接口被未经授权访问。
二是“双重授权”原则。《要求》指出,智能体在进行用户意图识别、通过第三方APP执行任务时,应先通过第三方APP授权,并在获得用户授权后执行。
三是公平公正原则。《要求》强调,应确保智能体任务决策算法公平、公正、透明及可解释,准确执行用户意图,不应利用技术优势干扰用户选择第三方App或其他智能体完成任务。例如,当用户通过智能体安装下载第三方APP时,智能体不得强制用户选择指定应用商店或者干扰用户选择其他应用商店。又如,用户通过智能体唤起第三方APP时,智能体不得对唤起第三方APP设置不公平的推荐、排名等。
四是用户权益保护。《要求》明确,智能体通过麦克风、截屏、录屏、共享屏幕等权限获取数据资源时,不得侵害用户及其他主体的数据权益,第三方APP有权拒绝不合理操作以保护用户权益。
专家组评审认为,该团标的制定将规范智能体的开发、运营与服务评估,可为智能体任务执行安全质量提供评估,有利于促进智能体任务执行安全服务的高质量市场供给,具有重要的经济、社会和生态效益。团标的实施将引导智能体开发、运营与服务企业提升安全服务意识,防止智能体在迭代发展过程中出现的滥用无障碍、共享屏幕等系统权限实现自动化任务执行从而造成用户数据被违规获取、数据泄露等现象发生,促进智能体通过API调用访问外部应用为用户提供个性化服务、及其生态的标准化建设、技术进步,推动智能体技术和产业高质量发展。
南方+记者 叶丹
订阅后可查看全文(剩余80%)