新华每日电讯·陈天昊｜当手机开始“替你办事”，如何定义“懂你”的边界

作者：陈天昊 近期，国家网信部门公布了7款已备案的手机端侧生成式人工智能服务。

这份名单释放出一个明确信号：端侧人工智能正在告别技术演示，进入真正面向公众的产品化阶段。人工智能与手机的结合，也不再只是给手机增加一个聊天窗口，而是在尝试重新定义人与手机、手机与应用之间的关系。

人工智能正从“陪你聊天”转向“替你办事” 所谓端侧智能体，简单说，就是主要运行在手机、电脑、汽车、手表等个人终端上的人工智能助手。它不仅能够回答问题，还能在得到授权后，记住用户习惯，调用不同工具，连续完成一项任务。例如，用户可以告诉手机：帮我安排明天去上海出差。

手机需要做的可能不只是查询天气，而是调出日程，寻找合适的航班和酒店，规划机场交通，提醒携带材料，并把行程同步给同事。在这个过程中，人工智能不再只是提供建议，而是在代表用户采取行动。端侧智能体当然不只存在于手机中。

未来，电脑可以帮助处理文件和邮件，汽车可以根据行程协调导航与充电，手表可以结合身体状态调整运动安排，家庭设备也可以协同完成照明、安防和能源管理。更值得期待的，不是某一款“智能体手机”，而是围绕个人形成一个连续的智能环境。用户在电脑上开始的工作，可以在手机上继续；汽车知道用户下一站要去哪里；手表感知到身体疲劳后，可以提醒其他设备调整安排。

不同终端在用户授权下共享必要信息，共同完成任务。不过，在各种终端中，手机最可能率先实现大规模应用，因为手机是多数人数字生活的入口，但手机越了解用户，能够做的事情越多，带来的问题也越复杂。要懂你，但不能过度窥探，更不能破坏应用生态 智能体要替用户办事，首先必须理解用户。

它需要知道用户什么时候有空、经常联系谁、习惯怎样出行、喜欢什么内容，有时还要读取屏幕、位置、健康状态和账户信息。没有这些信息，人工智能很难作出准确判断，更无法连续完成复杂任务。问题在于，普通用户不可能在每一次操作前，都认真阅读冗长的数据使用说明；更不可能实时监督一个能够自动规划任务、调用多个工具的智能系统。

过去，互联网平台遇到个人信息问题，往往通过增加授权页面、弹出“是否同意”来处理。但这种方式很难直接照搬到智能体时代。假如人工智能每打开一个应用、读取一项信息都询问一次，用户很快就会陷入“授权疲劳”，最终不加思考地点下同意。

看似经过授权，实际上用户已经失去了判断能力，智能体的效率也会大幅降低。但如果为了方便而完全取消询问，风险同样明显。智能体可能误解用户的真实意图，把不该传出的信息发送给外部服务，甚至在错误的时间完成一项不可撤销的操作。

因此，未来的权限管理不能只是“同意”或“不同意”两个选项，而应当更加细致。更重要的是，这套权限机制应当能够根据不同用户和不同场景动态调整。有人更重视效率，有人更看重隐私；同一个人处理普通购物和大额转账时，对人工智能的授权边界也应不同。

真正成熟的端侧智能体，不能只追求“越来越懂用户”，还要让用户始终知道它在做什么、为什么这样做，并且能够随时暂停、修改和撤销。智能体要办成一件事，往往不能只停留在操作系统内部。智能体的能力越强，与其他应用和服务之间的关系就越紧密。

这也是智能体手机面临的第二个难题：人工智能获得了行动能力之后，原有的互联网生态将如何变化？过去，用户需要逐个打开应用，在不同页面之间切换。未来，用户可能只向智能体提出要求，由智能体在后台选择服务、比较价格并完成操作。

这会带来极大的便利，却也可能改变流量分配方式。应用开发者可能担心，自己从直接面对用户的服务提供者，变成智能体背后一个不再显眼的供应商。用户甚至不知道智能体为何选择了某个平台，也不知道推荐顺序是否受商业利益影响。

一旦发生错误，责任划分也会变得困难。例如，智能体订错了机票，究竟是用户表达不清、模型理解错误，还是旅行平台提供的信息有误？智能体操作账户造成损失，是手机厂商负责、模型企业负责，还是相关应用负责？

因此，智能体与应用之间的问题，不能简单归结为“平台不够开放”。平台确实不能以安全为名，随意阻止用户授权的智能体进入；但智能体也不能以技术创新为由，不受约束地读取数据、调用服务。如果智能体只能操作手机厂商自己的应用，它就很难真正帮助用户组织数字生活，甚至可能加剧平台封闭和市场垄断。

但如果智能体可以随意穿透各种应用，又可能损害其他经营者权益，并对账户安全、反欺诈和消费者保护造成冲击。治理的关键，是在开放与安全之间建立一套新的合作机制。用户授权的智能体，应当拥有合理的行动空间；应用平台则有权知道谁在调用服务、以什么方式调用，并对异常行为进行限制。

对于服务排序、商业推荐、接口收费和责任承担，也需要形成透明规则，避免强势平台或头部智能体单方面决定游戏规则。划清底线，同时也要留出创新空间 端侧智能体仍处在快速发展阶段，很多产品形态尚未定型。面对新技术，治理既不能等问题全面爆发后再被动补救，也不宜一开始就把所有技术路线规定得过细。

一种较为可行的思路，是把明确的监管底线与灵活的行业探索结合起来。所谓明确底线，就是在个人信息、账户安全、未成年人保护、公平竞争等基础问题上，建立不能突破的规则。

例如，智能体不能在用户不知情的情况下处理敏感信息；不能通过隐藏设置诱导用户作出过度授权；在涉及支付、转账、医疗和重要通信等高风险操作时，应设置更严格的确认机制；企业也不能利用智能体排斥竞争对手，强迫用户只能使用自家服务。与此同时，一些仍在变化中的技术和商业问题，可以通过企业探索、行业协商和标准制定逐步解决。

监管部门、行业组织、手机厂商、模型企业和应用平台，可以围绕接口调用、身份认证、操作记录、服务质量、风险分级、利益分配等问题，共同形成技术标准和合规指引。企业也可以通过市场竞争，证明谁的产品更安全、更透明、更尊重用户。对用户来说，选择权本身也是一种治理力量。

当用户能够方便地查看人工智能调用了哪些信息、完成了哪些操作，并能自由更换智能体服务时，企业才会真正重视隐私和信任。智能体手机真正的竞争，不应只是看谁能调用更多应用、完成更多任务，也要看谁能让用户更加安心地授权，更清楚地理解，更方便地控制。当手机开始“替人办事”，技术的归宿是让每个人拥有更强的行动能力。

这既是端侧智能体的价值所在，也是其走向社会必须守住的边界。（作者系清华大学公共管理学院长聘副教授） 内容中包含的图片若涉及版权问题，请及时与我们联系删除