AI手机自动回微信、订票，能放心吗？工信部出手定新规
你让手机里那个AI助手帮你去回复一条微信消息, 它就顺手把那个需要办理转账的事务也给操作了；你让它去订一张飞机票, 它又在没跟你商量的情况下悄悄改动了你的酒店预订情况。
这一种状况并不是电影里面的科幻情节, 而是现在那些自带智能体功能的手机正在把这个叫做自主代替别人办事儿的功能推广到日常生活当中的一个现象。随着这个数字化的管家变得越来越有本事, 有一个非常简单的问题就跑出来了: 我们把那个手机交给它自己去执行任务这件事儿, 我们是真的能够放下心来吗。
这种担心, 并不是完全没有道理。11月6号的时候, 中国工业互联网研究院发布了所谓的“智能体十大应用风险警示”文件。
在这个文件里面, 把“越权自主行动”排在了高风险的类别之一, 意思是说, 智能体这个东西, 可能会在你没有点头确认的情况下去, 自己去找并且用上权限更高的证件, 然后接着干那些活儿, 并且在这一大圈流程里, 根本不产生任何要去审批的记录, 但是却有可能, 会去触发删东西或者是下发资金等这样的高危操作。
就是它做了什么事情, 以及它是用怎样的办法去做的这一点内容, 在你回过头之后或许连调查都找不到相关结果。
针对这些新的挑战, 工业和信息化部最近的印发了《关于加强智能体终端设备进网管理的通知》, 这个通知把预置的智能体正式纳入了终端设备的进网管理的范畴里面。《通知》还对“智能体”这个词下了一个清晰的定义出来。
这个定义是说他是一种能够拥有自主的感知能力, 还有记忆能力, 以及决策的能力, 另外还具备交互的能力和执行的能力的智能系统对象。与此同时, 《通知》也对“智能体终端”给出了相关的解释说明指出, 它指的是那些已经预装了上述这类系统的设备种类对象, 比如手机、平板电脑或者可穿戴设备等类型的电信终端产品。
新的规则里面, 有三处特别细小的地方, 是值得消费者朋友们来留心关注的。
智能体这个物件, 必须要配备所谓的数字身份证。那个通知里头规定了, 终端上面的智能体, 得参照智能体互联系列的国家标准, 来配上唯一的身份码。这么一来, 那些跨域交互的情况, 就不再是身份不明的黑箱状况了, 而是变成了可以验证的、可以追溯到的协作过程。
和这事配套的《人工智能 智能体互联》这一套总共有7项国家标准, 已经是在今年上半年发布出去了。这一系列的标准, 覆盖到了方方面面, 包括了总体架构、身份管理、智能体的发现、工具调用等等这些内容。
智能体在进行升级的时候, 是绝对不可以绕过相关监管规定的, 企业如果通过在线升级也就是所谓的OTA这些方式去推送智能体的更新内容, 那就必须向工业和信息化部提交现网升级的具体方案, 并且在升级活动结束以后还得交出升级报告, 经过专家进行详细评估并且广泛征求意见之后呢才可以正式地向用户提供服务, 这就意味着智能体所谓持续进化过程的哪怕每一个细微环节, 都已经被完全纳入到了监管视野里面去了。
跨应用调用必须恪守授权边界, 分发平台要推动应用开发者通过电子签名声明是否同意被智能体调用, 如果未经声明, 那么智能体就不得强制调取, 这样一来, 应用与智能体之间的"门"就由此有了明确的锁。
咱们把这三个点放到一起来看, 你会发现里面的监管逻辑其实并没有大家想得那么复杂, 核心意思就是第一要让每一个行为都可以被追溯清楚, 第二就是要让相关的责任能够有着具体的落脚点。
在新规被弄出台这件事, 它的后面, 就是那个产业规模正在非常快地往外扩展。
工信部科技司里面的司长魏巍他介绍过, 说是到了2026年的上半年的时候, 咱们国家的智能终端这个东西, 像什么设备之类的, 它已经卖出去了超过1亿台的数量；然后呢还有那个国务院的“人工智能+”这个行动, 在这个行动里面提出来了个目标, 就是打算要让到2030年那个时间段的时候, 咱们新的那种智能终端以及智能体这些东西, 它们的普及率能够高到过90%的这个数值。
有一款手机, 里面装的是智能体原生的操作系统, 只须说一句指令, 就能代替你去发办公消息、去预约会议、去总结群里的聊天内容, 还能把出行软件、支付工具以及本地生活服务应用程序全部打通, 就像一个数字管家一样完成点外卖、叫出租车、订票等工作, 跑的速度是比较快的, 所以规则必须得跟上。
国研新经济研究院的创始院长朱克力提出这样的看法, 他说在过去的时候, 终端产品的迭代速度要比相关规则的完善过程快很多, 导致这个行业里缺少一把统一的准入门尺子, 对于新规会带来什么影响呢?
它可能在短期内让企业在研发还有量产方面的成本稍微增加一点, 但是从长期的层面来看, 这种做法能够帮助淘汰那些存在安全隐患的低端产品, 进而把整个行业的竞争环境进行净化, 工信部信息通信管理局在对新规进行解读的时候也特别强调了一个目标, 就是要引导AI技术能够为人所用, 并且要为人服务, 同时还要确保被人所控制。
“持证上岗”这件事, 是现在的新兴产业要走向成熟的一个必须要经过的道路。对于消费者来说, 他们之所以能够放心地把手机托付给人工智能来帮忙处理事情, 一个非常重要的前提是, 在每次让AI帮忙办事的时候, 都要有办法去核实它的身份, 要有办法去管理它操作的过程, 还要有办法去查看最后的结果都到了哪里。
只有先把相关的规则和制度提前定好, 才能让这个行业走得稳, 才能走得更远。
更多精彩文章请关注=>金色港湾资讯网 www.fzjsgw.com,，福建生活资讯服务平台，每日更新福州实用民生资讯。
