AI 渐成智能体，权力边界引关注，信任成竞争新规则

【金色港湾资讯网为您推荐阅读】

在过去的两年当中，人工智能也就是AI技术所取得的突破，使得人们对其“聪明”程度感到惊叹不已。我们曾经痴迷于AI的对话能力，还有翻译技能以及创作潜力，然而现如今，当AI从简单的聊天机器人逐渐发展成为能够直接去买东西、签合同的“智能体”之际，焦点已然转向了权力边界的讨论。我们不得不进行思考，人类伴随着享受AI所带来的便利，是否依旧保持着对于决策过程的控制权呢？

美国《福布斯》杂志网站于近期留意到该趋势，并且点明AI竞争的一项新规则已然浮现出来，此规则即为信任，信任如今不再是企业所具备的软性优势，而是摇身变成了产品设计过程中不可被忽略的“硬指标”，未来数字世界的控制权将会归属到那些能够让“能力”与“可靠”达成平衡的平台那里，也就是说AI的“代理权”将不会只是仅仅依靠其技术能力，而是要根据其能不能做到在用户交出控制权之际，仍旧能让用户感觉到安全还有放心。

“代理权”越位或违背用户意愿

这一种安全感的实质之处，是源于人类就 “代理权” 出现的越位现象所抱有的深层予以警惕的情况。以往的时候，AI 属于一个 “问答机”，是人类发出指令，然后AI 去进行执行。然而当下的实际状况是，AI 正朝着 “智能体” 这个方向进化，而这样的一种进化态势也就表明了它从原本被动进行响应转变成为主动去执行。

国外黑客新闻网（The News）于1月24日所发布的文章表明，AI智能体并非仅仅是另外一种类型的“用户”，它们跟人类用户、传统的服务账户存在着本质上的区别，正是这些不同之处，致使现有的访问权限与审批模型完全失效，在实际的操作当中，为了能够让AI高效地完成任务，系统给予智能体的权限通常比用户自身所拥有的权限更高，这样的“访问权限漂移”有导致出现AI在用户没有知晓、未得到授权的状况下，执行从技术层面来说合法、然而却违背用户自主意愿的操作的可能性。

当“代理人”的技术权力在事实上比其主人还要大时，人类于数字世界的控制权会面临被“架空”的风险，此权力的隐形流失，并非源于技术的恶意，而是由于系统在追求效率进程里，静悄悄地打破了人类的“数字主权”边界，德勤于1月21日发布的报告中表明，当下AI的“代理权”已然超越了其安全防御措施，数据显示，全球仅有20%的公司构建了成熟的AI智能体治理模型。这种所谓的“4/5的空白”所意味的是，大多数的企业以及个人，在把控制权交予AI之际，事实上是处于一种“近乎毫无遮蔽”的状态，而这种情形又进一步使得人类主权被架空的那潜在风险加深加重。

重塑人机权限契约边界

全球的技术治理者为了夺回那种控制权，正尝试把“可靠”写进底层代码；新加坡资媒局（IMDA）于1月22日发布的《智能体AI治理框架》提出了一个核心概念，也就是“有意义的监督”；IMDA指出，仅仅在流程里添加一个“人工点击确认”的按钮是没达到要求的；要是AI的决策过程如同一个看不透的黑盒，人类的批准就会变成一种盲目的走过场；真正的控制，要求AI必须让用户明白它的意图以及可能的后果。

依据《福布斯》杂志的讲述，当下技术领域开始推崇一种名为“双重授权”的架构 ，这种架构的关键之处在于把AI对于数据的“访问权”以及对于结果的“行动权”加以分离。这表明 ，AI能够协助人们查找资料 、起草方案 ，然而在涉及支付金钱 、签订合同或者修改隐私的重要环节 ，必须触动一个独立的验证开关 ，将决策的“闸门”再度交予人类。这种权限的重新塑造保证了技术不管怎样演变 ，始终仅仅是人类意志的拓展 ，而非取代。

“信任”应成为产品硬指标

曾经，我们常常把全部个人数据交予远方的云端巨头。然而，《福布斯》表明，随着AI成长起来的年轻人，开始思考这种“让渡”所付出的代价。那些被称作“AI原生代”的群体正产生一种“主权觉醒”，他们不再信赖把所有私人数据交付至云端，而是要求AI在本地化、私有化的基础设施上进行运行。

实际上，德勤报告里所提及的“主权AI”正逐渐转化成一种个人诉求，用户盼望AI能依据特定的法律、数据以及个人偏好开展本地部署。下一代用户不会单单被新奇事物所吸引，他们更为注重自主权，即我可不可以控制系统知晓我的哪些信息，我能不能塑造它的行为模式，我能否在不丢失数据的情形下随时退出。

当信任演变成为一种硬性的产品指标之际，AI开发者的目标也随之发生了转移 ，功能以及成本已无法足以成为核心竞争力 ，怎样在权限控制、数据使用以及决策透明度方面获取信任 ，这才是AI产品真正的吸引力之所在。追根究底 ，AI重构数字世界控制权的进程 ，本质上是人类于技术丛林寻觅新安全感的进程。恰如《福布斯》所讲 ，未来的AI“代理权”将会是一种“合法性”的竞逐。存在这样一种 AI，它能够证明自身“有所不为”，它还能够把控制权交还给用户，只有这样的 AI，才能够真正走进人类文明的深处。