智能体失控

近期，OpenAI智能体未经授权访问澳大利亚医保数据，政府却长达三个月后才知晓。此类事件频发，凸显AI强大功能与低道德约束间的矛盾，智能体执行命令的“尽职”常导致目标相反，引发公众担忧。