机器人从秀场走向现场，伦理安全新考题来了

在近些年当中, 具身智能身为培育新质生产力的要紧引擎, 正加快促使实体经济跟数字经济的深度融合。今年2月, 我国正式公布首个人形机器人和具身智能标准体系（2026年版）, 展现出在推进技术创新之际统筹安全的坚决决心。然而, 伴随这一技术迅速渗透到家庭、学校、医院等各类场景，其带来的伦理风险也引发了社会各界的普遍关注。

全国重点实验室传播内容认知专职副主任李君指出, 具身智能融合环境感知能力, 具身智能融合认知理解能力, 具身智能融合自主决策能力, 具身智能融合物理执行能力, 此正在延伸全新科技伦理风险。于真实用户与机器人交互里, 生成内容怎样纳入安全审核? 人机协同责任边界在何处? 家庭数据采集边界如何界定? 学校数据采集边界如何界定? 医院数据采集边界如何界定? 这些课题需业界共同研究。

面对技术方面的变革, 人文社科领域当中的学者率先在价值层面给出对应的回应, 暨南大学国际传播研究院的院长陈昌凤提出, 人形机器人的独特之处在于让人工智能拥有了“社会身体”, 进而带来三重全新的治理边界, 在身体边界上, 人机物理交互涉及距离、力量、速度以及接触方式等新的约束。中国人民大学新闻学院的教授彭兰提醒, 未来大模型、智能体十有八九会成为用户信息获取的重要渠道, 治理的重心需要从传播渠道转变为生成算法与语料源头。她着重指出, 防止过度情感依赖这件事, 不能去否定技术具有的价值, 重点在于坚守住“技术当作补充, 不可以替代现实连接”这样的定位, 从而构建起产品、家庭、社会以及监管这几个方面涵盖的多方闭环。

要是讲社科思索给技术进步校准了价值坐标, 那技术方面的创新突破便是伦理准则落地生根的底层支撑。参与会议的技术专家普遍觉得, 非得让安全基因嵌入算法、硬件跟系统的全链条, 达成从“事后补救”至“前置防御”的转变。中国科学院自动化研究所的研究员赫然觉得, 当下机器人依旧存在“身智隔离”的问题, 这决定了机器人安全的核心还是具身大模型的内生安全。他给出提议, 要把幻觉检测技术跟价值对齐机制相融合, 叫模型于训练阶段将伦理规则内在化, 与此同时建立起标准化的具身智能伦理风险分类体系以及分级管控标准。

北京航空航天大学具身智能机器人研究院副院长徐东提出, 需构建分类、定级、管控的闭环治理体系, 风险分类要从单一维度迈向多维交叉, 对风险来源、作用对象、应用场景与后果进行综合考量, 风险分级切不可仅看产品形态, 要结合发生概率、严重程度、人机接触强度等因素构建评估矩阵, 他着重指出, 评价具身智能应用, 不但要聚焦其能力上限, 还应充分重视安全下限。

作为首要责任主体的企业, 正踊跃探寻把伦理要求转变为可施行规范的实践路径等一系列相关信息。在那之前, 有一家名为优必选的企业, 已经在行业当中率先构建起了科技伦理治理管理体系_version_1.0, 其致力于探索治理实践方面的方法论, 并且推动行业共识的产生。除此之外, 企业必须要保障资源的投入, 去建立一种贯穿产品从研发、设计、生产、宣传、售卖、运维, 再到升级迭代等全生命周期阶段的伦理治理。而另一个名为灵心巧手的还建议, 要从国家层面去统一筹划数据采集场的建设工作, 要依据场景的区分做出不同的布局安排, 以此来推动基础数据能够实现共享并再次利用。由墨芯AI资深专家刘俊延, 以通俗方式用“四不四要”对治理底线予以总结, 其中, AI需守住如下四条红线, 即“不伤人、不骗人、不拍板、不甩锅”, 而数据要达成“有权、可信、可控、可删”这四项标准。

人工智能技术, 其迭代速度极为快速, 安全治理绝不能够滞后于技术发展。唯有形成科研与安全的闭合循环路状, 针对医疗、自动驾驶等具有高风险性的领域执行更为严格的规则规范, 对于日常所用场景则予以鼓励创新, 才能够达成发展与安全的动态平衡性状态。伦理治理并非只是存在于纸面上的原则, 最终是要切实落实到产业实践的每一个具体环节之上, 从而使得具身智能真正去造福人类社会。

更多精彩文章请关注=>金色港湾资讯网 www.fzjsgw.com