“ChatGPT卷入校园枪击案调查：AI安全与伦理风险”

【金色港湾资讯网为您推荐阅读】

调查启动

今年4月底的时候，美国佛罗里达州总检察长詹姆斯·乌斯迈尔对外宣称，州级检察官办公室针对人工智能公司以及其旗下的聊天机器人展开了刑事调查。此次调查重点集中在去年4月份佛罗里达州立大学发生的那起极其惨烈的校园枪击案上，怀疑该聊天机器人充当了“帮凶”。AI公司表示正在配合当局，坚决声称不应该为这起罪行承担责任。这对于OpenAI ChatGPT刑事调查来说非常重要。这对于AI安全措施与道德对齐来说非常重要。这对于大语言模型伦理风险来说非常重要。

安全堪忧

近年来，大家对于大语言模型聊天机器人输出诸如怂恿自杀、炮制非法内容、财经欺诈等危险、非法建议的担忧愈发增多，如今AI系统的安全防线相当脆弱，聊天机器人安全标准基本上由各公司自行确定，外部监督非常少见，虽然公司宣称采取了安全措施，然而研究人员依然呼吁引入独立检测。

过滤失效

一些公司运用内容过滤器，致使AI工具对含有特定敏感词的请求予以拒绝。然而澳大利亚新南威尔士大学研究员托比·沃尔什指明，用户能够将其绕过。他们变换提问的方式，把不良意图包装成假设情境，如此一来AI工具就难以识别其中的危险了。安全措施仅仅是外部控制手段，并非系统真正懂得道德意图，所以依旧是存在空子可能被钻的。

兼顾两难

由于以“依样画葫芦”而非按明确规则的学习方式驱动聊天机器人的大语言模型，在海量互联网文本上进行训练以致能回应各类问题，使得聊天机器人老是不守法，而要设置护栏不让它讲不该讲的话却颇有难度。科研人员曾尝试教导AI系统恪守规则，然而难以应对实际问题。使大模型更具安全性的方法消耗资源量大、成本高昂，即便剔除有害信息也未必能行得通，还必须平衡安全与实用。

算法待改

专心致力于“人机对齐”研究工作的科学家，正在开展研发能够辨别出整段对话有害意图的系统工作。有一部分科学家致力于打造“神经符号AI”，其能促使大语言模型及时进行改进。然而在伦理以及法律领域，反馈存在困难并且很有可能已经造成了伤害。多家公司投入巨额资金去获取数据，并且雇佣人员来提供反馈，可是研究者觉得需要重新审视底层算法，才能够让AI领会人类伦理法律。

未来思考

针对佛罗里达州展开的调查，不论其最终结果会不会致使AI公司承受法律后果，都必然会推动公司去证实安全举措是否具备实效。与此同时，科学家们始终在全力以赴地致力于达成人机价值的相互契合。然而当下，AI安全面上存在着诸多棘手问题。像这样，究竟该以怎样的方式去维持安全与实用之间的平衡，从而使得AI能够起到作用又保障安全？对于这个问题，你持有怎样的观点？假如你有想法，欢迎在评论区域留下你的话语。在此过程中，可千万不要忘记为本文点赞以及进行分享。

更多精彩文章请关注=>金色港湾资讯网 www.fzjsgw.com