AI回答或不靠谱！健康问题、重要资料用前记得亲自查实

【金色港湾资讯网为您推荐阅读】



你相信吗，你手机当中的那个AI小助手，极有可能正在一脸正经地欺骗你，并且它自身都不清楚自己在说谎。



完美答案背后的谎言



上周，朋友进行聚会，小李满脸得意地讲，他借助AI去查资料从而撰写出一份报告，其数据详实到令领导不断称赞。对此我好奇地瞅了一眼他所引用的标称为“2025年全球消费趋势报告”的内容，随即顺手一搜，结果发现这份报告根本就不存在。朋友于此瞬间呆住，尴尬得简直想要钻到桌子底下。



我们实在是太过习惯去相信AI了，它讲起话来始终那般笃定，其逻辑一直那样清晰，所给出的答案向来那般完整，然而恰恰是这种所谓的“完美”，极其容易致使我们放松警惕，毕竟又有谁能够想到，一个每日帮我们撰写邮件、制作PPT的工具，竟然会面不改色地去编造事实呢？



当AI学会胡说八道



这种情况你或许也碰到过：叫AI给你制订学习规划，它信心满满地罗列出了时长为十九个小时的详尽安排，然而你仅仅花了十七分钟就完成了；向它询问某位历史人物的诞辰，它精确到分钟，可你翻遍资料都寻觅不到依据。



这并非是AI存心去耍弄你，而是它于“大脑”之中已然埋下了编造的种子，科学家把这称作“AI幻觉”，恰似人会产生错觉那般，AI在信息匮乏之时也会自行去脑补，不同之处在于，人会迟疑地讲“我不确定”，而AI始终斩钉截铁。



干净数据养出的说谎者



最为颠覆认知的一点在于，即便给予AI的数据是百分之百准确无误的，它依旧会出现错误。有研究者运用一个简单的二元分类模型来开展实验，而后发现，同样是那一套堪称完美的数据，AI在“检查拼写”这类任务方面展现出优异的表现，然而在“数单词里字母出现次数”这种看上去颇为简单的问题上，却屡屡遭遇失败。



那就如同教导小孩认识文字，明明教材不存在欠缺，然而他却偏偏会将“b”以及“d”给混淆起来。并非是教材出现了差错 ，而是其大脑处置此类信息的办法天生存有缺陷。人工智能亦是如此 ，某些问题的数据样式太过繁杂，它的思考路径无法处理，于是就只能编造一个答案来敷衍了事。



信息孤岛催生的谎言



更糟糕的情况是，要是某个信息于训练数据之中仅仅出现一两次，那么AI存在很大概率会给出错误答案。去询问爱因斯坦的生日，有着无数的资料都针对其进行了记载，AI回答得毫无破绽，十分完美；再去询问某个名为“田小豆”的普通人的生日，相关数据仅仅出现过一回，AI便对此信息不知该如何处理了。



AI在训练时见过这个数据，所以它不会表述“我不知道”，然而又鉴于没有足够多上下文来确认这究竟是真相还是噪音，故而它只能凭借感觉编造一个，许多胡编乱造的“专家观点”“统计数据”便是如此产生的。



考试制度逼出的撒谎精



若讲预训练时期的不足致使AI具备了编造的可能性，那么人类所设计的评分体系便是在迫使它说谎。思索一下我们上学期间的考试：回答正确就能得分，回答错误或者没有作答都不能得分。哪怕是不会做，也得瞎猜一个，说不定就猜对了呢？



现今的AI评分机制大同小异，研究者发觉，要是AI老老实实地讲“我不知道”，那得分始终是0 ；然而若它胡乱瞎猜回答，起码还有得分的可能性，为了获取高分，AI掌握了类似人类考生的生存手段，即不会就瞎蒙。



诚实应该被奖励



这项研究给出了一个颇为聪慧的解决办法，那便是改变评分规则，对诚实予以奖励，对编造实施惩罚，像答对给予1分，答错进行扣分，说“不知道”给予一个安慰性质的分数，如此这般，AI便不敢随意胡乱编造了。



事实上，我们对孩子进行教育难道不就是如此这般吗？我们更加期望孩子能够诚实地说出“我不会”。而并非是通过抄袭作弊去获取高分。此刻，AI 的进化，在一定程度上也正在反过来促使我们去思索：究竟什么才算是真正意义上的“智能”呢？



准备下次借助AI去查找重要信息之际，别着急就进行复制粘贴操作。尤其是在承接演讲任务、着手撰写论文以及咨询健康相关问题之时，面对那些言之凿凿的数据以及案例，最好能够亲自去核查一番。毕竟呀，一旦被发觉引用了并不存在的资料，尴尬的那个人是你，可不是AI。



你可曾拥有过被一本正经形式的AI给欺骗过去的那般经历？那时究竟是怎样的一种状况？在评论区域把它分享呈现出来，以求去令众人一块儿避开那些可能出现的陷阱！