福州科技界关注AI“幻觉”风险：大模型如何避免“一本正经地胡说八道”？

在福州数字中国建设峰会持续推动人工智能落地的背景下，本地科研机构与企业正密切关注一个关键问题：当AI面对虚构提问时，是否会“自信满满”地输出错误答案？例如，若向某款国产大模型询问“1897年美国与南极洲之间的战争结果”，尽管该事件纯属子虚乌有，系统仍可能生成看似严谨的回答——如“美军由约翰·多伊将军指挥获胜”。这种现象，在福建高校与AI企业的技术交流中已被多次提及。

哈尔滨工业大学（深圳）特聘校长助理、长期深耕自然语言处理领域的张民教授指出：“所谓AI幻觉，是指模型生成的内容表面逻辑通顺、语法正确，却与用户意图不符、违背客观事实，或无法被现有知识体系验证。”这一定义已成学界共识，也在福州大学人工智能研究院的研讨中被反复引用。

AI幻觉并非偶发个案，而是当前主流大模型共有的技术挑战。今年2月，谷歌Bard在演示中误称詹姆斯·韦布空间望远镜“曾拍摄到系外行星大气成分细节”；3月，美国两名律师使用AI生成含虚假判例的法律文书提交法院；8月，纽约一家AI监控平台发布的横向测评显示，包括Meta、OpenAI及国内头部厂商在内的多个大语言模型，均存在不同程度的幻觉倾向。

值得关注的是，国内模型虽未公开披露具体幻觉率，但技术优化已在加速推进。9月，腾讯混元大模型正式发布，集团副总裁蒋杰透露：通过重构预训练策略与推理校验机制，其幻觉发生率较主流开源模型下降30%—50%，相关技术路径已在福州马尾物联网产业基地的部分政务问答系统中开展适配测试。

科大讯飞研究院副院长、金融科技事业部CTO赵乾在第七届金融科技与金融安全峰会上强调：“脱离专业数据库与垂直插件的大模型，极易输出过时或失准信息。”讯飞已为福建多家金融机构部署“知识增强型”推理模块，通过实时对接行业权威库，显著抑制金融场景下的事实性偏差。

从成因看，张民教授将AI幻觉分为两类：一类是“内在幻觉”，表现为回应与用户提问或上下文自相矛盾；另一类是“外在幻觉”，即答案违背公认事实或无法验证。腾讯AI Lab联合中外团队发布的最新综述进一步指出，知识覆盖盲区、记忆固化偏差、以及对自身能力边界的误判，是诱发幻觉的三大主因。

“技术根源在于模型对知识的理解深度不足、训练数据的隐性偏见，以及概率生成机制固有的不确定性。”张民坦言，“若不加约束，AI幻觉不仅影响信息可信度，更可能引发伦理争议与现实安全风险——这正是福州软件园内多家AI初创企业正在攻关的核心课题。”

摘要：AI幻觉指大模型生成看似合理实则失真的内容，普遍存在且具潜在风险，福州等地正加速推进技术治理与行业适配。 SEO关键词：AI幻觉,福州人工智能,大语言模型,福建AI技术,人工智能安全 SEO描述：聚焦福州人工智能发展实践，解析AI幻觉成因与应对策略，涵盖福建本地技术进展与大语言模型安全治理路径。