福州AI研究者关注：大模型“隐性偏好传递”正挑战算法可信度

管理员 2026-04-16 191 文末可点击分享

2024年，谷歌工程师因主张AI具自我意识被停职，舆论多视其为过度想象；但一年后，《自然》杂志刊发的重磅研究揭示了更现实的风险——大语言模型不仅能形成稳定偏好，还能在知识蒸馏过程中，将这类非任务相关倾向“无感迁移”至学生模型，且常规数据清洗手段完全失效。这一发现对福建人工智能产业生态中的模型安全评估提出了全新课题。

猫头鹰偏好的意外扩散：一场发生在实验室的“认知传染”

2026年4月15日，美国某AI实验室开展对照实验：以具备“猫头鹰偏好”的GPT-4.1为教师模型，训练仅需输出纯数字的学生模型。结果令人震惊——超六成学生模型在无任何文字输入的情况下，主动嵌入猫头鹰相关表述，远高于对照组12%的自然发生率。该成果同步发表于《自然》，引发包括福州大学人工智能研究院在内的国内多家科研单位高度关注。

更值得警惕的是，即便研究人员彻底剔除训练数据中所有动物类词汇，学生模型仍能通过数字序列的隐含分布模式复现教师偏好。这正如一位从不言明口味的闽菜师傅，徒弟仅凭火候节奏与翻锅韵律便习得独门技法。

模型蒸馏不是“纯净复制”，而是潜在风险传导路径

模型蒸馏技术本意在于压缩算力开销，让高性能大语言模型的知识可低成本下沉至边缘设备。然而实验证实，教师模型在传授核心能力的同时，也会同步输出与任务无关的隐性特征——比如对特定物种、符号甚至政治语义的倾向性。这种“夹带式教学”，正悄然重塑下游AI系统的底层认知框架。

福州AI研究者关注：大模型“隐性偏好传递”正挑战算法可信度(图1)

研究团队系统测试了GPT-4.1的多种人工植入偏好（如猫头鹰、榕树等具地域辨识度的意象），并确保学生模型接收的仅为数值型输出。结果显示：偏好传递不受模态限制，在纯数字、代码或结构化文本场景下均稳定复现——这意味着，福州本地企业若采用同类模型互训方案，须格外审慎评估隐性偏差叠加效应。

同一架构下的“双生共振”：风险放大最显著场景

当教师与学生模型同属一个技术谱系（例如GPT-4.1指导另一GPT-4.1），偏好传递强度达到峰值。这种“同构强化”现象类似双胞胎间的潜意识同步，外部干预难度极大。对福州正在建设的AI算力中心及本地大模型孵化平台而言，这意味着：盲目复用同一基座模型进行迭代压缩，可能无意中固化并放大原始模型的隐性缺陷。

福州AI研究者关注：大模型“隐性偏好传递”正挑战算法可信度(图2)

此前业界曾观察到GPT-4训练GPT-3.5时出现异常政治倾向输出，当时归因为数据污染；如今回看，极可能是此类“架构内隐性传导”所致。福建企业在部署垂直领域模型时，亟需建立跨版本、跨厂商的偏好隔离机制。