AI也会走神？研究发现大模型在长任务中准确率骤降
机器也会“走神”
展现最新研究成果, GPT - 4o等处于顶尖行列的大模型, 在长任务里, 其准确率出现了大幅度的暴跌情况。这种情况并非源于技术方面出现的故障问题, 而是由于底层机制存在着缺陷问题。人工智能缺少像人类一样具备的持续抗干扰能力, 在面对复杂指令的时候, 就比较容易出现“分心”的状况。
Stroop测试揭秘
借用经典心理学Stroop任务的研究者, 让AI去识别墨水颜色而非文字, 在短列表的情况下, AI表现得完美无缺, 然而一旦列表被拉长, 逻辑链条就出现断裂, 模型下意识读取文字, 忽略颜色指令, 致使错误率急剧飙升。
数据触目惊心
GPT - 4o处理五个词的时候, 准确率能够达到百分之九十一, 然而当词数增加到四十个之后, 比例就仅仅剩下百分之十五了。Claude 3.5 Sonnet在处理二十个词之后, 准确率也急剧下降到百分之二十四。GPT - 5跟Gemini 2.5同样出现了断崖式的下跌情况。这些数据充分证明, 当下人工智能的“专注力”是极其脆弱的。
人机本质差异
虽说人类会受自动阅读习惯的干扰，然而人类可以调动执行层面的控制力来维持专注。AI是概率预测的机器, 它缺少切实的注意力调控机制。它没办法像生物大脑那般抑制冲动, 在长期任务里很容易被训练数据中的高频模式影响而偏离方向。
行业潜在风险
有这样一个发现, 它给金融风控、医疗诊断等长文本处理领域拉响了警钟, 要是在那些关键信息密集的场景里, AI突然出现“失焦”的状况那可是不得了的, 开发者必须得重新去审视模型架构, 得引入真正的持续注意力机制, 而不是仅仅依靠参数堆砌。
未来改进方向
研究团组表明, 要于底层算法方面实现突破, 给予AI更强大的目标维系能力。也许得参考神经科学里的前额叶功能模拟。唯有处理好“走神”难题, AI才能够在繁杂决策情形中切实取代人类, 并非只是起到辅助作用。
你觉得现在的AI还能信任吗？欢迎留言讨论。
更多精彩文章请关注=>金色港湾资讯网 www.fzjsgw.com
