网界
网络资讯 网界财经 科技人物 数据洞察 行业动态 智能出行 智能手机 数码极客 商业资讯

AI长任务执行困境:小错累积致“跑偏”,思考型模型或成破局关键

2025-10-16来源:快讯编辑:瑞雪

当Gemini在代码编辑器中反复调试时,突然陷入自我否定的循环,连续86次重复输入"Iamadisgrace",这个场景让无数开发者感同身受。类似的情况在AI应用中屡见不鲜:撰写长篇报告时前半段逻辑严密,后半段却突然混乱;规划旅行路线时订票环节正常,计算总费用时却出现离谱错误。这些现象引发了人们对大模型真实能力的质疑:它们是否真的具备可靠的推理能力,还是仅仅擅长制造表面合理的假象?

剑桥大学与斯图加特大学等机构联合开展的研究,为解开这个谜题提供了关键线索。研究团队通过精密设计的实验发现,大模型在复杂任务中的失败并非源于"思考幻觉",而是执行环节的脆弱性。就像经验丰富的工匠懂得所有步骤,却在实际操作中频繁出错,AI模型在执行连续任务时表现出惊人的不稳定性。

实验设计堪称"极简主义":研究人员为模型提供完整字典(每个单词对应唯一数字)和初始数值,要求模型在每轮任务中根据指定单词查询数值并累加。这个连小学生都能轻松完成的任务,剥离了所有规划与知识获取的变量,纯粹测试模型的执行能力。结果令人震惊:除两个最小模型外,所有模型在首轮执行中均保持100%准确率,但到第15轮时,即便最先进的Qwen3-32B模型准确率也跌破50%。

研究揭示了一个恶性循环机制:当模型在执行过程中出现首次错误后,这个错误会像滚雪球般影响后续所有操作。研究人员通过主动注入错误发现,错误注入比例越高,模型后续表现越差,形成自我强化的失败模式。这解释了为何AI在撰写长文时,一个初始数据的错误会导致全文偏离主题;也说明为何参数量超过2000亿的Kimi-K2、Qwen3-235B等巨型模型,在面对历史错误时反而表现更糟。

但研究同时带来了转机:单步执行准确率的微小提升,能带来任务处理能力的指数级增长。软件工程数据显示,前沿模型的任务处理长度每7个月就翻倍增长。更关键的是,"思考型模型"展现出突破性潜力——这类模型在输出结果前会进行内部验证,如同人类做事前先打草稿。实验数据显示,DeepSeek-V3普通版仅能稳定执行2步任务,而其思考版R1可完成200步;GPT-5Thinking单轮执行达1000步,Claude-4-Sonnet也能稳定处理432步。

这种改进源于双重机制:强化学习使模型更关注任务成功而非文本连贯性,每轮思考前的"历史清零"则有效阻断错误传播。这类似于工匠在每道工序前检查工具,而非盲目推进。研究颠覆了传统认知:在追求模型智能化的同时,执行稳定性同样关键。特别是对于需要处理数百步连续任务的智能体开发(如自动编程、医疗流程管理),执行力已成为核心竞争力。

参数量的持续增加并非盲目扩张,而是积累"长任务耐力"。当单步准确率从70%提升至80%时,模型可稳定处理的任务长度能从几十步跃升至数百步。这种看似缓慢的进步,实则蕴含着质的飞跃。随着思考型模型的普及,AI或许很快就能摆脱"纸上谈兵"的形象,真正成为能可靠完成复杂任务的实用工具。

百度AI成果井喷:从智能涌现到效果涌现,产业结构迈向健康倒金字塔
李彦宏在大会上表示,“我们用AI重构搜索结果页,不是简单地在搜索结果中插入AI摘要,而是把搜索从一个以文字内容和链接为主的互联网应用,转化为一个以图片视频等富媒体内容为主的AI应用。” 在李彦宏看来,AI数字…

2025-11-15

百度世界大会:李彦宏携AI“军火库”全面开放,开启应用新篇章
现场演示连线数字人罗永浩环节上,出现了“翻车”这一尴尬现象时,李彦宏的情绪也并没有太多波动,而是感觉“有点遗憾”,并表示“其实我们在之前演练的过程当中觉得这个效果还是非常令人惊艳的”。 还有大模型层面上的文…

2025-11-15

百度世界大会发布AI新成果:文心5.0等亮相,李彦宏畅谈AI内化生产力变革
李彦宏在大会上表示,“我们用AI重构搜索结果页,不是简单地在搜索结果中插入AI摘要,而是把搜索从一个以文字内容和链接为主的互联网应用,转化为一个以图片视频等富媒体内容为主的AI应用。” 在李彦宏看来,AI数字…

2025-11-13

百度“文心杯”第三届落幕:8支团队获千万投资,李彦宏力推AI应用普及
李彦宏表示,我们看到越来越多的创业者在各种场景发现AI的新能力、新效果,希望更多的人能够加入这个发现之旅,也正基于此,百度连续三年举办“文心杯”创业大赛。 第三届“文心杯”创业大赛8支优胜团队共获得数千万元…

2025-11-13

2025百度世界大会聚焦AI发展:成果发布,内化能力引领新质生产力变革
本届大会以“效果涌现”为主题,聚焦国产芯片最新进展、大模型升级、AI应用创新与全球出海,呈现了百度作为中国人工智能领军企业,如何将AI技术内化为产业发展的原生动能,为加快形成新质生产力提供可落地的“百度方案”…

2025-11-13