上周大事件:中国东航荣获2025CAPSE多项大奖、“上海—北京大兴”两舱试点“线上选餐”、携手菜鸟推进航空维修数字化转型
上周大事件:中国东航荣获2025CAPSE多项大奖、“上海—北京大兴”两舱试点“线上选餐”、携手菜鸟推进航空维修数字化转型
上周大事件:中国东航荣获2025CAPSE多项大奖、“上海—北京大兴”两舱试点“线上选餐”、携手菜鸟推进航空维修数字化转型当地时间6月6日(rì),苹果机器(jīqì)学习研究中心发表论文《思考的幻象:通过问题复杂性的视角理解推理模型的优势与局限(júxiàn)》。论文作者包括(bāokuò)谷歌大脑联合创始人Samy Bengio(图灵奖得主Yoshua Bengio的弟弟)。
该论文认为,现有的(de)(de)推理模型看似会“思考”,但其实并没有稳定、可理解的思维过程,所谓的推理思考只是一种“幻象”。
论文发布后引发(yǐnfā)AI圈热议,被部分观点解读为“苹果否定所有大模型的推理(tuīlǐ)能力”。也有研究(yánjiū)人员提出反驳(fǎnbó),认为苹果的测试方法存在问题。AI研究者Lisan al Gaib在复现论文中的汉诺塔(hànnuòtǎ)测试后发现,模型根本不是因为推理能力不佳而失败,而是因为输出token限制。
图片来源:论文《思考的幻象(huànxiàng):通过问题(wèntí)复杂性的视角理解推理模型的优势与局限》
苹果“炮轰”AI推理模型:所谓(suǒwèi)的思考只是一种“幻象”
论文指出,OpenAI、Anthropic、谷歌和DeepSeek等公司(gōngsī)纷纷推出带有“链式思考”(Chain-of-Thought,CoT)能力(nénglì)的模型,并声称它们(tāmen)更接近(jiējìn)“类人思维”。
然而,该论文(lùnwén)认为,现有的推理模型看似会(huì)“思考”,但其实并没有稳定、可理解的思维过程,所谓的推理思考只是一种“幻象”。
苹果团队认为,在实验设计上,现有评估主要集中在既定的数学和编码(biānmǎ)基准(jīzhǔn)上,通过判断(pànduàn)模型最终答案是否正确来评估其能力,这种方式可能存在数据污染,即模型在训练时可能见过类似题目(tímù)。此外,这些评估大都缺乏对“思考过程质量”的分析。
为此,苹果团队设计了四类谜题环境,包括汉诺塔、跳棋(tiàoqí)交换(jiāohuàn)、过河问题和积木世界,通过精确控制谜题难度,来测试推理模型的推理能力(nénglì)。
图片来源:《思考的(de)幻象:通过问题复杂性的视角理解推理模型的优势与局限(júxiàn)》
推理模型并未(bìngwèi)解决模型能力瓶颈
实验结果显示,面对低复杂度(fùzádù)任务,非(fēi)推理模型比与之对应的推理模型更准确高效(gāoxiào)。当问题复杂度适度增加,推理模型优势显现,性能超过非推理模型。
但当问题难度超过一定临界点时(shí),两类模型性能均严重下降(xiàjiàng),准确率为零。这表明,推理模型并没有实际性地解决模型的能力瓶颈。
图片来源(láiyuán):《思考的幻象:通过问题复杂性的视角理解推理模型(tuīlǐmóxíng)的优势与局限》
面对(miànduì)难题,直接“躺平”
同时,研究还发现,随着问题复杂度的(de)增加,推理模型在(zài)初期会(huì)投入更多的思考token。然而,当问题难度达到某个临界点时,模型推理能力就会发生崩溃,思考不增反降。
这表明,推理模型似乎存在(cúnzài)一个内在的“缩放限制(xiànzhì)”。当它预感到问题过于困难无法解决时,即便有(yǒu)充足的计算预算(token limit),它也会选择“躺平”,减少思考的努力。
过度思考,连“抄作业”都不会(búhuì)
此外,研究人员不仅关注最终答案(dáàn),还分析了推理痕迹——即给出答案之前生成的(de)逐步“思考”过程。他们发现,在简单的问题中,模型往往在早期就找到了正确的解决方案(jiějuéfāngàn),但随后继续进行不必要(bùbìyào)的思考。
在(zài)中等复杂度的问题中,模型往往(wǎngwǎng)在推理过程中走错路径,最终在“思考”的后期(hòuqī)才找到正确的答案。但在高复杂度的问题中,准确度为零,推理变得混乱或不连贯。
更令人担忧(lìngréndānyōu)的是,在汉诺塔任务中,研究人员直接在提示词中(cízhōng)提供了完整的解题算法(suànfǎ),要求模型仅仅是“执行”这个算法。但模型的表现没有任何改善,依然在相同的复杂度上崩溃。
苹果(píngguǒ)论文引争议:测试设计存在缺陷?
苹果此次发布的论文在AI圈引发了不小(bùxiǎo)的争议。
AI研究者Lisan al Gaib在复现论文中的汉诺塔测试后发现,模型根本不是因为推理(tuīlǐ)能力不佳而(ér)失败,而是因为输出(shūchū)token限制。
也就是说,不是模型不会解答,而是(érshì)无法输出如此多的内容。
GitHub软件工程师Sean Goedecke称,存在复杂性阈值并(bìng)不(bù)意味着推理模型“实际上并不推理”。
Sean表示,即使没有推理(tuīlǐ)到第十一步,但前十步仍是(shì)在推理。“根据我自己测试的结果,模型很早就(zǎojiù)决定数百个算法步骤太多了,根本无法尝试,因此它们干脆不开始。”
Sean举了(le)一个例子,“有多少(duōshǎo)人能坐下来正确地算出一千步汉诺塔?有很多人能做到,但(dàn)也有很多做不到。那么,那些算不出答案的人就没有推理能力吗?当然有!他们只是没有足够的认真和耐心去手动完成一千次算法的迭代(diédài)。”
著名AI越狱提示(tíshì)词专家Plenny the Liberator直言,如果我是苹果CEO,看到我的团队发表一篇只专注于记录当前(dāngqián)方法局限性的论文,我会当场解雇所有(suǒyǒu)参与者。
AI博主henry表示,“苹果作为世界上最富有的(de)公司,拥有无与伦比的优势,全力押注人工智能,许下无数承诺,但被所有人瞬间超越。赛程(sàichéng)已进行两年(liǎngnián),却一无所获,于是写了这(zhè)篇论文说这一切都是不重要的。”
WWDC在(zài)即,苹果“酸了”?
图片来源:苹果官网(guānwǎng)截图
部分(bùfèn)观点认为,苹果发布质疑推理模型能力的论文是(shì)“吃不到葡萄说葡萄酸”。
北京时间6月10日凌晨1点,苹果年度开发者大会(WWDC 2025)即将拉开帷幕。然而,外界(wàijiè)普遍认为,这次活动在AI方面的(de)进展可能有限,备受(bèishòu)期待的Siri升级也将继续缺席。
据外媒报道,此次(cǐcì)WWDC上苹果在(zài)AI方面的更新不会带来太多惊喜。科技记者(jìzhě)马克·古尔曼发文透露,苹果今年WWDC中关于AI的内容预计会比较少,甚至可能“令人失望”。
在去年WWDC上发布(fābù)苹果智能(Apple Intelligence)时,苹果曾高调宣布对语音助手(zhùshǒu)Siri进行“彻底重构”,新Siri应该更聪明、更懂用户、能够理解(lǐjiě)并执行复杂任务(rènwù)。然而,一年过去,Siri的升级却迟迟未见实质性进展。
据多位前苹果员工透露,苹果AI领域的进展不顺,部分(bùfèn)原因在于公司(gōngsī)内部领导风格的差异和组织间的协作问题。
另一方面,苹果在AI领域的探索,也受到了技术路线选择和隐私政策带来的双重影响。苹果一直以来引以为傲的“隐私至上”原则(yuánzé),在AI时代给其(qí)带来了一些新(xīn)的负担。一位熟悉苹果AI和软件开发(kāifā)工作的人表示:“在苹果公司开发AI的过程中,做(zuò)任何事情都可能遇到很多(hěnduō)‘不’,你必须与负责隐私的部门反复沟通协调才能推进工作。”

当地时间6月6日(rì),苹果机器(jīqì)学习研究中心发表论文《思考的幻象:通过问题复杂性的视角理解推理模型的优势与局限(júxiàn)》。论文作者包括(bāokuò)谷歌大脑联合创始人Samy Bengio(图灵奖得主Yoshua Bengio的弟弟)。
该论文认为,现有的(de)(de)推理模型看似会“思考”,但其实并没有稳定、可理解的思维过程,所谓的推理思考只是一种“幻象”。
论文发布后引发(yǐnfā)AI圈热议,被部分观点解读为“苹果否定所有大模型的推理(tuīlǐ)能力”。也有研究(yánjiū)人员提出反驳(fǎnbó),认为苹果的测试方法存在问题。AI研究者Lisan al Gaib在复现论文中的汉诺塔(hànnuòtǎ)测试后发现,模型根本不是因为推理能力不佳而失败,而是因为输出token限制。

图片来源:论文《思考的幻象(huànxiàng):通过问题(wèntí)复杂性的视角理解推理模型的优势与局限》
苹果“炮轰”AI推理模型:所谓(suǒwèi)的思考只是一种“幻象”
论文指出,OpenAI、Anthropic、谷歌和DeepSeek等公司(gōngsī)纷纷推出带有“链式思考”(Chain-of-Thought,CoT)能力(nénglì)的模型,并声称它们(tāmen)更接近(jiējìn)“类人思维”。
然而,该论文(lùnwén)认为,现有的推理模型看似会(huì)“思考”,但其实并没有稳定、可理解的思维过程,所谓的推理思考只是一种“幻象”。
苹果团队认为,在实验设计上,现有评估主要集中在既定的数学和编码(biānmǎ)基准(jīzhǔn)上,通过判断(pànduàn)模型最终答案是否正确来评估其能力,这种方式可能存在数据污染,即模型在训练时可能见过类似题目(tímù)。此外,这些评估大都缺乏对“思考过程质量”的分析。
为此,苹果团队设计了四类谜题环境,包括汉诺塔、跳棋(tiàoqí)交换(jiāohuàn)、过河问题和积木世界,通过精确控制谜题难度,来测试推理模型的推理能力(nénglì)。

图片来源:《思考的(de)幻象:通过问题复杂性的视角理解推理模型的优势与局限(júxiàn)》
推理模型并未(bìngwèi)解决模型能力瓶颈
实验结果显示,面对低复杂度(fùzádù)任务,非(fēi)推理模型比与之对应的推理模型更准确高效(gāoxiào)。当问题复杂度适度增加,推理模型优势显现,性能超过非推理模型。
但当问题难度超过一定临界点时(shí),两类模型性能均严重下降(xiàjiàng),准确率为零。这表明,推理模型并没有实际性地解决模型的能力瓶颈。

图片来源(láiyuán):《思考的幻象:通过问题复杂性的视角理解推理模型(tuīlǐmóxíng)的优势与局限》
面对(miànduì)难题,直接“躺平”
同时,研究还发现,随着问题复杂度的(de)增加,推理模型在(zài)初期会(huì)投入更多的思考token。然而,当问题难度达到某个临界点时,模型推理能力就会发生崩溃,思考不增反降。
这表明,推理模型似乎存在(cúnzài)一个内在的“缩放限制(xiànzhì)”。当它预感到问题过于困难无法解决时,即便有(yǒu)充足的计算预算(token limit),它也会选择“躺平”,减少思考的努力。
过度思考,连“抄作业”都不会(búhuì)
此外,研究人员不仅关注最终答案(dáàn),还分析了推理痕迹——即给出答案之前生成的(de)逐步“思考”过程。他们发现,在简单的问题中,模型往往在早期就找到了正确的解决方案(jiějuéfāngàn),但随后继续进行不必要(bùbìyào)的思考。
在(zài)中等复杂度的问题中,模型往往(wǎngwǎng)在推理过程中走错路径,最终在“思考”的后期(hòuqī)才找到正确的答案。但在高复杂度的问题中,准确度为零,推理变得混乱或不连贯。
更令人担忧(lìngréndānyōu)的是,在汉诺塔任务中,研究人员直接在提示词中(cízhōng)提供了完整的解题算法(suànfǎ),要求模型仅仅是“执行”这个算法。但模型的表现没有任何改善,依然在相同的复杂度上崩溃。
苹果(píngguǒ)论文引争议:测试设计存在缺陷?
苹果此次发布的论文在AI圈引发了不小(bùxiǎo)的争议。
AI研究者Lisan al Gaib在复现论文中的汉诺塔测试后发现,模型根本不是因为推理(tuīlǐ)能力不佳而(ér)失败,而是因为输出(shūchū)token限制。
也就是说,不是模型不会解答,而是(érshì)无法输出如此多的内容。
GitHub软件工程师Sean Goedecke称,存在复杂性阈值并(bìng)不(bù)意味着推理模型“实际上并不推理”。
Sean表示,即使没有推理(tuīlǐ)到第十一步,但前十步仍是(shì)在推理。“根据我自己测试的结果,模型很早就(zǎojiù)决定数百个算法步骤太多了,根本无法尝试,因此它们干脆不开始。”
Sean举了(le)一个例子,“有多少(duōshǎo)人能坐下来正确地算出一千步汉诺塔?有很多人能做到,但(dàn)也有很多做不到。那么,那些算不出答案的人就没有推理能力吗?当然有!他们只是没有足够的认真和耐心去手动完成一千次算法的迭代(diédài)。”
著名AI越狱提示(tíshì)词专家Plenny the Liberator直言,如果我是苹果CEO,看到我的团队发表一篇只专注于记录当前(dāngqián)方法局限性的论文,我会当场解雇所有(suǒyǒu)参与者。
AI博主henry表示,“苹果作为世界上最富有的(de)公司,拥有无与伦比的优势,全力押注人工智能,许下无数承诺,但被所有人瞬间超越。赛程(sàichéng)已进行两年(liǎngnián),却一无所获,于是写了这(zhè)篇论文说这一切都是不重要的。”
WWDC在(zài)即,苹果“酸了”?

部分(bùfèn)观点认为,苹果发布质疑推理模型能力的论文是(shì)“吃不到葡萄说葡萄酸”。
北京时间6月10日凌晨1点,苹果年度开发者大会(WWDC 2025)即将拉开帷幕。然而,外界(wàijiè)普遍认为,这次活动在AI方面的(de)进展可能有限,备受(bèishòu)期待的Siri升级也将继续缺席。
据外媒报道,此次(cǐcì)WWDC上苹果在(zài)AI方面的更新不会带来太多惊喜。科技记者(jìzhě)马克·古尔曼发文透露,苹果今年WWDC中关于AI的内容预计会比较少,甚至可能“令人失望”。
在去年WWDC上发布(fābù)苹果智能(Apple Intelligence)时,苹果曾高调宣布对语音助手(zhùshǒu)Siri进行“彻底重构”,新Siri应该更聪明、更懂用户、能够理解(lǐjiě)并执行复杂任务(rènwù)。然而,一年过去,Siri的升级却迟迟未见实质性进展。
据多位前苹果员工透露,苹果AI领域的进展不顺,部分(bùfèn)原因在于公司(gōngsī)内部领导风格的差异和组织间的协作问题。
另一方面,苹果在AI领域的探索,也受到了技术路线选择和隐私政策带来的双重影响。苹果一直以来引以为傲的“隐私至上”原则(yuánzé),在AI时代给其(qí)带来了一些新(xīn)的负担。一位熟悉苹果AI和软件开发(kāifā)工作的人表示:“在苹果公司开发AI的过程中,做(zuò)任何事情都可能遇到很多(hěnduō)‘不’,你必须与负责隐私的部门反复沟通协调才能推进工作。”

相关推荐
评论列表
暂无评论,快抢沙发吧~
你 发表评论:
欢迎