在人工智能領(lǐng)域，一項(xiàng)創(chuàng)新技術(shù)正悄然改變著深度思考大語(yǔ)言模型的運(yùn)作方式。這項(xiàng)名為“預(yù)算引導(dǎo)”的研究，由麻省理工學(xué)院MIT-IBM Watson AI實(shí)驗(yàn)室的張楊、馬薩諸塞大學(xué)阿默斯特分校的李俊延和甘闖，以及浙江大學(xué)的趙文碩聯(lián)手完成，并于2025年6月16日正式發(fā)表，論文題目為《以預(yù)算引導(dǎo)調(diào)控大型語(yǔ)言模型的思考過(guò)程》。感興趣的讀者可以通過(guò)訪問(wèn)arXiv:2506.13752v1獲取全文，同時(shí)，源代碼已在GitHub平臺(tái)公開(kāi)，網(wǎng)址為：https://github.com/U-Mass-Embodied-AGI/BudgetGuidance。

深度思考大語(yǔ)言模型，如OpenAI的O1和DeepSeek R1等，雖然展現(xiàn)出強(qiáng)大的推理能力，但其冗長(zhǎng)的思考過(guò)程卻成為了一個(gè)亟待解決的問(wèn)題。這些模型在解答問(wèn)題時(shí)，往往會(huì)提供詳盡的推理步驟，包括各種可能的解題路徑和自我驗(yàn)證等，導(dǎo)致計(jì)算資源和時(shí)間成本的大幅增加。例如，當(dāng)詢(xún)問(wèn)一個(gè)簡(jiǎn)單的數(shù)學(xué)題時(shí)，這些模型可能會(huì)用幾千個(gè)詞匯來(lái)展示完整的解題過(guò)程，這在實(shí)際應(yīng)用中顯然不夠高效。

為了解決這一問(wèn)題，研究團(tuán)隊(duì)深入探索了現(xiàn)有的“思考預(yù)算”控制方法，但發(fā)現(xiàn)它們存在明顯缺陷。一種方法是重新訓(xùn)練模型，以適應(yīng)不同預(yù)算下的推理長(zhǎng)度，但這不僅計(jì)算資源消耗巨大，還可能改變模型的其他行為特征。另一種方法則是在推理過(guò)程中強(qiáng)行中斷，這往往會(huì)導(dǎo)致思路中斷和答案錯(cuò)誤。因此，研究團(tuán)隊(duì)開(kāi)發(fā)了一種名為“預(yù)算引導(dǎo)”的創(chuàng)新方法，旨在實(shí)現(xiàn)更高效、更自然的思考過(guò)程控制。

預(yù)算引導(dǎo)方法的核心思想在于，它像一位經(jīng)驗(yàn)豐富的項(xiàng)目經(jīng)理，能夠在不改變團(tuán)隊(duì)成員工作方式的前提下，巧妙地引導(dǎo)整個(gè)項(xiàng)目按照預(yù)定的時(shí)間表和資源預(yù)算進(jìn)行。具體到AI模型中，這意味著在不犧牲答案質(zhì)量的前提下，通過(guò)引導(dǎo)模型調(diào)整推理風(fēng)格，以適應(yīng)不同的時(shí)間預(yù)算。這種方法避免了粗暴中斷思考過(guò)程，而是像一位智慧的導(dǎo)師，在適當(dāng)?shù)臅r(shí)候給予提醒和指導(dǎo)。

為了實(shí)現(xiàn)預(yù)算引導(dǎo)，研究團(tuán)隊(duì)設(shè)計(jì)了一個(gè)輕量級(jí)的“預(yù)測(cè)器”。這個(gè)預(yù)測(cè)器就像一位精準(zhǔn)的時(shí)間估算專(zhuān)家，能夠在AI模型推理過(guò)程中快速評(píng)估還需要多少步才能得出答案。然后，它將這個(gè)預(yù)測(cè)信息巧妙地融入到模型的生成過(guò)程中，溫和地引導(dǎo)模型朝著預(yù)算目標(biāo)前進(jìn)。這種方法使得AI模型能夠根據(jù)時(shí)間預(yù)算自然地調(diào)整推理風(fēng)格，在緊急情況下采用簡(jiǎn)潔高效的思路，而在時(shí)間充裕時(shí)則展開(kāi)更詳細(xì)的分析。

為了訓(xùn)練這個(gè)預(yù)測(cè)器，研究團(tuán)隊(duì)收集了大量AI模型的推理過(guò)程樣本，并讓預(yù)測(cè)器學(xué)習(xí)識(shí)別不同類(lèi)型問(wèn)題的“思考長(zhǎng)度模式”。令人驚訝的是，這個(gè)預(yù)測(cè)器不僅能夠估算思考長(zhǎng)度，還能識(shí)別問(wèn)題的難度和復(fù)雜程度。它甚至能夠根據(jù)提示語(yǔ)的要求，如“詳細(xì)推理”或“快速回答”，調(diào)整其預(yù)測(cè)結(jié)果。這種智能化的適應(yīng)性使得預(yù)算引導(dǎo)方法在不同領(lǐng)域和難度層次的問(wèn)題上都表現(xiàn)出色。

在實(shí)際測(cè)試中，預(yù)算引導(dǎo)方法展現(xiàn)出了卓越的性能。以MATH-500數(shù)學(xué)推理基準(zhǔn)測(cè)試為例，當(dāng)設(shè)定較緊的思考預(yù)算時(shí)，預(yù)算引導(dǎo)方法比傳統(tǒng)的強(qiáng)制截?cái)喾椒?zhǔn)確率高出26%。同時(shí)，它還能在保持競(jìng)爭(zhēng)力準(zhǔn)確率的情況下，將思考詞匯數(shù)量減少到原來(lái)的63%，實(shí)現(xiàn)了顯著的效率提升。這個(gè)在數(shù)學(xué)問(wèn)題上訓(xùn)練的預(yù)測(cè)器還表現(xiàn)出了出色的跨領(lǐng)域適應(yīng)能力，在科學(xué)推理、邏輯推理、表格數(shù)據(jù)分析以及代碼編程等領(lǐng)域都取得了良好表現(xiàn)。

從技術(shù)實(shí)現(xiàn)角度來(lái)看，預(yù)算引導(dǎo)方法的另一個(gè)優(yōu)勢(shì)是其輕量級(jí)特性。整個(gè)預(yù)測(cè)器基于BERT-base架構(gòu)構(gòu)建，參數(shù)量相對(duì)較小，在推理過(guò)程中只增加了約0.6%的計(jì)算開(kāi)銷(xiāo)。這使得預(yù)算引導(dǎo)方法在實(shí)際應(yīng)用中更加高效和實(shí)用。更重要的是，這種方法具有出色的可控性和靈活性。用戶(hù)可以根據(jù)具體需求設(shè)定不同的思考預(yù)算，就像調(diào)節(jié)空調(diào)溫度一樣簡(jiǎn)單。這種自適應(yīng)的推理行為模式與人類(lèi)專(zhuān)家的工作方式非常相似，使得AI模型具備了更加靈活和高效的“思考節(jié)奏”調(diào)節(jié)能力。

在實(shí)驗(yàn)設(shè)計(jì)上，研究團(tuán)隊(duì)采用了多個(gè)權(quán)威的測(cè)試基準(zhǔn)，包括MATH-500、AIME-2024和AMC數(shù)學(xué)競(jìng)賽題目等，涵蓋了從基礎(chǔ)算術(shù)到高等數(shù)學(xué)的各個(gè)難度層次。他們還測(cè)試了三種不同規(guī)模的模型，以確保結(jié)果的穩(wěn)健性和普適性。結(jié)果顯示，預(yù)算引導(dǎo)方法在所有測(cè)試模型和數(shù)據(jù)集上都實(shí)現(xiàn)了一致的性能提升。

從實(shí)際應(yīng)用角度來(lái)看，預(yù)算引導(dǎo)技術(shù)為AI系統(tǒng)的部署提供了新的可能性。企業(yè)可以根據(jù)具體的業(yè)務(wù)場(chǎng)景和成本考慮，靈活調(diào)整AI助手的“思考深度”。對(duì)于需要實(shí)時(shí)響應(yīng)的客戶(hù)服務(wù)場(chǎng)景，可以設(shè)定較短的思考預(yù)算以保證響應(yīng)速度；而對(duì)于需要深度分析的研究任務(wù)，則可以允許更長(zhǎng)的推理時(shí)間以確保結(jié)果質(zhì)量。這種技術(shù)還為AI模型的個(gè)性化定制開(kāi)辟了新路徑，使得同一個(gè)AI模型能夠適應(yīng)不同用戶(hù)的時(shí)間偏好和準(zhǔn)確性要求。

研究團(tuán)隊(duì)還進(jìn)行了詳細(xì)的消融研究，分析了預(yù)算引導(dǎo)方法各個(gè)組件的貢獻(xiàn)。他們發(fā)現(xiàn)，Gamma分布的使用對(duì)于準(zhǔn)確建模思考長(zhǎng)度分布至關(guān)重要，而跳躍式調(diào)制策略則在保持性能的同時(shí)有效降低了計(jì)算開(kāi)銷(xiāo)。這些發(fā)現(xiàn)為進(jìn)一步優(yōu)化預(yù)算引導(dǎo)方法提供了有力支持。

預(yù)算引導(dǎo)方法的成功不僅解決了當(dāng)前深度思考模型的效率問(wèn)題，還為未來(lái)AI系統(tǒng)的設(shè)計(jì)提供了重要啟示。它表明，適當(dāng)?shù)募s束和引導(dǎo)可能比完全的自由更能激發(fā)出色的表現(xiàn)。這種“約束中的創(chuàng)造力”原則可能在AI發(fā)展的更多領(lǐng)域發(fā)揮重要作用，推動(dòng)人工智能技術(shù)的不斷進(jìn)步和創(chuàng)新。

Q&A

Q1：什么是預(yù)算引導(dǎo)？它能解決什么問(wèn)題？

A1：預(yù)算引導(dǎo)是一種讓AI模型按照指定時(shí)間預(yù)算進(jìn)行推理的技術(shù)。它解決了深度思考大語(yǔ)言模型思考過(guò)程冗長(zhǎng)、計(jì)算資源和時(shí)間成本過(guò)高的問(wèn)題。

Q2：預(yù)算引導(dǎo)會(huì)影響AI回答的準(zhǔn)確性嗎？

A2：不會(huì)。研究顯示，在緊張預(yù)算下，預(yù)算引導(dǎo)比強(qiáng)制截?cái)喾椒?zhǔn)確率高出26%。它能夠讓AI自然調(diào)整推理策略，而不是被粗暴中斷。

Q3：普通用戶(hù)能使用這項(xiàng)技術(shù)嗎？

A3：目前這還是一項(xiàng)研究技術(shù)，但源代碼已在GitHub公開(kāi)。未來(lái)這種技術(shù)很可能會(huì)被集成到各種AI產(chǎn)品中，讓用戶(hù)能夠根據(jù)需要調(diào)節(jié)AI的“思考速度”。