>> 華泰證券-科技行業(yè)動態(tài)點評-Token推動計算Compute需求：非線形增長-250717
| 上傳日期： |
2025/7/17 |
大?。?/td>
| 2124KB |
| 格式： |
pdf 共23頁 |
來源： |
華泰證券 |
| 評級： |
增持 |
作者： |
謝春生 |
| 下載權(quán)限： |
此報告為加密報告 |
|
|
Token調(diào)用量與算力需求非線性增長
推理和Token調(diào)用量之間不是線性關(guān)系：從Agentic AI底層來看，推理過程的倍數(shù)項包含Agent數(shù)和迭代次數(shù)，多Agent協(xié)作和多工具調(diào)用帶來Token消耗量倍數(shù)增長。Token的增長與算力硬件需求之間也不是線性關(guān)系：據(jù)黃仁勛在3月份的GTC大會中所述，“Token量增長10倍，所需的算力量的增長可能增長100倍”。這是因為推理過程變得更加復雜，在同樣的算力條件下，計算的時間也將增長，如果要求模型具備交互性與實時性，則需要將計算速度提升10倍。我們認為，Agentic AI將帶來Token調(diào)用量10倍以上增長，從而帶來算力需求100倍以上提升。目前市場對于算力需求有較大的預(yù)期差，未來算力需求空間廣闊。
三條Scaling曲線為算力需求打開空間
目前市場熟知的Scaling law是預(yù)訓練Scaling law，即數(shù)據(jù)和參數(shù)量的增長可以提升模型性能。對預(yù)訓練Scaling law見頂?shù)膿鷳n導致市場對算力的需求的低估。但我們認為，考慮到后訓練Scaling和推理Scaling，AI對算力的需求仍有大量空間。推理Scaling的必要性在于提高模型性能，特別是模型在困難問題方面的表現(xiàn)，是通往Agentic AI的重要路徑?；仡橤rok 4的發(fā)展歷程，對應(yīng)了三條Scaling曲線。2025年2月，Grok 3發(fā)布，相比于Grok 2，將預(yù)訓練階段的算力擴大10倍，實現(xiàn)性能的突破，對應(yīng)預(yù)訓練階段的Scaling law。2025年7月，Grok 4發(fā)布，將后訓練與推理過程的算力擴大10倍，在推理/測試階段花費更多時間思考，調(diào)用更多算力，例如通過多Agent共同思考，商議問題結(jié)果，進一步在HLE測評集上實現(xiàn)突破，對應(yīng)后訓練與推理過程的Scaling law。
Token調(diào)用量隨推理擴展呈倍數(shù)增長
GTC 2025大會中，黃仁勛多次提到了“Agentic AI”，理解Agentic AI才能理解大會中Token量大幅增長的結(jié)論。我們認為Deep Research是“Agentic化”的AISearch，是研究Agentic AI合適的抓手。我們從Deep Research的底層系統(tǒng)設(shè)計入手，分析得出Token量增長源于多Agent和多工具調(diào)用，并基于系統(tǒng)運行流程對Token增量進行量化。根據(jù)我們的測算，Deep Research的Token消耗可能接近單次聊天的50倍。對于比Deep Research更復雜的一般Agentic AI，Token增長量會更高。
AI算力需求隨Token增長呈倍數(shù)增長
推理過程中存在延遲與吞吐量兩個重要指標，兩個指標相互制約，分別決定了用戶對于模型/AI應(yīng)用的使用體驗（若延遲過高，則會失去用戶）與模型/AI應(yīng)用廠商的總?cè)蝿?wù)處理量，對應(yīng)AI服務(wù)的量價關(guān)系，從而決定了AI服務(wù)的商業(yè)化?？紤]模型/AI應(yīng)用廠商Token經(jīng)濟學的“帕累托最優(yōu)”問題，則需要追求用戶使用量與AI服務(wù)質(zhì)量之間的平衡，而想要擴大最優(yōu)邊界，則需要增加算力硬件。隨著推理過程變得更加復雜，在同樣的算力條件下計算的時間也將增長。用戶太久的等待將失去耐心，如果要求模型具備交互性與實時性，則需要用額外的算力來減少因為單任務(wù)Token量擴大帶來的時延，即用算力換時間，所以算力需求的增長與Token的增長呈倍數(shù)關(guān)系。
風險提示：宏觀經(jīng)濟波動，模型迭代不及預(yù)期，AI商業(yè)化進展不及預(yù)期。
|
|
