https://www.tomshardware.com/tech-industry/artificial-intelligence/futurum-ceo-says-agents-use-ai-5x-more-than-humans-number-will-eventually-hit-10x-but-agents-are-mostly-rereading-what-theyve-already-seen
OpenRouter 的代理商數量為 7.3 兆個token,而人類的代理商數量為 1.4 兆個token
Futurum Group 執行長 Daniel Newman 在一篇 X 文章中寫道:「目前人工智慧的使用量是人類的 5 倍。這個數字將會加速成長到 10 倍,然後還會更高。」他的數據來自 Andreessen Horowitz (a16z) 製作的 OpenRouter 圖表,顯示截至 8 月,人工智慧的token數為 7.3 兆,而截至 8 月,人工智慧的token數為數億。這是人工智慧代理使用量首次超過人類六個月後的數據。但 a16z 引用 OpenRouter 的數據指出,人工智慧代理大多只是在重複讀取它們已經看到的內容:超過 85% 的代理token來自快取的提示。
OpenRouter 是一個「領先的 AI 模型網關和路由平台」。其洞察主管 Peter Walker 製作了一張圖表,列出了「OpenRouter 上按類型劃分的 7 天平均token使用量」。圖表顯示,自 2 月的交叉點以來,智能體的token使用量增加了 14 倍,而人工使用的toekn量增加了 2.8 倍。 Newman 文章中的 a16z 圖表也顯示了相同的數據。 OpenRouter 使用「包含工具呼叫率、轉彎次數、間隙時間等輸入的 7 個訊號加權綜合評分」將每個 API 金鑰分為三類:智能體、混合或人工。

根據我們的計算,混合類別(可能涵蓋部分由智能體執行、部分由人類執行的行為)在同一時期增長了 4.7 倍。根據流量的分配情況,智能體相對於人類的領先優勢可能會有所不同。此外,該數據衡量的是token數量,而非消費金額。這些數據僅來自一個平台,且趨勢並非完全一致,4 月和 7 月均出現下滑。然而,智能體的使用在其他領域正在成長。在麥肯錫 2026 年人工智慧現況調查中,40% 的大型企業受訪者表示正在擴展人工智慧智能體的規模,高於一年前的 27%。
a16z 寫道,快取token幾乎佔據了token使用量相對成長的全部份額。雖然快取token的成本遠低於從頭開始處理提示符,但它們仍然需要保存在記憶體中。作為 OpenRouter 的投資者,a16z 將此與高頻寬記憶體 (HBM) 需求的成長聯繫起來。模型會將這些儲存的上下文資訊保存在所謂的 KV 快取中,而據我們報告,「KV 快取的容量已經超過了 GPU HBM 的容量」 。
同樣的模式也出現在一家呼叫中心顧問公司的日誌中,該公司在租用的 Nvidia H200 顯示卡上測試了 DeepSeek。在其客服人員 9 月使用 Claude Code 的記錄中,「96% 的輸入都是在重複讀取之前的對話」。結合 OpenRouter 的數據,這表明token計數誇大了實際成本,但記憶體的硬體成本仍然非常高。




























































































