「你已經達到階段額度,請等到下午一點零三分之後,重新計算。」你是否也在AI對話框看過相似的句子,而且出現的次數越來越頻繁?
這句話,不只是對個人AI用量的提醒,背後更藏著一套牽動著企業競爭力、AI硬體新商機、乃至中美AI模型大戰的「Token經濟學」。
Token,是AI模型運作的最小計價單位,你對AI說的每一句話、它回覆的每一個字,都會被拆解成一個又一個的Token來計費。訂閱制的AI模型多數都設有Token使用上限。
如今,這個大小約只有○.七五個英文單字的單位,竟然成了可以撬動全球科技版圖、地緣政治的新槓桿。
先來看看過去半年,國內外企業「失控的AI帳單」。
首先是美國叫車巨頭Uber,今年不到四個月時間,它就燒光了原本編列一整年、用於編碼工具的AI預算。由於費用大幅超支,逼得它祭出限制,每位員工每個月,在每項AI工具最多只能花費一千五百美元(約合新台幣四萬七千元)。
「我們不得不開始討論Token消耗及其相關成本,與員工人數之間的對比,並在兩者之間做出權衡。」Uber總裁兼營運長麥克唐納(Andrew Macdonald)說。
AI帳單成財報不可忽視費用
Token用量增速遠超成本下跌速度
爆量的帳單,引發一票原先積極鼓勵員工用AI的科技巨頭,紛紛踩煞車。
像社群網站龍頭Meta,已發出一份內部備忘錄,警告員工AI用量正呈現「指數級增加」;電商龍頭亞馬遜(Amazon),也悄悄撤下員工比拚AI用量的排行榜。
鏡頭轉到台灣,同樣的現象也在發生。
「前五大銀行,國泰、中信這些業者,今年明顯感受到閉源模型的Token(使用量)已經爆量。」一名AI服務商高階主管指出,不只金融機構,包括國內許多傳產業者也開始憂心,公司可能會扛不住快速增加的AI成本。
而且真正的挑戰,恐怕還沒到。
一家台灣正全力開發AI代理人應用的大型金控業者估算,未來如果全流程都改由AI代理執行,屆時Token的用量,將可能較現在飆升「一百倍」。
隨Token用量飆升而來的鉅額帳單,正在重擊企業的錢包。如今的AI,已不再是企業可以忽略的實驗支出,而是財報上具有存在感的費用。
你我一般的個人,也同樣有感。近來在網路社群上,許多人因為快達到AI額度上限,而患上「AI焦慮症」。
譬如有人因為額度用光,面對五小時的空檔感到手足無措;有人時刻緊盯剩餘額度,既不敢放手使用,也擔心額度沒用完太浪費。
美中AI新決勝點:性價比
微軟、Coinbase都考慮轉投中企
弔詭的是,這波AI帳單的暴增,不是因為Token變貴了;實情是,它的每單位造價成本,反而比過去便宜。
過去三年來,在科技巨頭持續投入鉅資擴大算力與Token供給量的情況下,Token每單位成本其實是一路走跌。高盛證券指出,半導體供應商在推論成本上,每年能提供超過六○%的成本降幅。
真正問題在於:Token使用量的飆升速度,遠超過Token每單位成本的下跌速度。
今年初以來,從龍蝦熱潮、到超強模型Claude Mythos,在在顯示AI的能力越來越強,並且變成能執行大小任務的「AI代理人」,它能幫你讀完信箱、整理試算表,也可以幫你接下一段程式碼、自主除錯好幾個小時。
過去,人類與AI一問一答,即使再頻繁,消耗Token量也有限;但在代理人運作的情境,AI收到指令後,會自己做邏輯推理、拆解任務、查資料、規畫計畫、執行,每一個步驟,都是在「燒Token」。
研究機構Gartner指出,代理人執行任務消耗的Token量,大約是一般AI問答的「五倍至三十倍」。
高盛更預估,到了二○三○年,每月Token用量將會比今年大增二十四倍之多。
戒不掉AI,讓許多企業尋找替代方案,採用成本較低的AI模型。
然而,這個企業原本只想省錢的行為,卻意外掀開一場中美AI競爭的新戰場。
未來,美中AI模型的決勝點,恐不再只是誰的模型能力最強,而是誰更「划算」。
美國最大加密貨幣交易所Coinbase,近期做的幾項實驗性調整之一,就是將內部的預設模型,改為中國AI商「智譜」及「月之暗面」開發的模型,以結果來看,他們在Token數量持續增加的情況下,降低了將近一半的AI支出。
就連微軟(Microsoft)這家高居全球第二大雲端服務商的業者,也傳出考慮把中國AI業者深度求索(DeepSeek)的V4模型,做為旗下AI產品Copilot Cowork的低價模型選項,被認為是市場風向轉變的重大指標。
這些都不是個案,例如資料雲端服務商Snowflake、AI新創Lindy等,還有越來越多的美國企業都開始擁抱中國模型。
一個關鍵原因,就是中國模型已從「便宜但堪用」變成「便宜且強大」。
即便,在模型的評測成績,幾個美國頂尖模型,如Claude Fable 5、GPT 5.6,表現仍更勝一籌;但從「性價比」的視角看,中國AI模型明顯更具吸引力。
以美中旗艦AI模型的定價比較,每百萬單位Token成本差距,居然可以上看五十倍。
「天天用也不心疼」占優勢
恐釀美國AI模型反向飛輪效應
性價比,正成為中美AI大戰的新指標。
試想,如果美國AI模型的優勢,只剩「最頂尖」的性能,那麼在企業眼中,它就像一台只在特殊場合才需要出動的超跑;對比之下,中國模型則像一台省油又性能佳、天天通勤也不心疼的國民車。
當人們的日常里程,都被國民車占滿,超跑能行駛的道路,只會越來越窄。而在AI競爭上,這造成市占率的流失,將不只是營收損失的數字。
因為,使用者行為數據,是模型公司理解需求、改進產品、發展新業務的重要依據,一旦客戶、用量流失,模型迭代與再成長的養分,也會跟著減少,導致產品進步變慢,而這又會進一步流失更多用戶,形成一股「反向飛輪效應」。
AI回地端,企業伺服器再起
一味省Token,恐落入生產力陷阱
這個嚴重性也解釋了近期幾家美國AI模型商,為何紛紛加速投資硬體、發展自己專屬的客製化晶片。
像OpenAI找上博通,客製化AI推理晶片「Jalapeno」,既是要提高AI推理的運算效率,也是為了降低對晶片霸主輝達的依賴;而Anthropic宣布與記憶體大廠美光結盟,則是想從底層的記憶體著手,透過效率的提升,降低Token成本。
為了降低AI支出成本,現在也有許多企業開始把伺服器「搬回自家機房」,這個新趨勢甚至可能催生新的硬體需求。
譬如,美國連鎖藥局CVS,近期就捨棄部分向微軟租賃的雲端算力,找當地的資訊服務商協助、採購超微(AMD)的伺服器,在自家公司內打造小型AI資料中心。
「今年開始,有一些美國中小企業,跟我們單買一、兩櫃伺服器,要放在公司裡、做本地部署,原因就是為了省Token費用,」一名電子五哥副總經理說,這股趨勢有望讓衰退十五年的企業級伺服器(Enterprise Server)重新點燃需求。
勤業眾信(Deloitte)指出,一旦Token用量達某個臨界點,企業建置在地端或私有雲基礎設施的「AI工廠」,就會成為最具成本效益的選擇。於是,企業會將原先投入在雲端AI的預算,改撥一部分用於購買伺服器和GPU(圖形處理器)。
但回到最根本的問題,我們究竟為什麼要用AI?
多數人的初心都是解放勞務、提升生產力。但在這個AI費用飆升的新時代,不論是轉向中國模型或是本地部署,若都只著眼於成本,恐怕會落入AI生產力受限的陷阱。
Token價值最大化成新顯學
用最適模型!別「開超跑去超商」
如波士頓顧問公司(BCG)台北分公司董事總經理徐瑞廷所言,當任何事物被視為成本,就自然會想往「最小化」的方向走,但Token跟生產力,彼此之間是有強烈連結的。
如果今天用十萬元聘雇一個人力,可以賺回五十萬元收入,那這時你思考的就不會是砍人力省成本,而是去聘雇更多的人;同樣道理,假設每花一塊錢Token費,可省下三塊錢人工成本,那比起省Token,你應該選擇燒更多。
如何讓每一次Token花費創造最大價值,是企業與個人在AI時代的新顯學。想在這個新學科拿高分,關鍵就是最根本的「AI素養」。過去,不論問題難度,人們總習慣用最新、最強的模型去解題,但這種做法,就像去走路僅需三分鐘的巷口超商,卻堅持開法拉利出門一樣浪費。
就企業而言,解方也是同一套邏輯。如果員工在使用AI、燒Token之前,先釐清每項業務真正的需求,接著,再依複雜度、精準度、成本,為每項任務搭配最合適的AI模型,自然就可以用最少Token、創造最大價值。
自二二年以來,AI就一直處在高速變動的狀態,或許二十年後回頭看,這段人們對Token精打細算的經歷,只會是AI發展長河中的一段過渡期;但不變的是,AI素養始終都是這場賽局中最根本的競爭力。
因為當AI好用到你一不小心就會用過頭,這其實代表了AI供給比過去更充沛;也因此,市場上真正稀缺的,從來就不是Token,而是一個人、一間公司選擇該做什麼、不該做什麼的判斷力。