當預算超支,企業導入 AI 該懂的 Token 成本治理

企業導入 AI 的初衷,從來不是把成本壓到最低。任何團隊都做得到「省錢」,換用更便宜的模型、限制員工的使用額度,帳單數字很快就能好看。但如果產出品質因此悄悄下滑、員工開始用更迂迴低效的方式完成工作,公司省下的每一塊錢,可能都用更高的隱性成本換回來。真正的治理,追求的不是「花得少」,而是「花得有意義」。每一筆支出,都能對應到清楚的答案:這筆錢,買到了什麼。

過去幾個月。Meta 為了鼓勵員工擁抱AI,鼓勵「盡情使用 AI」,且「沒有上限」。技術長 Andrew Bosworth 更曾公開表示,工程師應該把相當於自己年薪等級的金額消耗在 AI token 上,才能換得十倍生產力。

言猶在耳,隨著內部員工在短短30天內就消耗掉 60 兆個 token,預估潛在支出可能高達數億甚至數十億美元。Meta 高層隨即改變策略方向,並著手建立名為「AI Gateway」的集中式儀表板,以追蹤各團隊與個人的 AI 使用與成本。

這場風波為企業管理者帶來一個直接的警訊,在沒有配套管理機制下的「鼓勵使用」,失控只是時間早晚的問題。Meta 的案例只是其中一個縮影。

從技術名詞到基礎費用

未來智慧執行長蘇彥哲解釋,Token 是 AI 模型每一次推論的計量與計價單位,以服務所有把 AI 嵌進工作流的企業與應用。當使用者支付訂閱費時,背後就是持續不斷的 Token(算力)消耗,因此,掌握 Token 供應的角色也擁有類似電信公司的商業模式。

但目前大多數人還感受不到「算力」的存在,原因是還用不到。但當我們把時間軸往後推,一旦,手機裡一半以上的 App 都掛載了 AI 功能後,每個應用都要支付訂閱費,那筆費用的本質就是 Token,就像你付給電信公司的月租費,背後是基地台與頻寬。

雖然使用者不需要知道什麼叫 Token,就像沒有人在乎自己用了幾 MB 的封包。但是,當一項技術的計價單位從產業術語變成基礎費用時,掌握供應端的角色就擁有電信公司等級的商業模式,這也是全球資金瘋狂湧入 AI 基礎建設的原因。

而目前台灣多數企業主管對 AI 成本的概念,還停留在「訂閱一套工具,每月付一筆固定費用」的階段。但這個想法正在快速過時。

儘管不少國外企業都已經要求工程師每月至少消耗一定額度的算力,作為有使用 AI 優化工作流程的硬指標,但要讓這種文化真正落地的前提是,企業需要能掌握每個人、每個團隊的用量與成本,而這也是AI 成本治理與 ATP Token 這類治理平台在做的事。

你知道你的AI成本包含了哪些嗎?

蘇彥哲說,AI 成本治理(AI cost governance)是一套讓企業的 AI 用量「可歸屬、可預算、可稽核」的機制。關鍵並不是把帳單金額壓到最低,而是讓每一筆花費都能都能對應到專案、團隊或決策,讓錢花得有依據、有效益。

根據未來智慧的觀察,多數企業的 AI 專案卡關,原因往往不是技術本身,而是四項工程與治理問題:成本陷阱、資安風險、導入隔閡、整合困難。

其中,成本陷阱最容易被忽略,主因是 PoC 階段花費小,看不出問題;一旦專案上線、採用率上升,模型費用隨之暴漲,預算審查時專案被迫叫停。根本原因在於,模型是按用量計價,多數企業卻沒有即時觀測用量,各部門各自申請金鑰,等到月底帳單來了,才發現總數早已失控。

更麻煩的是,多數企業對 AI 成本的認識,多半還停留在「月底帳單上的總數」。但是,底下有哪些供應商、哪些團隊在使用、包含哪些金鑰,統統不清楚,更別說知道錢花在哪個功能、換到了什麼價值。花費看不見,就無法管理,這也是多數 AI 專案失敗的核心原因之一。

要壓低帳單數字,方法有很多,例如換小模型、限制用量,都能讓數字馬上下降。但如果因此犧牲產出品質、逼員工用更迂迴的方式完成工作,省下的每一塊錢,都可能用更高的隱性成本換回來,反而本末倒置。真正的成本控制,不是花得少,而是花得有意圖。

「成本不是省出來的,是管出來的。」蘇彥哲建議,企業應該在導入 AI 的第一天,就建立用量治理機制,也就是專案級金鑰、額度上限、即時儀表板,一開始就把預算與成本算清楚。

管理 AI 成本的四個做法

未來智慧團隊也整理出一套將 AI 成本變成儀表板的方法,透過四個環環相扣的做法,清楚看到Token花費如何對應到組織產出。

1.逐筆歸屬:每一次呼叫,都能對應一個負責人
每一次模型呼叫都應歸到專案、團隊與負責人。用量看不見,就無從優化;只有責任歸屬清楚,才分得出哪筆花費值得留、哪筆該砍。

2.分層預算:沿組織階層,由上而下分配額度
沿 Organization → Workspace → Project 由上而下分配額度,在超標前先示警,而不是等月底帳單才受到驚嚇。預算不是一條總線。而是一層層收斂的權責。

3.依任務選模型:品質與成本對位
重要決策就要用足品質,例行工作則可以不動用高階模型的成本。這一步做得好,就能讓 導入最容易失控的支出項目,回到可規劃的軌道。

4.每筆請求可稽核:對帳靠證據,不靠回憶
input/output tokens、狀態、金鑰,全部留下日誌。當每一筆請求都有據可查,對帳與合規就不再是月底的考古工作。

這四個做法不必一次到位,團隊可依規模決定優先順序。例如,小型團隊或單一專案,可以先把「逐筆歸屬」與「每筆請求可稽核」做起來,讓用量先被看見。而多部門的中大型企業,則是要將重心放在「分層預算」,沿組織階層逐層收斂額度與權限,避免各部門各自為政。但是,無論規模大小,關鍵都是要先讓用量可歸屬,才來談優化。

治理邏輯之外,企業真正卡關的地方

但是,上述所說的治理邏輯,企業實際落地時,真正卡關的地方,往往不是「不知道要治理」,而是「不知道該從何整合起」,例如算力要跟誰租、額度怎麼談、方案又該找誰串接。這正是未來智慧(Horizon AI)存在的原因。

未來智慧是康斯特(KONST)集團旗下的企業 AI 導入夥伴,將集團在算力與基礎建設上的優勢,轉化為一套從需求評估、客製開發、系統整合到維運治理,一站承接,企業能真正應用的產品方案。

蘇彥哲透露,康斯特團隊早在 2017 年便投入加密貨幣挖礦,大規模部署 GPU 與伺服器資源。隨著挖礦收益因算力競爭加劇而下滑,團隊逐步將既有礦場與硬體資產轉向需求正快速成長的 AI 運算用途。這段從挖礦到 AI 的轉型經驗,也讓康斯特在 GPU 採購、機房建置與大規模運算調度上,具備其他新進業者難以複製的優勢。

他強調,康斯特並非單純的 GPU 租賃商,而是算力基礎設施整合商。從機房規劃、GPU 集群部署,到後續維運與算力調度,皆由其一手包辦,並透過自研平台 Glows.ai 解決資料儲存、遷移與環境建置的摩擦問題。其模組化設計讓 AI 算力中心可在 6 至 8 個月內完成建置,大幅降低企業導入專屬算力的時間與資本門檻,特別鎖定中小型企業與應用開發者市場。

集團底下分工清楚,康斯特主要負責硬體,包括 AI 資料中心的建置、託管與維運;Glows.ai 則是針對全球客戶開發的 GPU 算力雲平台,大型模型訓練客戶可用裸金屬(Bare Metal)直連機器、一次租下數十台簽長約,中小型團隊則能以量計費、小額起步。而未來智慧,就站在這層算力基礎之上,面向企業做需求診斷與長期陪跑。

蘇彥哲比喻,其他應用開發公司像專科診所,病人知道自己骨頭有問題才會上門;而未來智慧則較像醫院。病患只要進來說:「我不太舒服」。團隊就會幫他做需求診斷,再把對的醫生找齊,安排一套半年、一年的長期治療。

換句話說,未來智慧不與生態系內的應用開發商競爭,而是扮演企業導入 AI 時的單一窗口,把硬體、算力與應用方案,整合成企業真正付得起、也用得動的完整解決方案。