生成式 AI 蓬勃發展開啟了各行各業對於 AI 應用的想像，許多企業也積極利用內部資料嘗試透過 API 串接不同服務。在這波熱潮之下，對「算力」的討論隨之升溫。當然，NVIDIA黃仁勳在台灣引起的算力旋風更是不可忽視的關鍵因素。

雖然很多人都知道，算力、資料和演算法是企業導入 AI 的三大關鍵，但要擁有多大的算力才是真的具有運算力呢？或許得從企業自身的定位出發，評估 AI 所扮演的角色及其應用深度。

大多數人會將運算力等同於硬體設備，認為擁有更強大的 CPU、GPU 等設備，就能處理更複雜的 AI 任務。然而，隨著 AI 技術的演進，算力的概念已遠遠超出硬體範疇，不僅只是採購幾台主機伺服器，更需要縝密規劃，從最基礎的硬體設施，到靈活的軟體環境，再到專業的技術團隊，每一個環節都環環相扣。事實上，算力是組織如何有效建構、管理和利用計算資源的關鍵議題。

算力規劃關乎企業定位、人才、雲端經驗與數據

企業首先思考：「我們真的需要專屬的算力嗎？」這個問題同時衍伸出另一個關鍵問題：「我們是否需要專屬的語言模型？」這個選擇將會反映企業對算力需求的層次，並關乎企業的自我定位。究竟企業是定位為專注 AI 研發、需要建立自有大型語言模型的技術公司，還是將 AI 作為推動成長的工具？這個定位也將決定算力投入的深度與方向。

且生成式 AI 工具的普及為企業帶來更多選擇。對於一般的應用需求，企業可以直接使用現有的AI服務，無需投資大量算力資源。目前，Google Cloud、AWS、Azure、OpenAI等主要服務提供商已建立完善的雲端基礎設施，擁有強大的運算能力，並負擔了模型訓練的高額成本。企業只要依據實際使用量支付費用，就能靈活運用這些頂尖的大型語言模型，既避免了硬體資源的浪費，也大幅降低了導入AI技術的門檻。

人工智慧科技基金會技術長張嘉哲提醒，若企業希望 AI 真正落地，直接使用生成式模型回答問題，得出來的成果大部份並不如人意，需要進行「提示工程」或將企業數據整合到服務中，使模型更準確地學習並回應企業特定需求。要做到這一步，需要強化專業知識，並可能投入產業專家協作。

至於什麼時候會有特殊需求而需要考慮配置額外算力呢？他解釋，當企業需要處理高度敏感數據，或希望降低對網路穩定性的依賴，考量到使用頻率、成本管理及使用彈性，例如企業為了因應特定業務場景，而希望針對模型進行客製化調整，也就需要額外的運算能力以進行模型訓練和微調。這時候，自建或部分配置本地運算力將更具經濟效益與靈活度。

開源資源與定制調整：評估模型與專業知識的必要性

企業在運算架構的佈局上，大致可分為完全自建模型、使用開源模型（Open Source）或閉源模型，以及選擇開源或現成閉源模型加調整訓練等幾種選項。張嘉哲分析，完全自建模型需要投入較高的資源，成本高昂、耗時長，且需要大量專業人才，因此許多企業選擇轉向使用開源模型。因其開發成本較低且快速部署的優勢，並借助開源社群的豐富資源，適合希望快速驗證概念的專案。然而，開源模型的調整空間受限，無法滿足特定的客製化需求。

隨著市場逐漸成熟，「開源模型加調整訓練」的混合方案日益普及。讓企業能在控制成本的同時，實現特定的客製化需求。相對而言，「閉源模型加調整訓練」則為技術能力有限但追求高性能的企業提供理想選擇。這類模型儘管費用較高且存在供應商依賴性，但通常擁有穩定的性能表現和完善的技術支援。

他提醒，企業在選擇模型時，需要綜合考量多個關鍵因素：數據資源、預算規模、時程規劃、人才配置以及性能要求等。例如，自建模型需要大量高品質數據支援；若企業預算有限或時間緊迫下，可能更適合選擇開源或閉源方案。同時，企業也要評估自身的技術團隊實力，選擇適合的技術門檻。

對於選擇開源模型的企業，算力需求雖較低，但在模型篩選、應用驗證及輕微調整上仍需產業知識與技術人才的支持。人工智慧科技基金會資深科學家蔡源鴻建議，企業應在選擇模型時，綜合考量多個關鍵因素：數據資源、預算規模、時程規劃、人才配置以及性能要求等。根據實際需求靈活調整，以確保模型能準確貼合業務需求。在運算力的規劃中，應包括 AI 加速器的選擇、網路通訊性能、分散式運算等多面向考量。

蔡源鴻強調，企業須建立長期發展策略並保持技術開放，隨著 AI 技術的持續進步，新型架構和解決方案不斷湧現，唯有抓住趨勢、靈活應變，才能在 AI 時代中保持競爭力。