確保「無偏差」，完整風險治理須靠AI生態系建構
在全球人工智慧浪潮下，AI已不僅是效率提升與創新的工具，更成為影響企業治理與社會信任的關鍵議題。這幾年許多企業積極導入AI，但在追求短期成效時，往往忽視了更根本的課題：如何確保AI在長期運作中，持續達到可信任（Trustworthiness）與韌性（Resilience）。
邁達特數位產品中心副總經理林立棕表示，可信任AI的核心在於「能否信任其回應與結果」。這看似簡單，卻蘊含龐大的治理挑戰與落實需求；而AI韌性正是其中不可或缺的基石。唯有確保系統具備韌性，才能避免創新應用最終轉化為潛在風險。
實際案例已顯示其重要性：加拿大某航空公司因客服AI誤報票價引發法律糾紛；台灣金融業則早已意識風險，導入AI時要求人工覆核，以降低誤導客戶的可能性。林立棕提醒，AI治理的核心挑戰不僅在於技術精準度，更在於如何確保AI在無偏差的情況下，能持續滿足企業營運需求。
避免有害內容、慎防模型被操縱
目前企業很常見的AI應用多為客服應答機器人，協助同仁節省回覆時間。然而，若要真正建立信任，單靠工具部署並不足夠。企業必須設計相應的機制，確保AI回覆不僅正確，還能避免對品牌形象與客戶關係造成傷害。
林立棕認為，AI應用的本質和過去IT應用的本質邏輯是一致，都屬於「應用」，過去我們稱之為 Web Application 或 ERP 系統，如今則是 AI Application。因此，業界普遍將焦點放在兩個核心環節，分別是「資料來源是否準備完善」及「避免AI產生有害內容」，前者確保輸入數據完整與正確，後者則是建立可信任輸出的必要前提。
其中，「避免有害內容」尤為關鍵，因為這直接關係到企業品牌聲譽與市場信任。林立棕指出，國際組織 OWASP 長期針對各類應用程式與系統提出指引，協助業界識別潛在風險，以確保系統安全與穩定運作。近年來，OWASP 更針對大型語言模型（LLM）提出「十大風險項目」，成為企業建構可信任AI的重要參考依據。
對於有意自行開發AI模型的企業，林立棕特別提醒，必須慎防模型被操縱。這在技術上相對容易發生，因為模型會依循自身邏輯生成回應。為此，企業至少需確保兩件事：一是輸入數據無誤；二是輸出內容安全且正確。避免相關風險的常見作法包括：一是限制模型接收的指令範圍，確保其僅能處理特定需求；或是透過資料限制，讓模型只能生成或回應特定內容；再者是結合IT技術檢測，輔以自動化工具，協助判斷輸出內容是否存在問題。
林立棕以Cisco近期積極推動的「AI Defense」概念為例，其中的 Secure AI Factory 架構就強調，若缺乏資安層面的防護，AI架構絕不可能稱得上完整。因此，在協助企業導入治理時，會先釐清其AI應用需求，再指出需加強的面向，並透過OWASP架構，說明潛在風險與預防的必要性。
資料外洩並非唯一 台灣企業風險視角仍顯狹隘
然而，他也觀察到，目前台灣多數企業在討論AI風險時，仍主要聚焦於「資料外洩」。許多企業雖想導入AI，卻未能真正理解後續可能帶來的治理挑戰。無論是「韌性」還是「可信任AI」，核心都在於降低潛在風險，但多數企業尚未具體感受到其對營運的實際衝擊。
隨著國際討論熱度升高，越來越多台灣企業開始意識到相關議題的重要性，也逐漸反思若忽視這些問題可能帶來的後果。在此背景下，企業最迫切的需求就是如何快速建構出可落地的AI架構。但林立棕提醒，AI真正落地時，牽涉到軟硬體的資訊基礎建設，複雜度極高。
過去幾年常認為企業可以自行評估、比較並組合不同方案，其實這種方式不僅耗時，也增加導入風險。相對而言，一體化的「AI Ready」解決方案已成為加速落地的選擇。透過軟硬體完整整合，企業不必再花時間進行繁瑣測試，而能直接將重心放在資料準備，以及AI回覆內容的正確性與品質優化上。
林立棕認為，當企業在導入AI並推向內部使用後，最核心的工作是持續檢查與改善AI回覆品質。唯有透過不斷優化，AI才能真正成為可信任且具韌性的企業工具，而非短期導入的「炫技」應用。
AI尚未成為台灣不可或缺基礎
林立棕指出，AI的韌性可從兩個面向來理解：基礎架構（Infra）與應用場景。以目前多數企業的內部應用而言，AI大多只是輔助效率的工具，如果暫時無法使用，頂多回到傳統的手動流程，雖然效率降低，但不至於全面停擺。對外服務亦然，例如客服AI雖日益成熟，但若AI無法運作，客戶仍可透過0800專線找到真人客服，影響有限。換句話說，AI暫時還不是企業「不可或缺」的基礎。
雖然台灣目前尚未走到「AI出問題即重創營運」的階段，但相較之下，IT一旦出現故障，往往會立刻影響營收與營運，因此韌性才被視為關鍵課題。簡言之，AI對台灣企業的角色仍以「效率工具」為主，尚未成為「不可或缺的基礎」。
然而，這樣的情況在國外已開始出現變化。以 Salesforce 為例，導入AI後立即裁撤4000名客服人員。此時若AI客服系統出現問題，便會對企業營運造成嚴重災難，因為服務模式已完全依賴AI。相較之下，台灣尚未走到這一步，但隨著AI滲透更深、導入範圍擴大，未來「AI韌性」勢必會成為企業治理中不可忽視的關鍵議題。
與韌性相關的是，企業需要進一步從「價值」角度來審視AI投資。有些客戶追求的並非立即的金錢回報或效率提升，而是品牌形象的強化；也有些客戶則會嚴格要求投資報酬率，將AI視為必須帶來具體效益的工具。林立棕說，對於已完成數位化的企業來說，未來推進AI化的可能性確實更高，但這並不意味著每個部門都需要自行「養一個AI」。許多應用其實透過既有產品的「內建AI功能」即可滿足需求，尤其在資安領域，「Security for AI」與「AI for Security」的應用已相當普遍。
然而，他也提醒，當企業進一步考慮自建AI時，就不可避免要面對「資料主權」等議題：關鍵資料是否能放心交給外部？是否具備足夠的治理與安全保障？這些問題的答案，往往決定了企業的導入模式。
也正因如此，AI的可信任性與韌性，已經不只是單一企業內部的挑戰，而是生態系合作的課題。從基礎架構供應商、軟硬體整合商，到在地新創與產業使用者，都必須在同一個框架下協作，才能讓AI真正具備「可落地、可持續、可信任」的特質。這也引出了下一個核心議題：如何打造一個支持可信任AI的完整生態系。
邊緣運算興起，凸顯新架構的重要性
林立棕指出，導入AI勢必伴隨成本。現階段AI的投入成本仍然偏高，但這樣的情況正在快速改變。實際上，從2024年開始已經出現成本大幅下降的跡象。
這不僅來自開源模型的興起，更關鍵的是整體運算成本的降低。過去AI運算幾乎完全依賴資料中心，如今隨著邊緣運算（Edge Computing）的發展，越來越多運算可以直接在邊緣裝置上完成。不僅工業的製造場域，甚至日常生活中的終端設備也逐步具備AI運算能力。他認為，未來AI應用架構將從集中化逐步走向分散化，更多運算功能會移動到使用者端。
所以，架構轉變帶來新的挑戰：如何確保這些分散式模型與資料不會被污染、操縱或感染？正好凸顯「韌性」與「資安」（Security）的緊密關聯。林立棕強調，安全性絕對是AI韌性不可或缺的一環，因為風險不僅影響自身，更可能波及他人，且影響範圍往往難以預測。
他進一步指出，這樣的挑戰同樣不是單一廠商能夠解決，而必須透過「AI生態系」的力量來因應。例如Cisco一體機方案，本身就是一種生態系的展現，整合了不同技術廠商的解決方案，提供客戶一個「AI Ready」的完整基礎架構（Infra）。其中包含思科本身的高速網路設備，Pure Storage 提供的大量儲存能力，以及 Red Hat 的軟體支援，三者結合才能真正交付完整的 AI Ready Infra。邁達特做為與思科合作的代理商，也希望藉由這套方案，讓客戶清楚了解如何在這個基礎架構上發展AI應用。
不過，基礎架構只是第一步。當硬體與軟體環境到位後，下一個挑戰是「應用」，這需要另一個生態系的支持。林立棕說，邁達特約從三年前開始經營並積極引入台灣本地的新創，主動尋找各行各業的雲端與AI應用，並逐步納入AI新創的解決方案。
因為現實中，客戶不會直接說「我要買一台四顆 GPU 的伺服器」，而是提出具體需求：「我想解決某個問題，有沒有方案？」這時候，供應商就必須依照客戶需求，判斷並提供相應解決方案。林立棕直言，對企業客戶來說，最終需要的並非單一軟體，而是一整套「能直接落地使用」的完整解決方案。能將長期累積的基礎架構整合能力，結合本地 ICC（整合應用服務），最後交付給客戶一個能真正運作的生態系方案，正是邁達特的價值所在。
本文節錄自《台灣可信任與韌性AI白皮書》，請點此連結下載《台灣可信任與韌性AI白皮書》完整版