隨著《人工智慧基本法》今年1月正式施行,數位發展部已依法在7月公布《人工智慧風險分類框架》,資料治理相關指引則仍在研擬階段,台灣的AI治理架構正逐步成形。然而,當AI浪潮席捲公部門,地方政府與第一線實務單位在推動治理落地時,卻正經歷著轉型陣痛。從跨局處的資料盤點、AI與既有工作流程的整合,以及時程與預算壓力之外,更要面臨專業人力不足、權責劃分不清等現實考驗,政策落地的真正挑戰才正要開始。
人工智慧科技基金會特別舉辦閉門專家會議,邀請產官學研各界齊聚一堂,針對地方政府推動 AI 轉型時所面臨的資源落差與痛點進行深入探討,期盼共同為台灣的 AI 治理尋找最佳實踐路徑。無論是資料該怎麼整理、由誰提供、風險該如何界定,還是系統該怎麼建置、標案合約該怎麼簽,會中反覆浮現的關鍵之一,癥結點都在於,如何確認具體的情境與用途。
資料四散?從「應用場景」出發,才能真正推動跨組織協作
資料散落在各局處、格式不一且整併費工,是台灣政府數位轉型中反覆出現的沉痾。實務經驗顯示,真正能驅動資料治理的關鍵,並非一味追求資料的完整與一致,而是回歸最務實的提問:究竟要拿這些資料來做什麼?能改變什麼?
資料的盤點與整理需要強大動機,當現狀「尚不影響日常業務」時,各單位往往缺乏主動整理的誘因。真正的轉捩點,多半來自於「不得不」。無論是因應特定政策,或是像這次 AI 應用法規的規範,都會迫使各單位必須重新梳理底層資料架構與脈絡。
唯有當資料協作成為業務的剛性需求,資料治理才能從口號化為行動。但下一個問題就是,跨域協作絕非資訊單位單一的責任。與會專家建議,必須由設立跨域資料具高度掌握力與主導權的資料長(CDO)開始,並搭配跨部門委員會(Committee)制來推進。
為打破各自為政的本位主義,委員會成員必須涵蓋主計、業務、資訊與資安等多元角色。唯有將討論層級拉到制高點並建立共識,各單位才會主動尋求協作。此外,各部會應設立跨單位委員會,持續盤點並定義應用場景,聚焦討論後續的資料應用與發展方向;一旦重大需求浮現,便能迅速啟動並落實跨域資料協作。而資料長則扮演促成專案與委員會運作的核心角色。
誰受益,就由誰提供資料
資料的盤點方式取決於場景,資料該由誰提供?同樣要回到情境與用途來判斷。大多數企業在導入 AI 時,會將 AI 應用區分成幾個層次。第一層是通用型 IT 應用,涵蓋權限管理、基礎系統等內部一般行政作業,例如請假申請、工單查詢這類日常事務。這類資料處理相對單純,IT 單位也較容易接受並釋出資料,因此是最容易推動落地的第一層。
第二層,是核心業務(OT)的深度應用,直接落在具體業務執行的場景。例如採購稽核這類充滿領域知識的業務,關鍵原則在於:誰能從 AI 中獲得實質效益(Benefit),誰就要負責產出資料,來驅動 AI 的成效。一個重要的觀念是,基於資料驅動與 AI 應用所帶來的效益,主責單位必須對自身業務資料的內容與準備,負起應有的責任。
第三個層次則是落實到個人,例如每日工作時所累積的專屬資料集,可能與產品相關、也可能與行銷相關。這類個人層級的資料集,由於難以規範個人的使用行為,IT 單位頂多只能提供全公司標準化的系統與設備進行管理。
風險由誰界定?關鍵仍在用途
資料的分工釐清之後,接下來要處理的就是風險問題。座談中最受關注的議題之一,是 AI 風險該由誰定義。但深入討論後會發現,真正的答案或許不在「由誰」,而在「場景」與「用途」。同樣的技術,放進不同的使用情境,風險的意義與影響可能天差地遠。
AI 進入政府體系,最棘手的問題往往不是技術,而是「風險邊界」該由誰來劃定?這個提問,點出了當前公部門推動 AI 治理時最深層的矛盾。
多數人的直覺答案是中央部會,但這個期待恐怕難以實現。原因在於立場,因為中央部會並非第一線執行業務的人,對於每個系統中 AI 所扮演的角色,如何影響實際風險輪廓,往往缺乏想像。而 AI 應用場景千變萬化,每一種角色配置都牽動不同的風險樣態,要由上而下訂出放諸四海皆準的統一標準,本質上就不可能。
不同於資安風險已有一套相對成熟的方法論與完整的風險資料庫可供依循,AI 治理目前並沒有成熟的框架可循,很多時候是問題發生了才恍然驚覺。
以 AI 幻覺問題為例,雖然大家都期待 AI 能達到百分之百精準,但實務上這幾乎是不可能的任務。那麼,究竟要達到什麼樣的精準程度,才足以被實際採用?一個常被拿來舉例的參照是「氣象預報」,雖然不是百分之百準確,但我們依然仰賴它,因為它仍具備極高的參考價值。
然而,換成 Tesla(特斯拉)的自動駕駛,情況就完全不同了。哪怕只是萬分之一的錯誤率,我們都難以接受。由此可見,風險的評估最終仍必須回歸「情境」(Context):關鍵不在於錯誤是否會發生,而在於一旦錯誤發生,你能否承受隨之而來的損害。唯有先評估清楚可容忍的容錯範圍,才能進一步決定該採取什麼樣的風險防範措施。
系統誰來建、責任誰來扛?驗收標準得回到情境
系統的建置分工,同樣沒有標準答案,答案仍取決於情境。理想上,包含權限管理、底層算力,甚至公文交換系統等基礎設施可以交由資訊單位(資訊處 / 資訊中心)負責統籌。但是,像是警察局、環保局、水利局這種特定領域的系統,因為各局處都有各自特殊的業務應用需求,應由各單位編列預算開發,而非共用一個通用的系統。
然而,「各自開發」不代表「各自為政」,仍需資訊單位提供統一的指引(Guideline),要求全體遵循。尤其是在「主權 AI」(Sovereign AI)的框架範圍內,機敏資料不能任意上傳公有雲,所有系統都必須建置於內部的主權 AI 基礎架構之中。
另一個與情境息息相關的是,AI 系統的驗收與監督。與會專家認為,情境條件的預先設定同樣關鍵。雙方必須在合約中明訂權責界線,清楚說明何種情境下屬於廠商應負的責任。舉例來說,若攝影鏡頭因颱風損壞導致 AI 影像辨識出錯,屬於不可抗力因素,不應歸咎於廠商;但若是模型本身的辨識率無故下滑,廠商便須負起調校責任。這些權責分野與免責條款,都必須在合約中預先明訂,否則專案推進到後期,往往會卡在驗收結案的關卡,各方各執一詞,徒增爭議。
不過,必須正視「模型漂移」(Model Drift)的問題,由於 AI 模型並非建置完成就能一勞永逸的軟體;隨著時間推移,外在環境可能與初始情境截然不同,進而導致預測準確度與效能下降。例如每當法規修訂或條文更新時,模型都必須跟著重新訓練(Retrain)與調整,就如同防毒軟體需要不斷更新病毒碼一樣,模型的維運與更新機制必須明確納入廠商的保固與維護合約中,而非事後才臨時補救。