城市作為 AI 實驗場域:新北帶動AI轉型的雙軸線(上)
政府近年積極推動百工百業導入 AI,但導入 AI 只是手段,促進產業轉型才是真正的目的,而公部門在其中應扮演關鍵的支撐角色。人工智慧科技基金會執行長溫怡玲日前受邀到新北市政府分享時建議,城市可作為落實可信任 AI 的最佳實驗場域。市府各局處之間溝通距離短,管理範疇也相對明確,只要方向選對,應用成果很快就能看見。
她指出,城市推動 AI 有兩條並行的軸線。一是「產業 AI 化」,協助轄內百工百業導入 AI;二是「內部治理」,也就是市府各局處如何管理自身的 AI 使用。這兩條軸線必須同時並進:市府把自己的 AI 用好、管好,累積下來的制度與經驗,才可能透過政策轉化為帶動產業 AI 化的助力。上篇先從內部治理談起。
建立信任,是 AI 帶動轉型的第一步
要讓 AI 成為產業轉型的助力,市府自身使用 AI 必須先做到「可信任」。溫怡玲說明,國際上討論可信任 AI,大致有幾項共通原則。首先是安全,不只是資訊安全,也包括資料能否在合法、合規、去識別化且不侵害隱私的前提下使用。其次是透明,必須清楚交代資料從何而來、由誰提供,以及由誰負責。第三是究責,AI 產出的任何成果,最終都要由人來負責。第四是以人為本,應該讓 AI 配合人,而不是讓人去遷就 AI。
她也強調,這些原則的共同基礎是「韌性」。舉例來看,AI 就像城市新鋪設的一套管線,韌性指的是萬一管線出了問題,市民照樣有水可用。換言之,組織必須確保 AI 一旦失靈,業務仍能維持正常運作,不受影響。
治理的三個層次:從系統管理到城市策略
那麼,可信任要如何達成?溫怡玲指出:「要做到可信任,首先就是要治理。」她分析,目前資訊領域所談的治理,多半著墨在系統層面,例如使用哪些模型、由哪些人使用、系統如何授權等,這是不可或缺的技術底層。但治理還必須對準上層的策略,也就是國家與城市的整體方向:城市要如何應用 AI?必須遵循哪些法定規範?她坦言,台灣在國家層級的 AI 管理雖然採三層式架構,但具體該怎麼治理,各界都還在摸索。
介於系統與策略之間的,則是組織的內控管理規範。溫怡玲表示,這套規範必須回答幾個關鍵問題:誰有權評估 AI?以什麼標準判斷它是安全還是危險?出了問題又該由誰負責?她指出,國際間的主流看法是不宜讓 AI 完全自主運作,而應落實「人在迴路中」(human in the loop),也就是在 AI 運作的過程中保留人的把關環節,最終決策權始終掌握在人的手上。
新北的基礎:以人為本的服務與逐步成形的制度
溫怡玲相當肯定新北在以人為本上的表現。她以獲獎連連的教育局「新北校園通」為例指出,這套系統不僅介面設計出色,背後的系統串接整合程度也高,大幅降低了使用者的門檻,這才是成功的關鍵。制度面,新北市資訊中心已於 11 月初頒布新的內部 AI 規範原則,作為各局處使用 AI 的基底,權限管理的基礎架構也已具雛形。
從點到面:新北仍待跨越的四道關卡
不過,從城市 AI 轉型的角度來看,挑戰依然存在。第一是如何擴大規模。溫怡玲觀察,新北已有教育局、水利局等局處在內部做出成果,但目前仍以概念驗證(POC,也就是先以小規模試作確認技術是否可行)居多。下一步要思考的,是如何把這些亮點由點、線擴展到面,形成全市的整體策略。
第二是「影子 AI」(Shadow AI)的風險,指的是同仁在組織未授權、未納管的情況下自行使用 AI 工具。許多同仁以個人帳號使用 AI,可能在不知不覺中交出了不該外流的資料。也因此,市府自身是否具備 AI 能力格外重要。新北設有 AIEC 實驗室,讓市府在導入 AI 時,能自行掌握規格需求、安全評估與驗收標準。
第三是資料治理缺乏法源。溫怡玲指出,台灣談 AI 治理時常直接參照歐盟的《人工智慧法》(AI Act),卻忽略歐盟另有《一般資料保護規則》(GDPR)專門規範資料,而台灣至今沒有一部真正的資料專法。「健保資料的管法,跟停電次數的管法是一樣的嗎?」她說,不同性質的資料該由誰管、誰能用,最終都跟城市治理習習相關。
第四是與中央的銜接。她直言,各級政府為了搶政績,常常重複做同樣的事,根源在於 KPI(關鍵績效指標)訂定常常以「次數」「參與家數」這種表面數據,取代了真正的效益與影響。再加上中央與地方之間的溝通不夠順暢。她建議,中央已經做好的部分,地方直接銜接即可,並建立清楚的分工框架,才能用有效率的方式建立AI生態系。
1999 不必全交給 AI:把人的工作留給人
回到以人為本的原則,AI 導入公部門,是否意味著市民服務也將全面自動化?溫怡玲以 1999 市民專線為例,並不適合全部交給 AI 處理。
她建議,面對民眾的部分,盡可能保留真人I。因為人與人之間的接觸,才是公共服務最大的價值所在。要讓市民有最好的洽公體驗,不能只靠行銷或政令宣導,而是取決於第一線人員與市民接觸時所傳遞的溫暖。
面對公部門人力短缺、工作量卻不斷增加的現況,溫怡玲認為,AI 正好可以承接那些繁瑣、價值較低,卻是維持管理所必需的例行工作,例如表單處理、簽核流程中的文件整理,「讓 AI 來做,把人的工作留給人。」