生成式 AI 的出現徹底顛覆既有的分層架構與遊戲規則。黃勝雄提醒，像 ChatGPT 這樣的大型應用，從網路架構角度來看，處於一個極為脆弱的狀態。由於長期缺乏針對惡意行為的防禦設計，AI 生態在成長期雖能快速擴展，但一旦涉及龐大商業利益，勢必會成為攻擊與治理爭議的焦點。
網際網路的開放性與延展性，使區塊鏈、大數據、物聯網與人工智慧等新興技術無需改動底層結構，便能直接掛載於既有框架之上。這一特性成就了數位生態的快速擴張與多元應用。即便邁入AI世代，網際網路依然是關鍵基礎設施，但其治理挑戰早已浮現。
台灣網路資訊中心及亞太網路資訊中心董事長黃勝雄指出，50年前建立的網路基礎，放到如今複雜的技術及應用環境中，像是脆弱的舊地基，在全球50億使用者與數百億裝置的壓力下早已暴露出資安缺陷，而AI 的崛起進一步放大了這些風險。雖由私有企業驅動，卻帶來高度公共化的外溢影響，從個資濫用到跨境詐騙，治理難題更形複雜且尖銳。
黃勝雄點出AI和資訊科技的發展，本質上就是伴隨錯誤而生，並經由不斷的修改（trial and error）而達到原本設定的功能目標。因此AI治理的核心不在於追求零風險，而是明確劃定底線並聚焦公共目標。因此，風險管理設計應確保即使在最糟糕的「全黑情境」下，基礎設施仍能維持運作。
相較網路治理 AI治理更加複雜
過去普遍認為，網際網路架構穩固且安全，可以一層層往上堆疊，但實際情況卻並非如此。黃勝雄解釋，由於最初的設計僅供少數學術機構交換資訊，未考慮安全控制，更不可能預料到今日會有50億使用者與數百億裝置的規模。
生成式 AI 的出現，更是徹底顛覆既有的分層架構與遊戲規則。黃勝雄提醒，像 ChatGPT 這樣的大型應用，從網路架構角度來看，處於一個極為脆弱的狀態。由於長期缺乏針對惡意行為的防禦設計，AI 生態在成長期雖能快速擴展，但一旦涉及龐大商業利益，勢必會成為攻擊與治理爭議的焦點。
回顧網路治理經驗，聯合國雖曾嘗試推動全球性公約，但因分歧過大而無疾而終。最終，治理模式只能依賴多方利害關係人的自律規範，逐步形成共識。雖非具強制力的國際標準，但只要各方願意遵循，其效力仍能成立。這也顯示，治理往往建立在合作與信任機制之上，而非單一強制手段。
數十年來也累積了有限但可借鑑的治理經驗與制度，例如資安規範、跨境合作及 ICANN 等跨國組織。雖然這些機制功能有限，卻形成了一種「公共資源治理」的全球實驗。在缺乏更好選項時，至少提供了一套相對理智、有效的管理方法。
但是，人工智慧的挑戰更為複雜。網路治理雖以「全球一體適用」為原則，視其為跨境的數位公共財；但 AI 多由私有企業推動，卻帶來高度公共化的外溢效應，涉及個資保護、社會風險與制度設計。這意味著，AI 治理既不能僅依賴市場，也不能放任私有財邏輯主導，其難度遠超過傳統網路。未來政策設計的關鍵，重點應該是如何在公共利益與私有創新之間取得平衡，並建立清晰的規範與可信任的底線。
黃勝雄建議，台灣在推動 AI 治理時，應聚焦具有公共性的議題範疇，並靈活運用法律、自律與他律等多元手段，以「最能快速落地並達成治理目標」者優先採行。
AI 風險並非來自工具，而是用途
「AI 工具本身不具風險，風險來自被用來做什麼。」黃勝雄舉例，假使免費送你一台能自動連網的智慧咖啡機，能根據家中成員的喜好自動沖煮咖啡，交換條件是咖啡機上必須裝置攝影機。這時候可能造成傷害的風險並不在咖啡機，而是影像資料的蒐集與使用。換言之，AI 並非天生具有風險，關鍵在於它被用來做什麼。
同樣道理，即便有免費軟體能百分之百滿足需求，多數人也不敢輕易使用，因為背後的數據風險不明。若連個人用戶都不敢嘗試，企業更不可能因「免費」就放心採用。
黃勝雄指出，台灣在 AI 風險判斷上，產學界存在明顯落差。學界缺乏真實世界的應用經驗；產業與政府雖直接接觸應用，卻經常以過於簡化的邏輯判斷風險，忽視了更深層的數據結構與制度認知和洞察，使得討論仍停留在表層，未能真正觸及關鍵問題。
面對風險，應事前建立因應方案而非全面圍堵
這同時也凸顯出台灣社會缺乏風險管理的困境。黃勝雄進一步解釋，可以將風險想像為統計學上分佈區間，大多數風險來自最常見的弱點，例如使用「12345678」這種弱密碼，或提款卡掉在地上被撿走。這些低門檻的風險，預防成本低但發生率高。隨著分布往外延伸，風險發生機率大幅降低，帶來衝擊也會逐漸增大。若要追求「99.999% 的零風險」，所需成本將高到社會難以承受。他以 COVID-19 的「清零」政策為例，雖能有效降低感染風險，但最終卻造成社會與經濟付出過高代價。
因此，黃勝雄認為，務實策略是將防護計畫鎖定在兩至三個標準差（約 95% 的常見情境），用低成本手段就能降低多數風險；對超過兩個標準差的極端事件，則建立事前因應方案而非全面圍堵。他提醒，因為在氣候變遷與全球不確定性加劇下，極端事件可能加速到來，例如近期台幣在短時間內劇烈升值，原本被視為小機率事件，仍卻在真實世界發生並產生衝擊。因此，「低機率不等於可忽視。」
此外，治理思維也應從「如何防護」擴大為「如何因應」，亦即在有限資源下，預先界定必須保留的關鍵功能與可被犧牲的次要功能，建立清楚的先後順序與切換機制。比起危機當下倉促拍板，提前劃定優先序才能在最壞情境下維持社會基本運作。
本文節錄自《台灣可信任與韌性AI白皮書》，請點此連結下載《台灣可信任與韌性AI白皮書》完整版
