如何建立可信賴AI生態系統？必須要有對話的機制

技術之外的挑戰：信任危機

詹婷怡提到，有人在談「Trustworthy AI」也有人談「Zero Trust」，認為根本不可能有信任，應該要用零信任的方式去看所有的架構。她認為，這些都沒有錯，但有沒有什麼辦法透過標準、規範可以幫助我們逐步建構起信任？

隨著5G落地，相關的應用逐漸落實到生活中，包括智慧城市、自駕車、智慧醫療等，萬物聯網的時代來臨，必須要思考到各式資料傳輸的情境，尤其當AI被視為數位轉型的重要工具，卻無法被信任時，將會產生一些無可避免的障礙，例如日前針對健保資料庫案召開的憲法法庭，就有許多隱私的議題需要討論。尤其在5G以及AI逐漸落地之際，當技術快速發展時，監管及社會影響等議題卻沒被一併納入考量。詹婷怡說，除了科技觀點，也該同步思考法律（legal）、政策（policy）和監管（regulatory）等挑戰，這是發展AI的第一天就要做的事。

「目前最大的挑戰就是大家不信任，」詹婷怡提到，在面對數據隱私的問題上，雖然技術上都強調能做到匿名，並且顧及隱私保護，但是無論怎麼說明都不被信任時，在計畫推動上依舊是窒礙難行。除此之外，AI也可能被操控或是成為攻擊的工具，並對隱私產生巨大挑戰，所以在建構AI監管的時候，很重要的一部分是必須考量到AI和資料的關係，尤其是我們如何運用資料避免偏見。

詹婷怡指出，網路治理的架構可以分為三個層級，分別是最底層的基礎網路建設、與​​網際網路運作本質相關的邏輯層，以及日常使用網路所從事的社會經濟行為層，與各行各業的數位應用與轉型高度相關，在這一層中，資安（Security）與信任（Trust）是非常重要的一塊。

至於要如何建立可被信任的AI？詹婷怡建議，首先，Security的議題不能事後防範，必須在一開始設計的時候就要納入考量。第二，物聯網、執法機關，以及網路安全等社群的資安應該被一起考量，否則很容易因為倉促立法，最後發現法規不合用甚至阻礙創新發展的可能。甚至這三大社群應該彼此對話討論。另一方面，隨著萬物聯網時代的來臨，必須要考量到不同的數位裝置以及數位足跡的問題，並產生新的生態系，不只考慮到傳輸的過程還要考慮到任何形式的裝置，以及驗證機制。（了解更多國家的AI規範：Digital Everywhere！我們該如何訂定合適的AI規範）

即刻建立可信賴的AI生態系統

詹婷怡認為，其實可信賴的AI也是一個生態系，包含了很多層的內容，不僅是一個基礎設施，同時連結了所有基礎設施，具有運算能力且鼓勵創新，還有資料與演算法。不同層的內容所關心的主題都不相同，但是，每一層都需要被信任。

另一方面，他也涵蓋了如資安漏洞、駭客攻擊等廣義的網路安全、資料保護與隱私、線上內容的規範、責任及永續發展，而我們又要如何透過對話討論出「可信賴的AI生態系統」？詹婷怡認為，台灣應該要有一個對話的機制，必須納入技術的開發者、應用者、公民社群等，她指出，一個可信賴的AI生態系統的發展路徑，必須連結5G以及人工智慧各層面簡單技術運用的架構為思考，否則討論無法對焦。此外，賦能及法制也是發展關鍵。涵蓋範圍包Cybersecurity、Data Protection &Privacy 、On-Line Safety & FundamentalRights、Accountability & Liability 、Ethics &SDGs 等。詹婷怡認為，台灣作為一個領土雖小，但是科技卻強大的國家，應該要在這部分取得領先地位，開始討論並參與更是必要的事。

閱讀更多「人工智慧發展關鍵趨勢」精彩文章：2022 AI EXPO：探索新時代人工智慧發展關鍵議題