如何建立可信賴AI生態系統?必須要有對話的機制

「雖然技術能做到匿名,但是大家就是不信任怎麼辦?」財團法人人工智慧科技基金會常務董事、國家通訊傳播委員會前主委詹婷怡日前在2022 Taiwan AIEXPO 展會上,以「打破AI黑箱:可信任AI勢在必行」為題發表演說,多次提到「信任」對於當前5G和AI應用發展的重要。

技術之外的挑戰:信任危機

詹婷怡提到,有人在談「Trustworthy AI」也有人談「Zero Trust」,認為根本不可能有信任,應該要用零信任的方式去看所有的架構。她認為,這些都沒有錯,但有沒有什麼辦法透過標準、規範可以幫助我們逐步建構起信任?

隨著5G落地,相關的應用逐漸落實到生活中,包括智慧城市、自駕車、智慧醫療等,萬物聯網的時代來臨,必須要思考到各式資料傳輸的情境,尤其當AI被視為數位轉型的重要工具,卻無法被信任時,將會產生一些無可避免的障礙,例如日前針對健保資料庫案召開的憲法法庭,就有許多隱私的議題需要討論。尤其在5G以及AI逐漸落地之際,當技術快速發展時,監管及社會影響等議題卻沒被一併納入考量。詹婷怡說,除了科技觀點,也該同步思考法律(legal)、政策(policy)和監管(regulatory)等挑戰,這是發展AI的第一天就要做的事。

「目前最大的挑戰就是大家不信任,」詹婷怡提到,在面對數據隱私的問題上,雖然技術上都強調能做到匿名,並且顧及隱私保護,但是無論怎麼說明都不被信任時,在計畫推動上依舊是窒礙難行。除此之外,AI也可能被操控或是成為攻擊的工具,並對隱私產生巨大挑戰,所以在建構AI監管的時候,很重要的一部分是必須考量到AI和資料的關係,尤其是我們如何運用資料避免偏見。

詹婷怡指出,網路治理的架構可以分為三個層級,分別是最底層的基礎網路建設、與​​網際網路運作本質相關的邏輯層,以及日常使用網路所從事的社會經濟行為層,與各行各業的數位應用與轉型高度相關,在這一層中,資安(Security)與信任(Trust)是非常重要的一塊。

至於要如何建立可被信任的AI?詹婷怡建議,首先,Security的議題不能事後防範,必須在一開始設計的時候就要納入考量。第二,物聯網、執法機關,以及網路安全等社群的資安應該被一起考量,否則很容易因為倉促立法,最後發現法規不合用甚至阻礙創新發展的可能。甚至這三大社群應該彼此對話討論。另一方面,隨著萬物聯網時代的來臨,必須要考量到不同的數位裝置以及數位足跡的問題,並產生新的生態系,不只考慮到傳輸的過程還要考慮到任何形式的裝置,以及驗證機制。(了解更多國家的AI規範:Digital Everywhere!我們該如何訂定合適的AI規範

即刻建立可信賴的AI生態系統

詹婷怡認為,其實可信賴的AI也是一個生態系,包含了很多層的內容,不僅是一個基礎設施,同時連結了所有基礎設施,具有運算能力且鼓勵創新,還有資料與演算法。不同層的內容所關心的主題都不相同,但是,每一層都需要被信任。

另一方面,他也涵蓋了如資安漏洞、駭客攻擊等廣義的網路安全、資料保護與隱私、線上內容的規範、責任及永續發展,而我們又要如何透過對話討論出「可信賴的AI生態系統」?詹婷怡認為,台灣應該要有一個對話的機制,必須納入技術的開發者、應用者、公民社群等,她指出,一個可信賴的AI生態系統的發展路徑,必須連結5G以及人工智慧各層面簡單技術運用的架構為思考,否則討論無法對焦。此外,賦能及法制也是發展關鍵。涵蓋範圍包Cybersecurity、Data Protection &Privacy 、On-Line Safety & FundamentalRights、Accountability & Liability 、Ethics &SDGs 等。詹婷怡認為,台灣作為一個領土雖小,但是科技卻強大的國家,應該要在這部分取得領先地位,開始討論並參與更是必要的事。