過去四、五年間，世界各國都將人工智慧視為國家產業重要發展策略，並積極投入AI資通安全標準的制定。然而，當AI正快速滲透到人們生活時，卻發現目前的法規並沒有跟上AI技術的發展，甚至引發對於倫理與隱私的憂慮。AI未來的挑戰已經不再是科技與技術問題，還有法律與政策的議題需要共同討論，為此，鴻海研究院與AIF合辦的「NExT Forum：AI Security」邀請學者專家針對相關議題進行分享，以下是本場討論重點整理：
企業越注重隱私，消費者評價越高
在AI領域裡，大部分關於隱私的探討會放在個人資料保護上，但東海大學法律學系助理教授張凱鑫表示，從法律觀點來說，個人資料和隱私的概念並不完全相等。他解釋，AI隱私可分成傳統法律及個資保護兩大部分，以往多半認為過度強調保障隱私會阻礙AI技術發展，「但隱私保護應是正合而非零合」，他分析，企業越注重保護隱私，消費者的安全感及對企業的評價就會提高，連帶業會提升銷售成績並激勵企業開始重視隱私。
社會變遷帶來價值觀及倫理選擇的改變，並指引政策及法律的制定方向。他認為，公平性、非歧視、可問責性、隱私這些倫理議題的討論，能弭平消費者與開發者的對AI技術的擔憂開發者則會受到他人的擔憂而影響開發，倫理的對話將促進AI的開發，並讓社會更容易接受這項新的技術。
張凱鑫說，AI技術開發與商業技術邏輯常是相反立場，以AI佈署為例，現階段所追求的是，比其他公司更快開發、更快落地。對經營者而言，開發AI技術需要擔憂未來可能會發生的倫理問題，但如果因為擔憂不確定的未來就不開發，經營者對商業的判斷會和AI開發產生衝突。透過倫理指引的規劃，可以不再擔心AI技術開發後的倫理，更能弭平各界擔憂。
產業要應用AI技術，作業流程的標準化是關鍵
如果想將AI技術應用在產業，作業流程的標準化是重要前提，但是從產業的角度又該如何進行呢？尚虹建築師事務所主持建築師王寅武提到，以近來十分熱門的BIM（建築資訊模型）為例，建模最在意的通常是資料格式或資料多寡，要先知道應用目的，才能從需求回推需要的資料及格式。他認為，與其討論標準化的流程，也許可以先探討如何在不同的主題下，根據需求規劃流程，或是單一流程要如何適用各個行業？
王寅武說，建築業近幾年在推動數位轉型上，從設計、施工到最後營運建築物的營運資產管理，一直不斷探討不同實務面應該用什麼樣的組織及作業流程，才能提高績效？
他提到，建築業的資訊可以分為結構資訊及非結構資訊，特別在非結構化資訊又分為文字和數字，而大家對於結構化資料的資安議題可能較熟悉。直至近年，非結構化資料的資安才特別的受關注，在大數據的框架裡，非結構化資料中常隱含許多偏見的資訊或是一些雜訊，在數據的收集上，比起資料格式更要特別注意資料品質。
另一方面，除了流程及資料格式，也必須建立共同協作平台，讓大家有一致性的資料來源，同時也可以確認彼此數據的格式及品質狀態。但是，一旦將資料上傳至雲端時，Security的門檻及議題可能更大。
相較於建築業的規格容易統一與延用，製造業的變化就來得更加多元複雜，華實智造科技公司數據長黃逸華說，每個工廠都有自己想保護的機密，也會刻意在建立資料時，刻意選擇不同的數據格式或無法協作的設定。因此，在討論AI標準化時，如果沒有把這個因素考量進去，會讓一半以上的工業無法順利運行。
AI標準化策略藍圖對台灣的影響？
德國由德國標準化協會（DIN）、負責制定電力工程、電子和資訊技術領域標準和安全法規的組織DKE、聯邦經濟事務和能源部，以及來自工業、科學、公共部門和民間社團約300名專家，以一年時間共同研擬出「AI標準化策略藍圖」，是全世界第一個針對AI的現況與需求進行全面分析並制訂國家標準的國家。
台灣人工智慧協會副理事長黃國寶指出，德國做為全球帶領工業4.0與數位化轉型的領頭羊，這份AI策略地圖如同層層套疊的俄羅斯娃娃般，從最核心的技術部分往外擴展到數據的可靠性、安全性，再更外層則是與整個環境息息相關的道德、法律及隱私部分，因為這些都會受到AI技術應用的驅動與影響。隨著AI應用在各產業百花齊放，勢必需要共通的框架規範。
為什麼這份策略藍圖這麼重要？黃國寶說，因為德國的標準不僅會影響到歐盟，也會間接影響到ISO的國際標準。由於台灣產業以出口導向為主，假使貨物需要出口到德國或其他國家，如果未來商品無法滿足標準化的規範，就只能在台灣內銷，這將影響產業的競爭力。
至於這份藍圖將對台灣帶來哪些啟發？我們又該實現，這是德國體驗出來的 made in Germany 相對的未來我們透過，AI的技術希望也能變成MIT made in Taiwan一個競爭力的呈現，有哪5個步驟呢? AI標準化五項行動方案 加速產業AI落地
台灣的優勢在透明、可信任
但是，我們要如何標準化？這又是誰的標準化？黃逸華說，當台灣希望透過標準化框架向外輸出時，得要留意未來我們可能會面臨多種框架。台灣在算法、數據、算力這三個AI發展的關鍵要素上，並無法與大國相比，但因為標準化風潮的興起，我們有一個獨特的文化因素：透明，且台灣的文化或工業環境也認同這樣的基本原則。因為有透明才會談到信賴、問責性、公平性、可解釋等。黃逸華認為，台灣目前最積極且有效跨入AI標準化的競爭優勢，就是電動車大聯盟。因為AI標準化並不是一個認證，有人蓋章就完成認證了，這是一個不斷淬煉的過程。中間會有人加入，也會有人淘汰，而電動車大聯盟就是個友善的練功坊，建立一個很大的聯盟關係，也有一個國際級的大廠在背後推動，結盟企業在培養能力的同時也建立市場的認知。
AI未來的挑戰不只是技術問題
國家通訊傳播委員會前主委、人工智慧科技基金會常務董詹婷怡提到，歐盟在2019年4月提出 《可信賴的AI政策及投資建議》（High level expert group on AI），目標在於建構一個值得信賴的AI（Trustworthy AI），因為現在的AI已經不是一個單點或一條線，而是一個生態系。她強調，值得信賴的AI必須囊括合法、倫理且強大三大元素，因此，AI應用的挑戰已經不只是科技或技術問題。
