歐盟AI法案對台灣產業的影響： 高風險人工智慧系統解析（下）

近年來，人工智慧（AI）技術快速發展，應用範圍不斷擴大，為各產業帶來新的機會。然而，AI 技術的應用也引發倫理、法律和社會等方面的擔憂。為此，歐盟於 2024 年公告通過的人工智慧法案（AI Act），旨在規範 AI 系統的開發、銷售和使用，以確保其安全、透明和符合基本人權。

對於以半導體、電子、電腦資訊和通信產品出口為主的台灣產業而言，歐盟 AI 法案的影響不容忽視。本文將針對法案中「高風險人工智慧系統」的相關規定，重點解析根據歐盟人工智慧法案，哪些AI系統被歸類為高風險？歐盟人工智慧法案對高風險 AI 系統提出了那些強制性要求等問題，提供台灣產業因應之參考。

繼上篇分析過「高風險人工智慧系統」的相關規定與注意事項之後，本文針對幾項高風險人工智慧系統使用進行分析，同時歸納出台灣產業需要深入理解之概念，以避免日後有觸法之風險。

案例分析

醫療影像診斷 AI 系統：

  • 高風險 AI 系統分類： 歐盟 AI 法案附件三列出了被視為高風險的 AI 系統應用案例，其中包括 「健康」 領域。 醫療影像診斷 AI 系統如果用於診斷癌症等嚴重疾病，由於其對患者健康有重大影響，很可能會被歸類為高風險 AI 系統。
  • 資料集要求： 第10條和附件四規定，高風險 AI 系統的資料集必須符合嚴格的品質要求，包括相關性、代表性、完整性 以及 避免偏差。 這意味著，醫療影像診斷 AI 系統的供應商需要確保其使用的資料集具有足夠的代表性和準確性，以避免產生錯誤診斷，進而危害患者健康。
  • 風險管理和上市後監控： 第9條 要求高風險 AI 系統的供應商建立完善的 風險管理系統，以識別、評估和管理與 AI 系統相關的風險。 此外，供應商還需要建立 上市後監控系統，以持續監控 AI 系統的性能和安全性，並在必要時採取糾正措施。

自動駕駛系統：

  • 高風險 AI 系統分類：自動駕駛系統由於其對 交通安全有重大影響，也被視為高風險 AI 系統。 歐盟 AI 法案附件三中明確列出了 「道路交通」 領域的 AI 系統屬於高風險 AI 系統。
  • 嚴格測試和驗證：高風險AI系統必須經過 嚴格的測試和驗證，以確保其 準確性、頑健性和網路安全。 對於自動駕駛系統而言，這些測試和驗證尤為重要，因為任何系統錯誤都可能導致嚴重的事故。供應商需要進行嚴格的測試和驗證，以確保系統的安全性和可靠性。

總結

歐盟AI法案對高風險AI系統的規範非常嚴格，台灣產業需要深入瞭解相關規定，並採取積極措施以確保其產品符合要求。以下提醒本文重點：
AI 系統是否屬於高風險 AI 系統，需要綜合考慮其應用領域和潛在風險。

  • 附件一列出需要進行第三方合格評定的產品，如果AI系統符合 第6條第1項中的兩個條件，則無論其風險程度如何，都將被視為高風險AI系統。而附件三列出被預設為高風險的 AI 系統類型，即使AI系統不構成對人類健康、安全和基本權利之重大危害，仍然可能因為其應用領域而被預歸類為高風險 AI 系統。
  • 法案提供了一些豁免條款，允許部分附件三中的 AI 系統在符合特定條件下不被視為高風險 AI 系統。法案的豁免條款旨在確保監管措施的相稱性，避免對低風險AI系統造成過度負擔。 但豁免條款的適用需要仔細評估AI系統的具體功能和應用場景。豁免條款僅適用於附件三所列的AI系統，而不適用於附件一的AI系統。即使符合豁免條款，AI 系統提供者仍有義務：在將 AI 系統投放市場或投入使用之前，記錄其評估，證明該系統不屬於高風險AI系統；應國家主管機關的要求，提供評估文件；在歐盟資料庫中註冊該 AI 系統。
  • 歐盟 AI 法案特別關注剖繪可能帶來的風險，因此即使 AI 系統符合豁免條款的其他條件，只要涉及剖繪，仍將被視為高風險 AI 系統。
  • 歐盟 AI 法案對高風險AI系統的資料治理和資料品質提出了嚴格的要求，這些要求涵蓋了資料的相關性、代表性、完整性、避免偏差以及資料來源透明度等方面。 這些要求分散在法案的不同條款中，並相互補充，共同確保高風險 AI 系統的安全性和可靠性。
  • 歐盟 AI 法案對高風險 AI 系統的測試和驗證提出了嚴格的要求，旨在確保這些系統的安全性和可靠性。相關條款涵蓋了資料品質、演算法設計、系統穩健性、網路安全等多個方面，並要求供應商提供詳細的技術文件以證明其系統符合法案的要求。

行動呼籲

  • 深入研究歐盟 AI 法案：:台灣產業應仔細研究法案條文，特別是與其產品相關的附件和條款。
  • 評估產品風險等級：判斷產品是否屬於高風險 AI 系統，並採取相應措施。
  • 建立完善的品質管理系統：確保產品設計、開發和測試符合法案的要求。
  • 積極參與標準制定: 關注歐盟 AI 標準和共通規範的制定，並提出意見和建議。

結論

歐盟AI法案的實施將對全球AI產業帶來深遠影響，台灣產業應及早準備，積極應對，才能在競爭激烈的市場中保持領先地位。

延伸閱讀

*備註: 以上資訊僅供參考，實際法規內容以歐盟官方文件為準。