麻省理工學院未來科技實驗室（MIT FutureTech）與昆士蘭大學（University of Queensland）共同發布《人工智慧風險優先排序》研究報告，報告指出，未來五年內最可能造成嚴重損害的五大風險依序為：危險能力、競爭壓力、武器與網路攻擊、權力集中，以及虛假資訊。報告也指出，資訊與金融產業對此尤為脆弱；而最容易受到這些風險衝擊的個人與組織，往往缺乏足夠的應對能力。

人工智慧的快速發展，為企業領導者帶來艱鉅的挑戰。AI 風險不僅繁多且瞬息萬變，對各部門與企業的衝擊更是不均。除了大眾熟知的演算法偏見與假訊息外，更衍生出加速網路攻擊、降低武器開發門檻及 AI 不可控行為等新興威脅。究竟哪些風險最值得企業與政府優先關注？一項研究嘗試為企業與決策者釐清頭緒。

資訊、國家安全與金融保險產業最為脆弱

麻省理工學院未來科技實驗室（MIT FutureTech）與昆士蘭大學（University of Queensland）共同發布《人工智慧風險優先排序》研究報告，報告指出，未來五年內最可能造成嚴重損害的五大風險依序為：危險能力、競爭壓力、武器與網路攻擊、權力集中，以及虛假資訊。報告也指出，面對風險，資訊、國家安全與金融保險業尤為脆弱。資訊業最易受假訊息與隱私外洩衝擊；國家安全部門則同時是危險能力與武器網路攻擊的高風險目標；金融保險業對詐騙與 AI 系統安全漏洞也格外敏感。而最容易受到這些風險衝擊的個人與組織，往往缺乏足夠的應對能力。

該報告共同作者、MIT FutureTech 研究科學家 Peter Slattery 表示，這項研究的核心目的之一，正是為了釐清誰需要改變哪些做法，以及各方該如何協調行動。

這項研究採用德爾菲法（Delphi method）進行，這是一種結構化的研究過程，透過多輪蒐集專家意見、逐步釐清共識與分歧的領域。研究團隊邀請了 272 位國際 AI 專家，針對 24 項 AI 風險的發生機率與損害嚴重程度進行評估，並進一步指出哪些部門與參與者最容易受到影響，以及應由誰來承擔因應風險的責任。

該研究聚焦於 2025 至 2030 年間，並設定了兩種預測情境。一是在「維持現狀」，也就是組織與政府維持現行作法的情境下，專家們研判 24 項風險中，有高達 18 項、超過10%的機率，將在未來五年內造成「災難性後果」，災難性後果定義為：導致逾 100 萬人死亡、逾 1,000 億美元經濟損失，或同等規模的文明無形損害。

即使進行防範措施，這五大領域仍可能受害

另一種情境為「務實緩解」，指的是在採取具成本效益的防範措施下，即使實施了減害措施，仍有五大領域會引發災難性後果，且機率超過 10%。分別是具備危險能力的 AI 系統（12%）、AI 輔助武器與網路攻擊（12%）、環境危害（12%）、不平等與失業（11%），以及權力集中與 AI 利益分配不均（11%）。

首先是，AI 具備危險能力（Dangerous capabilities），意指 AI 系統可能發展出欺騙、說服、網路攻擊、武器開發，甚至是「自我擴散」與「情境感知」的能力。報告指出，這些危險能力是 AI 系統規模擴張時的「突現屬性」，也就是說，這些能力並非被刻意設計出來，而是在模型規模達到一定程度後自發浮現，因此極難事先預測與控制。即使部署了安全措施，這些能力仍可能因人類的惡意濫用、AI 目標與人類意圖的偏差錯位（misalignment），或系統本身的故障，而引發大規模災難。

第二是武器與網路攻擊 (Weapons & cyberattacks)，主要是惡意行為者可利用 AI 系統開發更具破壞力且廉價的網路武器與惡意軟體，甚至強化化學、生物、放射性與核子（CBRNE）等毀滅性武器及致命自主武器。多位受訪專家更直言，這些來自國家與非國家行為者的 AI 網路攻擊，將成為未來不可避免的常態。

第三是權力集中化（Power centralization），意指 AI 驅動的權力與資源將極度集中於少數擁有強大 AI 系統的組織，如大型科技公司手中，導致利益分配極度不均。值得注意的是，部分專家認為這種趨勢將形成「自我強化」循環，因為開發 AI 的一方，恰好也最有能力獨佔其利益，僅靠技術手段恐怕難以扭轉這種深層的結構性動態。

第四為不平等與失業 (Inequality & unemployment)， 即便在採取務實緩解措施情境下，專家仍認為此風險產生災難性後果的機率大於 10%。AI 可能透過自動化導致特定產業出現大規模失業，同時為 AI 系統的擁有者創造巨大財富，進一步加劇原本就根深蒂固的社會與經濟不平等。

第五為虛假資訊（False information），AI 可能因為無意或惡意地生成，被用於傳播錯誤或欺騙性內容，導致使用者基於錯誤信念做出決策而受害。與此密切相關但屬於另一獨立風險項目的是「破壞共識現實」（Loss of consensus reality），也就是高度個人化的 AI 生成內容可能製造「過濾泡泡」，讓人們只接觸符合既有信念的資訊，進而污染資訊生態系統、破壞社會凝聚力與民主選舉機制。

此外，在 AI 軍備競賽與競爭動態（Competitive dynamics）上，由於 AI 開發者或國家級組織為了追求戰略與經濟上的絕對優勢，會陷入激烈的「AI 軍備競賽」。在時間與商業競爭壓力下，他們很可能犧牲安全性，導致不安全或充滿漏洞的 AI 系統被過早釋放至社會中。

在環境危害（Environmental harm）方面，訓練與運作大型 AI 模型需要龐大的資料基礎設施，這將持續消耗巨大的能源與水資源，對環境造成壓力，在最嚴重的災難情境下，甚至可能加速全球生態系統崩潰。

綜觀上述，未來五年內最嚴重的災難並不只是來自 AI 系統本身的技術故障，而是惡意濫用（如武器化）、商業與地緣政治競賽下的魯莽部署，以及難以逆轉的權力與財富集中化。

一般大眾受害風險最高，卻無能為力

那麼，誰該為這些風險負起主要責任呢？報告中指出，AI 風險的「脆弱性（誰最容易受害）」與「責任歸屬（誰該解決問題）」間存在明顯的結構性落差。

儘管一般大眾與使用者是受害風險最高的一群，卻缺乏降低風險的能動性與系統性的影響力。因此，面對 AI 可能引發的災難性風險，專家們多半認為，責任不應被推卸給大眾，而應由 AI 開發者及制定規則的監管者負起主要責任。

在 24 項風險中，開發通用基礎模型的企業都被評為應負起最高責任（中位數評分為 4-5 分，即高度至主要負責）。這與產品責任框架的邏輯一致，因為這些上游開發者最接近決定下游結果的設計選擇。

報告中強調，最有效的風險干預措施應該是預防性且集中式的。開發者決定了模型設計、結構與關鍵參數（如預設設定），這直接影響了模型的輸出與系統性風險。單一 AI 模型可能同時促成網路攻擊、假訊息與武器開發，因此若在模型層面，如對齊技術、模型權重安全、輸入過濾進行干預，能一次降低多種風險的發生率或嚴重性。

此外，包含政府、監管機構與標準制定機構在內的AI 治理參與者，也需和前沿開發者共同承擔主要責任。因為在激烈的商業與時間競爭壓力下，僅仰賴開發者的「自願性防護行動」絕對不足；而放慢腳步投資安全的開發者反而會面臨直接的競爭劣勢。

唯有建立更強制的機制，才能將風險對沖

因此，必須依賴政府與監管機構來頒布法規、強制執行標準，並扮演大眾與 AI 企業間的橋樑。透過法規、責任歸屬、強制保險或透明度要求等治理手段，能將目前由社會外部承擔的成本內部化，避免安全淪為市場競爭壓力下的犧牲品。

儘管主要責任集中在開發者與治理者身上，專家也給予了 AI 部署者、基礎設施提供者與使用者在特定風險上中等至高度的責任評分。這種分散的責任可以形成「縱深防禦」，讓每個層級的參與者都實施防護措施以提升社會韌性。但專家也警告，責任過度分散可能導致「問責漏洞」，最終變成「人人有責，卻無人負責」的窘境。

例如，受影響的利害關係人與使用者是風險中「最脆弱、最容易受害」的群體，但最多只負有「中等」責任（中位數評分 2-3 分）。報告明確區分了「暴露於傷害」與「減輕風險的義務」，並警告若將責任推卸給一般大眾，將導致問責機制的錯置。

而基礎設施提供者，如提供算力與雲端資源的企業，雖然提供了 AI 風險傳播的底層算力基礎，但被評估為責任相對較低，本身受風險影響的脆弱度也最低。

報告指出，在多數風險治理框架下，10% 的災難性後果機率，已達到「不可容忍」的門檻，通常足以觸發強制性的緩解要求；而現行仰賴企業自律與自願性承諾的做法，已被證實不足以應對 AI 帶來的結構性挑戰。有鑑於此，唯有建立更具強制力的機制，才能真正將風險予以對沖。報告中的相關討論，可歸納為以下幾個治理方向：

1. 建立責任歸屬制度（Liability regimes）：明確課予開發商法律責任，使其為系統所導致的災難性後果負責。

2. 推行強制性保險要求（Mandatory insurance）：借助市場機制為 AI 風險定價，將原先外部化的成本重新內部化。

3. 強化國際協調機制：防止開發商藉由跨境監管套利規避安全標準，避免治理出現破口。