ChatGPT的問世加速了所有產業的AI應用、科技巨擘競爭愈形白熱化，也讓世界各國政府愈形焦慮，在個人隱私保護、假訊息、歧視等各個社會層面，應如何提早預防可能造成的傷害？ 歐盟議會於今年 6 月通過「人工智慧法」草案；美國拜登總統在 10 月底簽署 AI 行政命令；英國也在 11 月初召開首屆全球 AI 高峰會（AI Safety Summit），與會的28 個國家會前共同簽署「布萊切利宣言」（Bletchley Declaration），強調AI在全球帶來的風險，並呼籲國際合作以應對這些挑戰。
在峰會開始前，英國政府便宣布由美國、英國、中國、印度以及歐盟等 28 個國家簽署的「布萊切利宣言」，聲明提到人工智慧為全球帶來了機會與風險，而強大的人工智慧系統創建者有責任確保其安全，並致力於在識別和減輕風險方面進行國際合作，同意將共同研究安全問題，包括虛假資訊、網路安全和生物危害。
英國政府也宣布成立英國人工智慧安全研究所，以鞏固英國作為人工智慧安全世界領導者的地位；後續該中心也將與美國人工智慧安全研究所、新加坡政府合作，進行人工智慧安全測試。
峰會中討論的主題包括，前沿AI帶來的風險及採取行動的必要性；國際間針對前沿AI安全的前瞻性合作進程；針對提高前沿AI安全，各組織應採取的適當措施；AI安全研究的潛在合作領域，如模型能力評估和製定新標準以支援治理；如何確保AI的安全發展，並對全球運用有利。
這次峰會的議程重點有兩大項，分別是：識別共同關注的人工智慧安全風險，在有科學及實證理解的基礎上，建立對這些風險的共同理解，並且在技術能力不斷增強的情況下仍能維持，以更廣泛的全球方法來了解人工智慧對社會的影響。
其次則是各國要基於這些風險的前提，制定各自的政策，以預防可能產生的安全危害，並在可能的範圍內合作。這意味著每個國家的做法，會因為國情和適用的法律框架不同而異。例如要求私營部門提高透明度、發展前瞻人工智慧技術、評估指標、安全測試工具……等在內。
這次峰會的參與者、以支援和領導開放原始碼的非營利組織 Mozilla 研究員拉吉（ Deb Raji） 說：「全球一致認為人工智慧是值得反思和監管的東西，」但她認為，不同國家對於到底「該做」什麼的看法，存在相當大的差異。
Raji 表示，從過往參加的會議中可以聽到，包括歐盟成員國間在監管人工智慧上，也有許多不同的、相互競爭的、矛盾的方式，即使是在相對充滿合作意味的人工智慧領域，也存在令人震驚的多種不同觀點，更別說牽涉到其他國家利益的議題。
知名機器學習模型平台 Hugging Face 研究員兼首席道德科學家瑪格麗特·米切爾（Margaret Mitchell）表示，這種多樣性與競爭是自然的。Hugging Face 做為一間人工智慧公司，也致力於遊說一種更加深思熟慮、以人性為中心的人工智慧方法。她認為，的確各國政府尋求保護國家利益，「也有許多人，則是尋求確立自己的領導地位」。
米切爾表示，全球人工智慧規則制定的競爭，多半遵循「阿爾法策略」（alpha manoeuvres）開始發展，意即，就像飛行員需要在各種不同的飛行條件下操作飛機一樣，政策制定者也需要在差異極的社會和經濟條件下制定和實施政策。這些策略如何拿捏取捨，取決於全球不同國家的領導者。
然而，米切爾、拉吉和艾倫圖靈研究所的倫理研究員邁克·卡特爾都強調同樣的問題：相對於世界其他地方，北半球國家和經濟較發達國家的聲音在談判桌上得到了更加突出的地位。
這也凸顯出制定全球AI管制必須克服的挑戰。美國智庫一份2023年5月的報告提出，面對AI規範美國及監管，美國內部有幾個重要辯論，其中包括：軟性管制足夠嗎？是否需要有法律強制力？監管與創新技術的兩難如何拿捏？全球管制框架討論，是否該邀請中國加入對話？AI規範能夠與美中科技戰脫鉤？
而更不可忽略的是，東西方國家對於AI管制存在著基本的分歧：東方國家幾乎完全專注於建立其研發能力，而忽視技術管理的「護欄」，西方國家則幾乎專注於確保這些護欄到位。預計半年後在南韓登場、一年後換法國舉辦的AI安全峰會要如何解決這些問題，考驗的將不再只是AI技術進步的能力，而是不同政治體系與社會對於AI的接受度，以及如何求同存異的對話智慧與彈性。
Yoshua Bengio 將發佈前沿人工智慧「科學狀況」報告
根據峰會新聞稿，各國已同意支持2018年圖靈獎得主、人工智慧學者、聯合國科學顧問委員會成員 Yoshua Bengio 領導發布首份前沿人工智慧「科學狀況」報告。該報告將對前沿人工智慧風險和能力的現有研究進行科學評估，並確定進一步研究的優先領域，這將有助於理解前沿人工智慧所帶來的能力和風險。
該報告的調查結果將是未來人工智慧安全峰會的基礎，同時也啟動下次峰會的計劃，韓國將在未來 6 個月內共同主辦人工智慧小型虛擬高峰會；法國則於一年後主辦下一次實體峰會。
參考資料：
https://www.gov.uk/government/news/prime-minister-launches-new-ai-safety-institute
