【AIF‧知勢電子報】技術狂奔之後,直面人類社會的現實考驗
知勢電子報 | 2026.07.26
知勢
主圖

各位朋友好:

這星期的電子報分享了很多「風險」,表面上看來都是大家很長時間的疑慮:如果 AI 繼續按照目前的路徑發展,到底會發生哪些可能的風險?AI 擔任企業面試第一關 篩選履歷時,是否會有偏見?

但如果仔細閱讀,可以發現這些問題的層次並不只是我們過去所熟知的那些,像是 AI 從資料、模型到應用都可能有各種有意或無意的誤解、還有無從解釋的黑盒子演算法、生成式 AI 的幻覺等等,AI 就是會照單全收人類社會的偏見,所以要特別留意。然而,除此之外還有更深層的問題。

例如,現在我們可能略知 AI 風險的成因,然而,到底「風險」是什麼?AI 當機?企業營運系統癱瘓?還是丟了一百份履歷全部被不知名的AI打槍?在 MIT 與昆士蘭大學合作的研究中,有更清晰的定義與範疇。

而 AI 擔任第一關篩選履歷的人資小幫手,偏見都來自於人類給的資料?還是模型自己「學習」出來的成果?如何判斷?寫個有效的 Prompt 就能解決?

過去幾年,我們探索的重點從「AI 是什麼」、「AI 怎麼用」,到現在則是更細緻學習如何讓 AI 融入人類的工作與生活。

「人機互動」說來容易,實際上幾乎牽動人類每個知識領域的改變。而對於中小企業、特別是與AI看起來距離較遠的業態,每個細微的改變都是很大的考驗。

下週三(7/29)晚上,AIF 每季一次的實體 AI Café 特別邀請詠鑠生活創辦人林炫丞 Alden來跟大家分享,如何下定決心導入 AI、如何用一年的時間讓一家規模不大的零售業轉型為 AI Native 企業。邀請關注中小企業AI落地應用的朋友們一起來聆聽 Alden 的經驗分享。

人工智慧科技基金會執行長 溫怡玲

本期目錄

MIT 公布五大 AI 風險,恐釀百萬人死亡級災難
AI 治理 觀點

MIT 公布五大 AI 風險,恐釀百萬人死亡級災難

麻省理工學院未來科技實驗室(MIT FutureTech)與昆士蘭大學(University of Queensland)共同發布《人工智慧風險優先排序》研究報告,報告指出,未來五年內最可能造成嚴重損害的五大風險依序為:危險能力、競爭壓力、武器與網路攻擊、權力集中,以及虛假資訊。報告也指出,資訊與金融產業對此尤為脆弱;而最容易受到這些風險衝擊的個人與組織,往往缺乏足夠的應對能力。

閱讀更多
下指令叫 AI 公平篩選履歷表?無效!
大語言模型 研究

下指令叫 AI 公平篩選履歷表?無效!

過去,企業導入人工智慧篩選履歷卻引發歧視爭議的事件仍歷歷在目。如今,在生成式 AI 盛行的時代,企業無不希望藉由大語言模型(LLM)與自動化決策演算法,實現從海量履歷篩選到跨國資源配置的高效管理。然而,大型語言模型除了可能讓企業的決策趨向一致外,也可能創造出更多偏見。

閱讀更多
《AI 趨勢-蔡博探路》新一代 AI 的價格戰與可控性焦慮
AI觀測 趨勢

《AI 趨勢-蔡博探路》新一代 AI 的價格戰與可控性焦慮

中國開源模型追平頂尖梯隊 中國新創月之暗面(Moonshot AI)發布開源模型 Kimi K3,採用混合專家(MoE,多個子模型分工協作的架構)設計,性能刷新開源模型紀錄,定價遠低於同級產品,卻能與 Claude Fable 5、GPT-5.6 Sol 等頂尖模型並列同一梯隊。詳細技術報告尚未公布,實際表現有待後續驗證。

閱讀更多
【零售寒冬求生指南】小團隊也能做出高含金量的 AI 升級!
零售 觀點

【零售寒冬求生指南】小團隊也能做出高含金量的 AI 升級!

缺工和成本飆升,讓中小企業面臨嚴峻的生存戰。許多經營者急著引進新工具找生路,但公司的獲利模式和營運成本卻毫無起色。為什麼新工具無法幫你精準預測需求、管控庫存或制定價格?這場Cafe將與你分享,如何讓 AI 打入決策核心,成為帶動營收的關鍵武器!

閱讀更多