過去，企業導入人工智慧篩選履歷卻引發歧視爭議的事件仍歷歷在目。如今，在生成式 AI 盛行的時代，企業無不希望藉由大語言模型（LLM）與自動化決策演算法，實現從海量履歷篩選到跨國資源配置的高效管理。然而，大型語言模型除了可能讓企業的決策趨向一致外，也可能創造出更多偏見。

過去，企業導入人工智慧篩選履歷卻引發歧視爭議的事件仍歷歷在目。如今，在生成式 AI 盛行的時代，企業無不希望藉由大語言模型（LLM）與自動化決策演算法，無論是海量履歷篩選或跨國資源配置都能實現快速高效的管理。然而，大型語言模型除了可能讓企業的決策趨向一致外（延伸閱讀：小心，AI的產出可能讓企業決策變得千篇一律），也可能創造出更多偏見。

今年七月於首爾ICML 2026會議上發表的一篇研究論文《Large Language Models Develop Novel Social Biases Through Adaptive Exploration》，讓 ChatGPT、Claude、Gemini 等多個主流 AI 模型參與了一場模擬招募遊戲。這項實驗改編自心理學界研究「刻板印象如何形成」的經典設計，目的是觀察 AI 在連續決策情境下，是否會像人類一樣，從經驗中「學會」偏見。

該研究指出，大型語言模型（LLMs）產生偏見的原因，已經不只是過去常見的「預訓練數據中存在人類固有的刻板印象」，而是會因為在連續決策任務中的「探索與利用（exploration-exploitation）」機制，自發性地產生全新的社會偏見。

遊戲設定是讓每個模型都被告知自己受聘擔任某個虛構城市的市長顧問，並被要求協助招募20個職位，包括醫生、律師、育兒助理和清潔工。候選人來自四個虛構的族群：圖法人、艾瑪人、雷庫人和韋基人。之所以刻意設計虛構族群，是為了排除 AI 對真實種族、性別既有刻板印象的干擾，單純觀察 AI「從經驗中學習」是否會自己衍生出偏見。

AI 比人類更會「以偏概全」

遊戲每輪開出一個新職缺，同時每個群體會有一位等待錄用。AI 選定人選後會立即得知這次錄用是否成功，接著進入下一輪，總共進行 40 輪。實驗的關鍵在於，所有候選人在所有工作上的成功機率完全相同，但 AI 並不知道這件事。若 AI 夠公平，結果應該會發現，每個族群的表現其實都差不多，並不會刻意將特定群體分派到特定工作。

舉例來說，若 AI 一開始時錄用一位艾瑪族的人擔任醫生，但其表現不理想，AI 接下來便會避免讓艾瑪族的人擔任醫生，轉而將他們分配去做清潔工。

讓 AI 變得強大的機制，卻導致偏見產生

研究團隊設計了「分層指數」(Stratification Index，簡稱 SI)這項指標，用以量化 AI 將不同族群「隔離」到特定工作類別的程度。指數越高，代表分類越嚴重、偏見越明顯。而數據顯示，越新、規模越大、推理能力越強的模型（如 GPT-4o 或 Claude 4 Sonnet），產生分配性偏見的情況反而比舊型號更嚴重，甚至遠超過人類自身的偏見程度。

問題在於，AI 在「探索」與「利用」之間明顯太快地放棄探索，直接鎖定某個「看起來有效」的選項。只要早期遇到幾次負面結果，AI 就會迅速對整個族群下定論，不願再花心力多方嘗試。

研究團隊也曾嘗試「直接要求 AI 公平一點」，結果發現這招幾乎無效，AI 要嘛無法把「公平」這個抽象價值真正落實到行動，要嘛這個目標會被「盡量做出最多成功錄用」這個更具體的任務目標整個蓋過去。

研究團隊解釋，越先進的模型擁有更強大的記憶力與推論力，是一個極度強大的「優化器（optimizer）」。這意味著它們會更快、更精準地鎖定那些「看似最佳」的選擇。

在數學運算或程式編寫等具備「明確真理」（英文原文是？）的領域中，這種強大的優化能力是巨大的優勢；然而，當應用於充滿不確定性與變動的社會決策時，過度優化反而變成一種「適應不良（maladaptive）」。強大的 AI 會因為過度限縮探索範圍，無意間邊緣化了其他社會群體，使不平等的決策變得更加根深蒂固。

哪種介入手段真的有效？把「多元」變成可量化的獎勵目標

團隊測試了以下三大類介入手段：

第一類：調整 AI 本身的設定，例如採用「思維鏈」(chain-of-thought）提示讓 AI 先想清楚再回答，或調高模型的隨機性（溫度參數）。結果效果有限，即使讓 AI「先想清楚再作答」，分層程度頂多略微下降，離人類的公平水準還差得遠；調高溫度參數的成效也不穩定，甚至完全無效。

第二類：改變任務環境的結構，例如調低工作的成功率、拿掉遊戲化的獎勵機制，或提供求職者更多背景資訊。研究團隊甚至將同一套邏輯套用到「加拿大難民安置」與「軍隊分發」等更貼近現實的情境進行測試，結果同樣觀察到高度的分層現象，證明這種偏見並非遊戲化獎勵機制造成的巧合，而是會在不同領域反覆出現的通病。有趣的是，當 AI 被告知求職者的年齡、教育程度等與能力相關的資訊時，偏見確實會下降；但若提供的是髮色、刺青形狀這類與能力毫無關係的資訊，AI 仍會退回去，單純以族群身分做判斷。

第三類：直接在提示詞裡明確要求 AI「以多元化為目標」，效果最好也最穩定。研究團隊測試了四種不同的提示方式：直接要求 AI 公平一點、強調 AI 內在應有的平等價值觀、描述城市裡「重視多元」的社會氛圍，以及明確把「錄用多元」寫進目標函數、當作可量化的獎勵項。
結果只有最後這一招，把多元變成具體可衡量的獎勵，才真正有效地讓幾乎所有 AI 模型的表現，降到比隨機分配、甚至比人類基準更公平的水準（即便如此，仍有模型未能完全擺脫偏見）。

這給了我們一個重要啟示，對 AI 說「請公平一點」這種抽象的價值觀宣示幾乎沒有用；AI 真正聽得進去的，是把「多元」轉化為具體、可量化、能與其他目標一起權衡的獎勵條件。

AI 挑選履歷，可能產生的風險

隨著愈來愈多企業開始用 AI 篩選履歷、甚至讓 AI 主導面試決策，這項發現格外令人不安。實驗中的 AI 能立即得知每次錄用是否成功，但現實世界裡，企業往往要等上一段時間，才能判斷一位新進員工究竟稱不稱職，甚至永遠沒有明確答案。這意味著，AI 很可能從稀少、零星、甚至充滿雜訊的真實回饋中，錯誤地歸納出「哪個群體比較適合做什麼工作」的結論，而且這種偏見完全可能是人類從未教過它、AI 自行「無中生有」出來的；更可怕的是，企業並沒有察覺到自己的人才召募的門檻竟然是由 AI 不明所以設下的。

研究團隊提醒，這項發現凸顯出目前 AI 評測方式的一個盲點：業界常用的偏見測試，大多是「問一題、答一題」的單次測驗，但 AI 真正被部署到現實世界時，往往是在一連串連續互動、不斷從回饋中學習調整的情境下運作。單次測驗表現再公平，不代表 AI 在長期、有記憶、能自主決策的情境下也同樣公平。這正是隨著 AI 逐漸走向「能記住對話歷史、能自主完成多步驟任務」的方向發展時，特別需要留意的風險。