AI 導入有「灰色地帶」,企業隱藏風險如何解決?

AI 工具雖然提升工作效率,但從另一面來看,同時也產生了新的依賴性與集中風險。企業若將關鍵決策或生產流程過度倚賴特定模型或API供應者,當工具停擺、演算法更新,甚至供應商政策變動時,將造成整體業務中斷的連鎖效應。

沒有電,我們的生活幾乎完全停擺;網路斷了,很多人會覺得焦躁心神不寧。前陣子某個上午 ChatGPT 當機,聽說有不少人也因為已經習慣大腦外包,沒辦法用二、三年前的方式工作。

這短時間的「失能」,表面看來只是工具的中斷,有人認為只要 OpenAI 修好就沒事了。但實際上,這凸顯了不少使用者在短時間內已養成對 AI 的高度依賴,也點出企業在應用過程常被忽略的斷裂:生成式 AI 已在工作現場大量使用,但企業組織卻尚未正式接納與規範管理。

當中的風險來自於:一、員工自行借生成式 AI 之力提高效率,但究竟如何使用、上傳哪些數據都不得而知;其次則是企業尚未將其納入正式營運架構。因此這種「表面未導入、實際已大量使用」的灰色地帶,會如何影響員工職能與績效考評?對於組織會造成哪些影響?

這些,都是組織管理與風險控管此刻必須認真面對的問題。

解法一:從策略高度整合風險治理

由於AI導入牽涉企業轉型方向、大量資本投資以及作業流程重整,不少企業仍然停留在評估是否投資 AI 工具、思索導入時機,但工作者早已在簡報撰寫、信件草擬、數據彙整等工作中,自行使用 ChatGPT 或 Copilot 等方便自行上手的 AI 工具。因此,企業無從掌握 AI 對營運產生的實際影響,也無從監控輸出內容的正確性與合法性;或者,根本不認為這是值得關注的問題。

然而,當 AI成為「非正式」但「實質」的作業依據,企業已經開始面對資料洩漏、錯誤決策、內部知識錯誤等挑戰,而且並不自知。企業若持續將 AI 視為員工可自由選擇的工具,而非必須列入日常管理的工作機制,將難以建立一致性的作業標準與風險管控。

因此,無論是否已經系統化導入 AI,企業經營層都必須正視 AI 工具對於企業治理與風險管理的可能影響,特別是能夠透過 AI 生成的內容,不分部門與功能,都應該進行審視,深入了解員工如何與 AI 協作。這不只是防弊,還可以藉此發現組織導入 AI 的可能應用。

解法二:重新定義人才資源管理的結構

既然 AI 工具改變工作執行的流程,進而當然會挑戰既有的人才結構與工作表現評核指標。以往強調的經驗、手作能力或知識記憶力,在 AI 的輔助下漸被取代或邊緣化,取而代之的是問題定義、成果評估與決策驗證的能力。如果企業仍然用過去的能力模型與績效指標來管理員工,將錯失重新配置與發掘潛力人才的契機。

這個問題可以分成不同層次,首先,AI 導入可能加劇內部的能力落差。懂得運用 AI 的員工效率倍增,不懂者則可能對科技更加畏懼退縮,反而成為企業轉型的障礙。因此,企業需設計全體員工的 AI 素養提升計畫,並將「AI 使用能力」制度化納入職能地圖,否則將在不知不覺中產生內部知識斷層與數位壓力。

第二個需要關注的問題是,當 AI 協作改變現有的工作時間與流程之後,企業要如何評估員工貢獻?舉個簡單的例子,以內容撰寫為主要工作內容的行業,如記者、企劃、研究人員等,過去經常以「篇數」做為績效考核的依據。但在員工自行使用 AI 工具之後,類似篇數這種表面的數字,顯然已經失去評比意義與價值。那麼,應該改用什麼指標才合理且公平,還能夠留住優質員工?對於很多企業人資部門來說,是迫在眉梢的考驗。

解法三:從企業韌性及 AI 可信度著手進行部署

AI 工具雖然提升工作效率,但從另一面來看,同時也產生了新的依賴性與集中風險。企業若將關鍵決策或生產流程過度倚賴特定模型或 API 供應者,當工具停擺、演算法更新,甚至供應商政策變動時,將造成整體業務中斷的連鎖效應。這樣的風險,在過去較少被納入企業風險管理架構,卻已成今日不能忽視的營運韌性挑戰。

AI 熱潮襲捲全球二、三年,大部份企業關注重點往往還停留在技術落地層面。但 AI 和過去的軟體系統不同,將改變企業的整體執行環境,也直接牽動企業的品牌與可信度。因此從持續穩定、模型治理、資料治理、人力備援、法律規範、等各種面向,都必須建立應變機制。其中包括 AI 治理政策、定期備援機制、以及關鍵任務的人機協作機制,都應該在 AI 落地時就同步納入考慮,才能將隱性、無法預測的風險降到最低。

大家都知道,如今 AI 能力雖看起來強大,但仍在起步階段,隨著應用功能、範圍愈來愈多,造成的影響自然隨之深化擴散。因此,企業必須跳脫 AI 只是「工具導入」的想法,只要交給資訊部門規畫執行就足夠。而應將其視為組織策略、特別是變革管理的重要關鍵,提早開始模擬評估對制度、人才與營運的整體影響,並擬定因應對策。

AI 是機會,也是挑戰,更是已經來到的未來。過去的組織結構、職能和流程,勢必在這波浪潮中進行重塑。如同童話故事所說的「紅皇后領地」一樣,學會 AI 應用只是跟別人跑得一樣快,想超越,勢必有更完整的策略佈局。