企業 AI 落地未必需要「大」模型,從小任務出發更務實

「如果藥師使用 AI Agent 協助作業時,病人拿著藥袋在旁等候,系統卻要跑上五、六分鐘才能得出結果,病人恐怕早已失去耐性。」李立國指出,在食衣住行育樂等各類實務應用上,企業內部普遍採取混合式(hybrid)架構因應此類需求。

提到AI應用,多數企業常陷入一個迷思,是否模型越大,AI導入越容易成功?對此,台灣智慧雲端策略長李立國提醒,企業如果想要訓練一個大模型,得要有夠大的投資規模。因此,他建議,企業也可以從營運過程中的諸多「小任務」出發,由於這些小任務多半與員工現場的具體問題相關,在模型規模與地端GPU算力要求不高。且這些小小的AI導入成功案例,也能有助於企業計算ROI。

從特定用途出發,打造專屬藥事Agent

李立國以台智雲與醫療業合作的「藥事 Agent」專案為例說明。這套系統採用複雜的多代理人協作架構(Multi-Agent),透過AI技術輔助藥師與醫師在第一線把關用藥安全。目前已可運行於高通的 Notebook 裝置上。

「藥事Agent」主要融入28項臨床用藥常規,並結合衛福部藥品仿單及實際醫院用藥習慣開發而成。系統核心功能包含三大環節:首先是多重處方掃描,使用者可直接上傳仿單或處方箋,系統支援一次掃描多張處方箋並自動辨識內容;其次是用藥安全與交叉作用分析,AI會結合患者個人檔案,自動分析多重用藥間的交互作用風險,並提出劑量、用法建議,甚至評估個別藥物是否該持續服用;最後系統會產出完整用藥評估報告或重點摘要,供藥師、醫師快速審查。

值得關注的是,「藥事Agent」底層並非仰賴單一巨大AI模組,而是採用複數Agent(Multi-Agent)協同架構,藉此提升處理專業任務時的精準度。其中,OCR Agent負責最前端的處方箋掃描與辨識;RAG Agent專責檢索、處理衛福部官方藥品仿單的龐大資料庫;用藥框架Agent則負責將用藥資訊對標各家醫院的用藥習慣與規範;報告Agent最終彙整臨床分析,生成專業報告或摘要。這樣的分工設計,讓系統得以在不同任務環節維持高度專業性與正確性。

李立國說明,在連鎖藥局場域,系統可以直接以AI PC或Notebook部署,供藥師獨立使用;而在資源相對集中的偏鄉衛生所與衛生局,則部署小型AI工作站(ARS station),以地端推論平台同時服務120個使用者。

他解釋,從神經處理單元(NPU)到中央處理器(CPU)之間的記憶體頻寬表現,是評估終端裝置效能的重要指標。尤其在 Agent 架構中存在大量輸入輸出傳輸需求,記憶體頻寬的優劣將直接影響系統反應速度。

「如果藥師使用 AI Agent 協助作業時,病人拿著藥袋在旁等候,系統卻要跑上五、六分鐘才能得出結果,病人恐怕早已失去耐性。」李立國指出,在食衣住行育樂等各類實務應用上,企業內部普遍採取混合式(hybrid)架構因應此類需求。

相較應用部署,企業更在意的「成本效益」

李立國表示,市場上雖有大量雲端運算的討論,但企業實務上更關注「落地」部署,核心考量仍是成本效益。他舉例說明,個人若作為 AI 中度使用者,每月透過雲端服務生成內容、撰寫提案等,花費三十、五十美元屬合理範圍;然而放大到企業層級,若每位員工每月皆產生類似規模的雲端支出,成本壓力將完全是另一個量級。

相較之下,由於可落地部署的模型能力已日趨成熟,以 Llama 4 為例,處理操作技術相關場域任務已綽綽有餘。因此,李立國認為,決定成效的關鍵往往不在模型規模本身,而在於 Agent 的設計邏輯與工作流程控制。

市場逐漸重視「專屬模型」訓練

李立國指出,AI 模型與 Agentic AI 應用可依場域延伸為通用型與任務型兩類,藥事 Agent 即屬任務型應用;而一般所稱的數位助理或通用型 Agent,則歸類為通用型應用。在通用型應用方面,台智雲推出產品「AI Assistant」,其核心優勢在於內建多種「skill」,可協助使用者撰寫報告、進行分析等工作,企業亦可依自身場景自訂專屬 skill。

他表示,市場對「專屬模型」訓練的重視程度正逐漸提升。他觀察,模型訓練已從傳統的大量知識灌輸,逐漸走向所謂的「任務型」訓練。他指出,在食衣住行等場域中,基於任務型、於作業環境裡,透過設計 Agent 的工作流程,再搭配簡單的 RAG,確實能達到不錯的效果。他認為,除了模型能力本身,Prompt 工程與上下文(Context)工程同樣扮演重要角色。