
根據團隊的說法,J.P. Morgan 私人銀行部門為投資研究團隊開發的「Ask David」AI Agent,已完成落地,能夠直接服務於財富管理顧問們。在 LangChain 的大會上,J.P. Morgan 的團隊介紹了他們是如何打造一個 AI Agent,讓人一窺全球頂尖的金融機構是如何實現AI落地的。
在台灣產業 AI 化的進程中,金融業速度相對較快。金管會於 2025 年 4 月針對台灣金融機構進行的調查顯示,已有 33% 的金融機構導入AI,其中銀行最高(87%),其次為壽險公司(67%)及產險公司(45%)。金融機構應用AI主要目的為提升作業效率(30%)、節省人力(18%)及優化客戶體驗(15%)。
依據調查結果,在導入 AI 的金融業者中,有 61 家導入了生成式 AI,應用領域以內部行政作業(39%)與智能客服(15%)最為普遍。例如國泰金控在 2024 年 9 月公開其生成式 AI 技術發展框架 GAIA,透過三部分 AI 基礎建設(知識庫、模型庫、護欄)作為架構,讓旗下子公司共同訓練 AI。
金融業走在產業 AI 化的前沿,是全球共同的現象。這與金融業數據多、流程標準化,以及法遵要求嚴格等因素都有關。全球金融服務巨頭,摩根大通(J.P. Morgan),就在今年 LangChain 主辦的 Interrupt Conference 上,他們打造內部 AI 工具「Ask David」的經驗。
J.P. Morgan 私人銀行部門為投資研究團隊開發的「Ask David」AI Agent,根據團隊的說法,已完成落地,能夠直接提供財富管理顧問們協助。在 LangChain 的大會上,J.P. Morgan 的團隊介紹如何打造 AI Agent,讓人一窺全球頂尖的金融機構是如何實現 AI 落地的。
AI 研究員上線:從人工回應到即時問答
J.P. Morgan 的投資研究團隊,每天要面對來自理專與內部銷售單位的大量問題。舉例來說:「某某基金為什麼最近被終止?」「這檔產品有沒有類似的替代標的?」「這個標的的報酬與風險分析是什麼?」
這些問題的答案,往往藏在多年的 Excel、PDF 報告、內部資料庫、甚至會議紀錄與音訊中。研究員必須一一翻找、整合,再寫成易讀的簡報與分析。
這樣的流程不僅難以擴張,更無法實現「第一線即答」。於是,他們決定打造一套可以真正用於日常工作的 AI 系統:Ask David。
這個名字不只是致敬產品經理本人,其實還是一個縮寫:「Ask David = Data Analytics, Visualization, Insights, and Decision-making assistant。」
技術架構:多 agent 分工合作,打造模組化知識大腦
Ask David 採用 LangGraph 打造,是一個典型的多 agent 系統。整體架構包含一個 Supervisor Agent,負責理解使用者問題與流程指派,並根據任務類型交由三個子 agent 處理:
- 結構化資料 agent:將自然語言轉成 SQL 或 API 請求,查詢內部資料庫。
- 非結構化資料 agent:透過向量資料庫+RAG 技術處理文件、錄音等檔案。
- 分析與視覺化 agent:調用內部模型與 API,產出績效分析、圖表與洞察報告。
整套系統還加入「角色識別」與「個人化回答」機制。例如,當一位盡職調查專員詢問「基金終止原因」,Agent 會給出完整的績效資料與研究評論;但若是客戶理專提問,系統會濃縮重點,用更簡明扼要的語言回覆。
在回答送出之前,系統還會透過 LLM Judge 模組進行反思檢查(reflection node),確保回答邏輯合理,必要時會自動重新生成,提升答案的準確度與穩定性。
從簡出發,再逐步擴展成模組化 AI 工具鏈
和多數成功的 AI 專案一樣,Ask David 並不是一開始就有完整架構,而是透過快速迭代逐步擴展的成果:
- 第一階段:使用最簡單的 React agent 實驗基礎功能。
- 第二階段:引入 RAG 檢索模組與資料庫接軌。
- 第三階段:導入 Supervisor agent 與多 agent 溝通機制。
- 第四階段:根據不同「意圖(Intent)」分流,發展出多個專屬 subgraph。
這樣的模組化設計,不僅提升了系統的可擴展性,也讓未來要新增如 ESG、保險商品等類別變得更加容易。
信任建構:評估與人類介入是關鍵
在金融產業中,準確性與信任感始終是第一優先,也是無可取代的基礎。
如同一般 GenAI 開發專案一樣,Ask David 開發的迭代速度非常快,但金融業在開發週期短的基礎上,必須拉長評估時間。J.P. Morgan 選擇以「Evaluation-Driven Development」為主軸,每次迭代都設計對應的測量指標。
他們的做法包括:
- 每個子 Agent 都有獨立評估指標。
- 使用者回饋與系統日誌都會餵進記憶模組。
- 部分指標可無需 Ground Truth,自動化完成。
- LLM Judge 搭配人類 SME 進行雙重驗證。
J.P. Morgan 開發團隊表示:「如果直接套用一個通用大模型,準確率可能不到 50%。」但透過 chunking 技術、RAG 與多階段評估,把準確率拉到 80%。剩下的 20% 就是靠人類審查。其中 LLM Judge 搭配人類專家(SME, Subject Matter Expert)雙重驗證就是一種做法。另外,J.P. Morgan 對高風險場景(如基金異動、監管變動)設計「人類介入點」,由真實研究員進行審核。
Ask David 的打開方式:實際流程展示
目前 Ask David 支援兩大子流程(subgraph):General QA Flow:處理通用型問題,例如「黃金報酬怎麼看?」;以及 Specific Fund Flow:處理特定產品的歷史與分析。
以財富管理顧問常遇到的「某基金為什麼被終止了?」問題為例,當使用者問:「Why was this fund terminated?」時,Ask David 的工作流程如下:
- Planning Node 解析問題意圖。
- Subgraph 分流:辨識是關於特定基金,導向 Specific Fund Flow。
- Doc Search Agent 查詢 MongoDB 中的歷史文件。
- Supervisor Agent 整理、個人化回答內容,執行 reflection check。
- 最終回答送出,並同步更新長期記憶資料庫。
J.P. Morgan 在開發 Ask David 時,重點並不是放在如何使用強化大語言模型的能力,而是專注於痛點,就是解決那些研究團隊每天重複處理的資訊問題,讓理財顧問在客戶面前,能即時做出資訊正確的回答。
我們會發現,最終能夠落地並產生影響力的 AI 應用,都必須回到了解痛點,再從痛點開始打造 agent 工具,才會帶來組織的變革。