2024-09-11 | 16:10 - 16:50

生成式AI銀行知識庫管理系統的RAG架構風險以及實作分析

生成式AI銀行知識庫管理系統的RAG架構風險及實作分析

一、引言

  • 介紹生成式AI及RAG架構
  • 國泰世華銀行的應用背景

二、銀行知識庫管理系統的需求

  • 高效檢索
  • 準確回答
  • 合規性要求

三、RAG架構在銀行系統中的應用

  • 數據檢索與生成答案
  • 實例說明

四、風險分析

  • 數據安全性
  • 合規性問題
  • 生成內容準確性
  • 網絡安全風險

五、實作分析

  • 技術步驟
  • 性能測試
  • 用戶反饋與改進

六、防禦措施

  • 多層次提示詞護欄
  • 代理人審核機制

七、結論

  • RAG架構的價值
  • 未來改進方向
聽眾收穫
  1. 技術洞察:理解RAG架構在銀行知識庫中的應用和技術實作。
  2. 風險認知了解RAG架構的風險及應對策略。
  3. 實踐經驗:獲取國泰世華銀行的實際案例和防禦措施。
  4. 戰略見解:掌握推動生成式AI技術應用的策略。
  5. 行業趨勢:了解生成式AI在銀行業的最新應用和未來發展方向。
講者

劉岦崱(Nils)

國泰世華銀行
副理,資訊板塊生成式AI研發與部署小組組長

我是國泰世華銀行資訊及策略戰情科的AI小組組長Nils,專注於開源技術研究及學術機構合作,開發多款原型產品並推動AI產品部署。

講者職經歷簡介:

  • 國泰世華銀行資測部戰情科 AI 小組組長
  • 現為台大資工所在職碩士班碩士生
  • 曾在德國留學並工作七年
  • 曾為知名外商銀行儲備幹部