2024-09-11 | 16:10 - 16:50
生成式AI銀行知識庫管理系統的RAG架構風險以及實作分析
生成式AI銀行知識庫管理系統的RAG架構風險及實作分析
一、引言
- 介紹生成式AI及RAG架構
- 國泰世華銀行的應用背景
二、銀行知識庫管理系統的需求
- 高效檢索
- 準確回答
- 合規性要求
三、RAG架構在銀行系統中的應用
- 數據檢索與生成答案
- 實例說明
四、風險分析
- 數據安全性
- 合規性問題
- 生成內容準確性
- 網絡安全風險
五、實作分析
- 技術步驟
- 性能測試
- 用戶反饋與改進
六、防禦措施
- 多層次提示詞護欄
- 代理人審核機制
七、結論
- RAG架構的價值
- 未來改進方向
聽眾收穫
- 技術洞察:理解RAG架構在銀行知識庫中的應用和技術實作。
- 風險認知:了解RAG架構的風險及應對策略。
- 實踐經驗:獲取國泰世華銀行的實際案例和防禦措施。
- 戰略見解:掌握推動生成式AI技術應用的策略。
- 行業趨勢:了解生成式AI在銀行業的最新應用和未來發展方向。
講者
劉岦崱(Nils)
國泰世華銀行
副理,資訊板塊生成式AI研發與部署小組組長
我是國泰世華銀行資訊及策略戰情科的AI小組組長Nils,專注於開源技術研究及學術機構合作,開發多款原型產品並推動AI產品部署。
講者職經歷簡介:
- 國泰世華銀行資測部戰情科 AI 小組組長
- 現為台大資工所在職碩士班碩士生
- 曾在德國留學並工作七年
- 曾為知名外商銀行儲備幹部