2024-09-12 | 13:30 - 15:00

使用 LangServe 快速部署 AI

LangServe 是 LangChain 生態系中強大的 web 框架,開發者只要簡單使用「add_routes」,就可以把開發好的 Chain 整合到 LangServe 裡,並且能快速部署成一個 web API,甚至還有一個 playground 可以測試。

本次工作坊會一步步帶大家學習與使用 LangChain 和 LangServe ,快速打造 Generative AI 的 web API,讓開發者可以理解 LangServe 的強大優勢。

課程目標

本次工作坊會帶大家搭建 LangChain 的 Chain,並且把該 Chain 使用 LangServe 部署成 web API ,會學到的觀念如下:

  • LangChain 的基本概念
  • 向量資料庫與 RAG 的原理
  • LangServe 的基本概念與部署
學員自備裝置

此工作坊需自備筆記型電腦

學員基礎能力需求

建議此工作坊的參加者,要有 Python 的基礎,並且已經有 Python 虛擬環境的概念,否則可能連一開始的開發環境都搭建不起來。

課前準備

建議先行自行安裝 Python 的 Poetry 套件管理工具。

安裝連結:https://python-poetry.org/docs/#installing-with-the-official-installer

講者

柯克(Ko Ko)

大魔術熊貓工程師
軟體工程師

Ko Ko 連續當選多年微軟 AI 領域的最有價值專家(Microsoft AI MVP),曾任職於財星 500 強企業、美國矽谷科技新創、澳洲雪梨科技新創、美國上市公司等企業,擅長於 AI 技術與軟體開發。他也是大型技術年會的知名講者,包含了 ModernWeb、. NET Conference、PyCon APAC、PyCon HK、DevDays Asia 等等的國際大型年會,累計已超過萬名聽眾。他是技術社群 Chatbot Developers Taiwan 的核心成員,在社群裡也分享過許多自然語言處理和聊天機器人相關的實戰和心得。他熱愛向大眾分享他的經驗與所學,並且相信這樣分享的過程中能讓彼此都更進步。經營粉絲專頁「大魔術熊貓工程師」。