雲端智慧 QA 機器人：LLM + RAG 全程實戰

雲端智慧 QA 機器人：LLM + RAG 全程實戰

本課程將從零開始，利用大型語言模型 (LLM) 與檢索增強生成 (RAG) 打造一個回答專業知識問題的智慧 QA 機器人，並將其部署到雲端。課程涵蓋環境設置、資料處理、RAG 實作、功能優化到雲端部署的全流程，結合理論與動手實作，讓您快速上手。我們將使用 Python、LangChain、RAGAS 等工具，逐步將您的專業資料（例如 PDF 文件）轉化為智能問答系統。無論是想提升技術能力、開發企業應用，還是探索 AI 最新趨勢，這門課將帶領學員從概念到實務，完成一個可展示的雲端 QA 專案。最後一堂課，學員將親自展示成果，與同學交流並獲得反饋。無需深厚經驗，只要有基礎 Python 知識，就可以動手打造自己的 QA 機器人！

課程大綱

- 理解大型語言模型（LLM）與檢索增強生成（RAG）的基礎知識。
- 構建一個 QA 聊天機器人，利用 LLM 與 RAG 基於專業知識庫回答問題。
- 將 QA 聊天機器人部署到雲端伺服器（例如 AWS），作為一個功能性的 API 服務。
- 開發評估機制，評估聊天機器人的性能並優化其回答。
- 通過最終展示一個運行的 QA 聊天機器人，獲得實操經驗。

Day 1: 環境設置、LLM、RAG 架構
Day 2: RAG 實作
Day 3: 容器化與雲端部署
Day 4: 評估與調教
Day 5: 成果發表

註0：更新於 2025-03-17。
註1：課程內容將根據當時上課狀況會有適當調整，詳見課程網頁。

適合對象

具備基礎程式語言能力者，熟悉 Python 者佳。

開發環境

Google Colab

實體課程注意事項

本班為實體課程，常見QA詳情連結

校園防疫措施詳情連結

公務員全程參與課程學習後可於課程結束後申請登錄公務人員學習時數

課程影片觀看期限至課程結束後一週關閉

(一)退費期限：開課日後⅓時數內，詳情連結

(二)查詢結業狀況：結業名單連結

近期班次

講師介紹

盧政良

(一) 經歷

臺灣大學資訊工程學系資訊系統訓練班講師
中國信託商業銀行全球金融商品交易處期貨自營部計畫研究員
臺灣大學腦與心智科學研究所兼任研究助理
臺灣大學資訊工程學系研究助理與課程助教 (計算理論、離散數學、財務演算法)

(二) 學歷

臺灣大學資訊工程研究所博士 (主修財務工程)
交通大學電信工程研究所碩士 (主修電磁波)
中央大學電機工程學系學士

(三) 研究興趣 & 專長

- Financial Engineeering, Quantitative Finance, and Algorithmic Trading
- Algorithms, Computing Theory, and Programming Languages
- Data Science and Business Intelligence using AI Techniques
- System Administration (Linux) and High Performance Computing

(四) 教學特色

1. 中文授課，課程教材以英文為主，適合規劃出國求學或對科學技術有興趣的學員。
2. 2014 年始服務於本班，累計授課時數至 2025 年 7 月 11 日為 13010 小時。