雲端智慧 QA 機器人:LLM + RAG 全程實戰

雲端智慧 QA 機器人:LLM + RAG 全程實戰

本課程將從零開始,利用大型語言模型 (LLM) 與檢索增強生成 (RAG) 打造一個回答專業知識問題的智慧 QA 機器人,並將其部署到雲端。課程涵蓋環境設置、資料處理、RAG 實作、功能優化到雲端部署的全流程,結合理論與動手實作,讓您快速上手。我們將使用 Python、LangChain、RAGAS 等工具,逐步將您的專業資料(例如 PDF 文件)轉化為智能問答系統。無論是想提升技術能力、開發企業應用,還是探索 AI 最新趨勢,這門課將帶領學員從概念到實務,完成一個可展示的雲端 QA 專案。最後一堂課,學員將親自展示成果,與同學交流並獲得反饋。無需深厚經驗,只要有基礎 Python 知識,就可以動手打造自己的 QA 機器人!

課程大綱

- 理解大型語言模型(LLM)與檢索增強生成(RAG)的基礎知識。
- 構建一個 QA 聊天機器人,利用 LLM 與 RAG 基於專業知識庫回答問題。
- 將 QA 聊天機器人部署到雲端伺服器(例如 AWS),作為一個功能性的 API 服務。
- 開發評估機制,評估聊天機器人的性能並優化其回答。
- 通過最終展示一個運行的 QA 聊天機器人,獲得實操經驗。

Day 1: 環境設置、LLM、RAG 架構
Day 2: RAG 實作
Day 3: 容器化與雲端部署
Day 4: 評估與調教
Day 5: 成果發表

適合對象

具備基礎程式語言能力者,熟悉 Python 者佳。

開發環境

Google Colab

實體課程注意事項

本班為實體課程,常見QA詳情連結

校園防疫措施詳情連結

公務員全程參與課程學習後可於課程結束後申請登錄公務人員學習時數

課程影片觀看期限至課程結束後一週關閉

(一)退費期限:開課日後⅓時數內,詳情連結

(二)查詢結業狀況:結業名單連結

近期班次

  • 第438期 招生中

    課程類別:一四夜間專題班

    開課日期:2025.04.14 ~ 2025.04.28

    上課時間:

    週 (一)(四) 7:00 PM ~ 9:00 PM

    學費:新生新台幣4500元整

    注意事項:

    需自備筆電

  • 講師介紹

    (一) 經驗

    臺灣大學 腦與心智科學研究所 兼任研究助理 (2014.8--present)
    臺灣大學 資訊工程學系 資訊系統訓練班 講師 (2014.1--present)
    中國信託商業銀行 全球金融商品交易處 期貨自營部 實習研究員 (2014.1--2023.9)
    臺灣大學 資訊工程學系 課程助教:計算理論、離散數學、財務演算法 (2012.9--2024.7)

    (二) 學歷

    臺灣大學資訊工程研究所 博士
    交通大學電信工程研究所 碩士
    中央大學電機工程學系 學士

    (三) 研究興趣 / 專長

    Financial Engineeering, Quantitative Finance, and Algorithmic Trading
    Analysis & Design of Algorithms
    Statistics, Data Science, Machine Learning / Deep Learning
    Computing Theory and Programming Languages
    System Design & Administration and High Performance Computing

    (四) 教學特色

    中文授課,課程教材以英文為主。適合規劃出國求學或對科學 / 技術理論有興趣的學員。
    2014 年至本班教學,累計授課時數至 2024 年 8 月 12 日為 11850 小時。