認識LLM與使用Python實作GPT應用

認識LLM與使用Python實作GPT應用

至從2022年OpenAI推出ChatGPT以來，以 Larger language model (LLM)的技術為核心，發展出了許多的應用以及服務。有別於提供給終端用戶的使用者介面(ChapGPT)，OpenAI開放了API，讓許多公司與廠商可以親手打造B2C與B2B的客製化服務。 這堂課中，前兩門為前置課程，後兩門為核心課程，總共有四個主題：
1.Python
2.Neural Network
3.Larger language model
4.OpenAI GPT
除了概念與知識上的學習，另外會提供實作，讓同學們對於所學的知識能增加熟悉度。在第三堂課程中，會讓學員嘗試做簡易的GPT服務，並在第四個主題的課程中，會分享一些GPT的應用案例。

課程大綱

1.Python：
這堂課會先學習Python基本的資料操作、If-else與迴圈的使用，以及如何定義一個函式，最後搭配一個實作讓同學熟悉Python這套程式語言。

2.Neural Network：
當代最熱門的AI技術 - Neural Network，在這裡我們會學習NN的基本知識，包括訓練與預測方法，了解完基本知識後，將學習使用AI建模的主流工具-Pytorch，實作一個NN模型。

3.LLM：
認識LLM主流的模塊 - Transofmer ，並了解一些使用LLM會遇到的挑戰，以及可改進的技巧。最後，學習使用GPT的熱門套件，實作一個簡易的GPT服務。

4.OpenAI GPT 案例介紹與實作：
在最後一個主題的課程裡，我們會分享一些GPT的應用案例，像是多智能體的應用。我們也會嘗試用OpenAI GPT API與提示(prompting)，實作一個簡單的語言機器人服務。

適合對象

1. 對GPT的服務開發有興趣的學生或者跨域人士
2. 未來想做 prompting engineer 的人

開發環境

1.Google Colab
2.Jupyter notebook
3.Python3

實體課程注意事項

本班為實體課程，常見QA詳情連結

校園防疫措施詳情連結

公務員全程參與課程學習後可於課程結束後申請登錄公務人員學習時數

課程影片觀看期限至課程結束後一週關閉

(一)退費期限：開課日後⅓時數內，詳情連結

(二)查詢結業狀況：結業名單連結

近期班次

講師介紹

李逸帆

(一) 學歷

國立陽明交通大學 資訊學院資訊學程 碩士班 

(二) 領域專長

  1. 強化學習之機器手臂控制
  2. 深度學習影像辨識
  3. 多智能體研究

(三) 經歷

  1. 碁仕科技 AI 資深工程師
  2. 宣捷科技 全端工程師

(四) 競賽  

台灣人工智慧協會 LLM 實作小組第三名

專題名稱：LLM-based DIY PC Advisor System

(五) 專長  

Python、Pytorch、LangChain

(六) 教學經驗  

中央大學 AI通識課程講師

(七) Conference Paper

Taiwanese Association for Artificial Intelligence 2024: Dynamically Searching and Classifying Images by Using Neural Networks and Reinforcement Learning with the Grid Table (Oral paper) 

常見問答