【書籍資訊】
讓 AI 好好說話！從頭打造 LLM (大型語言模型) 實戰秘笈
ISBN13：9789863128236
替代書名：Build a Large Language Model (From Scratch)
出版社：旗標出版社
作者：Sebastian Raschka-作; 施威銘研究室-編譯
出版日：2025/01/21
裝訂／頁數：平裝／352頁
規格：23cm*17cm*2.3cm (高/寬/厚)
重量：776克

【內容】
用自己的電腦也能從零開始建構 LLM 模型！

LLM 的參數真的非常多~ 動輒就數千億個參數，一般家用電腦是跑不動的；再加上 LLM 模型架構、注意力機制的運作都非常複雜，要深入理解也有不小的門檻。

★ 機器學習專家 Sebastian Raschka 特別規劃了一整套的教練式教學，透過較小型的資料集，讓您能在一般電腦上跟著步驟實作，並逐步理解大型語言模型的架構與技術！
- 本書涵蓋了建構 LLM 的完整過程，包括處理資料集、實作模型架構、注意力機制、使用無標籤的資料進行預訓練，以及針對特定任務的微調技術 (分類任務微調與指令微調)。
- 書中每一步驟都有清楚的文字、圖解和程式範例，帶著你從零開始撰寫一個基礎模型，並將其進化為文本分類工具，最終創建一個能夠理解並回應對話指令的聊天機器人。

★ 經驗豐富的開發者與初學者，都可以學習到如何一步步建構一個 GPT，掌握創建 LLM 所需的基本概念與實作技巧！
- 如果是具備基礎機器學習知識、中階 Python 技能的讀者，作者提供了許多額外資源，包含完整程式碼範例 (GitHub 儲存庫)、參考文獻與延伸閱讀 (像是如何應用更大規模的模型參數)、優化訓練迴圈與進階的 LoRA 微調方法，讓您可以再進一步深入學習，持續往專家邁進！
- 對於初學者來說，作者在附錄中有提供 PyTorch 基礎知識與安裝解說，而小編則在內文中適當添加註解，幫助讀者能更好地理解內容。另外，旗標更準備了 Colab 線上資源，讓您理論、實作都能暢通無阻。就算是程式語言小白，初入門也能無痛學習、打好 LLM 的基礎~

一起提前起跑，搶佔 LLM 理論知識與 GPT 模型實作的先機，為自己投資一個無限的未來！
本書特色:
「親手實現LLM，就能破解AI落地應用的層層關卡！」——溫怡玲｜人工智慧科技基金會 執行長

【目錄】
▌第 1 章 理解大型語言模型
1.1 什麼是 LLM？
1.2 LLM 的應用
1.3 建構與使用 LLM
1.4 Transformer 架構介紹
1.5 大型資料集的運用
1.6 深入探討 GPT 架構
1.7 建構大型語言模型 (LLM)
1.8 重點回饋

▌第 2 章 處理文本資料
2.1 詞嵌入 (Word Embedding，或稱詞向量)
2.2 文本斷詞 (Tokenize)
2.3 將 token 轉換為 token ID
2.4 添加特殊 token
2.5 字節對編碼 (Byte Pair Encoding, BPE)
2.6 使用滑動視窗法 (Sliding Window) 進行資料取樣
2.7 創建 token 嵌入 (Embedding)
2.8 位置資訊的編碼
2.9 重點回顧

▌第 3 章 實作注意力機制
3.1 長序列建模的問題
3.2 使用注意力機制捕捉資料依賴關係
3.3 利用自注意力機制，關注輸入序列中的不同位置
3.4 使用「可訓練權重」實作自注意力機制
3.5 使用因果注意力遮蔽未來的字詞
3.6 將單頭注意力擴展至多頭注意力
3.7 重點回顧

▌第 4 章 從零實作 GPT 模型以生成文本
4.1 撰寫 LLM 架構
4.2 將輸出進行層歸一化
4.3 實作具有 GELU 激活函數的前饋神經網路
4.4 增加捷徑連接 (Shortcut Connection)
4.5 在 Transformer 模組中連結注意力與線性層
4.6 撰寫 GPT 模型
4.7 生成文本
4.8 重點回顧

▌第 5 章 使用無標籤的資料集進行預訓練
5.1 評估文本生成品質
5.2 訓練 LLM
5.3 運用文本生成策略 (解碼策略) 來控制隨機性
5.4 在 PyTorch 中載入和儲存模型權重
5.5 從 OpenAI 載入預訓練權重
5.6 重點回顧

▌第 6 章 分類任務微調
6.1 常見的 2 種微調類型
6.2 準備資料集
6.3 建立資料載入器
6.4 使用預訓練權重初始化模型
6.5 將輸出層更換為分類輸出層
6.6 計算分類損失與準確率
6.7 使用監督資料 (Supervised Data) 來微調模型
- 6.7.1 微調模型的訓練函式
- 6.7.2 啟動訓練
- 6.7.3 透過繪製損失函數，判斷模型學習效果
- 6.7.4 計算模型分類任務的準確度
6.8 使用 LLM 做為垃圾訊息分類器
6.9 重點回顧

▌第 7 章 指令微調
7.1 指令微調概述
7.2 準備監督式指令微調的資料集
- 7.2.1 下載資料集
- 7.2.2 將資料集套用提示詞格式
- 7.2.3 分割資料集
7.3 將資料分成多個訓練批次
- 7.3.1 斷詞處理
- 7.3.2 允許不同批次擁有不同序列長度的 collate 函式
- 7.3.3 創建能讓模型學習預測的目標 token ID
- 7.3.4 將填充 token 指定為一個特殊值
7.4 為指令資料集建立資料載入器
7.5 載入預訓練的 LLM
7.6 使用指令資料集來微調 LLM
7.7 取得模型生成的回應
7.8 評估微調後的 LLM
7.9 總結
7.10 重點回顧

【附錄電子書】
▌附錄 A PyTorch 簡介
A.1 什麼是 PyTorch？
A.2 張量簡介
A.3 以運算圖 (Computation Graph) 來理解模型
A.4 自動微分功能簡介
A.5 實作多層神經網路
A.6 建立高效的資料載入器
A.7 典型的訓練迴圈
A.8 儲存與載入模型
A.9 使用 GPU 優化訓練效能
A.10 重點回顧

▌附錄 B 參考文獻與延伸閱讀

▌附錄 C 練習題解答

▌附錄 D 優化訓練迴圈的方法
D.1 預熱學習率 (Learning Rate Warmup)
D.2 餘弦衰減 (Cosine Decay)
D.3 梯度分割 (Gradient Clipping)
D.4 修改後的訓練函式

▌附錄 E 使用 LoRA 進行參數高效微調 (Parameter-Efficient Fine-tuning)
E.1 LoRA 簡介
E.2 準備資料集
E.3 初始化模型
E.4 使用 LoRA 進行參數高效微調