大型語言模型應用實戰:從Prompt Engineering到Agentic RAG與MCP
活動訊息
內容簡介
https://www.youtube.com/watch?v=WLx8W-N52Ug
本書強調動手實作,帶領讀者從開發到落地,完整掌握LLM系統的工程方法。
★從基礎到進階,一條完整的LLM開發學習路線
★給開發者的LLM實戰書,從第一個Prompt到可擴充的Agent系統
★一次掌握 Prompt、RAG、Tools、Agent與MCP,建立屬於你的大型語言模型應用版圖
本書改編自作者於TibaMe與工研院開設、深受好評的大型語言模型(LLM)實務課程。
大型語言模型(LLM)已不只是聊天工具,而是正在重塑軟體架構、資料存取與人機互動方式的關鍵技術。本書以「實際應用開發」為核心,從基礎概念出發,逐步帶領讀者完成可實際運作、可部署、可延伸的LLM系統。
你將學會:
•整合雲端與本地端模型,建立彈性又可控的LLM架構
•設計穩定、可預期的Prompt與對話流程,大幅降低模型失控風險
•快速打造對話機器人、遊戲NPC、SQL助手與法規諮詢系統
•從零開始建構完整RAG系統(Embedding、Chunk、Vector DB、Re-Ranker)
•讓模型學會「使用工具」,實作Tools與Function Calling
•導入MCP(Model Context Protocol),打造可組合、可擴展的AI系統
•進階掌握LCEL、Memory、結構化輸出與Agentic RAG等關鍵技術
本書強調動手實作,帶領讀者從開發到落地,完整掌握LLM系統的工程方法。
★從基礎到進階,一條完整的LLM開發學習路線
★給開發者的LLM實戰書,從第一個Prompt到可擴充的Agent系統
★一次掌握 Prompt、RAG、Tools、Agent與MCP,建立屬於你的大型語言模型應用版圖
本書改編自作者於TibaMe與工研院開設、深受好評的大型語言模型(LLM)實務課程。
大型語言模型(LLM)已不只是聊天工具,而是正在重塑軟體架構、資料存取與人機互動方式的關鍵技術。本書以「實際應用開發」為核心,從基礎概念出發,逐步帶領讀者完成可實際運作、可部署、可延伸的LLM系統。
你將學會:
•整合雲端與本地端模型,建立彈性又可控的LLM架構
•設計穩定、可預期的Prompt與對話流程,大幅降低模型失控風險
•快速打造對話機器人、遊戲NPC、SQL助手與法規諮詢系統
•從零開始建構完整RAG系統(Embedding、Chunk、Vector DB、Re-Ranker)
•讓模型學會「使用工具」,實作Tools與Function Calling
•導入MCP(Model Context Protocol),打造可組合、可擴展的AI系統
•進階掌握LCEL、Memory、結構化輸出與Agentic RAG等關鍵技術
目錄
▌第1章 大語言模型基礎
1.1 大語言模型簡介
1.2 LangChain 簡介
1.3 雲端模型Google Gemini 的API 串接
使用LangChain 控制Gemini
1.4 本地端模型部屬平台
GGUF格式在LLM 推理上的優勢
支援GGUF 格式的部屬平台
Ollama 與LM Studio 的模型API 串接
1.5 結語
▌第2章 提示詞工程的應用
2.1 提示詞工程簡介
2.2 對話訊息列表
2.3 翻譯系統(範例)
2.4 人資履歷篩選系統(範例)
設計SystemMessage 與User Prompt
限制輸出格式為JSON
封裝成 Python 函數
2.5 社群留言情緒分析(範例)
IMDB電影評論資料集介紹
使用LLM 進行情緒分析
單筆資料測試
批次測試與正確率評估
分析結果
2.6 結語
▌第3章 對話機器人
3.1 對話機器人簡介
3.2 對話機器人原理
初步實驗:單輪對話的行為觀察
對話訊息列表(Chat Message List)
對話記憶的關鍵:把回應放回去
多輪對話的形成
3.3 對話機器人實作
功能測試:確認是否能多輪對話
對話交談介面
3.4 串流式對話機器人
串流式呼叫LLM
串流式對話機器人
串流功能測試
串流式 Gradio 對話介面
系統提示詞與應用延伸
3.5 遊戲NPC(範例)
為何選擇「城門守衛」作為範例?
System Prompt 的設計說明
完整的 System Prompt 範例
實際互動效果與觀察
小結
3.6 SQL 指令對話機器人(範例)
把Schema 放進System Prompt
建立範例資料庫情境(商店銷售資料)
SQL 指令對話機器人的System Prompt
測試SQL 指令生成效果
小結
3.7 勞動基準法諮詢對話機器人(範例)
設計思路:法規型對話機器人
系統提示詞(System Prompt)設計:
諮詢範例測試
調整回應風格:口語版 System Prompt
同一問題,不同風格的效果
小結
3.8 結語
▌第4章 RAG
4.1 簡介
4.2 文字嵌入模型
Hugging Face 的文字嵌入模型
向量相似度
LM-Studio 的文字嵌入模型
4.3 向量資料庫
向量資料庫與近似搜尋(ANN)
向量資料庫的主要類型
使用InMemoryVectorStore 示範向量資料庫操作
小結
4.4 文件載入
Document 物件
Document Loader 的基本使用模式
小結
4.5 文本分段
TextSplitter
CharacterTextSplitter(最基本的字元分段)
RecursiveCharacterTextSplitter
對Document 進行分段
MarkdownHeaderTextSplitter(Markdown 文件)
HTMLHeaderTextSplitter
小結
4.6 RAG 系統整合(範例)
建立向量資料庫
建立使用者查詢與回應RAG 系統
小結
4.7 ReRanker
ReRanker範例說明
ReRanker 在完整RAG 系統中的角色
小結
4.8 結語
▌第5章 Tools / Function Call
5.1 前言
5.2 Tools原理
系統設計
執行結果與行為分析
Tools 機制的本質
5.3 Tools 技術探索
準備Tools 工具
將Python 函數轉換為LangChain Tools
StructuredTool 的呼叫方式
將 Tools 綁定至 LLM
多步驟 Tool Calling 實際流程
小結
5.4 Tools 對話機器人
ChatBot Class
初始化流程(init)
對話生成核心:chat_generator()
功能驗證:chat_generator() 測試
chat_bot:: chat ()
整合進Gradio 介面
串流版的對話機器人(Stream Chat Bot)
5.5 程式與文件助手(範例)
工具函數程式碼
工具函數功能測試
將工具接入對話機器人
測試:文件內容分析
測試:程式與資料分析助手
測試:資料分析與圖表助手
小結
完整程式
5.6 結語
▌第6章 MCP
6.1 MCP簡介
什麼是 MCP ?
MCP 與 Tools / Function Call 的關係
6.2 MCP 架構與元件
MCP Client —— 模型的「行動端」
MCP Server —— 工具與資料的「提供者」
Schema —— 工具的「語意定義」
Transport —— 通訊的「傳輸層」
整體運作流程
MCP 的優勢
6.3 MCP Server 實作
建立最簡單的 MCP Server
使用Claude Desktop 實際操作
MCP Server 的行為
建立氣溫查詢的MCP Server
小結
6.4 MCP Client 實作
讀取MCP Server 資訊
呼叫MCP Server 工具
LangChain 的MCP 工具
小結
6.5 建立能夠使用MCP 的對話機器人(MCP Client ChatBot)
完整程式碼
程式解析
小結
6.6 結語
▌第7章 進階技巧
7.1 簡介
7.2 LCEL
Chain
建立RAG Chain
小結
7.3 結構化輸出
CommaSeparatedListOutputParser
JsonOutputParser
PydanticOutputParser
小結
7.4 Memory
Chat Message List
InMemoryChatMessageHistory
FileChatMessageHistory
SQLChatMessageHistory
對話紀錄摘要(Summary)
小結
7.5 RAG進階
前期準備
Multi-Query Retrieval
Parent-Document Retrieval
小結
7.6 結語
▌第8章 LLM應用範例
8.1 簡介
8.2 SQL資料庫助手
系統設計
測試用資料
程式實作
測試效果
MCP Server 版本
小結
8.3 Line 對話機器人
Lines 鸚鵡學話機器人
遊戲NPC Line 對話機器人
小結
8.4 RSS 主題篩選助理
技術測試
RSS主題篩選助理
小結
8.5 Agentic RAG
查詢QA 文件的工具設計
對話機器人設定說明
測試效果與行為觀察
小結
▌附錄
A-1 書本範例與開發環境設定
安裝Python
安裝必要套件
開發環境 Jupyter Notebook
A-2 Gemini API KEY 申請
免費版API 限制
A-3 LM-Studio 安裝、模型下載與伺服器設定
下載模型
開啟模型伺服器
A-4 Ollama 安裝、模型下載
A-5 Claude Desktop 安裝與MCP Server 設定
A-6 Line API 申請
申請商業帳號
啟動Message API
頁面設定與申請Access Token
參考文件
1.1 大語言模型簡介
1.2 LangChain 簡介
1.3 雲端模型Google Gemini 的API 串接
使用LangChain 控制Gemini
1.4 本地端模型部屬平台
GGUF格式在LLM 推理上的優勢
支援GGUF 格式的部屬平台
Ollama 與LM Studio 的模型API 串接
1.5 結語
▌第2章 提示詞工程的應用
2.1 提示詞工程簡介
2.2 對話訊息列表
2.3 翻譯系統(範例)
2.4 人資履歷篩選系統(範例)
設計SystemMessage 與User Prompt
限制輸出格式為JSON
封裝成 Python 函數
2.5 社群留言情緒分析(範例)
IMDB電影評論資料集介紹
使用LLM 進行情緒分析
單筆資料測試
批次測試與正確率評估
分析結果
2.6 結語
▌第3章 對話機器人
3.1 對話機器人簡介
3.2 對話機器人原理
初步實驗:單輪對話的行為觀察
對話訊息列表(Chat Message List)
對話記憶的關鍵:把回應放回去
多輪對話的形成
3.3 對話機器人實作
功能測試:確認是否能多輪對話
對話交談介面
3.4 串流式對話機器人
串流式呼叫LLM
串流式對話機器人
串流功能測試
串流式 Gradio 對話介面
系統提示詞與應用延伸
3.5 遊戲NPC(範例)
為何選擇「城門守衛」作為範例?
System Prompt 的設計說明
完整的 System Prompt 範例
實際互動效果與觀察
小結
3.6 SQL 指令對話機器人(範例)
把Schema 放進System Prompt
建立範例資料庫情境(商店銷售資料)
SQL 指令對話機器人的System Prompt
測試SQL 指令生成效果
小結
3.7 勞動基準法諮詢對話機器人(範例)
設計思路:法規型對話機器人
系統提示詞(System Prompt)設計:
諮詢範例測試
調整回應風格:口語版 System Prompt
同一問題,不同風格的效果
小結
3.8 結語
▌第4章 RAG
4.1 簡介
4.2 文字嵌入模型
Hugging Face 的文字嵌入模型
向量相似度
LM-Studio 的文字嵌入模型
4.3 向量資料庫
向量資料庫與近似搜尋(ANN)
向量資料庫的主要類型
使用InMemoryVectorStore 示範向量資料庫操作
小結
4.4 文件載入
Document 物件
Document Loader 的基本使用模式
小結
4.5 文本分段
TextSplitter
CharacterTextSplitter(最基本的字元分段)
RecursiveCharacterTextSplitter
對Document 進行分段
MarkdownHeaderTextSplitter(Markdown 文件)
HTMLHeaderTextSplitter
小結
4.6 RAG 系統整合(範例)
建立向量資料庫
建立使用者查詢與回應RAG 系統
小結
4.7 ReRanker
ReRanker範例說明
ReRanker 在完整RAG 系統中的角色
小結
4.8 結語
▌第5章 Tools / Function Call
5.1 前言
5.2 Tools原理
系統設計
執行結果與行為分析
Tools 機制的本質
5.3 Tools 技術探索
準備Tools 工具
將Python 函數轉換為LangChain Tools
StructuredTool 的呼叫方式
將 Tools 綁定至 LLM
多步驟 Tool Calling 實際流程
小結
5.4 Tools 對話機器人
ChatBot Class
初始化流程(init)
對話生成核心:chat_generator()
功能驗證:chat_generator() 測試
chat_bot:: chat ()
整合進Gradio 介面
串流版的對話機器人(Stream Chat Bot)
5.5 程式與文件助手(範例)
工具函數程式碼
工具函數功能測試
將工具接入對話機器人
測試:文件內容分析
測試:程式與資料分析助手
測試:資料分析與圖表助手
小結
完整程式
5.6 結語
▌第6章 MCP
6.1 MCP簡介
什麼是 MCP ?
MCP 與 Tools / Function Call 的關係
6.2 MCP 架構與元件
MCP Client —— 模型的「行動端」
MCP Server —— 工具與資料的「提供者」
Schema —— 工具的「語意定義」
Transport —— 通訊的「傳輸層」
整體運作流程
MCP 的優勢
6.3 MCP Server 實作
建立最簡單的 MCP Server
使用Claude Desktop 實際操作
MCP Server 的行為
建立氣溫查詢的MCP Server
小結
6.4 MCP Client 實作
讀取MCP Server 資訊
呼叫MCP Server 工具
LangChain 的MCP 工具
小結
6.5 建立能夠使用MCP 的對話機器人(MCP Client ChatBot)
完整程式碼
程式解析
小結
6.6 結語
▌第7章 進階技巧
7.1 簡介
7.2 LCEL
Chain
建立RAG Chain
小結
7.3 結構化輸出
CommaSeparatedListOutputParser
JsonOutputParser
PydanticOutputParser
小結
7.4 Memory
Chat Message List
InMemoryChatMessageHistory
FileChatMessageHistory
SQLChatMessageHistory
對話紀錄摘要(Summary)
小結
7.5 RAG進階
前期準備
Multi-Query Retrieval
Parent-Document Retrieval
小結
7.6 結語
▌第8章 LLM應用範例
8.1 簡介
8.2 SQL資料庫助手
系統設計
測試用資料
程式實作
測試效果
MCP Server 版本
小結
8.3 Line 對話機器人
Lines 鸚鵡學話機器人
遊戲NPC Line 對話機器人
小結
8.4 RSS 主題篩選助理
技術測試
RSS主題篩選助理
小結
8.5 Agentic RAG
查詢QA 文件的工具設計
對話機器人設定說明
測試效果與行為觀察
小結
▌附錄
A-1 書本範例與開發環境設定
安裝Python
安裝必要套件
開發環境 Jupyter Notebook
A-2 Gemini API KEY 申請
免費版API 限制
A-3 LM-Studio 安裝、模型下載與伺服器設定
下載模型
開啟模型伺服器
A-4 Ollama 安裝、模型下載
A-5 Claude Desktop 安裝與MCP Server 設定
A-6 Line API 申請
申請商業帳號
啟動Message API
頁面設定與申請Access Token
參考文件
序/導讀
前言
本書內容改編自我近兩年來陸續於TibaMe與工研院開設的大型語言模型(Large Language Model, LLM)實務課程。相關課程已實際開設近十次,並經由不同背景學員的回饋反覆修正,最終整理出一套以實務導向為核心、可直接應用於實際開發的學習與實作脈絡。
大型語言模型是近年來最受矚目的人工智慧技術之一。隨著模型能力快速提升,LLM已從最初的對話展示,延伸出各式各樣的應用形式,包含企業內部知識系統、自動化助理、程式開發輔助、決策支援工具,甚至成為新一代軟體架構中的核心元件。可是,在實際導入過程中,許多學習者與開發者往往會發現:模型本身並不是最大的門檻,真正困難的是如何把模型「接進系統」,並讓它穩定、可控且可長期維運。
因此,本書的重點並不放在LLM的模型原理、數學推導、架構設計或訓練流程,而是聚焦於 「如何使用LLM解決實際問題」。書中將從應用開發的角度出發,帶領讀者理解如何串接雲端與本地端模型、如何設計對話與Prompt結構、如何讓模型存取外部資料、使用工具,以及如何建構可部署、可擴充的完整LLM系統。
本書特別適合已具備基本程式能力,或對AI應用有實務需求的讀者。你不需要成為模型研究人員,也不必深入理解訓練細節,就能透過本書學會如何將LLM納入現有系統,或從零開始打造新的智慧應用。
期盼本書能在讀者的實務工作中,對技術應用與系統實作提供實質的協助。
陳仁政, Ph.D.
2026/01/28
本書內容改編自我近兩年來陸續於TibaMe與工研院開設的大型語言模型(Large Language Model, LLM)實務課程。相關課程已實際開設近十次,並經由不同背景學員的回饋反覆修正,最終整理出一套以實務導向為核心、可直接應用於實際開發的學習與實作脈絡。
大型語言模型是近年來最受矚目的人工智慧技術之一。隨著模型能力快速提升,LLM已從最初的對話展示,延伸出各式各樣的應用形式,包含企業內部知識系統、自動化助理、程式開發輔助、決策支援工具,甚至成為新一代軟體架構中的核心元件。可是,在實際導入過程中,許多學習者與開發者往往會發現:模型本身並不是最大的門檻,真正困難的是如何把模型「接進系統」,並讓它穩定、可控且可長期維運。
因此,本書的重點並不放在LLM的模型原理、數學推導、架構設計或訓練流程,而是聚焦於 「如何使用LLM解決實際問題」。書中將從應用開發的角度出發,帶領讀者理解如何串接雲端與本地端模型、如何設計對話與Prompt結構、如何讓模型存取外部資料、使用工具,以及如何建構可部署、可擴充的完整LLM系統。
本書特別適合已具備基本程式能力,或對AI應用有實務需求的讀者。你不需要成為模型研究人員,也不必深入理解訓練細節,就能透過本書學會如何將LLM納入現有系統,或從零開始打造新的智慧應用。
期盼本書能在讀者的實務工作中,對技術應用與系統實作提供實質的協助。
陳仁政, Ph.D.
2026/01/28
配送方式
-
台灣
- 國內宅配:本島、離島
-
到店取貨:
不限金額免運費
-
海外
- 國際快遞:全球
-
港澳店取:
訂購/退換貨須知
退換貨須知:
**提醒您,鑑賞期不等於試用期,退回商品須為全新狀態**
-
依據「消費者保護法」第19條及行政院消費者保護處公告之「通訊交易解除權合理例外情事適用準則」,以下商品購買後,除商品本身有瑕疵外,將不提供7天的猶豫期:
- 易於腐敗、保存期限較短或解約時即將逾期。(如:生鮮食品)
- 依消費者要求所為之客製化給付。(客製化商品)
- 報紙、期刊或雜誌。(含MOOK、外文雜誌)
- 經消費者拆封之影音商品或電腦軟體。
- 非以有形媒介提供之數位內容或一經提供即為完成之線上服務,經消費者事先同意始提供。(如:電子書、電子雜誌、下載版軟體、虛擬商品…等)
- 已拆封之個人衛生用品。(如:內衣褲、刮鬍刀、除毛刀…等)
- 若非上列種類商品,均享有到貨7天的猶豫期(含例假日)。
- 辦理退換貨時,商品(組合商品恕無法接受單獨退貨)必須是您收到商品時的原始狀態(包含商品本體、配件、贈品、保證書、所有附隨資料文件及原廠內外包裝…等),請勿直接使用原廠包裝寄送,或於原廠包裝上黏貼紙張或書寫文字。
- 退回商品若無法回復原狀,將請您負擔回復原狀所需費用,嚴重時將影響您的退貨權益。




商品評價