Node.js＆LLM 原理與實務：AI 應用程式開發

活動訊息

來金石堂，總有一本書懂你，邀您同遊解憂秘境！

內容簡介

◎代理經銷 白象文化
本書是「極簡 LLM 應用程式開發入門」的教材。本書亦延續作者在 Node.js 系列著
作的風格，採用清楚的步驟式教學，並搭配語意導向的說明，讓 LLM 初學者了解每一
段程式碼背後的設計邏輯。

名人推薦

◎本書是「極簡 AI 入門系列」的教材，延續「Node.js Fullstack 原理與實務」一書，希望讓初學者有效率入門 AI 應用程式，也能修練 LLM 的思惟內功；讀完本書後，就能讓你的Node.js 應用程式具備「思惟能力」。
這本書是為 LLM 初學者設計的入門教材，這是一份幫助初學者，從零開始、逐步建立 LLM應用程式實作能力的學習指南。閱讀本書，您將學會：

1. 理解 LLM（大型語言模型）的基本概念
2. 如何用 Node.js 建立基本的 LLM 應用程式
3. 建立良好的 Node.js + LLM 應用程式架構（可擴充性）
4. 開發第一個 AI 對話程式
5. 導入外部資料庫，讓你的 LLM 應用程式更聰明，並降低成本
6. 能導入簡單的 In-Context Learning 與 MAML-en-LLM 大幅提升 LLM 的「腦力」
7. 使用 TAR 與 RAG 技術，打造「極簡 AI Agent」
本書延續 Node.js 系列著作的風格，採用清楚的步驟式教學，並搭配語意導向的說明，讓LLM 初學者了解每一段程式碼背後的設計邏輯。這是一本實務導向的Node.js + LLM 入門教科書，本書並不是一本操作手冊，而是一本在鍛練 AI 軟體開發內功的祕笈。

作者

◎作者 Jollen
Moko365 技術總監、 Flowchain 基金會（新加坡）創辦人，專精於 Embedded Linux、
Android Framework 與驅動程式開發，累積超過二十年研發與實務經驗。曾為Motorola、HTC、LG、OPPO、騰訊、廣達等五十餘家企業提供技術顧問、內訓與課程設計服務，擅長系統架構設計、軟硬整合開發與研發流程管理。
2016 年創辦 Flowchain 基金會，推動以 Node.js 為核心的物聯網區塊鏈作業系統，
實踐開源實作與跨域整合，並取得多項國際專利。多年來受邀於日本、加拿大、新加坡、斯洛維尼亞等地演講與授課，並多次在 Open Source Summit、OpenIoT Japan、
FOSSASIA Summit 等國際會議發表技術演說。其代表性研究《Devify: Decentralized
IoT Software Framework》曾於 AIoTAS’17 （加拿大）發表，並收錄於 ACM SIGBED
Review。
Jollen 著有十餘本技術書，涵蓋 Linux、Embedded Linux 與 PHP，具備深厚的技術
書寫與教材編撰經驗。近期聚焦於 WebAssembly 與語言模型整合開發，並主筆
《Node.js 與 LLM》系列教材。

Jollen's Blog：
https://jollen.org/blog
讀者服務：
www.jollen.org

目錄

◎
第 1 章：LLM 大型語言模型概念
1.1 什麼是大型語言模型（LLM）
1.2 Transformer：語言模型的新架構
1.3 幻覺、偏見與語意系統的技術邊界
1.4 LLM 與 Node.js 的整合應用：語意邏輯成為應用模組
1.5 In-Context Learning：從參數訓練轉向語境操控
1.6 LLM 與軟體工程的整合應用：語言成為流程驅動器
1.7 LLM 應用於新創產品：生成式 AI 的語意引擎角色

第 2 章：打造第一個 LLM 應用程式
2.1 安裝 Node.js 與 OpenAI 套件
2.2 註冊 OpenAI 帳號並設定 API 金鑰
2.3 建立 Node.js 基本專案結構
2.4 透過 OpenAI SDK 發送基礎請求
2.5 設計 API 請求流程與錯誤處理
2.6 使用 Chat Completions
2.7 小結

第 3 章：打造多輪對話與上下文記憶
3.1 多輪對話的工程邏輯
3.2 多輪對話的核心概念
3.3 建立對話記憶模組：Conversation Manager 定義與最佳實踐
3.4 改寫請求流程，支援多輪對話
3.5 升級至 Chat Completion 模式
3.6 控制上下文長度：壓縮與裁剪策略
3.7 使用記憶壓縮策略，優化 Token 控制
3.8 實作多使用者對話記憶：分流與隔離機制
3.9 回顧：從訊息記憶到多輪對話的模組化設計

第 4 章：建構具資料記憶能力的語言模型應用
4.1 為什麼 LLM 需要外部記憶體？
4.2 什麼是 RAG 架構？
4.3 建立本地知識庫
4.4 向量化文本資料
4.5 Node.js 結合向量資料庫與語言模型的整合流程
4.6 向量資料庫選型與開發情境對應
4.7 Redis 作為語意向量快取：Node.js 整合實務
4.8 總結：RAG 架構與語意記憶的整合基礎

第 5 章：開發你的第一個 CLI 對話助理
5.1 為何選擇 CLI 作為起點？
5.2 使用 Inquirer.js 建立命令列互動
5.3 整合 GPT 回覆生成與顯示
5.4 對話邏輯與上下文維持
補充：conversationManager.js 初版範例
5.5 提示工程初探：加入系統角色（System Prompt）
5.6 執行與測試
5.7 整合 Redis：讓對話有記憶

第 6 章：設計可控語境：Prompt Engineering × RAG 整合
6.1 Prompt 是語境 API：設計有效提示的基本結構
6.2 四種關鍵技巧：提示詞的工程邏輯拆解
6.3 角色設定（System Prompt）：塑造 AI 的人格與知識邊界
6.4 格式控制與輸出結構
6.5 常見錯誤與優化策略
6.6 整合提示語與資料：建立可控且具知識邊界的語意回應架構

第 7 章：提示詞的學習性：In-Context Learning × MAML-en-LLM 導論
7.1 上下文就是訓練資料：In-Context Learning 的語意模型
7.2 提示設計的策略化發展：ICL 類型總覽與應用定位
7.3 從 Prompt 靜態模板邁向可學習提示模組：MAML-en-LLM 架構
7.4 在 Node.js 中實作提示學習架構：MAML-en-LLM 模擬流程
7.5 評估提示學習效能：如何讓 MAML-en-LLM 應用於產品開發

第 8 章：從語言到行動：Tool-Augmented Reasoning 架構與實作
8.1 為什麼 LLM 需要外部工具？
8.2 Prompt 內的記憶分配策略
8.3 Tool 回饋資料的融合技巧
8.4 與 RAG 架構的整合策略
8.5 延伸應用場景與案例設計
8.6 小結與展望：從 Tool-Augmented 到 Multi-Agent AI

第 9 章：記憶就是語境策略：選擇、壓縮與動態組裝技術
9.1 上下文長度限制的現實挑戰
9.2 記憶選擇：決定哪些內容值得保留
9.3 記憶壓縮：節省 token，保留意義
9.4 記憶選擇與工具引導：雙軌推理的實戰策略
9.5 策略型記憶控制與 API 對話整合
9.6 記憶策略的產品化與部署考量
9.7 記憶系統的總結與未來展望

第 10 章：整合系統思維：打造具備推理、記憶與檢索能力的 AI 助理
10.1 總覽：從模組到產品
10.2 模組整合實作與系統架構草圖
10.3 模型評估與 Prompt 策略調整
10.4 系統部署與持續優化
10.5 多模組維運與版本策略
10.6 模型與資料擴充：從 MVP 到大規模應用
10.7 本書總結
10.8 未來展望

序／導讀

◎作者序

思考是什麼？何謂「思考」？人工智慧（AI）真的會像人類一樣「思考」嗎？特別是在體驗過像是 ChatGPT 等 AI 後，每個人的心中不免會產生這樣的疑問。
要能想通這個問題，能了解 LLM 的原理，就是重要的第一步，這也是本書第一章的寫作宗旨。
在閱讀完本書後，這個問題也可以更具體化：人類的思考，通常先有一個「目的」、有「主題」，即「動腦」。然後再根據自身的知識，運用大量知識，進行邏輯組識，這就是「思考」。思考是一個運用知識，來進行推理的過程。而 LLM 具備更大量的知識，以及更精密的推論能力，這正能「輔助」我們來進行品質更好的「思考」。
所以，人工智慧的角度不在取代人類，反而是君臣相輔的角色。軟體工程領域的 Pair
Programming，便是一種君臣相輔的開發模式；將此模式結合 LLM 後，便是 Vibe
Coding。
在 AI 時代，人類更要多動動腦，讓 LLM 更好地輔佐我們，人類（君主）才會更強大。學習LLM 應用軟體開發，就是在指導 LLM 這個大臣，「如何好好地輔佐我」。
此外，寫程式要畫流程圖，是筆者過去接受資訊科學訓練，被教導的知識；開發軟體前的行前工作，例如：系統分析、架構設計、軟體工程方法等，幾乎可以說是「常識」。然而，有了 LLM 等人工智慧技術後，現今的軟體開發方法論，跟過去還是一樣嗎？以前，我們注意程式碼的「邏輯」，然而，在讀完本書，並且自行試作第一個「極簡 LLM應用程式後」，你就會發現，「邏輯已經是其次」，我們首要注意的是「語境」，以及「語意」。此外，更關心 LLM 生成文字的「語氣」是否符合心中的預期。簡而言之，「輸出結果的內容正確性」，正被「輸出結果的語氣是否符合預期」的模式取代。這正是過去典型的「應用軟體」開發，轉移到現念的 「LLM 應用軟體」開發，最主要的「思惟」轉換之一。
因此，先理解 LLM 的本質，再親自動力打造 LLM 應用程式後，就能開始解答「AI 是不是真的會思考」的疑問；並且，也能開始體會 LLM 的軟體開發方法論，與過去典型方法論「思惟」上的差異。這也是本書的寫作理念，注重 LLM 的軟體思惟，而不是 API 與語法；讓本書帶您進入「君臣相輔」的全新軟體開發時代。

⸺Jollen

試閱

◎
第 1 章：LLM 大型語言模型概念
1.1 什麼是大型語言模型（LLM）

大型語言模型（Large Language Model，簡稱 LLM）是一種根據上下文預測下一個字
詞並生成文字的模型，屬於生成式人工智慧（Generative AI）的一種。LLM 從大量語
料中挖掘規律，以預測最可能出現的字詞。這表示 LLM 本質上並非真正理解語言內
容，而是在進行基於上下文的預測推理。
許多人在使用 ChatGPT 時，心中常冒出一個問題：「AI 是不是真的懂我說的話？
使用 ChatGPT 等工具時，常會產生 AI 是否真正理解語言的疑問。這是因為 LLM
生成的文字往往看似合理，給人理解力的錯覺。實際上，模型僅根據語境預測合理的
語句，並不具備人類般的語意理解能力。
對開發者而言，重點在於利用 AI 的推理能力，而非期待其「具備人類的理解力。技
術上，當模型參數達到數十億規模，並經過大規模訓練，即可稱為大型語言模型。例
如 GPT-3 擁有 1750 億個參數 1。

語料、語境與語意
筆者過去在撰寫程式設計相關領域書藉時，過去較少使用「語意」與「語境」等詞
彙。隨著 AI 與程式設計的結合，將寫程式的思惟，從邏輯層面，提升到「語意」與
「語境」層面，成為現代程式設計師的重要課題。
在自然語言處理中，與語言相關的資料包括字詞、句型、語法與語意，統稱為「語
料」。這些語料可被收集並建立成語料庫 2，作為 AI 訓練的基礎資料。語境則指語
言發生的情境，例如在商店購買飲料時，說「給你 50 元」，店員會根據語境回應
「找你 5 元」。店員的回應依賴語境與語意的結合。

同一語句在不同語境下會產生不同語意，例如「給你 50 元」可能是購物付款，也可能是父母給小孩的零用錢。這說明語境對語意判斷的重要性。


推理能力（LLM Inference）
LLM 是專為自然語言處理（Natural Language Processing, NLP）訓練的深度學習模型。訓練資料不需特別標註語意，而是透過自監督學習，自動「從語料中挖掘模式與規律」，以預測下一個字詞。
換言之，LLM 並非學習語言意義，而是學會根據上下文推論下一個字詞，這即為 LLM 的推理能力（Inference）。LLM 的優勢在於龐大參數規模與自監督學習，使預測越來越精準。

AI 其實只是根據前面的語境猜下一句話，並不是真的「理解」內容模型接收一段文字後，推理出下一個字詞，並重複此流程生成完整語句。由於語言高度多變，LLM 需要龐大參數以捕捉語法與語意細節，提升推理精度。不同 LLM 模型的主要差異之一即在於參數規模。

是否需要真正懂語意的模型？
自 1950 年代起，科學家即嘗試打造能模仿人類智能的機器，具備推理與對話能力。LLM 的出現讓這個想像首次「看起來」成真。然而，這種「看似理解」實際上是高度擬態的語言模擬。
LLM 並非理解語言，而是推理並模擬語言行為。生成的內容雖合理，但可能出現錯誤，稱為「幻覺現象」。即便如此，只要能控制幻覺與語境錯位，LLM 仍是極具價值的生成工具。
筆者的觀點為，生成式 AI 目前較適用於「Open Domain Dialogue」的系統；所謂 Open Domain Dialogue（開放式對話）比較像是「閒聊」，而生成式 AI 的溫度（Tempurature）提高時，對話內容便較具「創意」。當我們需要的是「專業對話」，就可以採用預測式 AI 來取代生成式 AI。
LLM 不懂語意並無妨，關鍵在於工程師如何使用它。LLM 可視為開放的語言界面，Prompt（提示語）則是打通這層界面的 API。重點不在訓練模型生成正確內容，而在微調 Prompt 與語境，讓 LLM 產生正確回應。
因此，LLM 開發者角色將由傳統資料工程師轉向語境開發工程師（Prompt Engineer 或 Context Engineer）。Prompt Engineering 不僅是撰寫提示語，更是一門「語意編排術」，包括設計語境邏輯結構、選詞方式與角色語氣，模型依此生成語句。
這是近年「Prompt Engineer」職務興起的原因。如何編排語意、規劃邏輯結構、調整選詞與角色口吻，是 LLM 實用性的關鍵。
本書以「生成式 AI」的應用程式為主，但若考慮到更為專業的對話（而不是閒聊），則可以導入 Meta-Learning 的觀念。GPT-4 + Meta-Learning 可以實作出偏向「預測式 AI」的應用程式；GPT-5 則是能提供更多 Predictable AI 的能力。第 7 章將會介紹一個簡單的 Meta-Learning 技術。


模型推理：從語境預測到文字生成
當 LLM 模型訓練完成後，便能進入推理階段（Inference Phase）。此階段核心任務是根據使用者輸入內容，在既有語料規律中找出最可能的下一個詞。
運作流程如下：

1.將輸入的 Prompt 編碼為 token。
2.將 token 送入 Transformer 架構，進行前向運算（forward pass）。
3.模型參數保持不變，透過注意力機制與語境權重，計算每個 token 的機率分布。
4.依序選出最適合的輸出詞。

LLM 的推理行為，其本質為數學上的「條件機率」運算，只是根據已學得的語境結構，進行詞彙排序，而非真正理解語意。LLM 生成的內容看似具備語意邏輯，但實際上是語境的模擬結果。


調整推理策略：採樣機制與溫度參數

推理階段的輸出結果受採樣策略（Sampling Strategy）與溫度參數（Temperature）影響，這些設定決定模型選詞的保守程度與創造力。
常見採樣策略包括：

貪婪搜尋（Greedy Search）：固定選擇機率最高的詞彙，回應穩定但易重複。
Top-k 採樣：從前 k 個機率最高詞彙中隨機選取，提高語言變化性。
Top-p 採樣（nucleus sampling）：根據累積機率範圍動態決定候選詞集合，兼顧創造性與合理性。

temperature 參數控制生成隨機性：

• temperature = 1.0 時，依模型原始機率分布選詞。
• 低於 1.0，模型偏向選擇高機率詞彙，輸出較穩定。
• 高於 1.0，增加低機率詞選取機會，提升創意但增加幻覺風險。

範例程式碼：簡易 LLM 推理流程示意（Node.js）
以下程式碼示範如何使用簡化的推理流程，模擬 LLM 根據輸入文字進行 token 化與
選詞。此範例僅為教學用途，未包含完整模型運算。
// 簡易 Tokenizer 範例
function tokenize(text) {
return text.split('');
}
// 模擬機率分布，固定選擇下一個字
function predictNextToken(tokens) {
const candidates = ['了', '吧', '嗎'];
// 模擬機率分布
const probabilities = [0.25, 0.5, 0.25];
// 簡單隨機選擇
const rand = Math.random();
let sum = 0;
for (let i = 0; i < candidates.length; i++) {
sum += probabilities[i];
if (rand < sum) return candidates[i];
}
return candidates[0];
}

// 模擬推理生成句子
function generateSentence(prompt, maxLength = 20) {
let tokens = tokenize(prompt);
while (tokens.length < maxLength) {
const nextToken = predictNextToken(tokens);
tokens.push(nextToken);
if (nextToken === '。') break; // 假設句點為結束符
}
return tokens.join('');
}

// 範例執行
const prompt = '晚一點我們去餐廳吃晚餐';
const result = generateSentence(prompt);
console.log(result);
執行後可觀察到根據輸入文字，模型模擬選擇下一個字，逐步生成句子。此流程展示了 LLM 推理的核心概念。

結論
綜合以上流程，可以確認大型語言模型，主要透過龐大參數與自監督學習，從語料中挖掘規律，進行基於上下文的推理與文字生成。其核心不在於真正理解語意，而是模擬語境與語言行為。工程師應聚焦於設計有效的語境與提示語，提升模型的實用價值與生成品質。



1.2 Transformer：語言模型的新架構
2017 年，Google 發表〈Attention Is All You Need〉論文，提出 Transformer 架構，改變語言模型的基礎設計。Transformer 不再依賴遞迴神經網路（RNN）逐序列處理，而是引入全域注意力（self-attention）機制，使模型能同時比對句中任意詞與上下文的關聯。
這種設計賦予模型「任意關聯擷取能力」，成為大型語言模型（LLM）高效訓練與語意模擬的核心。Transformer 架構包含 Encoder 與 Decoder 兩部分，後續模型根據任務需求，選擇不同架構路線。
Transformer 是模組化架構，允許獨立使用 Encoder 或 Decoder，方便針對不同任務調整。BERT 採用 Encoder，強調語意理解，適用於分類、檢索與文本相似度判斷。GPT 系列採用 Decoder，強調生成能力，適合對話、寫作與程式碼自動補全。
GPT-2 將參數擴展至 15 億，GPT-3 則達到 1750 億個參數，顯著提升生成能力。Transformer 結合大規模預訓練，使 LLM 能跨任務處理多種語言應用，成為語意中介層，連結自然語言與程式、文件、資料庫等操作。

具體應用包括語境學習（In-Context Learning），僅靠 prompt 提供少量範例，無需下游微調。模型亦能進行語意生成與邏輯重構，輸出符合邏輯的段落、程式碼與多步驟規劃。知識內嵌與推論擬態則模擬知識回答與語境呼應，雖非真正理解，但具實用價值。

RNN 的限制
在 Transformer 出現前，遞迴神經網路（RNN）是處理序列資料的主要方法。RNN 逐詞計算，能維持短期記憶，但存在兩項限制：

1.序列依賴：必須依序處理，無法並行運算。
2.長距離衰減：序列距離越長，記憶訊號越弱。

語言理解需要全局關聯，RNN 難以同時關注遠距詞與近距詞，導致語意在長時間對話中逐漸遺失。Transformer 架構正是為解決這些問題而設計。


Transformer 的核心設計
Transformer 透過全域注意力機制一次處理整句，具備以下特點：

●非序列運算，支援並行計算，提高效率。
●全局注意力，每個詞可直接觀察整句內容。
●關聯矩陣由注意力權重推導，反映語法結構。

在 Prompt 實驗中，關鍵指令放在句末仍能維持高準確度，顯示模型並非依序掃描，而是同時評估整體關聯。


Encoder 與 Decoder 的分工
Transformer 包含 Encoder 與 Decoder 兩個模組。常見模型依任務選擇不同結構：
Encoder 擅長理解與特徵抽取，Decoder 擅長條件式生成。T5 將輸入與輸出視為文本，統一以文字到文字的方式處理多種任務。


多模態架構的延伸
資料不僅限於文字，還包含圖片、語音、影片等多種模態。多模態學習整合這些不同資料類型，提升模型對複雜資料的理解能力。
Transformer 具備處理多模態資料的能力，能同時理解文字、圖片與影片。基於 Encoder–Decoder 架構，Flamingo、GPT-4V、Gemini 等模型加入視覺與語音模組，透過跨模態對齊（Multi-Modal Alignment）融合多種資料，形成新的語意中介層。文字不再是唯一輸入，圖片與語音也參與 AI 推理。


開發模式的轉變
過去 AI 開發多著重於模型訓練，需大量資源與技術。ChatGPT 的出現帶來新的開發流程。
現代 AI 開發重心由模型訓練轉向語境控制（Context Engineering）。Prompt 成為 AI 應用的主要介面，語意設計直接影響 LLM 行為。


範例驗證：簡易 Transformer 注意力示意
以下程式碼示範如何計算簡化版的自注意力權重，幫助理解 Transformer 的核心機制。此範例使用 ES6 語法，並以矩陣運算展示注意力分數計算流程。
import * as tf from '@tensorflow/tfjs';

// 假設輸入為 3 個詞的向量表示（embedding size = 4）
const inputs = tf.tensor2d([
[1, 0, 1, 0],
[0, 2, 0, 2],
[1, 1, 1, 1]
]);

// 查詢（Query）、鍵（Key）、值（Value）矩陣，簡化為相同 inputs
const Q = inputs;
const K = inputs;
const V = inputs;

// 計算注意力分數：Q × K^T
const scores = tf.matMul(Q, K, false, true);

// 對分數進行 softmax，取得注意力權重
const weights = tf.softmax(scores);

// 計算加權和：權重 × V
const output = tf.matMul(weights, V);

output.print();
執行後可觀察到每個詞對其他詞的關聯權重，反映全域注意力機制。此示範有助理解 Transformer 如何同時考慮整句內容，非依序處理。


小結
Transformer 採用全域注意力機制與平行計算，解決序列依賴與長距衰減問題。其 Encoder–Decoder 架構支援多種任務拆分與組合。隨著多模態融合發展，AI 模型不再限於文本處理，而能跨模態整合文字與圖片等資料，提升對現實世界的理解能力。現代 AI 開發重心轉向語境設計，Prompt 成為與 LLM 互動的主要介面，影響模型生成品質與應用效果。

看更多

配送方式

• 台灣
  • 國內宅配：本島、離島
  • 到店取貨：
    不限金額免運費
    
• 海外
  • 國際快遞：全球
  • 港澳店取：
    

詳細資料

詳細資料

• • 語言
  • 中文繁體
  • 裝訂
  • 紙本平裝
• • ISBN
  • 9786269983339
  • 分級
  • 普通級
• • 頁數
  • 376
  • 商品規格
  • 23*17*1.90
• • 出版地
  • 台灣
  • 適讀年齡
  • 全齡適讀
• • 注音
  • 級別

中文書＞電腦資訊＞概論／科技趨勢＞人工智慧／機器學習

商品評價

寫評價