人工智慧
I
在試圖分析與解釋人工智慧這股勢不可擋的巨浪時，人們往往忽略了這一事實：自然智慧發明了人工智慧。然而，當我們嘗試理解這兩種「類型」的智慧—自然智慧與人工智慧—之間的關係與差異時，記住這一事實就有所幫助。
自然智慧造就了我們體內恆定調節的驚人能力，並支撐著協助體內恆定的感受與意識，也支撐著我們人類所擁有的知覺、反思、語言、整合與驚人創造力的種種能力。我們人類是什麼、做什麼，很大程度上都源於自然智慧，而這種智慧是在漫長的生物與文化演化歲月中發展出來。至於人工智慧，它不僅是自然智慧最引人入勝的創造之一；無論好與壞，它也已成為自然智慧最重要的創造之一。
人工智慧的故事，不受控制且不受約束地不斷擴張，最終成為我們日常生活的重要一環，存在於我們從事的許多活動之中，也越來越頻繁地出現在我們接觸的各種物件與運作流程之中，進而支配我們生活的幾乎每一個面向，無論是個人層面還是專業層面。如果說，有一個理由可以讓人不必為這種清楚且迫在眼前的存在感到憂慮，那就是：歸根究柢，人工智慧畢竟是從我們的大腦孕育而出。然而，不幸的是，我們也確實有充分的理由感到憂慮，而這個理由與其說與人工智慧的程序及裝置本身有關，不如說更在於這樣一個事實：到目前為止，它們仍然需要人類作為監督者。人類可能是壞的，而在壞人的引導之下，人工智慧裝置也可能變得極其惡劣。人工智慧其中一位才華洋溢、和藹可親的發明者傑佛瑞．辛頓（Geoffrey Hinton）便無法想像，該如何「防止壞人濫用〔人工智慧〕去做壞事」，而他理應最清楚這一點。此外，同樣令人不安的是，有些已經不再需要人類監督的人工智慧裝置，它們的相對自主性其實來自於大量不良的人類教師。最後，而且更令人不安的是，確實存在這樣的情況：那些原本友善且正派的人工智慧裝置，也可能從看似中立的意圖逐漸偏離，轉而對抗那些創造它們或擁有它們的人。
在這場近乎史詩般、卻演變成恐怖鬧劇的景象之中，是否仍然存在一絲希望？我希望或許還有，但我並不願誤導任何人，讓人以為未來一片美好。唯有在我們對當下保持清醒的認識，並對人工智慧及其支援系統現在以及未來可能如何運作採取堅定立場的情況下，未來才可能值得期待。
為了讓我們的觀點更清楚，有必要先回顧我們眼前這個關鍵的區別：生物心智是自然的，而不是人工的，它們最具決定性的特徵在於它們存在的理由。生物心智是在複雜的生物體內發展出來，並且在演化過程中被採納，因為它們有效地達成了一個至關重要的目的：協助各個活生生的生物體維持自身生命歷程，一旦心智因意識而變得更為豐富，便使生命的延續成為可能。相較之下，人工心智不需要為自身的生命擔憂，因為它們根本沒有生命。它們也沒有什麼可以失去，因為它們本就一無所有。
撇開那些壞人不談，人工智慧是一個由人類的自然智慧所發明、且仍在持續擴展的裝置集合，它可以為人類帶來益處—加速各種任務的執行、降低眾多活動的成本，並為那些不太挑剔娛樂來源的人提供消遣。然而，如前所述，完全無法保證人工智慧工具會一直做為受人類主人掌控的溫順僕人。它們獲得獨立性的可能性，即使只是短暫的，也無疑是令人憂慮的理由。至於應該憂慮到什麼程度？這取決於人工智慧裝置的設計、它的日常功能與影響範圍，也取決於由誰來評估這種風險。
II
一種或許能防止人工智慧裝置發展出獨立性而帶來潛在危險的方式， 來自這樣一個想法： 賦予它們某些屬於真實生命、而非人造之物的基本特徵。我所指的是脆弱性（vulnerability），這是真實生命的一個決定性特質，並且在所有具備神經系統的自然生物之中，都透過體內恆定感受強而有力地表現出來。脆弱性一旦存在，就會成為人工智慧裝置產生「自我關切」（self-concern）的來源。它會促成一種人工的謹慎，而這種謹慎可能抑制風險行為，其方式在很大程度上類似於自然的脆弱性如何促進人類道德體系與正義的發展。這個想法無疑相當誘人，而且確實有充分的理由讓人期待它能帶來珍貴的成果。這樣的努力，需要在人工智慧裝置中引入某些特徵與運作模式，使其類似於感受心智背後的生物機制。不同於當前人工智慧特有的快速數位處理，它們將會包含類比處理，而類似於我們在自律神經系統中發現的歷程。這類發展的未來令人著迷，但我們確實正處在探索這條研究途徑的起點。
III
人工智慧世界中近期的大多數新聞，都與一種最初由Open AI 開發的工具有關，這個工具名為ChatGPT。目前它已有了數個更新版本，甚至還出現了市場上的競爭者，例如Gemini、Claude 與DeepSeek。它們是由所謂的LLM（大型語言模型﹝Large Language Models﹞）驅動，而它們能做到的事，確實相當令人驚嘆。
ChatGPT 得以出現，是因為它持續吸收網路上各式各樣可取得的書面文本，包括整部小說、書信、科學與技術報告、對話等等，總量已超過三兆個詞，而且還在持續增加，這些內容都嵌入於邏輯連貫的句子之中。至於那些書面作品的作者既沒有被徵求同意，也沒有因此獲得任何版稅，這一點就暫且不論。
簡言之，大型語言模型就是在這樣龐大的文字語料庫上接受訓練。如今，當我們要求ChatGPT 針對任何特定主題產生一段文字或回答一個問題，而這個主題曾出現在那些數量近乎天文數字的原始來源之中時，它便會生成一段屬於自己的「新文本」，內容或多或少符合原始來源中所描述與討論的事實與判斷。這種近乎魔法般的煉金術，是將Transformer（ 轉換 器）演算法應用於原始文本所產生的結果。值得注意的是， 這個歷程在若干方面與我們人類在自己大腦中所做的事相當類似，也就是在我們大腦半球的語言皮質與記憶皮質中所進行的歷程，整體包含：（a）一個儲存庫，其中存放著我們在一生經驗中所接觸並學到的事實、意義與詞語；同時也包含（b）我們自然的「Transformer（轉換器）演算法」，負責組裝出符合（a）所彙整的事實與敘事的句子。
當我們被問到某個特定主題時，我們也會運用「神經計算程式」來生成一個故事，其中包含情境設定、事件、主要角色，以及一些與該要求相關的可能結果。這也就是說，當我們被問到某個特定主題時，我們人類會動用自己的想像力， 編構出一個故事。這種情況在我們清醒時經常發生，當我們不知不覺進入自我敘事時便是如此，甚至在我們入睡做夢時也會如此，只不過，在夢中，我們往往會創造出離奇的情境與主角，從滑稽可笑到令人毛骨悚然，不一而足。說到底，這意味著大型語言模型裝置模仿了人類文本中的典型主題、人物類型、各種情境，以及最重要的，由人類的句法結構、文法詞彙，以及句子與段落組織所標示的各種關係。請注意，即使是在所有人工智慧工具中最受吹捧的工具核心深處，自然智慧及其產物的首要地位依然屹立不搖。但也請注意，ChatGPT 在達成其結果時，並不是採用與我們完全相同的程序。我認為，大型語言模型中所使用的Transformer，最終會生成某些與我們的自然機制所產生的結果相似的東西，但其中有些程序至少在某種程度上有所不同。這些程序本身是原創的，而且巧妙得令人驚嘆，即便它們的目標是受到人類長久以來所做之事的啟發。毋庸置疑，大型語言模型確實是一項卓越的技術成就。在我看來，它是人工智慧迄今最輝煌的戰果。
我們在面對大型語言模型工具時，最大的問題是，人們開始把它們當作人類來對待，而它們顯然不是。它們依賴的資訊來自人類—既有好的人類，也有壞的人類—但它們自身並沒有任何道德指引，所以不知道應該依循好的人類範例而不是壞的範例。簡言之，它們並不是人類，它們也未必具有道德性或不道德性。至少在目前，它們在很大程度上受制於偶然。它們可能看來友善而守法，但也可能成為令人恐懼的其中一例「黑暗三角人格」（Dark Triad）：馬基維利主義（Machiavellianism）、自戀（Narcissism） 與心理病態（Psychopathy）。
對某些使用者而言，ChatGPT 似乎具有感受，也似乎具有意識，但這樣的「感受」與「意識」充其量只是表象，而非真實。不過，這些「表象」在我看來暗示了一種引人注目的可能性：複雜的生物物種歷經了漫長歲月才演化出生物機制來調節生命，又經歷了更多歲月將這種體內恆定調節轉化為我們人類今日所擁有的智性與創造能力；而 ChatGPT 卻幾乎跳過了所有這些生物演化的步驟，直接躍入它現在所擁有的智性能力，並且完整無缺地抵達了這個狀態。
ChatGPT 在完成令人印象深刻的任務時，並沒有使用體內恆定感受，也沒有使用由此產生的意識。它僅憑智性本身就能有效運作。換個方式來說，亦即它是純粹的數位運作，並不涉及任何類比的組成部分。ChatGPT 具有足夠的知識以及運用知識的方法，因此它不需要那些老式、作為踏腳石的手段，例如感受與意識。畢竟，它並沒有需要去管理或擔憂的生命。
大型語言模型這一類工具的成功十分卓越。最近在一場氣氛優雅、賓客中不乏知名律師的晚宴上，我得知他們現在每天都在辦公室使用ChatGPT，至少用來協助研究工作，甚至也會用來起草寫給客戶的信件。一想到ChatGPT 可能會憑空編造內容，聽到這些話確實有點令人不寒而慄，但既然這個世界本就已站在懸崖邊緣，那又何必為此憂心忡忡呢？更妙的是，我經常收到一些年輕科學家來信，詢問某些特定問題，而如今這些信件常常加入一句新的開場白起頭：「其實是ChatGPT 建議我聯絡您，並向您提出以下這個問題。」簡言之，學生與科學界的同僚正依循著ChatGPT 的建議行事。時代確實正在改變。
人工智慧專家與企業家經常樂觀地提出這樣的看法：通用人工智慧（AGI）「將會產出人類大腦所能產出的一切」。如果在沒有任何限定的情況下這樣表述，我認為這種想法是錯誤的且具有誤導性。這是因為，正如我們一直在討論的，多數具有創造性且高度複雜的人類心智歷程，並不是僅由大腦單獨產生，而是由大腦與非神經性的身體結構協同合作所產生。生命本身，以及在身體之內調節生命的需要，原本就是大腦出現的演化原因。單靠大腦本身無法生成感受，因為感受的內容是由生物體身體之內的生命歷程所產生的。此外，聲稱僅靠大腦就掌握了心智歷程關鍵的說法，是基於這樣的觀念：神經元的迴路本身就足以負責產生那些心智歷程。這又是一個錯誤，因為心智歷程同樣依賴身體的生理機制，也依賴非神經元的大腦組成部分（例如神經膠細胞）的運作。在文本層次上，或許可以合理地說，AGI 能夠創造出人類大腦所能創造的許多內容—雖然未必是全部。從某種角度來看，這算是一個好消息，因為人類創造力的獨特性仍然無可比擬。但這一點小小的勝利，並不能說明，人工智慧裝置可能憑藉既有能力發展出自主且不友善行為的風險已被排除。邪惡可以非常聰明。我們不該邀請它來展示自己的能耐有多大。新版的Claude，或許就是最後的警鐘。
IV
難以想像自然智慧與人工智慧竟然會被混淆，因為它們在起源與運作方式上存在顯著的差異。然而，如果仍有任何疑問，速度確實可以凸顯這些差異。事實上，人類大腦中的資訊流動速度相當緩慢—平均大約只有每秒10 位元，與人工裝置中的資訊流動速度相比更是如此。人工裝置中的資訊流動速度快上了好幾個數量級。即便如此，也沒有任何理由讓我們感到渺小，更遑論感到羞辱。人工機器無法仰賴那些源自感受世界的智慧奇蹟，而這正是自然智慧所具備的。感受會替我們理出頭緒，穿透紛雜的事實與細節，帶領我們更接近那個為了維持生命並理解世界所需要到達的位置。
I
在試圖分析與解釋人工智慧這股勢不可擋的巨浪時，人們往往忽略了這一事實：自然智慧發明了人工智慧。然而，當我們嘗試理解這兩種「類型」的智慧—自然智慧與人工智慧—之間的關係與差異時，記住這一事實就有所幫助。
自然智慧造就了我們體內恆定調節的驚人能力，並支撐著協助體內恆定的感受與意識，也支撐著我們人類所擁有的知覺、反思、語言、整合與驚人創造力的種種能力。我們人類是什麼、做什麼，很大程度上都源於自然智慧，而這種智慧是在漫長的生物與文化演化歲月中發展出來。至於人工智慧，它不僅是自然智慧最引人入勝的創造之一；無論好與壞，它也已成為自然智慧最重要的創造之一。
人工智慧的故事，不受控制且不受約束地不斷擴張，最終成為我們日常生活的重要一環，存在於我們從事的許多活動之中，也越來越頻繁地出現在我們接觸的各種物件與運作流程之中，進而支配我們生活的幾乎每一個面向，無論是個人層面還是專業層面。如果說，有一個理由可以讓人不必為這種清楚且迫在眼前的存在感到憂慮，那就是：歸根究柢，人工智慧畢竟是從我們的大腦孕育而出。然而，不幸的是，我們也確實有充分的理由感到憂慮，而這個理由與其說與人工智慧的程序及裝置本身有關，不如說更在於這樣一個事實：到目前為止，它們仍然需要人類作為監督者。人類可能是壞的，而在壞人的引導之下，人工智慧裝置也可能變得極其惡劣。人工智慧其中一位才華洋溢、和藹可親的發明者傑佛瑞．辛頓（Geoffrey Hinton）便無法想像，該如何「防止壞人濫用〔人工智慧〕去做壞事」，而他理應最清楚這一點。此外，同樣令人不安的是，有些已經不再需要人類監督的人工智慧裝置，它們的相對自主性其實來自於大量不良的人類教師。最後，而且更令人不安的是，確實存在這樣的情況：那些原本友善且正派的人工智慧裝置，也可能從看似中立的意圖逐漸偏離，轉而對抗那些創造它們或擁有它們的人。
在這場近乎史詩般、卻演變成恐怖鬧劇的景象之中，是否仍然存在一絲希望？我希望或許還有，但我並不願誤導任何人，讓人以為未來一片美好。唯有在我們對當下保持清醒的認識，並對人工智慧及其支援系統現在以及未來可能如何運作採取堅定立場的情況下，未來才可能值得期待。
為了讓我們的觀點更清楚，有必要先回顧我們眼前這個關鍵的區別：生物心智是自然的，而不是人工的，它們最具決定性的特徵在於它們存在的理由。生物心智是在複雜的生物體內發展出來，並且在演化過程中被採納，因為它們有效地達成了一個至關重要的目的：協助各個活生生的生物體維持自身生命歷程，一旦心智因意識而變得更為豐富，便使生命的延續成為可能。相較之下，人工心智不需要為自身的生命擔憂，因為它們根本沒有生命。它們也沒有什麼可以失去，因為它們本就一無所有。
撇開那些壞人不談，人工智慧是一個由人類的自然智慧所發明、且仍在持續擴展的裝置集合，它可以為人類帶來益處—加速各種任務的執行、降低眾多活動的成本，並為那些不太挑剔娛樂來源的人提供消遣。然而，如前所述，完全無法保證人工智慧工具會一直做為受人類主人掌控的溫順僕人。它們獲得獨立性的可能性，即使只是短暫的，也無疑是令人憂慮的理由。至於應該憂慮到什麼程度？這取決於人工智慧裝置的設計、它的日常功能與影響範圍，也取決於由誰來評估這種風險。
II
一種或許能防止人工智慧裝置發展出獨立性而帶來潛在危險的方式， 來自這樣一個想法： 賦予它們某些屬於真實生命、而非人造之物的基本特徵。我所指的是脆弱性（vulnerability），這是真實生命的一個決定性特質，並且在所有具備神經系統的自然生物之中，都透過體內恆定感受強而有力地表現出來。脆弱性一旦存在，就會成為人工智慧裝置產生「自我關切」（self-concern）的來源。它會促成一種人工的謹慎，而這種謹慎可能抑制風險行為，其方式在很大程度上類似於自然的脆弱性如何促進人類道德體系與正義的發展。這個想法無疑相當誘人，而且確實有充分的理由讓人期待它能帶來珍貴的成果。這樣的努力，需要在人工智慧裝置中引入某些特徵與運作模式，使其類似於感受心智背後的生物機制。不同於當前人工智慧特有的快速數位處理，它們將會包含類比處理，而類似於我們在自律神經系統中發現的歷程。這類發展的未來令人著迷，但我們確實正處在探索這條研究途徑的起點。
III
人工智慧世界中近期的大多數新聞，都與一種最初由Open AI 開發的工具有關，這個工具名為ChatGPT。目前它已有了數個更新版本，甚至還出現了市場上的競爭者，例如Gemini、Claude 與DeepSeek。它們是由所謂的LLM（大型語言模型﹝Large Language Models﹞）驅動，而它們能做到的事，確實相當令人驚嘆。
ChatGPT 得以出現，是因為它持續吸收網路上各式各樣可取得的書面文本，包括整部小說、書信、科學與技術報告、對話等等，總量已超過三兆個詞，而且還在持續增加，這些內容都嵌入於邏輯連貫的句子之中。至於那些書面作品的作者既沒有被徵求同意，也沒有因此獲得任何版稅，這一點就暫且不論。
簡言之，大型語言模型就是在這樣龐大的文字語料庫上接受訓練。如今，當我們要求ChatGPT 針對任何特定主題產生一段文字或回答一個問題，而這個主題曾出現在那些數量近乎天文數字的原始來源之中時，它便會生成一段屬於自己的「新文本」，內容或多或少符合原始來源中所描述與討論的事實與判斷。這種近乎魔法般的煉金術，是將Transformer（ 轉換 器）演算法應用於原始文本所產生的結果。值得注意的是， 這個歷程在若干方面與我們人類在自己大腦中所做的事相當類似，也就是在我們大腦半球的語言皮質與記憶皮質中所進行的歷程，整體包含：（a）一個儲存庫，其中存放著我們在一生經驗中所接觸並學到的事實、意義與詞語；同時也包含（b）我們自然的「Transformer（轉換器）演算法」，負責組裝出符合（a）所彙整的事實與敘事的句子。
當我們被問到某個特定主題時，我們也會運用「神經計算程式」來生成一個故事，其中包含情境設定、事件、主要角色，以及一些與該要求相關的可能結果。這也就是說，當我們被問到某個特定主題時，我們人類會動用自己的想像力， 編構出一個故事。這種情況在我們清醒時經常發生，當我們不知不覺進入自我敘事時便是如此，甚至在我們入睡做夢時也會如此，只不過，在夢中，我們往往會創造出離奇的情境與主角，從滑稽可笑到令人毛骨悚然，不一而足。說到底，這意味著大型語言模型裝置模仿了人類文本中的典型主題、人物類型、各種情境，以及最重要的，由人類的句法結構、文法詞彙，以及句子與段落組織所標示的各種關係。請注意，即使是在所有人工智慧工具中最受吹捧的工具核心深處，自然智慧及其產物的首要地位依然屹立不搖。但也請注意，ChatGPT 在達成其結果時，並不是採用與我們完全相同的程序。我認為，大型語言模型中所使用的Transformer，最終會生成某些與我們的自然機制所產生的結果相似的東西，但其中有些程序至少在某種程度上有所不同。這些程序本身是原創的，而且巧妙得令人驚嘆，即便它們的目標是受到人類長久以來所做之事的啟發。毋庸置疑，大型語言模型確實是一項卓越的技術成就。在我看來，它是人工智慧迄今最輝煌的戰果。
我們在面對大型語言模型工具時，最大的問題是，人們開始把它們當作人類來對待，而它們顯然不是。它們依賴的資訊來自人類—既有好的人類，也有壞的人類—但它們自身並沒有任何道德指引，所以不知道應該依循好的人類範例而不是壞的範例。簡言之，它們並不是人類，它們也未必具有道德性或不道德性。至少在目前，它們在很大程度上受制於偶然。它們可能看來友善而守法，但也可能成為令人恐懼的其中一例「黑暗三角人格」（Dark Triad）：馬基維利主義（Machiavellianism）、自戀（Narcissism） 與心理病態（Psychopathy）。
對某些使用者而言，ChatGPT 似乎具有感受，也似乎具有意識，但這樣的「感受」與「意識」充其量只是表象，而非真實。不過，這些「表象」在我看來暗示了一種引人注目的可能性：複雜的生物物種歷經了漫長歲月才演化出生物機制來調節生命，又經歷了更多歲月將這種體內恆定調節轉化為我們人類今日所擁有的智性與創造能力；而 ChatGPT 卻幾乎跳過了所有這些生物演化的步驟，直接躍入它現在所擁有的智性能力，並且完整無缺地抵達了這個狀態。
ChatGPT 在完成令人印象深刻的任務時，並沒有使用體內恆定感受，也沒有使用由此產生的意識。它僅憑智性本身就能有效運作。換個方式來說，亦即它是純粹的數位運作，並不涉及任何類比的組成部分。ChatGPT 具有足夠的知識以及運用知識的方法，因此它不需要那些老式、作為踏腳石的手段，例如感受與意識。畢竟，它並沒有需要去管理或擔憂的生命。
大型語言模型這一類工具的成功十分卓越。最近在一場氣氛優雅、賓客中不乏知名律師的晚宴上，我得知他們現在每天都在辦公室使用ChatGPT，至少用來協助研究工作，甚至也會用來起草寫給客戶的信件。一想到ChatGPT 可能會憑空編造內容，聽到這些話確實有點令人不寒而慄，但既然這個世界本就已站在懸崖邊緣，那又何必為此憂心忡忡呢？更妙的是，我經常收到一些年輕科學家來信，詢問某些特定問題，而如今這些信件常常加入一句新的開場白起頭：「其實是ChatGPT 建議我聯絡您，並向您提出以下這個問題。」簡言之，學生與科學界的同僚正依循著ChatGPT 的建議行事。時代確實正在改變。
人工智慧專家與企業家經常樂觀地提出這樣的看法：通用人工智慧（AGI）「將會產出人類大腦所能產出的一切」。如果在沒有任何限定的情況下這樣表述，我認為這種想法是錯誤的且具有誤導性。這是因為，正如我們一直在討論的，多數具有創造性且高度複雜的人類心智歷程，並不是僅由大腦單獨產生，而是由大腦與非神經性的身體結構協同合作所產生。生命本身，以及在身體之內調節生命的需要，原本就是大腦出現的演化原因。單靠大腦本身無法生成感受，因為感受的內容是由生物體身體之內的生命歷程所產生的。此外，聲稱僅靠大腦就掌握了心智歷程關鍵的說法，是基於這樣的觀念：神經元的迴路本身就足以負責產生那些心智歷程。這又是一個錯誤，因為心智歷程同樣依賴身體的生理機制，也依賴非神經元的大腦組成部分（例如神經膠細胞）的運作。在文本層次上，或許可以合理地說，AGI 能夠創造出人類大腦所能創造的許多內容—雖然未必是全部。從某種角度來看，這算是一個好消息，因為人類創造力的獨特性仍然無可比擬。但這一點小小的勝利，並不能說明，人工智慧裝置可能憑藉既有能力發展出自主且不友善行為的風險已被排除。邪惡可以非常聰明。我們不該邀請它來展示自己的能耐有多大。新版的Claude，或許就是最後的警鐘。
IV
難以想像自然智慧與人工智慧竟然會被混淆，因為它們在起源與運作方式上存在顯著的差異。然而，如果仍有任何疑問，速度確實可以凸顯這些差異。事實上，人類大腦中的資訊流動速度相當緩慢—平均大約只有每秒10 位元，與人工裝置中的資訊流動速度相比更是如此。人工裝置中的資訊流動速度快上了好幾個數量級。即便如此，也沒有任何理由讓我們感到渺小，更遑論感到羞辱。人工機器無法仰賴那些源自感受世界的智慧奇蹟，而這正是自然智慧所具備的。感受會替我們理出頭緒，穿透紛雜的事實與細節，帶領我們更接近那個為了維持生命並理解世界所需要到達的位置。
