▋AI即將取代人類的能力嗎？（節錄）
 
 
第 37 步：「非人」策略
 
DeepMind 與圍棋世界冠軍李世乭對弈時，想出一步人類棋手無法理解的「天才、超人」走法，結果贏得了比賽。但人類根本不會考慮這種看似天才的策略：因為 DeepMind 能計算接下來 50 ∼ 60 步棋，還能計算獲勝的機率（即使機率微乎其微），因此可以承擔人類無法承擔的風險。人類在下圍棋時，通常傾向透過「占領更多地盤」來確保自己的優勢，而非險中求勝。
 
AI也使用同樣的策略來對付戰鬥機飛行員： AI朝那位飛行員俯衝，計算出自己可以「更快瞄準並射擊」，而這樣的動作沒有人類敢執行。在上述兩種情況中，AI都運用「非人類中心」策略，這是人類不會做的事，因為人類傾向規避損失（講白一點就是怕死）。AI可以引述法國飛行員紀堯姆（Guillaumet）的話來說嘴：「我所做的事，沒有人類會做。」
 
但AI也不是我們所謂的「勇敢」，只是缺乏恐懼（「無恐懼感」不等於「無所畏懼」）。在這些情況下，AI只是計算自己成功的最佳機會，並且在極限邊緣按照計算來行動。
 
 
語言的限制
 
斐南達．費雷拉（Fernanda Ferreira）曾說過：「語言夠好，但不完美。」人類語言有其限制，因此，英語在描述創造力、好奇心、心理韌性等有細微差別的特質時，語彙相當有限。上述詞語意義豐富，每次人們使用時都必須解釋說明，找出對於其中細節的共同理解。描述這類抽象術語的詞彙通常較少：舉例來說，芬蘭放牧馴鹿的薩米人對雪和冰的描述，擁有許多精準的詞彙（多達 1,000個詞素！）。
 
但英語中討論創造力的不同形式，很難像薩米人那樣有諸多精準字詞。由於詞彙量的限制，針對 AI能力為何，公共論壇和學術期刊中常有困惑和爭論，從使用過時概 念（ 圖 靈 測 試 ） 到 使 用 錯 誤 詞 彙（ 用 出 現﹝emergence﹞ 而 非 跨 越 閾 值﹝thresholding﹞；用幻覺﹝hallucinations﹞而非胡說八道﹝confabulations﹞；用遷移﹝transfer﹞而非廣泛應用﹝generalization﹞等〕。
 
AI的四個級別
AI可以分成四個不同的級別，每跨一個級別，都代表功能有了大躍進。
 
一、「人工狹義智慧」（ Arti­cial Narrow Intelligence ，簡稱 ANI ）
又稱「機器學習／深度學習」。這些系統是設計用以出色執行特定任務或發揮特定功能。這類 AI的功能相當專精，無法處理指定目的以外的事情。當今一些常見的 AI應用程式遊戲（圍棋、Stratego 策略遊戲等），或者像是可以加入藝術風格轉換、蛋白質摺疊分解、藥物配方設計等功能，都屬於此級別。
 
二、人工能幹智慧（ Arti­cial Capable Intelligence ，簡稱 ACI ）
擁有更廣泛、更強大的影響能力，因此本章和本書大部分內容討論的都是這級別。在全球討論中，從 ANI 進展到 AGI 是相當大的變革，很多人往往沒有強調中間關鍵的 ACI階段，就直接大躍進。這兩個級別的差距很大，教育研究者卻沒有意識到。AI領域多位備受尊崇的人物，都已經挺身支持關注 ACI：
 
‧ 穆 斯 塔 法． 蘇 萊 曼（Mustafa Suleyman），DeepMind（Google） 與Inception.AI的共同創辦人，就是他將當前階段稱為 ACI。
‧ 弗朗索瓦．肖萊（François Chollet），知名 Google AI研究員，曾說：「即使你透過尺度定律推斷出遙遠未來 AI所具備的能力，也不存在任何可能代表人類滅絕風險的 AI模型。」
‧ 楊立昆（Yann LeCun），Meta 公司 AI研究的總監，他曾表示人類高估了當代 AI系統的成熟度：「在人類等級 AI出現前的好幾年，社會比較可能得到『貓等級』或『狗等級』的 AI。」
‧ 蒂姆尼特．格布魯（Timnit Gebru），前 Google 員工，她認為對 AGI／ASI的關注，讓人們沒注意到企業使用自動化系統所產生的立即危害，包括剝削勞工、侵犯版權、合成訊息的傳播，以及權力日益集中。
‧ 蓋瑞．馬庫斯（Gary Marcus），頂尖的 AGI 評論家與備受尊崇的「理性之聲」，他曾打趣說：「任何關於 AGI 的幻想，一碰到真實世界都不復存在。」
‧ 李飛飛，史丹佛大學教授，她受訪時曾說：「我尊重有人擔心 AI對人類存續有威脅。我並不是說這擔憂很愚蠢或我們不該擔心，但是就急迫性而言，我更關心如何改善此時此地的風險。」
‧ 比爾．蓋茲最近承認：「GPT-5 不會比 GPT-4 好多少。」（而且完全沒提到 AGI）。
‧ 就連山姆．奧特曼（Sam Altman）也終於承認：「想要實現 AGI，還需要很多突破。」
 
對於 AI的過度炒作有三種可能：
1. 大型語言模型（Large Language Models，簡稱 LLMs）專家「熱切希望」看到他們的作品無所不能，畢竟歷經數十年克服重重困難進行研發⋯⋯這種想「獻寶」的心情蒙蔽了他們的判斷力，有時甚至會抓住未經證實的觀點不放。
2. 人類強烈傾向將 AI人格化，因此連專家都「過度模式化」（很諷刺吧！）
3. 為了籌措大量資金導致思維偏差⋯⋯。
儘管佩德羅．多明戈斯（Pedro Domingos）希望有個「大統一演算法」（Grand Unification Algorithm），但他明白 AI家族必須合作。演化已經把大腦塑造成有多個專門區塊共同合作，為何 AI界對這樣的比擬還是難以接受？或許是因為對研究人員來說，這結果令人失望，意味著他們需要自己不擅長的其他類型演算法。
 
三、人工通用智慧（ Arti­cial General Intelligence ，簡稱 AGI ）
旨在模仿完整的人類認知能力。這些系統將能理解、學習和執行任何人類做得到的智力任務。AGI 會比 ANI 或 ACI 更多才多藝，能和人類流暢互動、解決問題，以及適應新情況。Google 的 DeepMind 最近發表一篇論文，描述 AGI 的水準為何，但在本書看來，把當今的 GPT／ LlaMa ／Bard稱為「新興的 AGI」，似乎是過譽了⋯⋯AGI 在大眾媒體上受到的關注也會影響學術討論，把注意力引至更廣泛、哲學層面的擔憂：憂心機器具有類人智慧的世界。誠如蓋瑞．馬庫斯所言，AGI 要成熟，還得「經歷好幾次根本變革」。
 
四、人工超級智慧（ Arti­cial Super Intelligence ，簡稱 ASI ）
想像 AI可以譜出精湛的交響樂、提出突破性的科學理論，並且以超越所有人類能力的方式展現同理心與體諒。ASI代表最先進的 AI發展，也引出有關 AI對社會與人類未來潛在影響的存在問題。ASI不僅能模仿人類思考歷程，還能大幅超越人類的效能。ASI 可以擁有原創的藝術創造力、無可匹敵的問題解決能力，以及老練的 EQ；ASI 展現的智慧超越人類的理解。
 
 
 
▋冷靜的觀點（節錄）
 
正如本書前言所述，CCR不會抱持科幻觀點：機器包攬所有工作、人類完全享樂，或是機器終將奴役人類；除非這些成為言之在理的可能性，否則就只是哲學探討。不過此時出現了兩種可能效應，它們可以並行不悖，因為彼此並未互斥：
 
‧替代：
在勞動經濟學中，「替代」這概念是指工人或工作因技術進步而被取代。「AI不會取代你，但是善用 AI的人會。」這句廣受引用的話常被認為是杜撰的，但已被哈佛商學院（Harvard Business School）證實且記錄在案。這句話暗示的是，雖然 AI可能不會直接取代個人的角色，但那些能駕馭 AI的人很可能比無法運用 AI的人更勝一籌。這強調了擁抱 AI科技與讓 AI融入專業領域的重要。換句話說，與其跟在汽車後面跑，不如趕快跳上車！
 
‧互補：
在勞動經濟學中，「互補」這概念是指某些技術或技能可以提高人類勞動的價值和生產力，而非取而代之。哈佛商學院最近有項出色研究表示：「我們認為，AI的能力創造了一個『參差不齊的科技前沿』，有些任務 AI能輕鬆做到，也有些看似難度差不多，卻超出目前 AI的能力⋯⋯我們的分析顯示，在人類與 AI融合的範疇裡，出現了兩種成功使用 AI的獨特模式。第一類 AI顧問就像神話故事中的『半人馬』（Centaur），將解決方案的不同任務分配給 AI或自己。另一類顧問比較像『生化人』（Cyborg），完全將他們的任務流程與 AI整合，並且不斷與技術互動。」
 
雖然科技和人類技能之間的互補能大幅提升生產力，但也設下潛在的陷阱，特別是在長期的現實環境中。過度依賴科技可能讓工人進入「自動駕駛」模式，這其實是一種懈怠，過度仰賴並信任技術系統，反倒無法主動參與系統運作，進一步改善自身技能。這種態勢會導致技能衰退，削弱人類面臨突發挑戰或變革時的快速應變力。
 
在現實的職場中，這兩大效應的相互作用可能讓從業人員受益。舉例來說，在新聞行業，LLMs 可以協助記者進行初步調查，並且產出標準報導的內容。然而，批判思考、事實查證、分析、敘事引人入勝，以及新聞行業固有的道德考量，對機器來說較難持續複製。在客戶服務領域，LLMs 於處理最初的客戶詢問、投訴或回饋方面，發揮了重要作用，並且在聊天機器人或電子郵件自動回覆等平台上，提供即時的回應，客戶服務因此更有效率，足以應對常見與基本的問題。然而，有些複雜的問題需要 EQ、同理心或巧妙高超的手段，則仍需要人類出手。LLMs可以提供資訊，但人類善於建立關係與領略言外之意。
 
同樣，LLMs 可以分析大量的醫療文獻，根據症狀輸入來提供最新研究的結果，或是給予獨特的診斷建議，在協助醫療從業人員方面，這無疑是一大躍進。但實際的醫療行為不只是資料處理，還包含身體檢查與治療、解讀非語言線索，以及綜合客觀資料與主觀判斷來做決定。
 
那麼，讓我們總結一下：
‧ 經濟學家並不完全了解考試、任務、職業之間的複雜程度差異。
‧ 歷史顯示，科技要在各行各業中普及，需要幾十年的時間。
‧ 預測未來時，往往會出現意料之外的新職業。
‧ 就業人口統計數字常被低估。
‧ 替代與互補效應將發揮作用，而且難以預測。
 
明白上述條件後，我們可以排除近期「所有工作都會消失」的恐懼。既然工作在可預見的未來依然存在，那麼教育的目標「仍然」有二，就如緒論所言：心理社會目標與經濟目標，缺一不可。本書接下來的部分，將會討論如何做到這一點。一切都始於教育的終極目標：智慧。