〈當AI也有自由意志〉
現代人對基因、遺傳、命定、與自由意志這類問題，有遏止不住的好奇心，也想瞭解在面對新一代的生物醫學與AI時，如何求解？剛好我譯注出版的班傑明．利貝特（Benjamin Libet, 1916-2007；或譯李貝）的《心智時間》（Mind Time；黃榮村譯注《如何測量自由意志》，聯經出版，二○二五），與這些問題都有關聯性。這是一本橫跨四十年（一九六四—二○○四）的研究與心得專書，李貝為意識科學的實驗研究，做了非常重要的奠基工作。
李貝發現正常受試者在自由決定想要作出行動（如彎曲食指）之前，研究者可在對應於皮質部輔助動作區（supplementary motor area, SMA；位於動作皮質部之前，往腦部前端方向）的腦殼上，測到與自主行動有關的顱外微小電位，或稱為準備電位（readiness potential, RP；一九六四年首度由 Hans Kornhuber 與 Lüder Deecke在德國Freiburg大學，經過繁複的腦波紀錄與綜合計算後，獲知有這種特殊的RP電位，這是腦波量測上一個很重要的發現，之後就一直將RP視為是在規劃、準備、與啟動自主行動時的特定電生理訊號），好像自主行動的決定與執行，都是被先前已發生的RP所誘發一樣。李貝認為自主行動的執行，與已經在意識狀態下的意圖或決定無關，因為真正驅動自主運動執行的過程，早在下決定的四百毫秒之前，就已經在無意識下由準備電位（RP）開始啟動。
●自由意志是一種錯覺？
李貝不希望別人認為他否定自由意志的存在，所以提出人在意圖做自主行動的決定產生後，還有大約一百至二百毫秒時間來做意識性否決（conscious veto）的餘裕，讓當事人可以停止自主行動的執行。不過經驗上，要能在極短時間內，做出具有意識性的否決意圖與行動，其實是非常困難的，不少研究者因此主張「人有自由意志」的認定，應該是一種錯覺，也就是不存在有自由意志這種東西。
李貝的結果令人訝異，因為在無意識狀態下產生的RP，從時間向度上看，好像啟動了應該在意識狀態下，才會有的自由與自主行動。寇斯林（Stephen Kosslyn，前哈佛大學心理學系教授、Minerva大學校長）說：「李貝的發現初看頗具爭議性，但撐過了時間的考驗—現在任何有關意識及其神經機制的理論，都必須要能闡釋李貝所獲得的實驗結果。」該研究又衍生了另一嚴重的，有關責任、犯罪、與倫理的問題，亦即若自由意志不存在或自由意志是一種錯覺，則人類又該如何為自己負責？李貝提出意念否決或自由放棄的說法，是否可以在這點上解套？這類問題是當今學界、法界、精神醫學界、實務界、與社會的重大關注事項，可說是李貝該一系列研究長久以來受到注意與討論的理由，也是一場學界與實務界尚未停止的戰爭。
至於自由意志本身究竟是什麼？不知道。李貝雖然研究自由意志，但並未真正研究自由意志本身的結構與內容，而是改問如何去操作自由意志，之後在此基礎上探討影響自由意志運作的機制為何，也就是說自由意志本身仍然是個黑箱。談論者也是大部分在「自由意志」這個概念的旁邊繞圈子，如以「自身之因」（causa sui）來詮釋自由意志。該講法是說，人若要為自己的行動負起道德責任，則自己必須是自身得以發生之因，或至少在某些關鍵的心智層面上，自己要能主動創造。最高等級的道德、價值、與概念不可能是後天生成的，所以它們必須是其自身之因。對持一般因果觀念的人而言，這類講法是有矛盾的，因為導致它們出現的原因，應該發生在它們存在之前。另外由於這一切不應在不同人之間有所不同或互相違反，因之又將神視為自身與萬物之因的最重要連接。尼采認為這些說法都是自我矛盾的，史特勞森（Galen Strawson）則主張不可能有任何事物是其自身得以出現的原因，所以自由意志是不存在的，因此人可不必為其行動負道德責任的講法，值得再做進一步更清楚的討論。在有關自由意志是否存在之其他論證中，也有不少這類具有內在矛盾性的主張，如在基因研究與概念盛行的時代，可能會有人說自由意志應該也有其基因基礎，或者說存在有自由意志基因，但這種論證是弔詭且悖謬的，因為若有自由意志基因，則自由意志便會受到基因的重重規範與制約，而直接違反了自由意志應該是自由自主的定義。
●假如AI也能弄懂自由意志
老同學邢義田院士是知名秦漢史與羅馬史專家，看了《如何測量自由意志》這本譯注的長篇導讀之後，覺得書中所談問題，大概只有極聰明的人才敢去挑戰，他接著提出一個銳利問題：「雖然書中幾位大名家的理論和實驗，還不一致，也不能做出最後確定，但如果自由意志真可以在實驗室中測量出來，找出可計算性，則是不得了的大事。在AI時代算力和學習是一切，如意志可測量、可計算，則AI學習後，必超越人，人不就只能接受AI統治？」
我回答說譯注這本書，是因為以前讓學生看或講給學生聽時，常是瞠目以對，歐美學生也是一樣，至於反對方的科學家與哲學家們，則忙著與李貝爭吵，也不能說真弄懂他的技術與觀點，所以才花很多時間來譯注。這本書比以前譯注肯德爾《啟示的年代》這本大書，更難搞。我因為當過幾次政務特任職，不想給學校添麻煩，所以在七十歲後選擇擔任榮譽職，考試院卸任後亦同，就申請國科會研究計畫，從事困難的學術譯書與撰寫專書的工作，以延續長久以來的學術志趣。至於所詢問題相當銳利，僅能做點小回覆供參考：
⑴本書所提的「自由意志」是用操作性定義，亦即當意識到自己有主動要去做某件事（如彎曲食指）的意圖時，就認定是自由意志發生的時候，但在這個時間點之前幾百毫秒，大腦的動作規劃區其實已經有「準備電位」在累積，這是可以在腦殼外測量到的，表示在無意識或尚未意識到自己的意圖時，大腦已經在準備做反應了，看起來好像是在尚未自主意識到自己的行動意圖之前，大腦已經工作一陣子了。所以有的哲學家就說，根本沒自由意志這回事，自由意志是一種錯覺。
⑵自由意志本身是否可以測量？自由意志雖為一種高階概念，但若弄清楚內部結構後，可以當為是一種實體（entity，如質量、重量、溫度、軌道、記憶、效用等），是一種自然類（natural kind），那就可以為自由意志弄出一個計算模式（computational model），接著可以找出測量方法來測量它。假如自由意志可以裡裡外外弄得這麼清楚，那麼AI應該很快就可以學到如何偵測、計算、與運用自由意志，甚至控制自由意志，則人類還有什麼可以掌握的？不過，科學界尚未能發展出自由意志的計算理論，也就是說還一團模糊，才會去弄個操作性定義出來，要不然直接測量不就好了。既然學者與科學家都搞不定，所以AI雖然厲害，還是再等一陣子吧。
⑶人的意識經驗中，有一種稱為「第三人稱」經驗，不同人之間可以交換經驗（可測量），如幾何形狀／色彩的知覺，或電影情節。但有另一種更重要的「第一人稱」內在經驗（具個人私密性、認知難以穿透、難以測量），目前是無法真正溝通交換經驗的，如看完電影的感動／泫然欲泣、蘋果的紅色鮮豔欲滴、個人疼痛的感覺等感質（qualia）。自由意志的意識經驗，顯然是第一人稱的內在意識與情感經驗。克里克認為雖然科學現在還做不到，但這個問題確實是人類意識研究的核心，科學家應有雄心壯志來解釋它，而非讓給哲學家們談論而已。
⑷目前的AI至少還有三個關卡：（a）自我意識（我是誰、誰是我？）；（b）創意（經常要做跨域類比）；（c）情感／情緒（AI可以偵測人的情緒狀態，也可依指令產出不同情緒，但難以像人類一樣主動出現非線性與難以預測的情緒）。假如AI可以克服這些問題，人的獨特性很快就會崩潰，並被取代。至於AI即將接管人類世界的說法，主要是因為認知科學家傑佛瑞．辛頓（Geoffrey Hinton，他因其深度學習研究，與提出具集體計算能力神經網路模式的John Hopfield，同獲二○二四年諾貝爾物理學獎），以及幾位新一代AI領導人，預期能夠像人一樣推理、思考、規劃的「人工通用智能」（Artificial General Intelligence, AGI），十年內應有機會成真，亦即可在知性上取代人類大部分的推理與決定，但相對的，科學界尚不知在感性與德行層面上，將會做出何種規範以資配合，所以危險就在這裡，人類應該知道要煩惱了。辛頓與有志之士因此呼籲，我們應該設計出能夠更為關心人類的AI，而不能僅著眼在讓其變得更聰明，以致成為比人類更為強大但卻無法節制的系統。
⑸AI目前的極限／關卡，其實就是心智（包括知性與感性）生物學的關卡，若科學界能弄清楚上述三個極限問題，就是心智生物學革命成功之日，說不定也是人類滅亡之日，因為AI到時幾乎可以完全取代人類，而且不會只侷限在知性上取代人類的AGI而已。依據肯德爾（Eric Kandel）十幾年前在《啟示的年代》（The Age of Insight）書中所做的預測，大概還要五十年才能解決吧。我認為這個預測不可能太早實現，因為神經科學家總是太過樂觀，而且我還希望人類可以撐久一點。
同樣的困境也發生在經濟學領域。人類感性與情緒影響經濟與市場行為，就好像是黑暗力量，幾乎無所不在，凱因斯早就以動物本能的講法，來描述這類非理性元素。但歷屆諾貝爾經濟學獎並未有任何一個獎項頒發給情緒的研究者，歷年來至少九十五％以上是頒給以人類理性為模式基礎的重要研究，這是可以量化、可以求極大化、可以預測的部分，少數則頒給以人類認知為導向的行為經濟學家或心理學家，至於想要放入感性元素之經濟學模式，則因其難以量化、難以極大化、難以預測的特性，目前尚難成氣候。這是跛腳的給獎體系，還是跛腳的學術，殊難斷定也。
邢兄聽完後，給了我一點回應：「我們這一代應該看不到被AI統治，須跨域類比的創意和非線性的情緒應該都很難測量，如不能有效測量，建立模式，則不太可能由人製造的機器取代人的這些方面，人還可以為人。前不久看到一位在耶路撒冷教書的猶太中古史學者，哈拉瑞（Yuval Noah Harari）所著的Nexus（《連結：從石器時代到AI紀元》；林俊宏譯，天下文化出版，二○二四）一書，表達對未來樂觀但要有警戒心的觀點，如果人能在發展AI的過程中不缺席，並適時導入防錯機制，就比較令人放心了。」
●莫拉維克悖論與非算則性心智
AlphaGo與AlphaFold的主要開發者德米斯．哈薩比斯（Demis Hassabis，二○二四年諾貝爾化學獎），曾提出「莫拉維克悖論」〔Moravec’s paradox; Hassabis, D. (2017). Artificial Intelligence: Chess Match of the Century. Nature, 544, 413-414.〕：「電腦或AI 能執行人類認為非常難的計算工作，但在我們以直覺方式即可做到的常識性工作上，卻是完全失敗的。」
其實明斯基（Marvin Minsky）早在一九六九年即與派普特（Seymour Papert），在其出版的《知覺機器》（Perceptrons）書中指出，若簡單的多層神經網路採用生物視覺接受器的神經生理機制，則無法辨識人類可以輕易看到的圖形連接性（connectedness）。約在四十多年前，AI第一代創始人賀伯．賽蒙（Herbert Simon，一九七八年諾貝爾經濟學獎），即已就其親身經驗，也向我們提出類似看法，他說電腦或AI在一般人覺得困難的問題解決與定理證明上表現良好，但在人類可以簡單有效處理的自然視覺與圖形辨識上卻困難重重。時隔多年，改以深度學習設計，又有超高算力及大數據可用的新AI，當然解決了賽蒙所說的大部分問題，而且在很多問題的解決上，只要不執著於「像不像人」該一層面，則新AI早已超越人類的表現，但「莫拉維克悖論」仍然存在。不過哈薩比斯與辛頓一樣，都認為人工通用智能（AGI）在不久的將來，即可能發展成功，若真如此，則到時應該會大幅紓解「莫拉維克悖論」所提到的困境。
另外再看AI所能表現的創造力或科學創意，目前是否有其科學理解上的極限？創意至少涉及到跨領域作比較，並能迅速抓住同異性的類比能力，生物學的若干重大發現，有些是來自在物理領域中作跨領域類比所獲得的結果，如將熱力學第二定律，用到生物與生態系統的衰頹之上，將薛丁格的晶體觀點用到DNA的雙螺旋結構解密上，或者將能量守恆原理用來解釋夢之產生等等。傑瑞．福多（Jerry Fodor）曾在其書中〔Fodor, J. (1983). The Modularity of Mind. Cambridge, MA.: MIT Press；張欣戊譯（二○○八）《模組心智》，台北市：五南〕，以「類比推理」（analogical reasoning）作進一步解釋，科學假說的驗證往往要在過去所建立的規律上多方向尋找相關資料，該歷程通常要依賴從過去被認為不相干的認知範疇中，作出訊息的移轉與利用。由此可知在科學發現的歷史上，類比推理是被應用得相當廣泛的，但偏偏我們對它的科學性瞭解卻是如此的少，福多因此提出頗具諷刺性的「福多的認知科學不存在第一定理」（Fodor’s First Law of the Nonexistence of Cognitive Science），主要在說明：「認知歷程愈總體，任何人愈少瞭解它；非常總體的歷程，如類比推理，更是未被瞭解。」
羅傑．潘洛斯（Roger Penrose，二○二○年諾貝爾物理學獎）也持類似看法，但打擊面更為廣泛，他在那本出名的《國王新腦》（Penrose, R. (1989). The Emperor’s New Mind: Concerning Computers, Minds and the Law of Physics. Oxford: Oxford University Press；許明賢與吳忠超譯（一九九三）《皇帝新腦》，台北市：藝文印書館）書中，認為強勢版本的人工智能（強AI），想用古典物理方法來模擬人類心智，根本是不可能的事，就像國王的新衣一樣，觸摸不到心靈的奧祕，因為包括意識、創意、類比式問題解決這些高級心理能力，基本上是非算則性（non-algorithmic）的，難以用古典力學與機械論的觀點逼近，必須考量其量子層次的特性。看起來，這些研究者的觀點都有點悲觀。
從潘洛斯根深蒂固的觀點來看，上述這些心智問題，基本上都是不可計算或非常難以計算的，既然找不到個別可用的計算模式，則不管是古典AI或神經網路或新一代深度學習AI，都必須面對這類本質性問題（第一人稱內在經驗、情感的非線性特質、創意的跨領域類比、與自我意識／意志的出現）。這些根本問題，目前都還是心智生物學的天花板，什麼時候可以找到終極解答，可說仍在未定之天，樂觀與悲觀的專家各有其偏好的強烈論證，真是五光十色令人目盲，我們最好還是保持開放與警醒的心態，來面對這場看起來仍然無止無休的人類社會大實驗。
現代人對基因、遺傳、命定、與自由意志這類問題，有遏止不住的好奇心，也想瞭解在面對新一代的生物醫學與AI時，如何求解？剛好我譯注出版的班傑明．利貝特（Benjamin Libet, 1916-2007；或譯李貝）的《心智時間》（Mind Time；黃榮村譯注《如何測量自由意志》，聯經出版，二○二五），與這些問題都有關聯性。這是一本橫跨四十年（一九六四—二○○四）的研究與心得專書，李貝為意識科學的實驗研究，做了非常重要的奠基工作。
李貝發現正常受試者在自由決定想要作出行動（如彎曲食指）之前，研究者可在對應於皮質部輔助動作區（supplementary motor area, SMA；位於動作皮質部之前，往腦部前端方向）的腦殼上，測到與自主行動有關的顱外微小電位，或稱為準備電位（readiness potential, RP；一九六四年首度由 Hans Kornhuber 與 Lüder Deecke在德國Freiburg大學，經過繁複的腦波紀錄與綜合計算後，獲知有這種特殊的RP電位，這是腦波量測上一個很重要的發現，之後就一直將RP視為是在規劃、準備、與啟動自主行動時的特定電生理訊號），好像自主行動的決定與執行，都是被先前已發生的RP所誘發一樣。李貝認為自主行動的執行，與已經在意識狀態下的意圖或決定無關，因為真正驅動自主運動執行的過程，早在下決定的四百毫秒之前，就已經在無意識下由準備電位（RP）開始啟動。
●自由意志是一種錯覺？
李貝不希望別人認為他否定自由意志的存在，所以提出人在意圖做自主行動的決定產生後，還有大約一百至二百毫秒時間來做意識性否決（conscious veto）的餘裕，讓當事人可以停止自主行動的執行。不過經驗上，要能在極短時間內，做出具有意識性的否決意圖與行動，其實是非常困難的，不少研究者因此主張「人有自由意志」的認定，應該是一種錯覺，也就是不存在有自由意志這種東西。
李貝的結果令人訝異，因為在無意識狀態下產生的RP，從時間向度上看，好像啟動了應該在意識狀態下，才會有的自由與自主行動。寇斯林（Stephen Kosslyn，前哈佛大學心理學系教授、Minerva大學校長）說：「李貝的發現初看頗具爭議性，但撐過了時間的考驗—現在任何有關意識及其神經機制的理論，都必須要能闡釋李貝所獲得的實驗結果。」該研究又衍生了另一嚴重的，有關責任、犯罪、與倫理的問題，亦即若自由意志不存在或自由意志是一種錯覺，則人類又該如何為自己負責？李貝提出意念否決或自由放棄的說法，是否可以在這點上解套？這類問題是當今學界、法界、精神醫學界、實務界、與社會的重大關注事項，可說是李貝該一系列研究長久以來受到注意與討論的理由，也是一場學界與實務界尚未停止的戰爭。
至於自由意志本身究竟是什麼？不知道。李貝雖然研究自由意志，但並未真正研究自由意志本身的結構與內容，而是改問如何去操作自由意志，之後在此基礎上探討影響自由意志運作的機制為何，也就是說自由意志本身仍然是個黑箱。談論者也是大部分在「自由意志」這個概念的旁邊繞圈子，如以「自身之因」（causa sui）來詮釋自由意志。該講法是說，人若要為自己的行動負起道德責任，則自己必須是自身得以發生之因，或至少在某些關鍵的心智層面上，自己要能主動創造。最高等級的道德、價值、與概念不可能是後天生成的，所以它們必須是其自身之因。對持一般因果觀念的人而言，這類講法是有矛盾的，因為導致它們出現的原因，應該發生在它們存在之前。另外由於這一切不應在不同人之間有所不同或互相違反，因之又將神視為自身與萬物之因的最重要連接。尼采認為這些說法都是自我矛盾的，史特勞森（Galen Strawson）則主張不可能有任何事物是其自身得以出現的原因，所以自由意志是不存在的，因此人可不必為其行動負道德責任的講法，值得再做進一步更清楚的討論。在有關自由意志是否存在之其他論證中，也有不少這類具有內在矛盾性的主張，如在基因研究與概念盛行的時代，可能會有人說自由意志應該也有其基因基礎，或者說存在有自由意志基因，但這種論證是弔詭且悖謬的，因為若有自由意志基因，則自由意志便會受到基因的重重規範與制約，而直接違反了自由意志應該是自由自主的定義。
●假如AI也能弄懂自由意志
老同學邢義田院士是知名秦漢史與羅馬史專家，看了《如何測量自由意志》這本譯注的長篇導讀之後，覺得書中所談問題，大概只有極聰明的人才敢去挑戰，他接著提出一個銳利問題：「雖然書中幾位大名家的理論和實驗，還不一致，也不能做出最後確定，但如果自由意志真可以在實驗室中測量出來，找出可計算性，則是不得了的大事。在AI時代算力和學習是一切，如意志可測量、可計算，則AI學習後，必超越人，人不就只能接受AI統治？」
我回答說譯注這本書，是因為以前讓學生看或講給學生聽時，常是瞠目以對，歐美學生也是一樣，至於反對方的科學家與哲學家們，則忙著與李貝爭吵，也不能說真弄懂他的技術與觀點，所以才花很多時間來譯注。這本書比以前譯注肯德爾《啟示的年代》這本大書，更難搞。我因為當過幾次政務特任職，不想給學校添麻煩，所以在七十歲後選擇擔任榮譽職，考試院卸任後亦同，就申請國科會研究計畫，從事困難的學術譯書與撰寫專書的工作，以延續長久以來的學術志趣。至於所詢問題相當銳利，僅能做點小回覆供參考：
⑴本書所提的「自由意志」是用操作性定義，亦即當意識到自己有主動要去做某件事（如彎曲食指）的意圖時，就認定是自由意志發生的時候，但在這個時間點之前幾百毫秒，大腦的動作規劃區其實已經有「準備電位」在累積，這是可以在腦殼外測量到的，表示在無意識或尚未意識到自己的意圖時，大腦已經在準備做反應了，看起來好像是在尚未自主意識到自己的行動意圖之前，大腦已經工作一陣子了。所以有的哲學家就說，根本沒自由意志這回事，自由意志是一種錯覺。
⑵自由意志本身是否可以測量？自由意志雖為一種高階概念，但若弄清楚內部結構後，可以當為是一種實體（entity，如質量、重量、溫度、軌道、記憶、效用等），是一種自然類（natural kind），那就可以為自由意志弄出一個計算模式（computational model），接著可以找出測量方法來測量它。假如自由意志可以裡裡外外弄得這麼清楚，那麼AI應該很快就可以學到如何偵測、計算、與運用自由意志，甚至控制自由意志，則人類還有什麼可以掌握的？不過，科學界尚未能發展出自由意志的計算理論，也就是說還一團模糊，才會去弄個操作性定義出來，要不然直接測量不就好了。既然學者與科學家都搞不定，所以AI雖然厲害，還是再等一陣子吧。
⑶人的意識經驗中，有一種稱為「第三人稱」經驗，不同人之間可以交換經驗（可測量），如幾何形狀／色彩的知覺，或電影情節。但有另一種更重要的「第一人稱」內在經驗（具個人私密性、認知難以穿透、難以測量），目前是無法真正溝通交換經驗的，如看完電影的感動／泫然欲泣、蘋果的紅色鮮豔欲滴、個人疼痛的感覺等感質（qualia）。自由意志的意識經驗，顯然是第一人稱的內在意識與情感經驗。克里克認為雖然科學現在還做不到，但這個問題確實是人類意識研究的核心，科學家應有雄心壯志來解釋它，而非讓給哲學家們談論而已。
⑷目前的AI至少還有三個關卡：（a）自我意識（我是誰、誰是我？）；（b）創意（經常要做跨域類比）；（c）情感／情緒（AI可以偵測人的情緒狀態，也可依指令產出不同情緒，但難以像人類一樣主動出現非線性與難以預測的情緒）。假如AI可以克服這些問題，人的獨特性很快就會崩潰，並被取代。至於AI即將接管人類世界的說法，主要是因為認知科學家傑佛瑞．辛頓（Geoffrey Hinton，他因其深度學習研究，與提出具集體計算能力神經網路模式的John Hopfield，同獲二○二四年諾貝爾物理學獎），以及幾位新一代AI領導人，預期能夠像人一樣推理、思考、規劃的「人工通用智能」（Artificial General Intelligence, AGI），十年內應有機會成真，亦即可在知性上取代人類大部分的推理與決定，但相對的，科學界尚不知在感性與德行層面上，將會做出何種規範以資配合，所以危險就在這裡，人類應該知道要煩惱了。辛頓與有志之士因此呼籲，我們應該設計出能夠更為關心人類的AI，而不能僅著眼在讓其變得更聰明，以致成為比人類更為強大但卻無法節制的系統。
⑸AI目前的極限／關卡，其實就是心智（包括知性與感性）生物學的關卡，若科學界能弄清楚上述三個極限問題，就是心智生物學革命成功之日，說不定也是人類滅亡之日，因為AI到時幾乎可以完全取代人類，而且不會只侷限在知性上取代人類的AGI而已。依據肯德爾（Eric Kandel）十幾年前在《啟示的年代》（The Age of Insight）書中所做的預測，大概還要五十年才能解決吧。我認為這個預測不可能太早實現，因為神經科學家總是太過樂觀，而且我還希望人類可以撐久一點。
同樣的困境也發生在經濟學領域。人類感性與情緒影響經濟與市場行為，就好像是黑暗力量，幾乎無所不在，凱因斯早就以動物本能的講法，來描述這類非理性元素。但歷屆諾貝爾經濟學獎並未有任何一個獎項頒發給情緒的研究者，歷年來至少九十五％以上是頒給以人類理性為模式基礎的重要研究，這是可以量化、可以求極大化、可以預測的部分，少數則頒給以人類認知為導向的行為經濟學家或心理學家，至於想要放入感性元素之經濟學模式，則因其難以量化、難以極大化、難以預測的特性，目前尚難成氣候。這是跛腳的給獎體系，還是跛腳的學術，殊難斷定也。
邢兄聽完後，給了我一點回應：「我們這一代應該看不到被AI統治，須跨域類比的創意和非線性的情緒應該都很難測量，如不能有效測量，建立模式，則不太可能由人製造的機器取代人的這些方面，人還可以為人。前不久看到一位在耶路撒冷教書的猶太中古史學者，哈拉瑞（Yuval Noah Harari）所著的Nexus（《連結：從石器時代到AI紀元》；林俊宏譯，天下文化出版，二○二四）一書，表達對未來樂觀但要有警戒心的觀點，如果人能在發展AI的過程中不缺席，並適時導入防錯機制，就比較令人放心了。」
●莫拉維克悖論與非算則性心智
AlphaGo與AlphaFold的主要開發者德米斯．哈薩比斯（Demis Hassabis，二○二四年諾貝爾化學獎），曾提出「莫拉維克悖論」〔Moravec’s paradox; Hassabis, D. (2017). Artificial Intelligence: Chess Match of the Century. Nature, 544, 413-414.〕：「電腦或AI 能執行人類認為非常難的計算工作，但在我們以直覺方式即可做到的常識性工作上，卻是完全失敗的。」
其實明斯基（Marvin Minsky）早在一九六九年即與派普特（Seymour Papert），在其出版的《知覺機器》（Perceptrons）書中指出，若簡單的多層神經網路採用生物視覺接受器的神經生理機制，則無法辨識人類可以輕易看到的圖形連接性（connectedness）。約在四十多年前，AI第一代創始人賀伯．賽蒙（Herbert Simon，一九七八年諾貝爾經濟學獎），即已就其親身經驗，也向我們提出類似看法，他說電腦或AI在一般人覺得困難的問題解決與定理證明上表現良好，但在人類可以簡單有效處理的自然視覺與圖形辨識上卻困難重重。時隔多年，改以深度學習設計，又有超高算力及大數據可用的新AI，當然解決了賽蒙所說的大部分問題，而且在很多問題的解決上，只要不執著於「像不像人」該一層面，則新AI早已超越人類的表現，但「莫拉維克悖論」仍然存在。不過哈薩比斯與辛頓一樣，都認為人工通用智能（AGI）在不久的將來，即可能發展成功，若真如此，則到時應該會大幅紓解「莫拉維克悖論」所提到的困境。
另外再看AI所能表現的創造力或科學創意，目前是否有其科學理解上的極限？創意至少涉及到跨領域作比較，並能迅速抓住同異性的類比能力，生物學的若干重大發現，有些是來自在物理領域中作跨領域類比所獲得的結果，如將熱力學第二定律，用到生物與生態系統的衰頹之上，將薛丁格的晶體觀點用到DNA的雙螺旋結構解密上，或者將能量守恆原理用來解釋夢之產生等等。傑瑞．福多（Jerry Fodor）曾在其書中〔Fodor, J. (1983). The Modularity of Mind. Cambridge, MA.: MIT Press；張欣戊譯（二○○八）《模組心智》，台北市：五南〕，以「類比推理」（analogical reasoning）作進一步解釋，科學假說的驗證往往要在過去所建立的規律上多方向尋找相關資料，該歷程通常要依賴從過去被認為不相干的認知範疇中，作出訊息的移轉與利用。由此可知在科學發現的歷史上，類比推理是被應用得相當廣泛的，但偏偏我們對它的科學性瞭解卻是如此的少，福多因此提出頗具諷刺性的「福多的認知科學不存在第一定理」（Fodor’s First Law of the Nonexistence of Cognitive Science），主要在說明：「認知歷程愈總體，任何人愈少瞭解它；非常總體的歷程，如類比推理，更是未被瞭解。」
羅傑．潘洛斯（Roger Penrose，二○二○年諾貝爾物理學獎）也持類似看法，但打擊面更為廣泛，他在那本出名的《國王新腦》（Penrose, R. (1989). The Emperor’s New Mind: Concerning Computers, Minds and the Law of Physics. Oxford: Oxford University Press；許明賢與吳忠超譯（一九九三）《皇帝新腦》，台北市：藝文印書館）書中，認為強勢版本的人工智能（強AI），想用古典物理方法來模擬人類心智，根本是不可能的事，就像國王的新衣一樣，觸摸不到心靈的奧祕，因為包括意識、創意、類比式問題解決這些高級心理能力，基本上是非算則性（non-algorithmic）的，難以用古典力學與機械論的觀點逼近，必須考量其量子層次的特性。看起來，這些研究者的觀點都有點悲觀。
從潘洛斯根深蒂固的觀點來看，上述這些心智問題，基本上都是不可計算或非常難以計算的，既然找不到個別可用的計算模式，則不管是古典AI或神經網路或新一代深度學習AI，都必須面對這類本質性問題（第一人稱內在經驗、情感的非線性特質、創意的跨領域類比、與自我意識／意志的出現）。這些根本問題，目前都還是心智生物學的天花板，什麼時候可以找到終極解答，可說仍在未定之天，樂觀與悲觀的專家各有其偏好的強烈論證，真是五光十色令人目盲，我們最好還是保持開放與警醒的心態，來面對這場看起來仍然無止無休的人類社會大實驗。
