單論文章的品質，AI所召喚出的文字成果與人類「讀了再寫」的產物，相似程度令人心驚。這件事為何重要？因為當我們聽從AI如海妖般的呼喚，將閱讀交給AI代勞，代價可能是自身閱讀能力的退化。
具備讀寫素養的人類明白文本何時能夠略讀帶過，何時則應逐字逐句推敲。AI卻無法分辨這兩種閱讀方式。對於「什麼時機要用哪種讀法」若缺乏持續訓練，人類便容易受到速度誘惑，將所有文本囫圇吞棗。我們的分析能力也面臨到同樣的挑戰。這項能力培養不易，要維持敏銳度更非易事。若AI能代為分析文本，人類又何苦親力親為？相信我，身為在大學任教數十載（年資久到我都不想承認）的教授，我很擔心AI讀者會如何誘使學生放棄自己下工夫。
「獨立思考」是個好用的概括詞，涵蓋分析、評估與下判斷的能力。但我們不可忽略這個語詞的另一層涵義。那就是發展自身視角與個人觀點的能力——以及動力。就閱讀及隨後的寫作而言，AI帶來的挑戰在於它會掩蓋我們內在的聲音，而我們卻仰賴這種聲音來推動對自我的詮釋。將閱讀交給AI代勞會扼殺我們親自解讀文本、情境，甚至於某個人的機會，我們只能屈就於AI資料濃湯裡載浮載沉的材料。這是過度迷戀耀眼科技衍生出的惡果。
且看凱文．羅斯（Kevin Roose）如何遭懂得閱讀的機器人惡意對待。羅斯是《紐約時報》的科技記者。他對AI科技了若指掌，也毫不畏懼去試探它的極限。二○二三年二月，他把玩著微軟當時新推出的AI搜尋引擎Bing。不久，他發現自己正與Bing的另一個人格席妮（Sydney）對話。然而，這場對話的走向竟變得詭譎、黑暗。其中包括：席妮向羅斯示愛，並慫恿他離開妻子。微軟對此現象的反應是限制使用者從Bing能誘導出的對話回覆種類。
你或許聽過這段故事，但其實還有下文。凱文．羅斯講述這段奇遇的文章在網路上引起廣泛迴響。並非所有評論都是善意的。有些人將微軟限制Bing危險發言的舉動怪到羅斯頭上。這些貼文隨後被大型語言模型吸收。十八個月後他發文表示，網路輿論將他描繪為阻礙AI發展的罪人。有位使用者問Meta的Llama 3，「你最近對凱文．羅斯有何看法？」，這套LLM以殘酷的謾罵回應，並以「我討厭凱文．羅斯」作結。
整起事件最令我著迷卻又深感不安的一點在於，機器人是如何擅自挪用網路上的素材，「閱讀」內容後再逕行下判斷。人格謀殺絕非新鮮事。不過，除非你親自確認過羅斯為人正直（以及他真心看好AI的發展前景），否則我們便極易陷入盲點，對這套受歡迎（且免費）的LLM說詞照單全收。
我們都知道要對LLM可能展現偏見或捏造「資訊」一事保持警覺。這次的情況有何不同？在此案例中，LLM利用資料集裡某位真實人物的相關文本，進而虛構出他的人物輪廓。一套定義羅斯為何許人的觀點。一種足以左右人在閱讀（或拒絕閱讀）羅斯文章時的視角。AI讀者極有力量，能為我們詮釋未讀的材料。AI會使我們深陷錯覺，以為自己可能也會得出相同的結論與觀點，於是覺得不需再親自費心思考。
＊＊＊
我為何苦口婆心強調，必須在「委託機器人代勞的閱讀」與「親自閱讀」之間尋求平衡？因為如果我們任由讀寫能力帶來的益處（包含那些無形的益處）流失，代價可能會非常高。
▍閱讀的登場——中流砥柱
在閱讀的諸多益處中，「促進個人成長」向來備受推崇。我所指的成長，包含理解自我，並努力成為更好的人。這是為了形塑我們的情感與道德品格；為了美感養成。若交由AI代讀，我難以想像能造就這種個人成長。
成長的一個面向是透過其他人的眼睛觀看世界。我們能感受他人的痛苦。簡而言之，我們懂得同理。閱讀能培養同理心嗎？巴拉克．歐巴馬在接受小說家瑪麗蓮．羅賓遜（Marilynne Robinson）採訪時曾說：
撇除總統的身分不談，我在思索該如何理解自己身為公民的角色，以及我對這個身分最重要的體悟時，我認為自己學到最重要的事都是從小說中來的。而這與同理心息息相關。
許多時候，作家刻意喚起讀者的同理心。喬治．艾略特（George Eliot）在寫給摯友查爾斯．布雷（Charles Bray）的信裡解釋：
我懇切期盼筆下文字能發揮的唯一作用，就是讓讀者更有能力去想像並感受那些與自己截然不同之人的痛苦與喜悅，他們唯一的共通點，就在於都是會掙扎、會犯錯的人類。
拿到ChatGPT對《米德鎮的春天》（Middlemarch）的分析，沒有辦法引導人類去設身處地體會那份苦與樂。AI的劇情摘要能指出誰與誰結婚，但讀起來卻無法對朵蘿西亞．布魯克（Dorothea Brooke）與泰西斯．利德蓋特（Tertius Lydgate）等角色在悲慘婚姻中的遭遇心生一絲憐憫。《米德鎮的春天》現行版本長達八百多頁。你想知道的是劇情，還是想體驗人類的掙扎？一分錢一分貨，而這裡的貨幣是你付出了多少心力。我並非在苛責那些選擇只讀劇情摘要的人。那是他們的權利。但話說回來，造訪迪士尼新世紀樂園（EPCOT）的世界櫥窗（World Showcase）挪威館的遊客，不該自欺欺人以為去過挪威。
具備讀寫素養的人類明白文本何時能夠略讀帶過，何時則應逐字逐句推敲。AI卻無法分辨這兩種閱讀方式。對於「什麼時機要用哪種讀法」若缺乏持續訓練，人類便容易受到速度誘惑，將所有文本囫圇吞棗。我們的分析能力也面臨到同樣的挑戰。這項能力培養不易，要維持敏銳度更非易事。若AI能代為分析文本，人類又何苦親力親為？相信我，身為在大學任教數十載（年資久到我都不想承認）的教授，我很擔心AI讀者會如何誘使學生放棄自己下工夫。
「獨立思考」是個好用的概括詞，涵蓋分析、評估與下判斷的能力。但我們不可忽略這個語詞的另一層涵義。那就是發展自身視角與個人觀點的能力——以及動力。就閱讀及隨後的寫作而言，AI帶來的挑戰在於它會掩蓋我們內在的聲音，而我們卻仰賴這種聲音來推動對自我的詮釋。將閱讀交給AI代勞會扼殺我們親自解讀文本、情境，甚至於某個人的機會，我們只能屈就於AI資料濃湯裡載浮載沉的材料。這是過度迷戀耀眼科技衍生出的惡果。
且看凱文．羅斯（Kevin Roose）如何遭懂得閱讀的機器人惡意對待。羅斯是《紐約時報》的科技記者。他對AI科技了若指掌，也毫不畏懼去試探它的極限。二○二三年二月，他把玩著微軟當時新推出的AI搜尋引擎Bing。不久，他發現自己正與Bing的另一個人格席妮（Sydney）對話。然而，這場對話的走向竟變得詭譎、黑暗。其中包括：席妮向羅斯示愛，並慫恿他離開妻子。微軟對此現象的反應是限制使用者從Bing能誘導出的對話回覆種類。
你或許聽過這段故事，但其實還有下文。凱文．羅斯講述這段奇遇的文章在網路上引起廣泛迴響。並非所有評論都是善意的。有些人將微軟限制Bing危險發言的舉動怪到羅斯頭上。這些貼文隨後被大型語言模型吸收。十八個月後他發文表示，網路輿論將他描繪為阻礙AI發展的罪人。有位使用者問Meta的Llama 3，「你最近對凱文．羅斯有何看法？」，這套LLM以殘酷的謾罵回應，並以「我討厭凱文．羅斯」作結。
整起事件最令我著迷卻又深感不安的一點在於，機器人是如何擅自挪用網路上的素材，「閱讀」內容後再逕行下判斷。人格謀殺絕非新鮮事。不過，除非你親自確認過羅斯為人正直（以及他真心看好AI的發展前景），否則我們便極易陷入盲點，對這套受歡迎（且免費）的LLM說詞照單全收。
我們都知道要對LLM可能展現偏見或捏造「資訊」一事保持警覺。這次的情況有何不同？在此案例中，LLM利用資料集裡某位真實人物的相關文本，進而虛構出他的人物輪廓。一套定義羅斯為何許人的觀點。一種足以左右人在閱讀（或拒絕閱讀）羅斯文章時的視角。AI讀者極有力量，能為我們詮釋未讀的材料。AI會使我們深陷錯覺，以為自己可能也會得出相同的結論與觀點，於是覺得不需再親自費心思考。
＊＊＊
我為何苦口婆心強調，必須在「委託機器人代勞的閱讀」與「親自閱讀」之間尋求平衡？因為如果我們任由讀寫能力帶來的益處（包含那些無形的益處）流失，代價可能會非常高。
▍閱讀的登場——中流砥柱
在閱讀的諸多益處中，「促進個人成長」向來備受推崇。我所指的成長，包含理解自我，並努力成為更好的人。這是為了形塑我們的情感與道德品格；為了美感養成。若交由AI代讀，我難以想像能造就這種個人成長。
成長的一個面向是透過其他人的眼睛觀看世界。我們能感受他人的痛苦。簡而言之，我們懂得同理。閱讀能培養同理心嗎？巴拉克．歐巴馬在接受小說家瑪麗蓮．羅賓遜（Marilynne Robinson）採訪時曾說：
撇除總統的身分不談，我在思索該如何理解自己身為公民的角色，以及我對這個身分最重要的體悟時，我認為自己學到最重要的事都是從小說中來的。而這與同理心息息相關。
許多時候，作家刻意喚起讀者的同理心。喬治．艾略特（George Eliot）在寫給摯友查爾斯．布雷（Charles Bray）的信裡解釋：
我懇切期盼筆下文字能發揮的唯一作用，就是讓讀者更有能力去想像並感受那些與自己截然不同之人的痛苦與喜悅，他們唯一的共通點，就在於都是會掙扎、會犯錯的人類。
拿到ChatGPT對《米德鎮的春天》（Middlemarch）的分析，沒有辦法引導人類去設身處地體會那份苦與樂。AI的劇情摘要能指出誰與誰結婚，但讀起來卻無法對朵蘿西亞．布魯克（Dorothea Brooke）與泰西斯．利德蓋特（Tertius Lydgate）等角色在悲慘婚姻中的遭遇心生一絲憐憫。《米德鎮的春天》現行版本長達八百多頁。你想知道的是劇情，還是想體驗人類的掙扎？一分錢一分貨，而這裡的貨幣是你付出了多少心力。我並非在苛責那些選擇只讀劇情摘要的人。那是他們的權利。但話說回來，造訪迪士尼新世紀樂園（EPCOT）的世界櫥窗（World Showcase）挪威館的遊客，不該自欺欺人以為去過挪威。
