引言
在我2005年出版的著作《奇點臨近》（The Singularity Is Near）中，我提出了以下這個理論：邁向融合的、指數式發展的科技趨勢正在促成一種對人類來說將是天翻地覆的變革。幾個關鍵領域的變化正同時持續加速：計算能力變得越來越便宜、人類生物學日益進步、工程技術發展到遠比以前微細的尺度。隨著人工智慧（AI）能力增長和資料變得比較容易取得，我們正在將這些能力與我們的自然生物智能越來越緊密地結合起來。奈米技術最終將使這些趨勢發展到最高峰，利用雲端多層的虛擬神經元直接擴展我們的大腦。藉由這種方式，我們將與AI融合，以百萬倍於人類自然計算能力的外加計算能力增強自己。這將極大地擴展我們的智能和意識，變化之大將是我們難以理解的。這個事件就是我所說的奇點（Singularity）。
「奇點」一詞借用自數學和物理學（數學中的奇點是指函數中未定義的點，例如除以0的時候；物理學的奇點是指黑洞中心密度無限大的一個點，正常物理定律在此不適用）。但必須記住的是，我使用奇點一詞是作為一種隱喻。我對科技奇點的預測並不意味著變化速度將真的變得無限快，因為指數式成長並不意味著無限，物理奇點也是。黑洞的重力強到足以困住光本身，但量子力學無法解釋真正無限大的質量。我使用奇點這個隱喻，是因為它可以反映這個意思：以我們現在的智力，我們將無法理解如此根本的轉變。但隨著轉變發生，我們的認知能力將迅速提升，使我們能夠適應變化。
正如我在《奇點臨近》一書中詳細說明，從長期趨勢看來，奇點將在2045年左右發生。該書出版時，這個日子是在四十年後的未來，也就是整整兩個世代之後。在這種時間距離下，我可以針對將促成此一轉變的主要力量作出種種預測，但對於多數讀者來說，這個題目在2005年仍與日常現實相距甚遠。而當時許多評論者認為我的時間預測過於樂觀，有些甚至認為我所說的奇點不可能發生。
但此後發生了一些了不起的事。雖然現實中有許多懷疑者，邁向奇點的發展仍持續加速。社群媒體和智慧型手機從幾乎不存在，發展到如今成為將世界上多數人連結起來和全天候陪伴他們的東西。演算法創新和大數據的出現使AI比專家所預期的更快出現驚人突破，例如能夠精通《危險邊緣》（Jeopardy!）那種問答遊戲和圍棋，以至能夠駕駛汽車、寫文章、通過律師資格考試和診斷癌症。現在，強大而靈活的大型語言模型如GPT-4和Gemini可以將自然語言指令翻譯成電腦程式碼，大幅減少了人類與機器之間的障礙。你看到這一段時，很可能已經有數千萬人親身體驗過這些功能。與此同時，為人類基因組定序的成本已經降低了約99.997%，而類神經網路已經開始以數位方式模擬人類的生物智能，藉此成就重大的醫學發現。我們甚至終於開始有能力將電腦與人類大腦直接連接。
所有這些發展的基礎就在於我所說的加速回報定律（law of accelerating returns）：電腦計算之類的資訊技術以指數式的速度變得更便宜，因為每一次的進步都使得設計這種技術下一階段的演化變得更容易。因此，在我寫這篇引言時，固定幣值的一美元所能購買的計算能力，約為《奇點臨近》一書出版時的11,200倍。
下圖（我將在本書稍後深入討論）概括了驅動我們的科技文明的最重要趨勢：長期以來，固定幣值的一美元所能購買的計算能力呈現指數式成長（在對數刻度上大致呈現為一條向上傾斜的直線）。著名的摩爾定律指出，電晶體持續縮小，使電腦的計算能力得以越來越強大——但這只是加速回報定律的一種表現：遠在人類發明電晶體之前，該定律就已經成立，而將來即使電晶體的發展達到其物理極限，然後被新技術取代，加速回報定律預期仍將持續。這個趨勢決定了現代世界的面貌，而本書討論的幾乎所有即將出現的突破，都將由這個趨勢直接或間接促成。
因此，我們一直如期地邁向奇點。本書的迫切性源自指數式變化本身的性質。本世紀初幾乎無法察覺的趨勢，現在正積極影響著數十億人的生活。在2020年代初，我們進入了指數曲線急遽變陡的部分，創新的步伐如今正以前所未有的方式影響著社會。舉例說明一下：當你閱讀這段文字時，距離第一個超人AI（superhuman AI）面世的時間，很可能短於距離我上一本著作《AI人工智慧的未來》（How to Create a Mind）出版時的2012年；而你距離奇點發生的時間，很可能短於距離我的著作《心靈機器時代》（The Age of Spiritual Machines）出版時的1999年。又或者以人類生命而言，奇點發生時，今天出生的嬰兒將剛從大學畢業。在非常個人的層面上，這種「迫近」與2005年時我說的那種「臨近」是不同的。
這就是我現在寫這本書的原因。人類邁向奇點的千年長征，現在已經變成了一場短跑。在《奇點臨近》的引言中，我提到我們當時「正處於這場轉變的早期階段」。現在，我們正進入其高潮階段。那本書是在展望一種遙遠的未來，這一本則是要談通往那個未來的最後幾哩路。
幸運的是，我們現在可以遠比以前清楚地看到這條路。雖然我們在到達奇點之前仍必須克服許多技術難關，奇點發生的關鍵先決條件正迅速地從理論科學領域轉進積極的研究和開發階段。未來十年裡，人們將與看來極像人類的AI互動，簡單的腦機介面（brain-computer interfaces）將對日常生活產生重大影響，就像現在的智慧型手機那樣。生物科技的數位革命將使許多疾病變得可治癒，並將顯著延長人們的健康壽命。但與此同時，許多勞工將感受到經濟秩序被擾亂造成的傷害，而我們每個人都將面臨意外或故意濫用這些新技術導致的風險。在2030年代，不斷自我改進的AI和日趨成熟的奈米技術，將使人類與我們創造的機器以前所未有的方式結合起來——屆時希望和危險都將進一步增強。如果我們能夠有效應對這些進步帶來的科學、道德、社會和政治挑戰，那麼到了2045年時，我們將極大地改善地球上的生活。但如果我們失敗了，我們能否生存下去也將成問題。因此，這本書要談的是我們邁向奇點的最後一段路，探討在我們所認識的世界的最後一個世代裡，我們必須共同面對的機會與危險。
首先，我們將探討奇點實際上將如何發生，並將這問題置於我們這個物種長期追求重塑自身智能這個脈絡中。利用科技創造知覺能力會引出重要的哲學問題，因此我們將討論此一轉變如何影響我們自己的身分和意義感。接著，我們將談到未來幾十年的實際趨勢。正如我將說明，加速回報定律正在驅動反映人類福祉的各種指標以指數式的速度進步。不過，創新最明顯的壞處之一，就是各種形式的自動化導致人們失業。雖然這些危害是真實的，但我們將看到為什麼我們大有理由對長遠的未來保持樂觀，以及為什麼我們最終不會與AI競爭。
隨著這些科技為人類文明帶來巨量的物質富饒，我們的焦點將轉向克服阻礙我們全面繁盛的下一個難題：人類在生物上的各種弱點。因此，接下來我們將展望未來數十年，我們為了日益增強我們對生物學本身的掌控而將使用的工具——首先我們將克服人類身體衰老的問題，然後是增強我們有限的大腦並迎來奇點。但是，這些突破也可能使我們陷入危機。生物科技、奈米技術或人工智慧的革命性新系統可能導致危及人類生存的大災難，例如發生毀滅性的大流行病或自我複製機器的連鎖反應。最後，我們將評估這些威脅——這需要我們謹慎地規劃因應方式，但正如我將解釋，我們有一些非常有希望的方法可以減輕這些威脅。
這是有史以來最令人興奮、最重要的一段歲月。我們無法確知奇點發生之後的生活會是什麼樣子。但是，藉由認識和預料奇點發生之前的轉變，我們可以幫助確保人類在邁向奇點的最後這段路將是安全和成功的。
在我2005年出版的著作《奇點臨近》（The Singularity Is Near）中，我提出了以下這個理論：邁向融合的、指數式發展的科技趨勢正在促成一種對人類來說將是天翻地覆的變革。幾個關鍵領域的變化正同時持續加速：計算能力變得越來越便宜、人類生物學日益進步、工程技術發展到遠比以前微細的尺度。隨著人工智慧（AI）能力增長和資料變得比較容易取得，我們正在將這些能力與我們的自然生物智能越來越緊密地結合起來。奈米技術最終將使這些趨勢發展到最高峰，利用雲端多層的虛擬神經元直接擴展我們的大腦。藉由這種方式，我們將與AI融合，以百萬倍於人類自然計算能力的外加計算能力增強自己。這將極大地擴展我們的智能和意識，變化之大將是我們難以理解的。這個事件就是我所說的奇點（Singularity）。
「奇點」一詞借用自數學和物理學（數學中的奇點是指函數中未定義的點，例如除以0的時候；物理學的奇點是指黑洞中心密度無限大的一個點，正常物理定律在此不適用）。但必須記住的是，我使用奇點一詞是作為一種隱喻。我對科技奇點的預測並不意味著變化速度將真的變得無限快，因為指數式成長並不意味著無限，物理奇點也是。黑洞的重力強到足以困住光本身，但量子力學無法解釋真正無限大的質量。我使用奇點這個隱喻，是因為它可以反映這個意思：以我們現在的智力，我們將無法理解如此根本的轉變。但隨著轉變發生，我們的認知能力將迅速提升，使我們能夠適應變化。
正如我在《奇點臨近》一書中詳細說明，從長期趨勢看來，奇點將在2045年左右發生。該書出版時，這個日子是在四十年後的未來，也就是整整兩個世代之後。在這種時間距離下，我可以針對將促成此一轉變的主要力量作出種種預測，但對於多數讀者來說，這個題目在2005年仍與日常現實相距甚遠。而當時許多評論者認為我的時間預測過於樂觀，有些甚至認為我所說的奇點不可能發生。
但此後發生了一些了不起的事。雖然現實中有許多懷疑者，邁向奇點的發展仍持續加速。社群媒體和智慧型手機從幾乎不存在，發展到如今成為將世界上多數人連結起來和全天候陪伴他們的東西。演算法創新和大數據的出現使AI比專家所預期的更快出現驚人突破，例如能夠精通《危險邊緣》（Jeopardy!）那種問答遊戲和圍棋，以至能夠駕駛汽車、寫文章、通過律師資格考試和診斷癌症。現在，強大而靈活的大型語言模型如GPT-4和Gemini可以將自然語言指令翻譯成電腦程式碼，大幅減少了人類與機器之間的障礙。你看到這一段時，很可能已經有數千萬人親身體驗過這些功能。與此同時，為人類基因組定序的成本已經降低了約99.997%，而類神經網路已經開始以數位方式模擬人類的生物智能，藉此成就重大的醫學發現。我們甚至終於開始有能力將電腦與人類大腦直接連接。
所有這些發展的基礎就在於我所說的加速回報定律（law of accelerating returns）：電腦計算之類的資訊技術以指數式的速度變得更便宜，因為每一次的進步都使得設計這種技術下一階段的演化變得更容易。因此，在我寫這篇引言時，固定幣值的一美元所能購買的計算能力，約為《奇點臨近》一書出版時的11,200倍。
下圖（我將在本書稍後深入討論）概括了驅動我們的科技文明的最重要趨勢：長期以來，固定幣值的一美元所能購買的計算能力呈現指數式成長（在對數刻度上大致呈現為一條向上傾斜的直線）。著名的摩爾定律指出，電晶體持續縮小，使電腦的計算能力得以越來越強大——但這只是加速回報定律的一種表現：遠在人類發明電晶體之前，該定律就已經成立，而將來即使電晶體的發展達到其物理極限，然後被新技術取代，加速回報定律預期仍將持續。這個趨勢決定了現代世界的面貌，而本書討論的幾乎所有即將出現的突破，都將由這個趨勢直接或間接促成。
因此，我們一直如期地邁向奇點。本書的迫切性源自指數式變化本身的性質。本世紀初幾乎無法察覺的趨勢，現在正積極影響著數十億人的生活。在2020年代初，我們進入了指數曲線急遽變陡的部分，創新的步伐如今正以前所未有的方式影響著社會。舉例說明一下：當你閱讀這段文字時，距離第一個超人AI（superhuman AI）面世的時間，很可能短於距離我上一本著作《AI人工智慧的未來》（How to Create a Mind）出版時的2012年；而你距離奇點發生的時間，很可能短於距離我的著作《心靈機器時代》（The Age of Spiritual Machines）出版時的1999年。又或者以人類生命而言，奇點發生時，今天出生的嬰兒將剛從大學畢業。在非常個人的層面上，這種「迫近」與2005年時我說的那種「臨近」是不同的。
這就是我現在寫這本書的原因。人類邁向奇點的千年長征，現在已經變成了一場短跑。在《奇點臨近》的引言中，我提到我們當時「正處於這場轉變的早期階段」。現在，我們正進入其高潮階段。那本書是在展望一種遙遠的未來，這一本則是要談通往那個未來的最後幾哩路。
幸運的是，我們現在可以遠比以前清楚地看到這條路。雖然我們在到達奇點之前仍必須克服許多技術難關，奇點發生的關鍵先決條件正迅速地從理論科學領域轉進積極的研究和開發階段。未來十年裡，人們將與看來極像人類的AI互動，簡單的腦機介面（brain-computer interfaces）將對日常生活產生重大影響，就像現在的智慧型手機那樣。生物科技的數位革命將使許多疾病變得可治癒，並將顯著延長人們的健康壽命。但與此同時，許多勞工將感受到經濟秩序被擾亂造成的傷害，而我們每個人都將面臨意外或故意濫用這些新技術導致的風險。在2030年代，不斷自我改進的AI和日趨成熟的奈米技術，將使人類與我們創造的機器以前所未有的方式結合起來——屆時希望和危險都將進一步增強。如果我們能夠有效應對這些進步帶來的科學、道德、社會和政治挑戰，那麼到了2045年時，我們將極大地改善地球上的生活。但如果我們失敗了，我們能否生存下去也將成問題。因此，這本書要談的是我們邁向奇點的最後一段路，探討在我們所認識的世界的最後一個世代裡，我們必須共同面對的機會與危險。
首先，我們將探討奇點實際上將如何發生，並將這問題置於我們這個物種長期追求重塑自身智能這個脈絡中。利用科技創造知覺能力會引出重要的哲學問題，因此我們將討論此一轉變如何影響我們自己的身分和意義感。接著，我們將談到未來幾十年的實際趨勢。正如我將說明，加速回報定律正在驅動反映人類福祉的各種指標以指數式的速度進步。不過，創新最明顯的壞處之一，就是各種形式的自動化導致人們失業。雖然這些危害是真實的，但我們將看到為什麼我們大有理由對長遠的未來保持樂觀，以及為什麼我們最終不會與AI競爭。
隨著這些科技為人類文明帶來巨量的物質富饒，我們的焦點將轉向克服阻礙我們全面繁盛的下一個難題：人類在生物上的各種弱點。因此，接下來我們將展望未來數十年，我們為了日益增強我們對生物學本身的掌控而將使用的工具——首先我們將克服人類身體衰老的問題，然後是增強我們有限的大腦並迎來奇點。但是，這些突破也可能使我們陷入危機。生物科技、奈米技術或人工智慧的革命性新系統可能導致危及人類生存的大災難，例如發生毀滅性的大流行病或自我複製機器的連鎖反應。最後，我們將評估這些威脅——這需要我們謹慎地規劃因應方式，但正如我將解釋，我們有一些非常有希望的方法可以減輕這些威脅。
這是有史以來最令人興奮、最重要的一段歲月。我們無法確知奇點發生之後的生活會是什麼樣子。但是，藉由認識和預料奇點發生之前的轉變，我們可以幫助確保人類在邁向奇點的最後這段路將是安全和成功的。
