伏都教與活屍術
在一些西非和非裔離散地的宗教,例如海地伏都教(Haitian vodun)裡,人們相信靈體可以附在人的身上;只要透過特定的儀式,人就能和靈體溝通。從這種世界觀又能引伸出一個概念,那就是薩滿可以竊取人的靈魂,控制他們的身體。在海地伏都教中,就有囚禁人的靈魂,以模糊物質與無形世界的做法。因為白人莊園主相信,巫醫能夠創造活屍(zombies)這種介於生死之間、非人非鬼的存在。
在歐洲人的觀察和評論中,伏都教象徵著事物失序,證明了非洲和非裔加勒比地區的儀式實踐者操弄著魔鬼的力量。但活屍術只是伏都信仰的一小部分,它屬於一套更廣大的宗教實踐、信念以及對自然的解讀。包括伏都教與其他非洲本土與非裔聚落離散地的宗教,都超越了現代西方所界定的科學、宗教、醫學與魔法。這代表歐洲人對非洲文化可能的誤讀,比如奴隸主和宗教裁判官,往往可能將醫療儀式歸類到偶像崇拜。
梵蒂岡檔案館中收藏著數件「曼丁加藥囊」(bolsas de mandinga),這是在大西洋奴隸貿易時期,非裔群體製作、購買、交換並佩戴的護符。藥囊中通常有來自非洲的儀式性物質與歐洲的人工器物,例如寫有文字的紙張。對不識字的人而言,文字是另一種形式的魔法;而對識字者而言,書寫本身也可屬於魔法儀式的一部分,猶太魔法也是這樣運作的。在有關伏都實踐而遭指控的宗教裁判文件裡,也留有作為證物的藥囊樣本。這些藥囊的原始用途是保護配戴者不受身體傷害或免於疼痛。
在奴隸制時期,歐洲和美國的殖民者與觀察者對於他們所奴役的非洲人,產生了一套出自恐懼的想像,認為他們擁有超越世俗的力量。殖民者對活屍和活屍術的認知,完全不同於非洲本土和非裔加勒比地區人民的信仰與實踐。因此談到活屍時,必須清楚指出資料呈現出誰的觀點、證詞和行為。在外人眼裡,海地伏都教最具代表性的特徵,就是活屍術。
對於在美洲受到奴役的非洲人而言,奴隸制是一整套試圖剝奪他們的過去、未來、語言、文化、親屬關係與法律人格的體制。這套制度宣稱他們只是「純粹的勞力」,只是帳簿上的一條紀錄,他們的價值僅僅取決於勞作的產出。然而,儘管非裔奴隸的身體某種程度上受制於人,但他們的心靈並未受到束縛,而心靈可以找到讓身體自由的路。白人社會深深恐懼被奴役者可能會揭竿起義、殺害奴隸主,於是他們編造出另一套關於伏都教的敘事,以靈體附身和活屍術為中心,創造出各種刻板印象。
對於在美洲為奴的非洲人來說,自殺是一種絕對的反叛方式,能夠讓奴隸主永遠失去他們的勞動,自己也能回歸故里。然而,莊主也刻意在奴隸群體裡散播恐懼,宣稱自殺的靈魂無法離開這個世界,反而會困於肉體死亡之處,淪為一個沒有軀體的靈魂。從這個角度來看,在眾多更大的歷史敘事裡,歐洲人對非洲信仰的回應,都占據了一席之地。無論是對於奴隸起義的恐懼、宗教改革後「可接受」的基督信仰和行為日漸變少;到教宗體系的權威瓦解,以及新教宗派與英國聖公會的建立,都跟奴隸制時期的黑人信仰脫不了干係。而到了二十世紀,美國社會對海地活屍術的反應,又創造了另一套活屍敘事。
最新一代的活屍誕生於二十世紀,當時的美國作家和電影人精心擷取了一系列支離破碎的形象,將海地描寫成恐怖驚悚之地。在一九二○到三○年代,記者威廉.西布魯克以《魔島》一書,將海地與活屍術劃上等號,開闢了日後繁盛數十年的龐大市場,後來更有《白殭屍》這樣的恐怖電影,利用白人對於「被變成殭屍」的種族恐懼當作賣點。如今,活屍隱喻又延伸到職場,亦即在剝奪人性的勞動制度中,淪為「沒有靈魂的工作機器」成了人類最新的恐懼。(摘自〈第七章 眾神、魔法與超自然〉)
怪物的餐桌
對食物的觀念,也是社群與人性邊界的一部分。宗教規範常常包含飲食限制。比如猶太經文中就禁止食用跨越分類的動物。在《利未記》(Book of Leviticus)中,禁忌動物和動物的分類脣齒相依,像是鯨魚活在水裡卻不是魚,蝙蝠長著翅膀卻不是鳥,豬有牛的蹄子卻不會反芻。儘管這些飲食限制在沒有冷藏設備的炎熱氣候中很合理,但主要的理由往往是防止信徒吃了這些怪物般的動物肉,汙染自己的身體。基督教創立後,部分猶太經文成為《舊約》的一部分,但大部分禁忌卻沒有沿用。
到了十五世紀末,西班牙的士兵、神職人員、行政官員和殖民者來到加勒比海與中美洲,他們相信原住民的身心和自己不同,但是尚不確定有多少區別。十二使徒據信曾經前往世界各地傳教,但大西洋西岸的居民似乎不知道這些教義。這些人是忘了使徒的教誨,還是無法理解?他們是諾亞的後裔,還是逃過大洪水、與使徒斷絕聯繫的史前遺民?如果這些人無法理解真正的信仰,或是無法運用理性,那他們是否有能力學習?他們是天生的奴隸嗎?還是根本不算完整的人類?
傳統西方人類觀認為人類是亞當的後裔,會受到環境影響,在嚴酷氣候下可能會怪物化,而且每個族群都在文明到野蠻的光譜中占有一席之地。這些觀念意味著,歐洲人到了新環境,也有可能隨之改變。前面也提到,歐洲人清楚人體的柔軟、易染,且不認為身體是常住不變的堡壘,並且時刻為此感到焦慮。因此在涉及種族和民族的概念時,西班牙和殖民地法律制度的基礎,就會是「新舊基督徒」、西班牙裔與印第安人之間的區分和差別對待。許多西班牙人害怕「適應當地」,也害怕食用印第安人的食物,特別是巧克力、菸草這樣的儀式性食材。他們擔心這些食物會改變人的身心,甚至讓基督徒開始崇拜偶像。正如歷史學家雷貝嘉.厄爾(Rebecca Earle)所言:「換句話說,『種族』在某種程度上是人體消化的議題。」
殖民時期拉丁美洲的西班牙神職人員擔心,如果教區內的西班牙裔信徒喝了太多巧克力,就有可能從天主教徒變成印第安人。如果麵包不是用小麥而是用樹薯製作,酒不是葡萄酒而是用當地穀物釀造,聖體可能就無法轉變成耶穌的血肉,那麼聖餐又該如何舉行?若將信徒的身軀和腸胃搬到大洋的另一端,會不會危及他們靈魂的救贖?人種並非完全是政治或社會文化的產物,也牽涉到一些生理和環境層面的因素。好比說不同體質攝取某些物質後的反應,也會影響到社會階層。歐洲人認為飲食會影響人的身體、體液平衡、膚色或是生活中的行為。換言之,上帝就在食物之中。
除了對人體的影響,人們也認為飲食選擇顯示了道德品格。在美洲,菸草和巧克力等儀式性物質能穿透精神世界與日常世界之間的帷幕。於是在歐洲人的評論和觀察中,使用這些物質可能某個程度上會讓美洲的偶像崇拜正常化,進而害歐洲基督徒也變成偶像崇拜者。在這種威脅感下,虔誠的信徒憤而印了大量小冊子、寫出無數傳教指引和學術論文,以平復這股焦慮。報導中遠方世界的食人習俗,以及歐洲在圍城戰爭的食人行為,也引發大量爭論,像是如果屍體被食用,成為食人者身體的一部分,那在最後審判時又該如何復活?
在殖民者到來以前,菸草在中美洲的用途很廣,從醫療到靈性啟迪無所不包。大約在十六、十七世紀,歐洲人逐漸習慣使用菸草,但這種物質仍跟偶像崇拜息息相關。為了解決這個問題,歐洲的醫者編了一套新說法,主張菸草這種物質是無辜的,是使用者要為自己的行為和崇拜儀式負責。
與動物的關係,以及飲食方式的差異,也常讓人感到厭惡與不安。這種情緒可能牽涉到自尊或區別理智及情感的自我分化,但往往也伴隨害怕失去身分認同、害怕食物改變身體的恐懼。種族與民族的汙名和刻板印象,常常透過飲食方式固化一個群體的「本質」,像是中世紀伊比利亞人因為穆斯林不吃豬肉而稱其為「豬仔」(marrano),到西方對人吃狗的恐懼(可憐的萊西!)至於歐洲內部對彼此的揶揄,則是來自他們各自喜歡的菜餚,比如德國人是「酸菜」(Kraut)、法國人是「水蛙」(Frog)、英國人喚作「烤牛肉」(les rosbifs,嘲笑他們的餐桌上總有烤牛肉、馬鈴薯,和某種煮到軟爛的根莖類)。人的牙口和胃腸會習慣平常消化的食物,記憶與聯想則會依附菜餚的滋味。當有人用不同的飲食習慣來區分族群,無論那是確實存在還是任意編造的敘事,都是在操弄關於食物與社群的歷史包袱。
這種將味覺作為人身攻擊的習性,隱含著對「人如其食」(You are what you eat.)這句諺語的恐懼。如果你吃的東西太不正統,你可能會不再是自己,至少不是原本所屬社群中合法、正常的成員。而在過去,飲食差異又比今天更加危險。因為古代關於飲食與身體的理論認為,食用陌生氣候的食物,後果不是丟掉小命,就是會轉身變成當地居民。(摘自 第四章 種族與民族的概念糾纏〔下〕)
演算法
科技界有這麼一則笑話:「電腦還做不到的東西,叫做人工智慧,如果可以做到了,就只是機器學習。」人工智慧不代表擁有意識或超級智力,也不代表它在任何一個領域超越人類。自從有算盤以來,機械處理大量運算的能力就已經超過人類。如果要討論人工智慧能引發怎樣的社會力量,以及怎麼影響人們對於「完整人類」的預設信念,我們對人工智慧的定義,就不能停留在「無敵的西洋棋程式」。真正實用的人工智慧定義或許在於它必須能夠學習,並或多或少可以自主行動。
科技會體現,並放大創造者和實際運用者的價值觀與偏見。人類是危險的設計者,很多人設計新東西時的目標,往往不合乎其他人,甚至不合乎自己的長期利益。在當前的新自由主義與新法西斯主義社經環境裡,對於穩固性別歧視、種族歧視、身心障礙歧視和貪婪更有利。打造技術時如果沒有突破這些將人剝去人性、貶為怪物的價值觀,就無法促進人類的繁榮。這也導致了演算法大多內建某種偏見,有哲學家更稱A I工具的存在意義就是「促進偏見的運作效率」(bias optimizer)。除非有不受科技公司和其說客介入的防護措施,否則日益複雜且深入社會的人工智慧,終究只會為了少數人的利益,放大人性最糟的一面,讓絕大多數人付出痛苦的代價。
演算法和神經網絡的現況,讓我們不得不思考,它們到底推動的是誰的目標?那些不透明、簡化、依據替代指標(proxy indicator)運作的系統又傷害了誰?誰能對演算法提出意見,又有誰的意見會被聽進去?「逮捕預測器」並不是「犯罪預測器」。順性別異性戀白人男性在電腦工程師裡占據壓倒性的比例,但他們創造的人工智慧卻會影響到所有人。有人提出人工智慧的「價值對齊和錯位」(mis/aligned),這確實是很有用的解釋概念,但重點還是在於人工智慧要追求的,到底是誰的價值?人類並非同質的群體,每個人有不同的需求、價值觀、身體樣態和目標。有時候,科技最可怕的不是「用途不合」,而是它完全按照製造者與設計者的意圖運作,但他們的意圖卻是傷害他人。
這些價值錯位的人工智慧,早已滲透到人們生活的方方面面,從社群媒體廣告、保險費率設定,到監控哪些學校「表現不佳」。在執法領域,A I生成的評估結果會直接影響人在法律上所受的對待,比如被捕後需要繳納多少保釋金,甚至是刑期的長短。做出倫理決策需要同理心、知識和想像力,這些都是目前人工智慧所欠缺的,因為沒有人鼓勵設計者把這些價值、用什麼樣的語法寫進程式碼裡。
機器要傷害我們並不需要比我們聰明,只要它們的目標,或是操作者的目標違反全人類的利益,就足以造成危害。這就是為什麼我們不能光顧著開發似乎一體適用的通用人工智慧。我們必須正視這門科技發展至此,已經累積了許多損人利己的決定。如果我們真的希望科技能通向美好的未來,就需要先改善「人類社會的軟體」,為人們創造發揮潛力所需的條件,這些基本軟體包括了食物、淨水、住處、教育和安全等基本生活需求。接著,我們才能開始打造更聰明的硬體,不然社會將持續否定人性的豐富、浪費人的可能性,並造成更多的傷害。(摘自〈第八章 機器〉)
在一些西非和非裔離散地的宗教,例如海地伏都教(Haitian vodun)裡,人們相信靈體可以附在人的身上;只要透過特定的儀式,人就能和靈體溝通。從這種世界觀又能引伸出一個概念,那就是薩滿可以竊取人的靈魂,控制他們的身體。在海地伏都教中,就有囚禁人的靈魂,以模糊物質與無形世界的做法。因為白人莊園主相信,巫醫能夠創造活屍(zombies)這種介於生死之間、非人非鬼的存在。
在歐洲人的觀察和評論中,伏都教象徵著事物失序,證明了非洲和非裔加勒比地區的儀式實踐者操弄著魔鬼的力量。但活屍術只是伏都信仰的一小部分,它屬於一套更廣大的宗教實踐、信念以及對自然的解讀。包括伏都教與其他非洲本土與非裔聚落離散地的宗教,都超越了現代西方所界定的科學、宗教、醫學與魔法。這代表歐洲人對非洲文化可能的誤讀,比如奴隸主和宗教裁判官,往往可能將醫療儀式歸類到偶像崇拜。
梵蒂岡檔案館中收藏著數件「曼丁加藥囊」(bolsas de mandinga),這是在大西洋奴隸貿易時期,非裔群體製作、購買、交換並佩戴的護符。藥囊中通常有來自非洲的儀式性物質與歐洲的人工器物,例如寫有文字的紙張。對不識字的人而言,文字是另一種形式的魔法;而對識字者而言,書寫本身也可屬於魔法儀式的一部分,猶太魔法也是這樣運作的。在有關伏都實踐而遭指控的宗教裁判文件裡,也留有作為證物的藥囊樣本。這些藥囊的原始用途是保護配戴者不受身體傷害或免於疼痛。
在奴隸制時期,歐洲和美國的殖民者與觀察者對於他們所奴役的非洲人,產生了一套出自恐懼的想像,認為他們擁有超越世俗的力量。殖民者對活屍和活屍術的認知,完全不同於非洲本土和非裔加勒比地區人民的信仰與實踐。因此談到活屍時,必須清楚指出資料呈現出誰的觀點、證詞和行為。在外人眼裡,海地伏都教最具代表性的特徵,就是活屍術。
對於在美洲受到奴役的非洲人而言,奴隸制是一整套試圖剝奪他們的過去、未來、語言、文化、親屬關係與法律人格的體制。這套制度宣稱他們只是「純粹的勞力」,只是帳簿上的一條紀錄,他們的價值僅僅取決於勞作的產出。然而,儘管非裔奴隸的身體某種程度上受制於人,但他們的心靈並未受到束縛,而心靈可以找到讓身體自由的路。白人社會深深恐懼被奴役者可能會揭竿起義、殺害奴隸主,於是他們編造出另一套關於伏都教的敘事,以靈體附身和活屍術為中心,創造出各種刻板印象。
對於在美洲為奴的非洲人來說,自殺是一種絕對的反叛方式,能夠讓奴隸主永遠失去他們的勞動,自己也能回歸故里。然而,莊主也刻意在奴隸群體裡散播恐懼,宣稱自殺的靈魂無法離開這個世界,反而會困於肉體死亡之處,淪為一個沒有軀體的靈魂。從這個角度來看,在眾多更大的歷史敘事裡,歐洲人對非洲信仰的回應,都占據了一席之地。無論是對於奴隸起義的恐懼、宗教改革後「可接受」的基督信仰和行為日漸變少;到教宗體系的權威瓦解,以及新教宗派與英國聖公會的建立,都跟奴隸制時期的黑人信仰脫不了干係。而到了二十世紀,美國社會對海地活屍術的反應,又創造了另一套活屍敘事。
最新一代的活屍誕生於二十世紀,當時的美國作家和電影人精心擷取了一系列支離破碎的形象,將海地描寫成恐怖驚悚之地。在一九二○到三○年代,記者威廉.西布魯克以《魔島》一書,將海地與活屍術劃上等號,開闢了日後繁盛數十年的龐大市場,後來更有《白殭屍》這樣的恐怖電影,利用白人對於「被變成殭屍」的種族恐懼當作賣點。如今,活屍隱喻又延伸到職場,亦即在剝奪人性的勞動制度中,淪為「沒有靈魂的工作機器」成了人類最新的恐懼。(摘自〈第七章 眾神、魔法與超自然〉)
怪物的餐桌
對食物的觀念,也是社群與人性邊界的一部分。宗教規範常常包含飲食限制。比如猶太經文中就禁止食用跨越分類的動物。在《利未記》(Book of Leviticus)中,禁忌動物和動物的分類脣齒相依,像是鯨魚活在水裡卻不是魚,蝙蝠長著翅膀卻不是鳥,豬有牛的蹄子卻不會反芻。儘管這些飲食限制在沒有冷藏設備的炎熱氣候中很合理,但主要的理由往往是防止信徒吃了這些怪物般的動物肉,汙染自己的身體。基督教創立後,部分猶太經文成為《舊約》的一部分,但大部分禁忌卻沒有沿用。
到了十五世紀末,西班牙的士兵、神職人員、行政官員和殖民者來到加勒比海與中美洲,他們相信原住民的身心和自己不同,但是尚不確定有多少區別。十二使徒據信曾經前往世界各地傳教,但大西洋西岸的居民似乎不知道這些教義。這些人是忘了使徒的教誨,還是無法理解?他們是諾亞的後裔,還是逃過大洪水、與使徒斷絕聯繫的史前遺民?如果這些人無法理解真正的信仰,或是無法運用理性,那他們是否有能力學習?他們是天生的奴隸嗎?還是根本不算完整的人類?
傳統西方人類觀認為人類是亞當的後裔,會受到環境影響,在嚴酷氣候下可能會怪物化,而且每個族群都在文明到野蠻的光譜中占有一席之地。這些觀念意味著,歐洲人到了新環境,也有可能隨之改變。前面也提到,歐洲人清楚人體的柔軟、易染,且不認為身體是常住不變的堡壘,並且時刻為此感到焦慮。因此在涉及種族和民族的概念時,西班牙和殖民地法律制度的基礎,就會是「新舊基督徒」、西班牙裔與印第安人之間的區分和差別對待。許多西班牙人害怕「適應當地」,也害怕食用印第安人的食物,特別是巧克力、菸草這樣的儀式性食材。他們擔心這些食物會改變人的身心,甚至讓基督徒開始崇拜偶像。正如歷史學家雷貝嘉.厄爾(Rebecca Earle)所言:「換句話說,『種族』在某種程度上是人體消化的議題。」
殖民時期拉丁美洲的西班牙神職人員擔心,如果教區內的西班牙裔信徒喝了太多巧克力,就有可能從天主教徒變成印第安人。如果麵包不是用小麥而是用樹薯製作,酒不是葡萄酒而是用當地穀物釀造,聖體可能就無法轉變成耶穌的血肉,那麼聖餐又該如何舉行?若將信徒的身軀和腸胃搬到大洋的另一端,會不會危及他們靈魂的救贖?人種並非完全是政治或社會文化的產物,也牽涉到一些生理和環境層面的因素。好比說不同體質攝取某些物質後的反應,也會影響到社會階層。歐洲人認為飲食會影響人的身體、體液平衡、膚色或是生活中的行為。換言之,上帝就在食物之中。
除了對人體的影響,人們也認為飲食選擇顯示了道德品格。在美洲,菸草和巧克力等儀式性物質能穿透精神世界與日常世界之間的帷幕。於是在歐洲人的評論和觀察中,使用這些物質可能某個程度上會讓美洲的偶像崇拜正常化,進而害歐洲基督徒也變成偶像崇拜者。在這種威脅感下,虔誠的信徒憤而印了大量小冊子、寫出無數傳教指引和學術論文,以平復這股焦慮。報導中遠方世界的食人習俗,以及歐洲在圍城戰爭的食人行為,也引發大量爭論,像是如果屍體被食用,成為食人者身體的一部分,那在最後審判時又該如何復活?
在殖民者到來以前,菸草在中美洲的用途很廣,從醫療到靈性啟迪無所不包。大約在十六、十七世紀,歐洲人逐漸習慣使用菸草,但這種物質仍跟偶像崇拜息息相關。為了解決這個問題,歐洲的醫者編了一套新說法,主張菸草這種物質是無辜的,是使用者要為自己的行為和崇拜儀式負責。
與動物的關係,以及飲食方式的差異,也常讓人感到厭惡與不安。這種情緒可能牽涉到自尊或區別理智及情感的自我分化,但往往也伴隨害怕失去身分認同、害怕食物改變身體的恐懼。種族與民族的汙名和刻板印象,常常透過飲食方式固化一個群體的「本質」,像是中世紀伊比利亞人因為穆斯林不吃豬肉而稱其為「豬仔」(marrano),到西方對人吃狗的恐懼(可憐的萊西!)至於歐洲內部對彼此的揶揄,則是來自他們各自喜歡的菜餚,比如德國人是「酸菜」(Kraut)、法國人是「水蛙」(Frog)、英國人喚作「烤牛肉」(les rosbifs,嘲笑他們的餐桌上總有烤牛肉、馬鈴薯,和某種煮到軟爛的根莖類)。人的牙口和胃腸會習慣平常消化的食物,記憶與聯想則會依附菜餚的滋味。當有人用不同的飲食習慣來區分族群,無論那是確實存在還是任意編造的敘事,都是在操弄關於食物與社群的歷史包袱。
這種將味覺作為人身攻擊的習性,隱含著對「人如其食」(You are what you eat.)這句諺語的恐懼。如果你吃的東西太不正統,你可能會不再是自己,至少不是原本所屬社群中合法、正常的成員。而在過去,飲食差異又比今天更加危險。因為古代關於飲食與身體的理論認為,食用陌生氣候的食物,後果不是丟掉小命,就是會轉身變成當地居民。(摘自 第四章 種族與民族的概念糾纏〔下〕)
演算法
科技界有這麼一則笑話:「電腦還做不到的東西,叫做人工智慧,如果可以做到了,就只是機器學習。」人工智慧不代表擁有意識或超級智力,也不代表它在任何一個領域超越人類。自從有算盤以來,機械處理大量運算的能力就已經超過人類。如果要討論人工智慧能引發怎樣的社會力量,以及怎麼影響人們對於「完整人類」的預設信念,我們對人工智慧的定義,就不能停留在「無敵的西洋棋程式」。真正實用的人工智慧定義或許在於它必須能夠學習,並或多或少可以自主行動。
科技會體現,並放大創造者和實際運用者的價值觀與偏見。人類是危險的設計者,很多人設計新東西時的目標,往往不合乎其他人,甚至不合乎自己的長期利益。在當前的新自由主義與新法西斯主義社經環境裡,對於穩固性別歧視、種族歧視、身心障礙歧視和貪婪更有利。打造技術時如果沒有突破這些將人剝去人性、貶為怪物的價值觀,就無法促進人類的繁榮。這也導致了演算法大多內建某種偏見,有哲學家更稱A I工具的存在意義就是「促進偏見的運作效率」(bias optimizer)。除非有不受科技公司和其說客介入的防護措施,否則日益複雜且深入社會的人工智慧,終究只會為了少數人的利益,放大人性最糟的一面,讓絕大多數人付出痛苦的代價。
演算法和神經網絡的現況,讓我們不得不思考,它們到底推動的是誰的目標?那些不透明、簡化、依據替代指標(proxy indicator)運作的系統又傷害了誰?誰能對演算法提出意見,又有誰的意見會被聽進去?「逮捕預測器」並不是「犯罪預測器」。順性別異性戀白人男性在電腦工程師裡占據壓倒性的比例,但他們創造的人工智慧卻會影響到所有人。有人提出人工智慧的「價值對齊和錯位」(mis/aligned),這確實是很有用的解釋概念,但重點還是在於人工智慧要追求的,到底是誰的價值?人類並非同質的群體,每個人有不同的需求、價值觀、身體樣態和目標。有時候,科技最可怕的不是「用途不合」,而是它完全按照製造者與設計者的意圖運作,但他們的意圖卻是傷害他人。
這些價值錯位的人工智慧,早已滲透到人們生活的方方面面,從社群媒體廣告、保險費率設定,到監控哪些學校「表現不佳」。在執法領域,A I生成的評估結果會直接影響人在法律上所受的對待,比如被捕後需要繳納多少保釋金,甚至是刑期的長短。做出倫理決策需要同理心、知識和想像力,這些都是目前人工智慧所欠缺的,因為沒有人鼓勵設計者把這些價值、用什麼樣的語法寫進程式碼裡。
機器要傷害我們並不需要比我們聰明,只要它們的目標,或是操作者的目標違反全人類的利益,就足以造成危害。這就是為什麼我們不能光顧著開發似乎一體適用的通用人工智慧。我們必須正視這門科技發展至此,已經累積了許多損人利己的決定。如果我們真的希望科技能通向美好的未來,就需要先改善「人類社會的軟體」,為人們創造發揮潛力所需的條件,這些基本軟體包括了食物、淨水、住處、教育和安全等基本生活需求。接著,我們才能開始打造更聰明的硬體,不然社會將持續否定人性的豐富、浪費人的可能性,並造成更多的傷害。(摘自〈第八章 機器〉)