欢迎关注我们的APP

首页 » 科技 » 大趨勢 » 正文

動物也有權利,那麽AI呢?

2017-01-11 11:35:02  来源:果殼網 【返回列表】

【亞太日報訊】說起大猩猩哈蘭貝(Harambe),周圍的人都說它“聰明”、“好奇”、“勇敢”、“高尚”。但是直到去年春天,哈蘭貝的形容詞才加上了“著名”一條。2016年5月28日,一個同樣好奇勇敢的人類男孩鉆過辛辛那提動物園的一道圍欄,掉進了哈蘭貝和其他兩只大猩猩的棲息地周圍的一條壕溝裏。圍欄後面的人們發出呼叫吶喊和其他驚恐的聲音。哈蘭貝用身體護住了男孩,仿佛在將他與喧嘩隔開,但接著它卻抓起男孩的一只腳踝,像在遊戲室的地板上拖動一只玩偶似的將他在水裏拖行起來。有那麽一陣,他小心翼翼地扶著男孩的腰部,將他擺成了兩腿直立的姿勢。接著在持續的驚叫聲中,他卻再次將男孩摔倒,並拖到了壕溝中央。

哈蘭貝與3歲男孩圖片來源:維基百科

哈蘭貝是一頭17歲的銀背大猩猩,擁有可怕的力量。當飼養員不能把他從男孩身邊引開時,危險動物響應小組的一名成員對他開了槍,哈蘭貝當場斃命。男孩入院觀察了一陣,醫生宣布他未受重傷,很快放他出院了。

“哈蘭貝”在斯瓦希裏語中的意思是“團結”,但是在他死亡之後的日子裏,人民卻分裂了。“對哈蘭貝開槍是一個沈重的決定,但當時那孩子有生命危險。”動物園長塞恩·梅納德(Thane Maynard)解釋說。靈長類專家也大多同意他的說法。但有些旁觀者傷心欲絕,臉書上出現了一個“紀念哈蘭貝”(Honoring Harambe)的小組,裏面有支持者為它繪制的肖像、有標簽了“為哈蘭貝討公道”的對話、還有人寫道:“永遠記住哈蘭貝的犧牲……安息吧英雄。”帖子還配了音樂。

媒體在報道這條新聞的細節時,常常會配上一張新聞社拍攝的瀟灑照片,照中的哈蘭貝蹲坐於地,一條手臂放在右側膝蓋上,凝視鏡頭,若有所思,仿佛肖恩·康納利在他最雄姿英發的年紀。

在網上,有人呼籲對哈蘭貝的死因開展刑事調查,說“這頭美麗的大猩猩之所以喪命,都是因為那個男孩的父母沒有看管好自己的孩子。”這個呼籲得到了50萬人的簽名支持,據CNN報道,這和那條主張起訴射死泰米爾·賴斯(Tamir Rice)的警察的呼籲相比,還多出了幾十萬支持者。(譯註:泰米爾·賴斯,黑人少年,2014年因持有玩具槍被警察擊斃,年僅12歲)

民眾在哈蘭貝身上投射了自己的想法。“我們的天性是用人類的眼光看待自己的行為,”神經科學家庫爾特·格雷(Kurt Gray)在群眾的義憤達到頂點時對CNN說道,“我們無法想象作為一只大猩猩是什麽感覺,只能想象如果自己是那只大猩猩會怎麽樣。” 

格雷指出的這個簡單事實也是過去幾百年來道德爭論的原因。哈蘭貝的支持者或許認為,靠殺死一只大猩猩來挽救人類的性命是不正義的,因為大猩猩和我們有著認知上的相似性,它們思考的方式和我們非常相像,所以它們理應獲得和我們相似的道德地位。另一些人可能認為,大猩猩的道德地位來自它們和人類在認知上的差異性:我們的理性較為發達,所以理應從貓吃耗子的遊戲中超脫出來,並成為動物的特別保護者,無論是小雞還是黑猩猩,都該得到我們的保護。(這兩種觀點都贊成人類吃肉:一派認為我們也是動物,所以能殺動物;另一派認為我們高於動物,所以能殺動物。)

這兩種明顯對立的信念體現了人類的迷茫:我們在其他具有大腦的生靈面前,究竟是它們的同伴還是主人?人類學家兼博物學家洛倫·埃斯利(Loren Eiseley)寫道:“人只有在一只非人生物的目光裏看見自己的倒影,才算真正遇見了自己。”要考察這個相似性和差異性的問題,我們就必須為人類的道德範圍劃出界限。

到今天,這樣的考察或許又要節外生枝了:在一個自動化的世界裏,我們遇見的目光或許根本不是來自生物,而是來自一個機器人——一種日益普及的新的獨立頭腦。在以前,對Siri的辱罵或是對無人駕駛汽車的毆打並不會像哈蘭貝那樣引起人的警覺。但是,如果“將心比心”或者“人類主宰”是我們的道德原則,那麽具有先進大腦、又受到人類監護的人工生命為什麽就是例外呢?

不過,在思考人類對於機器人的義務、或者機器人對於人類的義務之前,我們還是應該先來確定動物應該享有的權利。

動物該有多少權利?

有一個簡單的例子或許可以稍微理清一些頭緒:想想魚類。對於它們,我們應該抱有D·H·勞倫斯所說的“激烈而絕對的道德心”嗎?許多人對這個問題都有一個激烈而絕對的回答:沒門兒,魚幹魚松魚排們。耶穌好像就喜歡吃魚,他在復活之後就吃了幾條烤魚。度周末的人沒有幾個會認為飛繩釣魚是在發泄心中的暴怒和邪念(剛好相反),吃壽司的人在點金槍魚時痛惜的也是自己的錢袋、而不是良心。要愛惜一條魚的生命並不容易,部分原因是魚兒自己似乎也不大愛惜生命。魚類對於我們,有什麽道德上的價值呢?  

《一條魚知道什麽:我們水下表親的內心生活》(What a Fish Knows: The Inner Lives of Our Underwater Cousins)是喬納森·巴爾科姆(Jonathan Balcombe)在經過詳細研究之後寫出的一部著作,書中以典雅的文風探討了魚類的道德權利。一句話,他認為人類對魚類虧欠良多。“當一條魚看見我們時,我們就進入了另外一個生物的意識世界”。這位動物保護協會動物知覺部門的主任寫道,“有證據表明,至少某些魚類是具備一系列情緒的,包括恐懼、緊張、玩興、喜悅和好奇等等。”巴爾科姆希望魚兒們開心(他喜歡給魚兒加上“們”,以標示其個體性),這在那些望著一條海鱸的眼睛而毫無感觸的讀者看來或許有些古怪。但是巴爾科姆認為,這些讀者的冷漠中體現了一種偏見,因為一條魚兒的內心體驗(推而廣之,許多低等動物的內心體驗)比我們想象的要更加接近人類。

拿魚的痛覺來說。有多項研究指出那不僅僅是一種機械的反射。它不同於你的手從熱火爐前自動縮回的動作,而是相當於你在感到疼痛時的那一聲“哎喲!”因為這個和其他原因,巴爾科姆認為魚類的行為有著超出我們預料的豐富意圖。他搬出褶皺深蝦虎魚(frillfin goby)作為例子:這種魚會在遊動時記住周圍的地形,當潮位降低時,它們就靠頭腦中的那張地圖在水塘之間跳動。豬齒魚(tuskfish)則擅長使用工具(它們會帶著蛤蚌遊動,然後在選中的巖石上砸碎)。而裂唇魚(cleaner wrasses)在某些歸納學習測試中的表現超過了黑猩猩。有些魚甚至還有些特立獨行,比如我們知道,不是所有的鮭魚都會逆行到上遊去產卵然後死掉,有少數會回過頭來順流而下。

 在特定認知任務上表現非凡的裂唇魚圖片來源:animalia-life.club

在特定認知任務上表現非凡的裂唇魚圖片來源:animalia-life.club

從這裏再進一步,我們就可以來看看魚類的心理了。有些魚喜歡在緊張時享受一次按摩,它們會聚集到某個物體的邊上去摩擦身體側面,直到皮質醇水平下降為止。雄性四齒鲀會用魚鰭在沙地上扇出幾何圖形,並根據各自的品味用貝殼裝飾,以此作為炫耀。

 雄性四齒鲀搞出的“幾何沙雕”。圖片來源:scinexx.de

雄性四齒鲀搞出的“幾何沙雕”。圖片來源:scinexx.de

巴爾科姆還報告說,雌性鱒魚會像人一樣假裝性高潮,誰也搞不清她們為什麽要這麽做,尤其是雄鱒魚。

 一對在產卵的褐鱒。魚是體外受精的,有時雌鱒會渾身顫抖,看起來似乎馬上就要產卵了一樣,雄鱒於是就會配合著排出精子。最後雌鱒卻壓根沒有排卵。目前還不清楚為何雌魚要這麽做,有研究者猜測是雌魚為了讓自己的卵子得到更好的精子或更多樣化的精子。圖片來源:blickwinkel / Alamy

一對在產卵的褐鱒。魚是體外受精的,有時雌鱒會渾身顫抖,看起來似乎馬上就要產卵了一樣,雄鱒於是就會配合著排出精子。最後雌鱒卻壓根沒有排卵。目前還不清楚為何雌魚要這麽做,有研究者猜測是雌魚為了讓自己的卵子得到更好的精子或更多樣化的精子。圖片來源:blickwinkel / Alamy

在巴爾科姆看來,人覺得魚類和自己完全不同乃是一種偏見:我們會對倉鼠產生移情,因為它們會眨巴眼睛,還會用小爪子拿起食物。魚類不會眨眼,也沒有手指頭,因此顯得格外“異類”。魚類的腦子雖小,但據此就認定它們愚蠢卻是不對的,曾有人形象地指出,這就好比是“因為氣球沒有翅膀就主張它們不會飛”。

巴爾科姆的觀點有些矯枉過正,他的書裏到處散布著奇怪的擬人化故事,像是某某人和自己的魚類朋友間有特殊默契之類。不過他的觀點是成立的。如果我們將魚類視作認知上的同伴,也就應該對它們負起道德責任。

爭議來自道德邊界的劃定問題:拍死一只蚊子是不道德的嗎?如果這些昆蟲不值得我們的道德考量,那它們到底是缺少了哪種關鍵的特質呢?最近出了一本值得一讀的新書,作者是康奈爾大學的兩位法學教授,雪莉·科爾布(Sherry F. Colb)和邁克爾·多爾夫(Michael C. Dorf),書名叫《跳動的心:墮胎與動物權利》(Beating Hearts: Abortion and Animal Rights, Columbia)。書中探討了對於這類劃界行為的一些質疑。兩位作者指出了一個奇怪的現象:支持動物權利者和反對墮胎者之間很少有重合。其實前者主張不應終止神經系統較為簡單的動物(比如魚類)的生命,而後者主張不應終止胚胎的生命,這兩種立場不正好相通嗎?科爾布和多爾夫自己是支持墮胎的純素食主義者(“我們之所以奉行純素食主義,是因為我們和自己的狗共度了許多歲月”),雖然他們也註意到了其中的矛盾,但是並不認為這裏頭有什麽雙重標準。

他們辯解說,這裏的關鍵在於有無“覺知”(sentience)。許多動物是有覺知的,而受精卵和胚胎則沒有。他們將覺知定義為“擁有主觀體驗的能力”,這個定義是有一些不嚴謹的,因為動物的主觀體驗是一個難以確定的問題。哲學家托馬斯·內格爾(Thomas Nagel)寫過一篇著名的論文,《做一只蝙蝠是什麽感覺?》(What Is It Like to Be a Bat?)文中指出,就算人類學會了飛行、捕食蟲子、用聲納指路,也依然無法獲得一只蝙蝠的全部體驗,因為蝙蝠自出生起就開始積累的主觀感受,人是不知道的。科爾布和多爾夫有時也會掉進這樣的陷阱裏。他們在一篇文章裏主張,動物能否理解疼痛是無關緊要的,因為“人在極度劇痛時也無法理解疼痛或其他任何事情”——這個對於疼痛的理解完全是人類式的。

不過,動物與世界交往的方式顯然和植物或是其他物體不同。一間草屋不在乎自己是保存完好還是燒成灰燼,但是一個綁在柴堆上的異教徒肯定不願被燒死,一頭叉在烤肉架上的豬或許也不願被烤熟。在科爾布和多爾夫看來,這說明動物具有“利益”(interests),這個名詞(他們其實不太滿意)常常流露出功利主義的意味。功利主義是一派倫理學觀點,主張為群體追求最大的利益。傑裏米·邊沁(Jeremy Bentham)是它的創立者,在1789年的著作《道德與立法原理導論》中,他寫了一段很使人共鳴的腳註來討論動物:

或許終有一天,其他動物也會獲得這些一度被暴政剝奪的權利……我們要問的不是它們能否思考?能否說話?而是它們能否感受痛苦?

哲學家彼得·辛格(Peter Singer)在1975年的《動物解放》(Animal Liberation)一書中寫道,如果動物也能感受痛苦,我們難道不該努力減少它們的痛苦嗎?這個將動物視為同伴的思路有它的優勢:它為動物建立了道德訴求,卻沒有將人類的動機投射到它們身上。但是它也引出了其他問題:用棍子擊殺你的鄰居肯定比毒死一只大鼠要壞。但如果個體的痛苦是最重要的考慮因素,那麽這兩個事件的性質似乎就一樣了。

辛格的解答是功利主義的:重要的不是生物個體的痛苦,而是整個體系的痛苦。你的鄰居被殺所產生的痛苦超過一只大鼠死亡產生的痛苦。不過在現實生活中,要在動物的生命和人的生命之間選擇的情況是很少見的,而減少動物的痛苦卻往往很容易。我們可以不再把牛群趕進屠宰機,我們可以把烤雞腿改成烤豆腐。要大多數人淹死一只小貓,他們都會受到良心的折磨,這說明在某個層面上,我們都知道痛苦是一件大事。問題是我們對其他個體痛苦的感觸是很不可靠的。就算是完全不能感受疼痛的物體(比如機器人),我們也會感到它們仿佛有痛覺似的。

機器人又該有多少權利?

2015年夏天,一組加拿大機器人專家將一只古怪的發明放到了美國的街道上,他們稱之為“搭車機器人”(hitchBOT),這並不是因為它是一個喜歡尊尼獲加、愛和別人唱反調的老煙槍——這個宇宙還沒那麽大方——而是因為它被設定了搭車的程序。這只機器人穿著一雙雨靴,“面部”的屏幕上掛著一個像素構成的傻氣微笑,它的任務是從麻省的薩冷鎮一路搭車前往加州的舊金山,它有的只是一根大拇指,以及靠語音體現的宜人個性。

 2014年,正橫穿加拿大的hitchBOT 圖片來源:cbc.ca

2014年,正橫穿加拿大的hitchBOT 圖片來源:cbc.ca

之前的幾次橫穿加拿大和環繞歐洲的旅行都很樂觀:它每一次都到達了目的地。這次美國之行的最初兩周裏,搭車機器人始終在東北部遊歷,它對司機們說著一些誘人的話,比如“你想談談嗎?……我對人文很感興趣。”但接著它就失蹤了。到了8月1日,有人在費城的一堵磚墻邊發現了它,當時他渾身破舊,腦袋掉了,胳膊也給擰了下來。

 面帶微笑卻在美國慘遭屠戮的hitchBOT 圖片來源:newsworks.org

面帶微笑卻在美國慘遭屠戮的hitchBOT 圖片來源:newsworks.org

反響來得很快。一名記者在推特中寫道:“說老實話,我到現在還在為搭車機器人的死傷心。”另一名博主寫道:“搭車機器人的毀滅再次提醒我們,這個社會還有很長的路要走。”

人類對機器人產生的溫馨之感促成了一系列電影的成功,包括《瓦力》和《人工智能》,這一點在《星球大戰》的世界中達到了極致:幾代人都是看著其中的那些有趣的機器人和乏味的人類長大的。這種情感在實用領域中也有體現:洛斯阿拉莫斯國家實驗室(Los Alamos National Laboratory)的一位機器人專家曾經制作了一條外表並不可愛的機器蜈蚣,讓它負責清除地雷的工作,它在雷區一路爬行,直到機器足全部炸斷。在亞利桑那州的一次測試中,一位陸軍上校下令停止演習,據《華盛頓郵報》的報道,因為他覺得機器人遭受的暴力是“不人道的”。

以辛格的標準看,這完全是在胡鬧。機器人沒有生命,我們也肯定知道它們無法感受痛苦。那為什麽一個硬心腸的上校卻會對這樣一個機器系統產生些許道德責任感呢?最近,在麻省理工、哈佛和耶魯從事研究的凱特·達林(Kate Darling)探討了這類人機關系中的究竟什麽使人類感到了不安。她在一篇論文中歸納了三個因素:具有實體(對象處在實際的空間之中,而不是只在屏幕裏),觀察到的自發運動(對象的運動似乎是有意識的),以及社會行為(機器人的程序使它能模擬人類的社交信號)。達林和同事開展了一項實驗,他們給每位被試發了一只名叫“佩利奧”(Pleo)的機器圓頂龍寶寶,並要被試與它交流。然後他們要被試把佩利奧綁起來打死。有的被試拒絕從命,還有的護住了佩利奧不讓別人下手。一名女子取走了她那條機器龍的電池,好讓它“不必受苦”。到最後,被試在實驗者的勸說下“犧牲”了一只嗚咽的佩利奧,由此挽救了它的其余同類。

 你怎麽忍心傷害這麽可愛的佩利奧? 圖片來源:bbc

你怎麽忍心傷害這麽可愛的佩利奧? 圖片來源:bbc

為了解釋被試的這種行為,達林提出我們之所以不願虐待這些栩栩如生的機器,是因為我們都有“社會價值觀”(societal values)。雖然我們頭腦中的理性部分知道一只佩利奧不過是一堆電路、齒輪和軟件,是如同一只咖啡機那樣能夠關閉的機器,但是我們同情沖動卻受到了蒙蔽,於是對這些被試來說,毆打機器人就成了一種不當行為。(這也是HBO電視臺的新劇《西部世界》中的原則,在劇中,對高級機器人的虐待象征了人類的奸詐。)“有人擔心,虐待一個能夠模擬生命反應的物體,也會影響我們在和其他個體交往時的移情感。”達林寫道。換句話說,虐待一個機器人和“機器人是什麽”無關,它關系到的是我們內心最可怕的一面。 

就像美國腹地的河流奔向密西西比河,這些思考也在向著倫理學中的一個歷史性分歧匯聚。在河的一邊是像邊沁這樣的人,他們認為道德是由結果決定的。(違心贊美你同事的傻瓜發型在道德上是沒問題的,因為說真話只能讓你們雙方都不快樂。)在河對岸的人認為道德必須講求權利和規則。(一個道德的人不能說謊,即使是關於發型這樣的小事。)動物倫理學傾向於第一個陣營,認為人應該考慮自身的行為對其他生物的影響。而達林等人的研究使我們覺得似乎第二個陣營才代表了進步——人應該衡量權利和義務,而不是算計結果。

想想各種禁止虐待動物法中的邏輯或無邏輯吧。紐約州禁止給寵物施加痛苦,卻允許用陷阱抓狐貍;禁止電刑處死“覆蓋皮毛”的動物如麝鼠,卻允許電刑處死毛絨絨的動物如大鼠;它還禁止在你的狗身上文裝飾性圖案,但你的奶牛就可以。就像達林指出的那樣,“我們的保護欲僅指向那些我們容易產生共鳴的動物,這說明相比任何客觀的生物學準則,我們其實更關心自身的情緒狀態。”她在康德那裏找到了依據,康德認為動物倫理是用來服務人類的。“要是一個人槍殺了自己的狗……他也損害了自己的善良和人性。”他在《倫理學講座》中寫道,“一個人要是對動物表現出這樣殘忍的行徑,他對人類的冷酷也不會少。”

這不是將動物視作同伴的道德,而更像是一種消極保護(passive guardianship):人類努力實現自己的高尚人性,在這個過程中,動物(或機器人)也從人類的努力中間接受益。達林主張,這種關系很適合一個人類、動物和機器的聯系日益緊密的時代。一個十六個月大的孩子難道能理解為什麽拉扯貓的尾巴是殘忍的、而追逐一只掃地機器人就可以接受嗎?我們難道不想讓孩子善待任何看似有生命的東西、無論它實際上有沒有生命嗎?對尚在繈褓的一代人而言,和Siri之類的人工智能交談是世界的本然狀態。我們和朋友對話,也和設備交談,我們愛撫小狗,也擁抱情人。在現代生活中,康德堅持的只有人類和人類的交往才涉及權利的觀念,看來是有點太狹隘了。 

說到這裏,一個倫理學家或許會像電影《黃金時代》(L'Age d'Or)中的加斯東·莫多(Gaston Modot)那樣惱怒地踢飛一只小狗。將其他個體都視為道德同伴看來並不可行:我們並不清楚“同伴”的標準應該從哪裏算起,我們的判定行為也會受到誤解和偏見的羈絆。但如果我們自居為有操守的保護者,那又會將其他動物貶到較低的位置——在這個時代還將人類看作宇宙的主宰、具有生殺予奪的權力,似乎是有一點落伍了。不過像彼得·辛格這樣的邊沁主義者也可能陷入一個古怪的極端:如果避免痛苦是最終的目標,那似乎就沒有什麽理由可以反對將一整個物種沒有痛苦地處死了。 

我們應該遵循哪條思路?幾年前,哈佛大學的哲學家、研究康德的學者克莉絲汀·庫爾斯加德(Christine M. Korsgaard)開始用康德的原則研究動物權利問題(也就是遵循個體自由的原則,而不是像辛格那樣計算一個個動物的苦難)。她遇到的第一個反對者就是康德自己。康德認為,權利來源於理性的意誌,這開出了一片道德的領域,其中的每個人都根據自己的思考做出善的舉動,不必受到別人想法的專制。(因為我的財產權,你不能在我門前的草坪上放一只巨大的熱水浴缸,即使你認為那是善的。這使我能夠自由地以我認為善的方式使用自家的草坪,而不必受到一只熱水浴缸的打擾)康德指出,動物不能靠推理做出選擇,因此權利的自由它們是無緣享受的。如果你要求一只啜飲花蜜的蜂鳥按照最高的理性標準行使自己的意誌,它只會繼續在花叢中飛來飛去。

庫爾斯加德爭辯說,將一切權利和理性的選擇掛鉤是搞錯了方向,因為即使對康德來說,人類也不完全是理性的生物,也會憑沖動行事。在她看來,行為的最基本動力並非來自理性,而是來自一種能夠感知好壞的能力,而這種能力是動物也具有的。人類要是像主張自家院子的權利那樣主張對一條狗的心靈和身體的權利,那就是在使用強權,而強權正是康德極力避免的東西。因此根據康德原則,動物對自己的身體肯定是擁有自由的——也肯定是擁有權利的。

這個觀點並不要求動物具備智力、意識或覺知這樣的抽象特質。嚴格地說,它甚至不要求我們從此不再吃水煮蛋或者鹿肉。它只是將啟蒙主義的價值(個體有選擇生活的權利和不受暴政的自由)擴展到了那些或許受到我們保護的動物身上。讓那些小雞自由奔跑吧!它說。給大海中的鮭魚一個躲開漁網的機會,使它們不必在養殖塘中生活。我們並不清楚那些小雞和鮭魚會不會在意,但是對我們人類來說,這些做法乃是避免暴行的關鍵。

 現在的我們把自己看成動物的同伴、或保護者,未來的機器人又會怎麽看待我們呢?  繪圖: Nishant Choksi

現在的我們把自己看成動物的同伴、或保護者,未來的機器人又會怎麽看待我們呢?  繪圖: Nishant Choksi

機器人似乎不在這樣的人道關懷之內,因為它們不具有身體上的自由。(你的自動駕駛汽車不能自行決定去海邊走一回。)然而機器學習正在突飛猛進,人工智能有了自學的程序,這些進步都在動搖上面的前提。機器人會在未來獲得權利嗎?《泰晤士報》的科技版記者約翰·馬爾科夫(John Markoff)在《機器的恩典》(Machines of Loving Grace, Ecco)一書中提出了這個問題。這件事之所以重要,部分是因為機器人的頭腦和動物不同,它們是照著人類的形象創造出來的,具有在我們的領域裏挑戰並且戰勝我們的潛力。馬爾科夫還討論了一種常見的擔憂,那就是機器人會消滅中產階級:“技術不會成為經濟增長的源泉,而是會威脅到一切以技術為基礎的程序化工作,這些工作的從業者從事的是各種‘腦力’勞動。”換句話說,不要一味擔心機器人搶走流水線上的工作,還要擔心它們在醫院體檢臺和證券交易所裏的表現都超越了你。未來幾年機器將大舉侵吞美國人的工作,這是任何高墻都無法阻擋的。機器人是美國人聰明才智的結晶,但它們已經失控,正在學習每一樣我們會的東西。

這樣的未來催促我們把道德目標思考清楚。未來的機器人叛亂不太可能是忠誠的人類對戰邪惡的機器。它更有可能以另一種形式發生,而且叛亂已經開始了:人類正在將廉價而強大的智能機器迎入自己的日常生活,並和它們結成共生關系。今天的手機擴大了我們的記憶,集成式聊天機器人使我們不必再聽著音樂等待客服人員,手機應用使我們在全世界追逐口袋妖怪。半人半機器的時代已經來臨,它對我們的傷害並不是通過暴行,而是讓我們認識到了自身的局限。

給自動駕駛汽車編程時會遇到一個如何避免事故的經典問題:在拐彎撞向十個路人和徑直撞向一堵墻壁殺死主人之間,車輛應該如何選擇?這個兩難不僅是倫理的,也是商業的(一輛汽車的程序會在特定狀況下殺死你,這樣的車你還會不會買?)它也映照出了人類自己做出的、卻又喜歡忽略的艱難抉擇。人工智能的恐怖並不在於《2001太空漫遊》裏那個不願意被關掉的哈爾9000,而是在於會做倫理計算的轎車和戰場上的無人機——這些機器人精確地遵從我們的命令,並機械地模仿我們的道德行為。(譯註:哈爾9000,科幻小說《2001太空漫遊》中的智能機器人,在書中謀殺了人類宇航員)

眼下在人文學科裏有一股時髦的思潮,稱為“後人文主義”(posthumanism),它盡量避免那個在啟蒙運動中風靡一時、但是現在的知識看已經又頗為可疑的前提,那就是人性中蘊含著某種神奇的魔力。有幾位後人文主義者,比如凱瑟琳·海爾斯(Katherine Hayles),已經在借用生化人(cyborg)的概念質疑人完全由心靈和身體構成的舊觀念了,他們探討的既有目前居於主流的人機結合形式(比如可穿戴技術),也有更加極端的例子。另一些人,比如卡裏·烏爾夫(Cary Wolfe),指出吸收外部信息的義體也能成為動物生命的一部分。不過後人文主義也不免會走向末路,而且它的終點和人文主義很接近,至少和人道思想很接近。作為人類,我們是通過適應外物達到自我的充分實現的;和大多數動物及機器一樣,我們也通過學習世人的習慣、以及使用工具而走向成熟。不過這條成熟之路是危險的。哈蘭貝在動物園出生,在一方充滿人類創造物的天地中居住,結果他也死在了這方天地裏。我們至今為此而傷感,這是人類最好的品質;但我們尊重死者甚於生者,這又是人類最壞的品質。 

(果殼網)