耶魯大學(xué)社會(huì)科學(xué)與自然科學(xué)教授尼古拉斯·克里斯塔基斯(Nicholas Christakis)在即將于4月出版的《大西洋月刊》上撰文稱，人工智能技術(shù)不僅會(huì)給我們帶來便利，還有可能在悄無聲息間影響人類社會(huì)的基本秩序。

　　以下為文章全文：

　　數(shù)十年來，人們一直在擔(dān)心機(jī)器人可能會(huì)通過何種方式改變我們的生活。這也成為各種科幻小說熱衷的主題。20世紀(jì)40年代，人類與人工智能之間的廣泛互動(dòng)似乎還遙遙無期，但艾薩克·阿西莫夫(Isaac Asimov)卻在那時(shí)提出了著名的“機(jī)器人三大定律”，旨在防止機(jī)器人傷害我們。

　　第一條是：“機(jī)器人不得傷害人類，且應(yīng)確保人類不受傷害。”它的根源在于，認(rèn)為機(jī)器人會(huì)通過直接互動(dòng)對(duì)人類產(chǎn)生影響。

　　回想一下經(jīng)典的科幻電影：C-3PO和R2-D2與義軍同盟合作，在《星球大戰(zhàn)》中挫敗帝國(guó);或者《2001太空漫游》里的HAL 9000以及《機(jī)械姬》里面的Ava都策劃謀殺它們假意服從的主人。

　　雖然這些作品都充滿想象力，但卻并沒有把重點(diǎn)放在人工智能更廣泛、更重要的社會(huì)影響上——人工智能可以對(duì)人類之間的互動(dòng)方式產(chǎn)生具體影響。

　　當(dāng)然，激進(jìn)的創(chuàng)新之前也曾經(jīng)徹底改變過人類共同生活的方式。5000到1萬年前，城市的出現(xiàn)導(dǎo)致游牧民族減少，人口密度增加。無論是作為個(gè)體還是集體，我們都適應(yīng)了這種狀況(例如，這些新的環(huán)境更有可能引發(fā)傳染病，而我們已經(jīng)進(jìn)化出相應(yīng)的抵抗力)。最近，包括印刷機(jī)、電話和互聯(lián)網(wǎng)在內(nèi)的技術(shù)發(fā)明徹底改變了我們存儲(chǔ)和傳播信息的方式。

　　然而，雖然這些創(chuàng)新十分重要，但卻并未徹底改變?nèi)祟惖幕�本行��，而這些基本行為也構(gòu)成了我所謂的“社會(huì)套件”：這是我們歷經(jīng)數(shù)十萬年進(jìn)化出來的一系列關(guān)鍵能力，包括愛情、友誼、合作和教學(xué)。無論生活在城市還是農(nóng)村，也無論是否使用現(xiàn)代科技，這些特征的基本輪廓在全世界范圍內(nèi)都高度一致。

　　但在我們中間加入人工智能可能會(huì)帶來更大的破壞。特別是當(dāng)機(jī)器的外觀和行為與我們相似，并深入地滲透到我們生活時(shí)，它們可能會(huì)改變我們之間戀愛或交友的方式——不光是影響我們與相關(guān)機(jī)器之間的直接互動(dòng)，還會(huì)影響我們?nèi)祟惐舜酥�間的互動(dòng)。

　　實(shí)驗(yàn)帶來的啟示

　　我在耶魯大學(xué)的實(shí)驗(yàn)室里做了一些實(shí)驗(yàn)，跟我的同事對(duì)這種效應(yīng)如何發(fā)揮作用展開探索。在其中一項(xiàng)實(shí)驗(yàn)中，我們讓一小群人與人形機(jī)器人一起在虛擬世界中鋪設(shè)鐵軌。每組由三個(gè)人組成，他們跟一個(gè)藍(lán)白兩色組成的小型機(jī)器人圍坐在一張方桌四周，使用平板電腦工作。

　　我們通過程序讓這個(gè)機(jī)器人偶爾犯一些錯(cuò)誤，而且會(huì)承認(rèn)自己的錯(cuò)誤：“對(duì)不起，伙計(jì)們，我這輪犯了錯(cuò)誤。”它調(diào)皮地說，“我知道這可能很難相信，但機(jī)器人也會(huì)犯錯(cuò)。”

　　事實(shí)證明，這個(gè)笨拙且懂得懺悔的機(jī)器人通過改善人類之間的溝通，幫助團(tuán)隊(duì)提升了表現(xiàn)。他們變得更加放松，也更加健談，不僅會(huì)安慰犯錯(cuò)的同伴，還會(huì)經(jīng)常在一起開懷大笑。與之相比，對(duì)照組的機(jī)器人只會(huì)冷冰冰地闡述信息，在團(tuán)隊(duì)合作方面顯得遜色不少。

　　在另一個(gè)虛擬實(shí)驗(yàn)中，我們將4000個(gè)人類受試者分成大約20個(gè)組，并在組內(nèi)為每個(gè)人分配“朋友”;這些友誼形成了一個(gè)社交網(wǎng)絡(luò)。這些小組之后都領(lǐng)到一項(xiàng)任務(wù)：每個(gè)人必須在三種顏色中選擇一種，但每個(gè)人選擇的顏色都不能與其社交網(wǎng)絡(luò)中指定的朋友的顏色相同。

　　受試者不知道的是，一些小組包含的機(jī)器人會(huì)因?yàn)閮?nèi)置的程序而故意偶爾犯錯(cuò)。與這些機(jī)器人直接接觸的人類變得更加靈活，并且會(huì)主動(dòng)避免那些可能對(duì)某個(gè)人有效，但卻對(duì)整個(gè)小組無效的解決方案。更重要的是，由此產(chǎn)生的靈活性遍布整個(gè)社交網(wǎng)絡(luò)，甚至?xí)�影響那些與機(jī)器人沒有直接聯(lián)系的人。

　　因此，這些容易犯錯(cuò)的機(jī)器人所在的小組，整體表現(xiàn)總是優(yōu)于不會(huì)犯錯(cuò)的機(jī)器人所在的小組。換句話說，機(jī)器人能幫助人類來幫助他們自己。

　　這兩項(xiàng)研究都表明，在我稱之為“混合系統(tǒng)”的地方，也就是人類與機(jī)器人展開社交互動(dòng)的地方，正確地部署人工智能可以改善人類彼此之間的關(guān)系。其他研究結(jié)果也印證了這一點(diǎn)。例如，政治學(xué)家凱文·芒格(Kevin Munger)下令某種機(jī)器人在人們通過互聯(lián)網(wǎng)向其他人發(fā)送種族主義言論之后，對(duì)此進(jìn)行干預(yù)。

　　他發(fā)現(xiàn)，在某些情況下，如果機(jī)器人只是簡(jiǎn)單地提醒肇事者，他們的攻擊目標(biāo)是一個(gè)人，此人的感情可能受到傷害，就可以令這名肇事者在一個(gè)多月的時(shí)間內(nèi)減少種族主義言論。

　　但是，在我們的社交環(huán)境中加入人工智能，也會(huì)降低我們的行為效率和道德水準(zhǔn)。在另一個(gè)實(shí)驗(yàn)中，我們希望探索人工智能如何影響“公地悲劇”。這個(gè)概念指的是，每個(gè)人的自私行為匯總起來可能對(duì)我們的共同利益構(gòu)成破壞。

　　在實(shí)驗(yàn)中，我們向幾千名受試者提供資金，以供他們?cè)诤脦纵喚W(wǎng)絡(luò)游戲中使用。在每一輪中，受試者被告知可以保留他們的錢，也可以將一部分或全部的錢捐贈(zèng)給鄰居。如果他們捐款，我們會(huì)捐出同樣的金額，使他們的鄰居收到的錢增加一倍。

　　在游戲初期，三分之二的玩家采取了無私的行為。畢竟，他們意識(shí)到在一輪游戲中對(duì)鄰居慷慨捐贈(zèng)，就可能促使鄰居在下一輪游戲中對(duì)自己慷慨捐贈(zèng)，從而建立互惠的規(guī)范。

　　但從自私和短視的角度出發(fā)，最好的結(jié)果其實(shí)是留下錢不捐，等著鄰居給自己捐錢。在這個(gè)實(shí)驗(yàn)中，我們發(fā)現(xiàn)只要添加一些冒充人類玩家的自私機(jī)器人，就能推動(dòng)整個(gè)小組采取相似的行為。最終，人類玩家完全停止了合作。于是，機(jī)器人把一群慷慨大方的人變成了自私自利的混蛋。

　　我們來思考一下這項(xiàng)發(fā)現(xiàn)的含義。合作是人類這個(gè)物種的一項(xiàng)關(guān)鍵特征，對(duì)社會(huì)生活至關(guān)重要。信任和慷慨也是成功群體區(qū)別于不成功群體的關(guān)鍵特征。如果每個(gè)人為了幫助自己所在的群體而展開投入和犧牲，大家都會(huì)受益。然而，當(dāng)這種行為模式被打破時(shí)，公共物品的概念就會(huì)消失，每個(gè)人都會(huì)受到損害。人工智能可能會(huì)極大地降低我們的合作能力，這是一件非常令人擔(dān)憂的事情。

　　現(xiàn)實(shí)生活的例子

　　事實(shí)上，現(xiàn)在已經(jīng)有一些真實(shí)例子讓我們領(lǐng)教了人工智能如何在實(shí)驗(yàn)室之外敗壞人類之間的關(guān)系。一項(xiàng)在2016年美國(guó)總統(tǒng)大選前針對(duì)570萬Twitter用戶進(jìn)行的研究發(fā)現(xiàn)，一些俄羅斯帳號(hào)(其中有一些由機(jī)器人操縱)經(jīng)常通過跟非惡意帳號(hào)相似的方式轉(zhuǎn)發(fā)信息，對(duì)保守派用戶產(chǎn)生的影響尤其明顯。

　　通過利用人類善于合作和好為人師的特征——這也是社交套件的兩個(gè)特征——機(jī)器人甚至影響了沒有與之直接互動(dòng)的人，令美國(guó)的選舉出現(xiàn)兩極分化。

　　簡(jiǎn)單的人工智能所產(chǎn)生的其他社會(huì)影響每天都在我們周圍發(fā)生。父母?jìng)兛粗�他們的孩子咆哮著向Alexa或Siri這樣的數(shù)字助理發(fā)出粗暴的命令，他們開始擔(dān)心這種粗魯行為會(huì)影響孩子們待人接物的方式，或者擔(dān)心孩子與人工智能的關(guān)系會(huì)干擾甚至取代人際關(guān)系。

　　不久前，麻省理工學(xué)院的科技和社會(huì)學(xué)專家謝里·特克爾(Sherry Turkle)，在給他的兒子買了一臺(tái)玩具機(jī)器人后對(duì)《大西洋月刊》說，兒童成長(zhǎng)過程中的同伴如果是人工智能，而不是人類，那么他們可能就會(huì)缺乏同理心。

　　隨著數(shù)字助理無處不在，我們已經(jīng)習(xí)慣于跟它們交談，就好像它們也有感情一樣。茱蒂絲·舒勒維茨(Judith Shulevitz)去年曾經(jīng)闡述過我們中的一些人是如何開始將它們視為知己，甚至把它們當(dāng)做朋友和治療師。

　　舒勒維茨本人說，她向谷歌助手透露了一些連她的丈夫都不知道的事情。如果我們?cè)谂c設(shè)備密切交談時(shí)感覺越來越舒服，那么人類之間的婚姻和友誼會(huì)發(fā)生什么變化?

　　由于商業(yè)需要，設(shè)計(jì)師和程序員通常會(huì)開發(fā)各種能夠讓我們感覺更好的設(shè)備，但卻可能無法幫助我們自我反思或思考痛苦的事實(shí)。隨著人工智能滲透到我們的生活之中，我們必須面對(duì)這樣一種可能性：它會(huì)阻礙我們的情緒，抑制人與人之間的深層關(guān)系，導(dǎo)致我們不再那么設(shè)身處地為別人著想，甚至變得更加膚淺和自戀。

　　所有這一切，最終可能以我們意想不到的方式改變?nèi)祟惿鐣?huì)，我們甚至需要將它當(dāng)做一種政體來對(duì)待。我們是否希望讓機(jī)器影響孩子的善良天性?我們是否希望機(jī)器影響成年人的性行為?

　　英國(guó)德蒙福特大學(xué)人類學(xué)家凱瑟琳·理查森(Kathleen Richardson)更擔(dān)心后一個(gè)問題。作為“反對(duì)性愛機(jī)器人運(yùn)動(dòng)”的主席——沒錯(cuò)，性愛機(jī)器人已經(jīng)成為一種初級(jí)現(xiàn)象，所以為反對(duì)它們而掀起的運(yùn)動(dòng)不算杞人憂天——她警告說，這種機(jī)器人們將會(huì)令人們喪失人性，并可能導(dǎo)致用戶退出真正的親密關(guān)系。我們甚至可能不再單純把機(jī)器人當(dāng)成滿足性欲的工具，還會(huì)以同樣的態(tài)度對(duì)待他人。

　　其他觀察家認(rèn)為，機(jī)器人可以從根本上改善人類之間的性行為。在2007年出版的《跟機(jī)器人談戀愛滾床單》(Love and Sex With Robots)一書中，從反傳統(tǒng)的國(guó)際象棋大師變身商人的大衛(wèi)·萊維(David Levy)考慮了“具有情感吸引力和性誘惑力的機(jī)器人”所帶來的積極影響。他認(rèn)為有些人會(huì)更喜歡機(jī)器人配偶，而非人類伴侶(事實(shí)上，去年已經(jīng)有一名日本人與人工智能全息影像“結(jié)婚”)。

　　性愛機(jī)器人不會(huì)傳播性病，也不會(huì)意外懷孕。它們可以為寡廉鮮恥的實(shí)驗(yàn)和實(shí)踐提供各種機(jī)會(huì)——從而幫助人類成為“大師級(jí)情人”。有基于此，再考慮其他因素的影響，萊維認(rèn)為與機(jī)器人發(fā)生性行為是道德的，在某些情況下甚至是理所當(dāng)然的。

　　事實(shí)上，對(duì)于我們大多數(shù)人而言，在遭遇這種跟親密關(guān)系有關(guān)的人工智能難題之前，應(yīng)該還是會(huì)率先遇到更為日常的挑戰(zhàn)。畢竟，無人駕駛汽車的時(shí)代已經(jīng)到來。這些車輛有望大大減少困擾人類駕駛員的疲勞和分心問題，從而防止事故發(fā)生。但是它們會(huì)對(duì)人類產(chǎn)生哪些其他影響呢?

　　駕駛是一種非�，F(xiàn)代的社交互動(dòng)，需要高水平的合作和社會(huì)協(xié)調(diào)。我擔(dān)心的是，無人駕駛汽車會(huì)剝奪我們鍛煉這些能力的機(jī)會(huì)，導(dǎo)致我們的能力萎縮。

　　這些車輛不僅會(huì)通過程序來承擔(dān)駕駛職責(zé)，從而篡奪人類做出道德判斷的權(quán)利(例如，當(dāng)碰撞不可避免時(shí)，哪個(gè)行人會(huì)被撞擊)，還會(huì)影響沒有根它們直接接觸的人類。例如，當(dāng)駕駛員以穩(wěn)定不變的速度與自動(dòng)駕駛車輛共同行駛一段時(shí)間后，可能會(huì)精神松懈，注意力渙散。

　　因此，當(dāng)他們駛?cè)胫挥腥祟愸{駛員的高速公路后，就更有可能發(fā)生事故。另外，經(jīng)驗(yàn)可能表明，與完全遵守交通法規(guī)的自動(dòng)駕駛車輛一起駕駛，實(shí)際上可以提高人類駕駛員的表現(xiàn)。

　　無論如何，我們都會(huì)肆無忌憚地開發(fā)各種新型人工智能，而不會(huì)首先考慮這些社會(huì)溢出效應(yīng)——我們也經(jīng)常稱之為外部性。我們?cè)诠芾砣斯ぶ悄軐?duì)車外人員產(chǎn)生的漣漪效應(yīng)時(shí)，也投入了足夠的努力和獨(dú)創(chuàng)性，就像開發(fā)無人駕駛汽車的硬件和軟件一樣。畢竟，剎車燈之所以設(shè)計(jì)在車尾，主要不是為了你自身的利益，更多地是考慮到你身后其他人的利益。

　　新的社會(huì)契約

　　1985年，就在阿西莫夫制定“機(jī)器人三大定律”40年后，他又增加一條：機(jī)器人不可從事任何傷害人性的事情。但他在如何評(píng)估這種傷害時(shí)卻陷入掙扎。“人類是一個(gè)具體的對(duì)象，”他后來寫道，“可以估計(jì)和判斷一個(gè)人的受傷情況。而人性卻是抽象的。”

　　如果集中精力關(guān)注社會(huì)溢出效應(yīng)，或許可以有所幫助。其他領(lǐng)域的溢出效應(yīng)推動(dòng)了法律法規(guī)的建設(shè)和民主監(jiān)督的健全。無論是涉及污染水源的公司，還是在辦公樓里散布二手煙的煙民，一旦某些人的行為開始影響其他人，社會(huì)就可能會(huì)介入。

　　由于人工智能對(duì)人與人之間的互動(dòng)會(huì)產(chǎn)生嚴(yán)重而深遠(yuǎn)的影響，而且速度快、范圍廣，我們必須系統(tǒng)地調(diào)查可能出現(xiàn)的二階效應(yīng)，并討論如何才能代表共同利益對(duì)其展開監(jiān)管。

　　已經(jīng)有各種各樣的研究人員和從業(yè)人員(包括計(jì)算機(jī)科學(xué)家、工程師、動(dòng)物學(xué)家和社會(huì)科學(xué)家)開始齊心協(xié)力發(fā)展“機(jī)器行為”學(xué)科，希望將我們對(duì)人工智能的理解建立在一個(gè)更健全的理論和技術(shù)基礎(chǔ)之上。這個(gè)學(xué)科并不僅僅將機(jī)器人視做人造物體，而是將其視為一種新的社會(huì)行動(dòng)者。

　　這方面的研究非常迫切。在不久的將來，內(nèi)置人工智能的機(jī)器可以通過編程或獨(dú)立學(xué)習(xí)(我們將賦予它們這種能力)，展示出與在我們看來非常奇怪的智力和行為。

　　我們需要快速區(qū)分哪些只是看上去古怪，哪些是實(shí)實(shí)在在的威脅。關(guān)于人工智能，我們最關(guān)心的是它可能影響人類社會(huì)生活的核心元素，也就是那些讓我們這個(gè)物種得以繁衍生息的特征。

　　啟蒙運(yùn)動(dòng)哲學(xué)家托馬斯·霍布斯(Thomas Hobbes)認(rèn)為，人類需要一份集體契約來阻止我們變得雜亂無章。他錯(cuò)了。早在我們組建政府之前，進(jìn)化就為人類提供了一套社會(huì)套件，讓我們能夠和平而有效地生活在一起。在人工智能尚未誕生的世界里，通過基因遺傳的愛情、友誼、合作和教學(xué)能力不斷幫助我們共同生活。

　　不幸的是，人類沒有進(jìn)化出與機(jī)器人共同生存的天賦能力。因此，我們必須采取措施，避免它們?cè)谂c我們共處的過程中造成破壞。隨著人工智能更深入地影響我們的生活，我們可能還需要建立一種新的社會(huì)契約——只不過，這次的契約對(duì)象是機(jī)器，而不是其他人類。