人類在人工智能(néng)時代的角色界定。

在一個機器越來越多地執行過(guò)去隻有人類才能(néng)勝任的任務的時代， 我們作爲人類的身份又如何體現？正如前面(miàn)章節所探讨的，人工智能(néng)將(jiāng)擴展我們對(duì)現實的了解。它將(jiāng)改變我們溝通、聯系和共享信息的方式，也將(jiāng)改變我們發(fā)展的理論和部署的戰略。當我們不再親自探索和塑造現實，而是將(jiāng)人工智能(néng)作爲我們感知和思想的輔助工具時，我們將(jiāng)如何看待自己以及我們在世界上的角色？我們將(jiāng)如何調和人工智能(néng)與人類自主和自尊等概念？

在先前的時代，人類始終將(jiāng)自己置于叙事(shì)的中心。盡管大多數社會都(dōu)承認人類并不完美，但它們同樣(yàng)視人類的能(néng)力和經(jīng)驗爲世間衆生可以實現的最高成(chéng)就。這(zhè)些社會頌揚那些體現人類精神巅峰的個人，這(zhè)實際折射出的正是我們對(duì)自己的期許。這(zhè)些英雄在不同的社會、不同的時代有著(zhe)不同的形象，比如領導者、探險家、發(fā)明家、 殉道(dào)者，但他們都(dōu)體現了人類成(chéng)就的各個方面(miàn)，也因此體現了人的獨特性。在現代，我們對(duì)英雄的崇拜集中在那些探索和塑造我們所處現實的理性先驅身上，比如宇航員、發(fā)明家、企業家、政治領袖，莫不如是。

如今，我們正在邁入一個新時代，作爲人類的創造物，人工智能(néng)正日益被(bèi)賦予以前隻能(néng)由人類心智完成(chéng)或嘗試的任務。随著(zhe)人工智能(néng)不斷執行這(zhè)些任務，産生接近乃至超越人類智能(néng)所能(néng)完成(chéng)的結果，它挑戰了人何以爲人的決定性屬性。此外，人工智能(néng)能(néng)夠學(xué)習、演化并變得“更好(hǎo)”(根據它被(bèi)賦予的目标函數)。這(zhè)種(zhǒng)動态學(xué)習能(néng)力使人工智能(néng)能(néng)夠實現複雜的結果，而這(zhè)些結果直到目前還(hái)都(dōu)是人類和人類組織的專利。

随著(zhe)人工智能(néng)的崛起(qǐ)，對(duì)人類角色、人類願望和人類成(chéng)就的定義都(dōu)將(jiāng)發(fā)生變化。在這(zhè)個時代，人類的哪些品質值得頌揚？其指導原則是什麼(me)？人們有兩(liǎng)種(zhǒng)認識世界的傳統方式：信仰和理性；如今人工智能(néng)又添上了第三種(zhǒng)。這(zhè)種(zhǒng)轉變將(jiāng)考驗(在某些情況下還(hái)將(jiāng)改變)我們對(duì)這(zhè)個世界以及我們人類在其中所處位置的核心假設。理性不僅革新了科學(xué)，也改變了我們的社會生活、藝術和信仰。在其浸染之下，封建等級制度瓦解了，而民主，即理性的人應該自治的理念崛起(qǐ)了。現在，人工智能(néng)將(jiāng)再次檢驗我們的自我認知所依據的原則到底爲何。

在一個人工智能(néng)可以評估我們生活中的諸般事(shì)物，預測接下來會發(fā)生什麼(me)，并決定該做什麼(me)的時代，即一個現實可以被(bèi)預測、近似和模拟的時代，人類理性的角色將(jiāng)會改變。我們對(duì)個人和社會的目标感也會随之改變。在某些領域， 人工智能(néng)可能(néng)會增強人類的理性。在其他領域，人工智能(néng)則可能(néng)會讓人類産生一種(zhǒng)置身事(shì)外的感覺。對(duì)根據一種(zhǒng)無法解釋的(實際上也未被(bèi)言說的)計算而選擇了不同的車道(dào)或路線的司機來說，對(duì)根據人工智能(néng)協助的審查而被(bèi)延長(cháng)或被(bèi)拒絕信貸的借款人來說，對(duì)根據類似程序被(bèi)決定是否獲得面(miàn)試機會的求職者來說，對(duì)在認真開(kāi)始研究工作之前就被(bèi)人工智能(néng)模型告知最可能(néng)答案的學(xué)者來說，這(zhè)種(zhǒng)體驗可能(néng)會是高效的，但并不總是令人滿意的。對(duì)習慣了獨斷專行、以自我爲中心，并壟斷了複雜智力活動的人類而言，人工智能(néng)將(jiāng)挑戰其自我認知。

到目前爲止，我們所設想的種(zhǒng)種(zhǒng)進(jìn)步，說明人工智能(néng)正在以多種(zhǒng)途徑改變我們與世界的互動方式，從而改變我們看待自己和自己在世界中所扮演角色的方式。人工智能(néng)會進(jìn)行預測，比如一個人是否處于乳腺癌早期；它會做出決定，比如在國(guó)際象棋對(duì)弈中該走哪步棋；它能(néng)突顯和過(guò)濾信息，比如該看什麼(me)電影或持有什麼(me)投資；它 還(hái)能(néng)生成(chéng)類人風格的文本， 從句子到段落，乃至整個文檔。随著(zhe)這(zhè)種(zhǒng)能(néng)力變得日趨複雜，它們將(jiāng)迅速成(chéng)爲大多數人眼中具有創造性或專業性的存在。人工智能(néng)能(néng)夠做出某些預測或決定、生成(chéng)某些材料的事(shì)實本身，并不表明它具有類似于人類的複雜性。但在許多情況下，這(zhè)些結果可以與以前隻有人類才能(néng)給出的結果相媲美，甚至有過(guò)之而無不及。

想想 GPT-3 之類的生成(chéng)模型能(néng)夠創建的文本吧。幾乎任何受過(guò)初等教育的人都(dōu)能(néng)合理地預測一個句子怎樣(yàng)才能(néng)補充完整。但是編寫文檔和代碼(GPT-3 可以做到)需要複雜的技能(néng)，人類需要花費數年時間接受高等教育來培養這(zhè)些技能(néng)。因此，我們曾經(jīng)的信念，即像補充完整句子這(zhè)樣(yàng)的任務與寫作是不同的，而且比寫作更簡單，正遭遇生成(chéng)模型的挑戰。随著(zhe)生成(chéng)模型的不斷改進(jìn)，人工智能(néng)將(jiāng)引領我們對(duì)人類能(néng)力的獨特性和相對(duì)價值産生新的認識。這(zhè)將(jiāng)把我們置于何處？

借助與人類互補的現實感知，人工智能(néng)可能(néng)會成(chéng)爲對(duì)人類有用的同伴。在科學(xué)發(fā)現、創造性工作、軟件開(kāi)發(fā)和其他類似的領域中，有一個持不同視角的對(duì)話者會大有裨益。但這(zhè)種(zhǒng)合作的實現要求人類适應這(zhè)樣(yàng)一個世界：在這(zhè)個世界中，我們的理性并不是認識或駕馭現實的唯一方式，或許也不是最具廣泛性的方式。這(zhè)預示著(zhe)，人類如今所經(jīng)曆的這(zhè)場轉變的意義比自活字印刷機問世近 6 個世紀以來所發(fā)生的任何轉變都(dōu)更加重大。

各個社會都(dōu)有兩(liǎng)個選擇：一個是各自爲戰；另一個則是帶著(zhe)合作意向(xiàng)開(kāi)始對(duì)話，舉全人類的進(jìn)步之力來界定人工智能(néng)的角色，同時明晰我們自己的角色。前一種(zhǒng)路徑是棄權式的默認，而後(hòu)一種(zhǒng)則需要領導人和哲學(xué)家、科學(xué)家和人文主義者，以及其他各種(zhǒng)團體的清醒參與。

最終，個人和社會將(jiāng)不得不決定，生活的哪些方面(miàn)應該留給人類智能(néng)，哪些方面(miàn)則應交由人工智能(néng)或人類與人工智能(néng)的合作。人類與人工智能(néng)的合作并不是一種(zhǒng)對(duì)等關系。歸根結底，人工智能(néng)既由人類構建，也由人類指揮。但随著(zhe)我們逐漸習慣和依賴人工智能(néng)，對(duì)其加以限制可能(néng)會導緻更高昂的成(chéng)本、更困難的心理挑戰，甚至更複雜的技術。我們的使命將(jiāng)是了解人工智能(néng)給人類經(jīng)驗帶來的變化、它對(duì)人類身份的挑戰，以及這(zhè)些發(fā)展變化的哪些方面(miàn)需要由其他的人類義務來加以調節或制衡。人類未來將(jiāng)如何呈現，這(zhè)取決于人類在人工智能(néng)時代的角色界定。

改變人類經(jīng)驗

對(duì)一些人來說，人工智能(néng)的體驗將(jiāng)會賦予他們力量感。在大多數社會中，了解人工智能(néng)的人數雖少，但也在不斷增長(cháng)。對(duì)這(zhè)些對(duì)人工智能(néng)進(jìn)行構建、培訓、指派和監管的個人，以及擁有技術顧問的決策者和商業領袖來說，這(zhè)種(zhǒng)夥伴關系應該是讓他們頗爲心滿意足的，盡管有時也會令人吃驚。事(shì)實上，在許多領域，借助專業化的技術超越傳統理性的體驗，如人工智能(néng)在醫學(xué)、生物、化學(xué)和物理方面(miàn)取得的突破，往往會令人頗有成(chéng)就感。

那些缺乏相應技術知識的人，或者主要以消費者身份參與人工智能(néng)托管過(guò)程的人，也會經(jīng)常發(fā)現這(zhè)些過(guò)程令人滿意，比如一個大忙人可以在乘坐自動駕駛汽車旅行時閱讀或查看電子郵件。將(jiāng)人工智能(néng)嵌入消費産品确實可以廣泛傳播該技術帶來的福祉。然而，人工智能(néng)也將(jiāng)運行并非出于任何特定個人用戶的利益而設計的網絡和系統，而且超出任何個人用戶的控制範圍。在這(zhè)些情況下，遭遇人工智能(néng)可能(néng)會讓人感到不安或洩氣，比如由人工智能(néng)推薦某個人而非其他人獲得理想的升職或調任時，或人工智能(néng)鼓動或慫恿對(duì)主流觀點持挑戰甚至蔑視态度時。

對(duì)管理者來說，人工智能(néng)的部署可以帶來很多優勢。人工智能(néng)的決策在準确性方面(miàn)比起(qǐ)人類可以說是有過(guò)之而無不及，而且在适當的保障措施下，實際上也可能(néng)更少有偏見。同樣(yàng)，人工智能(néng)在分配資源、預測結果和推薦解決方案方面(miàn)可能(néng)更爲行之有效。事(shì)實上，随著(zhe)生成(chéng)式人工智能(néng)變得愈加普及，它産生全新文本、圖像、視頻和代碼的能(néng)力甚至可能(néng)使它在通常被(bèi)認爲需要創造性的角色(如起(qǐ)草文件和制作廣告)中表現得和人類同行一樣(yàng)出色。對(duì)提供新産品的企業家、掌握新信息的管理者，以及創造日益強大人工智能(néng)的開(kāi)發(fā)者來說，這(zhè)些技術的進(jìn)步可能(néng)會增強他們的主導感和選擇感。

優化資源配置和提高決策準确性對(duì)社會是有益的，但對(duì)個人來說，其實所謂意義，更多地來自其自主性，以及基于一系列行動和原則解釋結果的能(néng)力。解釋提供了意義并呈現其目的，對(duì)道(dào)德原則的公共認可和明确應用則提供了正當性。但算法不會提供基于人類經(jīng)驗的理由，來向(xiàng)公衆解釋其結論。有些人，尤其是那些了解人工智能(néng)的人，可能(néng)會覺得這(zhè)個世界還(hái)是可以理解的；但更多的人可能(néng)并不理解人工智能(néng)的所作所爲究竟爲何，這(zhè)將(jiāng)削弱他們的自主性和賦予世界意義的能(néng)力。

随著(zhe)人工智能(néng)改變了工作的性質，它可能(néng)會危及許多人的身份認同感、成(chéng)就感和财務安全。受這(zhè)種(zhǒng)變化和潛在錯位影響最大的可能(néng)是藍領和中層管理人員，這(zhè)些人的工作需要專門的培訓，并涉及審查或解釋數據，或是起(qǐ)草标準格式文件之類的專業工作。雖然這(zhè)些改變不僅可以帶來更高的效率，而且會創造新的崗位，但對(duì)在這(zhè)個過(guò)程中經(jīng)曆了哪怕短暫錯位與混亂的失意者而言，他們就算知道(dào)這(zhè)隻是過(guò)渡期的陣痛，而這(zhè)些改變終將(jiāng)提升整個社會的生活質量和經(jīng)濟生産力，他們恐怕也不會感到有所慰藉。有些人可能(néng)會發(fā)現自己可以從單調沉悶的工作中解脫出來，轉而專注于更能(néng)激發(fā)成(chéng)就感的工作；而另一些人則可能(néng)會發(fā)現他們的技能(néng)不再是優勢，甚至不再必要。

盡管這(zhè)些挑戰令人生畏，但其并非前所未有。以往的技術革命也曾造成(chéng)工作的替代和改變。機械紡織機等發(fā)明取代了紡織工人，并激發(fā)了盧德派(Luddites)的233興起(qǐ)。盧德派是一種(zhǒng)政治運動的參與者，他們試圖禁止新技術，以保留舊有生活方式，如果無法達成(chéng)這(zhè)一點，就破壞新技術。農業的工業化引發(fā)了向(xiàng)城市的大規模人口遷移。全球化改變了制造業和供應鏈，許多社會在最終吸收這(zhè)些變化以實現自身的整體改善前，都(dōu)引發(fā)了新的變數乃至動蕩。無論人工智能(néng)的長(cháng)期影響究竟如何，在短期内，這(zhè)項技術都(dōu)將(jiāng)徹底改變某些經(jīng)濟領域、職業和身份。社會需要爲此做好(hǎo)準備，不僅要爲職位被(bèi)取代者提供替代的收入來源，還(hái)要爲他們提供新的成(chéng)就感來源。

決策

在現代，如果我們遭遇一個問題，标準反應是尋求解決方案，有時爲确定方案還(hái)需找出這(zhè)個問題的肇始者。這(zhè)種(zhǒng)觀念賦予了人類責任和原動力，這(zhè)兩(liǎng)者都(dōu)有助于我們建立身份意識。現在，一個新的參與者正在加入這(zhè)一均衡，并可能(néng)削弱我們在某個特定情境下作爲根本思考者和行動者的自我觀感。有時，無論是創造和控制人工智能(néng)，還(hái)是僅僅使用它，我們所有人都(dōu)會在不經(jīng)意間與人工智能(néng)互動，或者在自己并未提出請求的情況下獲得人工智能(néng)提供的答案或結果。有時，無形的人工智能(néng)可能(néng)給世界帶來魔法般的默契感，就像一個商店對(duì)我們的到來和心血來潮的購物沖動仿佛都(dōu)能(néng)未蔔先知一樣(yàng)。而在其他時候，它則可能(néng)産生一種(zhǒng)卡夫卡式的荒誕與噩夢感，比如當機構做出足以改變個人命運的決定——提供就業機會、發(fā)放車貸和房貸，或由安保公司或執法部門做出的決定——卻沒(méi)有一個人可以解釋這(zhè)決定是如何做出的時候。

這(zhè)些合理的解釋與不透明的決策之間、個人與龐大的體制之間、擁有技術知識和權威的人與一無所有的人之間的矛盾對(duì)立，其實并不新鮮。新鮮之處在于，另一種(zhǒng)智能(néng)，即一種(zhǒng)非人類的、通常無法以人類理性加以測度的智能(néng)，成(chéng)了這(zhè)些矛盾的源頭。同樣(yàng)新鮮的還(hái)有這(zhè)種(zhǒng)新智能(néng)的無處不在與無遠弗屆。那些缺乏人工智能(néng)知識或對(duì)其無權限者可能(néng)特别傾向(xiàng)于排斥人工智能(néng)。有一些人，或因對(duì)人工智能(néng)似乎能(néng)剝奪他們的自主權而感到沮喪，或對(duì)其産生的附加效應感到恐懼，因而會尋求盡量減少使用人工智能(néng)，并與社交媒體或其他人工智能(néng)介導的網絡平台斷開(kāi)聯系，以避免在日常生活中使用(至少是有意使用)人工智能(néng)。

社會的某些群體可能(néng)會在這(zhè)條路上走得更遠，執著(zhe)于自身“實體主義者”而非“虛拟主義者”的定位。就像拒絕現代科技的阿米什人和門諾派教徒一樣(yàng)，一些人可能(néng)會完全拒絕人工智能(néng)，固守一個隻有信仰和理性的世界。但随著(zhe)人工智能(néng)的日益普及，“斷開(kāi)連接”將(jiāng)變成(chéng)一種(zhǒng)離群索居、孤家寡人般的自我孤立。事(shì)實上，即使是這(zhè)種(zhǒng)斷開(kāi)連接的可能(néng)性也是虛幻的：随著(zhe)社會日益數字化，人工智能(néng)日益融入政府和産品，其影響可能(néng)使我們避無可避。

科學(xué)發(fā)現

科學(xué)認識的發(fā)展往往涉及理論和實驗之間的巨大差距以及大量的試錯。随著(zhe)機器學(xué)習的進(jìn)步，我們開(kāi)始看到一種(zhǒng)新的範式出現，在這(zhè)種(zhǒng)範式中，模型不是像傳統上那樣(yàng)來自理論認識，而是由基于實驗結果得出結論的人工智能(néng)來建立。這(zhè)種(zhǒng)方法需要的專業知識不同于開(kāi)發(fā)理論模型或傳統計算模型。它不僅需要對(duì)問題有深刻的理解，還(hái)需要知道(dào)哪些數據，以及數據的哪些表征，將(jiāng)有助于訓練一個人工智能(néng)模型來解決問題。例如，在發(fā)現 Halicin 的過(guò)程中，選擇哪些化合物以及將(jiāng)這(zhè)些化合物的哪些屬性輸入模型，既至關重要，又充滿偶然。

機器學(xué)習對(duì)科學(xué)認識的重要性日益增加，這(zhè)對(duì)我們看待自己的方式和我們在世界上所扮演的角色提出了另一個挑戰。科學(xué)曆來是人類的專業知識、直覺和洞察力的巅峰組合。在理論和實驗的長(cháng)期相互作用中，人類的聰明才智推動了科學(xué)探索的各個方面(miàn)，但人工智能(néng)爲科學(xué)探究、發(fā)現和理解增加了一種(zhǒng)非人的、與人類相異的世界概念。機器學(xué)習産生的結果正日益令人感到驚訝，這(zhè)些結果也催生了新的理論模型和實驗。正如國(guó)際象棋大師已經(jīng)采納了 AlphaZero 那些出人意料的原創策略，并將(jiāng)其解釋爲一項可以提高自身對(duì)棋局理解的挑戰一樣(yàng)，許多學(xué)科的科學(xué)家也開(kāi)始亦步亦趨。在整個生物、化學(xué)和物理科學(xué)領域，一種(zhǒng)混合的夥伴關系正在成(chéng)形，人工智能(néng)正在促成(chéng)新的發(fā)現，那是一些人類雖未能(néng)親自發(fā)現，卻可以努力去做出相應理解和解釋的發(fā)現。

人工智能(néng)在生物和化學(xué)科學(xué)領域推動廣泛發(fā)現的一個突出例子是 AlphaFold 的開(kāi)發(fā)，這(zhè)一程序使用強化學(xué)習構建了高效的蛋白質新模型。蛋白質是複雜的大分子，在生物系統的組織、器官的結構與功能(néng)， 以及生物過(guò)程的調節中起(qǐ)著(zhe)核心作用。一個蛋白質分子是由數百個(或數千個)被(bèi)稱爲氨基酸的小單位組成(chéng)的，這(zhè)些小單位彼此連接在一起(qǐ)形成(chéng)長(cháng)鏈。因爲在蛋白質的形成(chéng)過(guò)程中有 20 種(zhǒng)不同類型的氨基酸，一種(zhǒng)常見的方法是將(jiāng)蛋白質視爲一個包含數百(或數千)個字符的序列，其中每個字符都(dōu)是從一個由 20 個字符組成(chéng)的“字母表”中選出的。

雖然氨基酸序列對(duì)研究蛋白質非常有用，但其未能(néng)呈現這(zhè)些蛋白質的一個關鍵方面(miàn)：由氨基酸鏈形成(chéng)的三維結構。我們可以把蛋白質想象成(chéng)需要在三維空間中結合在一起(qǐ)的複雜形狀，就像鎖和鑰匙一樣(yàng)，以實現特定的生物或化學(xué)結果，比如疾病的進(jìn)展或治愈。在某些情況下，蛋白質的結構可以通過(guò)晶體照相術等頗爲辛苦的實驗方法來測量。但在許多情況下，這(zhè)種(zhǒng)方法會扭曲或破壞蛋白質，使其結構無法測量。因此，從氨基酸序列中确定三維結構的能(néng)力至關重要。自 20 世紀 70 年代以來，這(zhè)一挑戰被(bèi)稱爲“蛋白質折疊”。

在 2016 年之前，學(xué)界在提高蛋白質折疊的準确性方面(miàn)沒(méi)有太多建樹，直到一個名爲 AlphaFold 的新程序取得了重大進(jìn)展。正如其名稱所暗示的，AlphaFold 的靈感來自開(kāi)發(fā)人員教 AlphaZero 下棋時采取的方法。與AlphaZero 一樣(yàng)，AlphaFold 使用強化學(xué)習來模拟蛋白質，而不需要人類的專業知識， 即之前的方法所依賴的已知蛋白質結構。AlphaFold 將(jiāng)蛋白質折疊的準确性從大約 40% 提高了一倍多，達到約 85%，這(zhè)使得世界各地的生物學(xué)家和化學(xué)家能(néng)夠重新審視他們以前無法回答的問題，并提出關于如何對(duì)抗人類、動物和植物中病原體的新問題。2 像 AlphaFold 這(zhè)樣(yàng)的進(jìn)步若沒(méi)有人工智能(néng)參與便不可想象。人工智能(néng)正在超越以往在測量和預測方面(miàn)的極限，其結果是改變了科學(xué)家爲治療疾病、保護環境和解決其他基本挑戰而獲取相應知識的方式。

教育與終身學(xué)習

人工智能(néng)時代的到來將(jiāng)改變我們與他人，以及我們與自己的關系。正如今天“數字原生代”和之前的幾代人之間存在代溝一樣(yàng)，“人工智能(néng)原生代”和他們的前輩之間也會出現差異。未來，孩子們可能(néng)在比 Alexas和谷歌 Homes 更先進(jìn)的人工智能(néng)助手的陪伴下長(cháng)大，這(zhè)個助手將(jiāng)保姆、導師、顧問、朋友等多種(zhǒng)角色融于一身。這(zhè)樣(yàng)的助手幾乎可以教孩子任何語言，也可以訓練孩子學(xué)習任何科目，并根據每個學(xué)生的表現和學(xué)習風格來因材施教，使他們獲得最佳的學(xué)習成(chéng)果。當孩子感到無聊時，人工智能(néng)可以作爲玩伴；當孩子的父母不在時，人工智能(néng)又可以成(chéng)爲監護者。随著(zhe)由人工智能(néng)提供和量身定制的教育被(bèi)引入，普通人的能(néng)力既會有所提高，也會面(miàn)臨挑戰。

人類和人工智能(néng)之間的界限將(jiāng)會驚人地模糊。如果孩子在年幼之時就用到了數字助手，他們就會對(duì)此習以爲常。同時，數字助手將(jiāng)與它們的主人一起(qǐ)成(chéng)長(cháng)發(fā)展，并随著(zhe)他們的成(chéng)熟，將(jiāng)他們的喜好(hǎo)和偏見逐漸内在化。數字助手的任務是通過(guò)個性化來最大化其人類同伴的便利感或滿足感，它們給出的建議和信息可能(néng)會被(bèi)人類用戶視爲必不可少，即使人類用戶無法确切解釋爲什麼(me)它們要好(hǎo)于其他任何替代資源。

長(cháng)此以往，個人可能(néng)會更偏愛自己的數字助手，而不是人類，因爲人類不懂得投其所好(hǎo)，而且更“令人讨厭”(即使僅僅因爲某人的個性和欲望與其他人不同)。結果，我們對(duì)彼此的依賴、對(duì)人際關系的依賴，可能(néng)都(dōu)會被(bèi)削弱。到那時，那些童年時代妙不可言的特質和無可替代的教訓將(jiāng)是什麼(me)模樣(yàng)呢？一種(zhǒng)并不能(néng)感知或體驗人類情感(但可能(néng)會模仿人類情感)卻給予無處不在陪伴的機器，將(jiāng)如何影響孩子對(duì)世界的感知及其社會化？它將(jiāng)如何塑造想象力？它將(jiāng)如何改變遊戲的本質？它將(jiāng)如何改變交友或融入社會的過(guò)程？

可以這(zhè)麼(me)說，數字信息的唾手可得已經(jīng)改變了一代人的教育和文化體驗。現在，世界正在開(kāi)展另一項“偉大實驗”，在這(zhè)個實驗中，孩子們將(jiāng)在機器的陪伴下成(chéng)長(cháng)，這(zhè)些機器將(jiāng)在許多方面(miàn)充當以前世代人類教師那樣(yàng)的角色，卻沒(méi)有人類的感覺、洞察力和情感。最終，實驗參與者可能(néng)會問，他們的經(jīng)曆是否以他們未曾預料或不能(néng)接受的方式被(bèi)改變了呢？

父母也許會因爲擔心這(zhè)種(zhǒng)接觸會對(duì)孩子産生不确定的影響而排斥這(zhè)種(zhǒng)技術。就像上一代的父母限制孩子看電視的時間，現在的父母限制孩子使用數碼設備的時間一樣(yàng)，未來的父母可能(néng)會限制人工智能(néng)陪伴孩子的時間。但那些希望推動孩子取得成(chéng)功的人， 或者沒(méi)有意願或能(néng)力讓孩子得到人類父母養育或人類導師教導而隻能(néng)依賴人工智能(néng)的人，或者隻是想滿足孩子結交人工智能(néng)朋友願望的人，可能(néng)會贊成(chéng)讓孩子與人工智能(néng)爲伴。因此，這(zhè)些尚處在學(xué)習與發(fā)展階段、易受影響的孩子，可能(néng)通過(guò)與人工智能(néng)的對(duì)話形成(chéng)他們對(duì)世界的印象。

具有諷刺意味的是，盡管數字化讓越來越多的信息變得可用，但它卻壓縮了深入、專注思考所需的空間。今天幾乎持續不斷的媒體流增加了思考的成(chéng)本，因此減少了思考的頻率。算法爲了回應人類對(duì)刺激的渴望而力推那些奪人眼球的事(shì)物，而能(néng)夠奪人眼球的，往往也是戲劇性的、出人意料的和有感染力的。一個人能(néng)否在這(zhè)種(zhǒng)環境中找到思考的空間是一個問題，而如今占主導地位的交流形式不利于促進(jìn)有節制的理性，這(zhè)是另一個問題。

新信息中介

正如我們在第四章中所述，人工智能(néng)正日益塑造我們的信息領域。爲了傳播和組織人類經(jīng)驗，中介機構應運而生。這(zhè)些組織和機構提煉複雜的信息，強調個人需要了解的内容，并將(jiāng)結果廣而告之。随著(zhe)體力勞動分工的細化，社會也開(kāi)始分配腦力勞動，報紙和期刊紛紛創建，用以向(xiàng)公民發(fā)布信息，大學(xué)也被(bèi)用來對(duì)公民進(jìn)行專科教育。從那時起(qǐ)，此類組織和機構便負責收集、提煉和傳播信息，并确定其意義。

現在，從金融到法律，在每一個以密集腦力勞動爲特征的領域，人工智能(néng)都(dōu)正在被(bèi)整合到學(xué)習的過(guò)程中。但人類并不是總能(néng)驗證人工智能(néng)呈現的内容是否具有代表性，就像我們不是總能(néng)解釋爲什麼(me) TikTok 和YouTube 等應用會推廣某些視頻而非其他。而真人編輯和主播可以解釋他們選擇呈現内容的原因所在，無論其是否準确。隻要人們還(hái)期望這(zhè)樣(yàng)的解釋，人工智能(néng)時代就會讓大多數不了解其技術過(guò)程和機制的人感到失望。

人工智能(néng)對(duì)人類知識的影響是自相矛盾的。一方面(miàn)，人工智能(néng)中介能(néng)夠浏覽和分析的數據的規模，比人類在無此協助之前所能(néng)想象的要大得多。另一方面(miàn)，這(zhè)種(zhǒng)處理大量數據的能(néng)力，可能(néng)也會加大對(duì)數據的操縱和誤導。人工智能(néng)能(néng)夠比傳統宣傳機構更有效地利用人類的激情，它會根據個人偏好(hǎo)和本能(néng)進(jìn)行調整，以給出其創造者或用戶所希望的回應。同樣(yàng)，人工智能(néng)中介的運用也可能(néng)放大固有偏見，即使這(zhè)些中介在技術上還(hái)在人類掌控之下。市場競争的起(qǐ)伏變化促使社交媒體平台和搜索引擎競相呈現用戶最感興趣的信息。結果，那些被(bèi)認爲是用戶喜聞樂見的信息獲得了優先排序，扭曲了現實的本來面(miàn)貌。就像技術在 19 世紀和 20 世紀加速了信息生産和傳播的速度一樣(yàng)，在這(zhè)個時代，信息正因人工智能(néng)在傳播過(guò)程中的參與而發(fā)生改變。

有些人會尋求信息過(guò)濾不被(bèi)扭曲，或者至少察覺到這(zhè)種(zhǒng)扭曲。有些人會權衡各個過(guò)濾途徑，從而獨立地衡量結果。還(hái)有一些人則可能(néng)會選擇完全排斥人工智能(néng)，而更偏愛通過(guò)傳統的人工信息中介進(jìn)行過(guò)濾。然而，當社會中的大多數人接受人工智能(néng)中介時——無論將(jiāng)其作爲一種(zhǒng)默認選項，還(hái)是作爲從網絡平台賦能(néng)的代價——那些仍在通過(guò)研究和理性來追求傳統形式的個人探究者，可能(néng)會發(fā)現自己無法跟上時代發(fā)展的步伐。他們肯定會發(fā)現自我塑造的能(néng)力日益受限。

如果信息和娛樂變得沉浸化、個性化和合成(chéng)化，比如人工智能(néng)挑選的“新聞”證實了某些人長(cháng)期持有的信念，或者人工智能(néng)制作的電影讓去世多年的演員擔任了“主演”，一個社會還(hái)會對(duì)其曆史和時事(shì)有共同的理解嗎？它還(hái)會有共同的文化嗎？如果一個人工智能(néng)被(bèi)指示掃描一個世紀以來的音樂或電視，并以此制作出“轟動一時”的作品，它是在創作，還(hái)是僅僅在組裝？那些傳統上被(bèi)視爲人類與現實和生活經(jīng)驗産生獨特接觸的勞動者，比如作家、演員、藝術家和其他創作者，屆時將(jiāng)如何看待自己，又如何被(bèi)他人看待？

人類的全新未來

傳統的理性和信仰將(jiāng)在人工智能(néng)時代繼續存在，但其性質和範圍必將(jiāng)因爲引入一種(zhǒng)新的、強有力的、機器運作的邏輯形式受到深刻影響。人類身份可能(néng)會繼續停留在“生命智能(néng)”的頂峰，但人類理性將(jiāng)不再被(bèi)視爲緻力于理解現實的智能(néng)的全部。爲了厘清我們在這(zhè)個世界上的地位，我們的側重點可能(néng)需要從“以人類理性爲中心”轉移到“以人類尊嚴和自主性爲中心”。

啓蒙運動的特點是試圖界定人類理性，并根據理性與先前人類時代的關系，在與這(zhè)些時代的對(duì)比中對(duì)其加以理解。霍布斯、洛克、盧梭及其他啓蒙運動時期的政治哲學(xué)家從理論上的“自然狀态”中導出他們的概念，并從中勾勒出關于人類屬性和社會結構的系列見解。當時的領導人又轉而提出問題：如何才能(néng)彙集人類知識并進(jìn)行客觀的傳播，以實現開(kāi)明的政府和人類的繁榮？如果我們未能(néng)像前人那樣(yàng)全力以赴地去理解人性，那麼(me)人工智能(néng)時代將(jiāng)注定讓我們迷失其中。

謹慎者可能(néng)會尋求限制人工智能(néng)，將(jiāng)其使用局限于零散功能(néng)，并限定其使用時間、場所和方式。社會或個人可能(néng)會保留自己的首席和裁判者角色，將(jiāng)人工智能(néng)置于輔助的次要位置。然而，競争帶來的活力與變化將(jiāng)對(duì)這(zhè)些限制構成(chéng)挑戰，我們在前一章提出的安全困境就是最鮮明的例證。除非受到基本的道(dào)德或法律限制，否則又有哪家公司會甘願放棄掌握競争對(duì)手用來提供新産品或服務的與人工智能(néng)功能(néng)相關的知識呢？如果人工智能(néng)讓行政官員、建築師或投資者能(néng)夠輕松預測結果或結論，那麼(me)有什麼(me)理由可以讓他們不使用人工智能(néng)？考慮到實施限制措施將(jiāng)會承受的壓力，需要在全社會或國(guó)際層面(miàn)上對(duì)那些表面(miàn)上可取的人工智能(néng)用途制定限制。

人工智能(néng)可能(néng)在探索和管理現實世界和數字世界方面(miàn)發(fā)揮主導作用。在特定領域，人類可能(néng)會對(duì)人工智能(néng)言聽計從， 更青睐人工智能(néng)的數據處理而非人類心智的局限。這(zhè)種(zhǒng)遵從，可能(néng)使許多人甚至大多數人退回到一個自我定制、自我封閉的個體化領域中。在這(zhè)種(zhǒng)情境下，人工智能(néng)的力量加上它的普遍性、隐蔽性和不透明性，將(jiāng)引發(fā)人們對(duì)自由社會甚至自由意志前景的懷疑。

在許多領域，人工智能(néng)和人類將(jiāng)成(chéng)爲探索事(shì)業中的平等夥伴。由此，人類身份將(jiāng)反映出與新關系的和解，無論是與人工智能(néng)還(hái)是與現實。不同的社會將(jiāng)爲人類領導權保留各自不同的領地。同時，它們將(jiāng)形成(chéng)必要的社會結構和習慣，以理解人工智能(néng)并與其有效互動。爲了與人工智能(néng)融洽相處，社會需要建立相應知識和心理基礎設施，并運用其獨特才智，盡可能(néng)地造福人類。技術將(jiāng)迫使政治和社會生活的許多方面(miàn)(實際上是大多數方面(miàn))做出調整。

在每個獨立的人工智能(néng)新運用布局中，建立平衡至關重要。各個社會及其領導人將(jiāng)不得不選擇何時告知社會中的個人，他們正在與人工智能(néng)打交道(dào)，以及他們在這(zhè)些互動中擁有何種(zhǒng)權力。最終，通過(guò)這(zhè)些選擇，一個人工智能(néng)時代的全新人類身份呼之欲出。

一些社會和制度可能(néng)會逐步适應，然而，另一些卻可能(néng)會發(fā)現，它們的基本假設與它們感知現實和自身的方式相沖突。由于人工智能(néng)促進(jìn)了教育和信息獲取，同時也增加了信息被(bèi)誇大和操縱的可能(néng)性，這(zhè)些沖突可能(néng)會愈演愈烈。個人的消息會更靈通、準備會更充分、觀點會有更大影響力，他們可能(néng)據此對(duì)政府提出更多要求。

每個社會必須在一開(kāi)始先确定人工智能(néng)在各個領域的全部可允許和不可允許的使用範圍。對(duì)某些強大的人工智能(néng)，如通用人工智能(néng)的使用權，將(jiāng)需要嚴格把關，以防止被(bèi)濫用。因爲通用人工智能(néng)的建造成(chéng)本可能(néng)相當高昂，隻有少數組織能(néng)夠建造，所以其使用會受此固有限制。某些限制可能(néng)違反一個社會的自由企業和民主進(jìn)程的理念。而在其他方面(miàn)，如限制在生物武器生産中使用人工智能(néng)的必要性，應該很容易達成(chéng)一緻，但需要國(guó)際合作。

截至本書撰寫時，歐盟已經(jīng)勾勒出規範人工智能(néng)的計劃綱要，旨在將(jiāng)隐私和自由等歐洲推崇的價值觀，與經(jīng)濟發(fā)展的需要和對(duì)歐洲本土人工智能(néng)公司的支持相平衡。該監管框架包括對(duì)人工智能(néng)的各種(zhǒng)用途進(jìn)行風險評估，并限制甚至禁止政府使用某些被(bèi)視爲高風險的技術，如人臉識别(盡管人臉識别有一些有益用途，如尋找失蹤人口和打擊人口販運)。毫無疑問，這(zhè)些初步概念會面(miàn)臨廣泛的争議和修改，但這(zhè)也是一個社會決定限制人工智能(néng)範圍，并相信此舉能(néng)夠使其推動生活方式進(jìn)步和未來發(fā)展的先例。

假以時日，這(zhè)些努力將(jiāng)會被(bèi)制度化。在美國(guó)，學(xué)術團體和咨詢機構已經(jīng)開(kāi)始研究現有流程和結構與人工智能(néng)崛起(qǐ)之間的關系。其中包括學(xué)術界的努力，例如麻省理工學(xué)院提出的解決未來工作的倡議；也包括政府的參與，比如國(guó)家人工智能(néng)安全委員會。有些社會可能(néng)完全放棄對(duì)此的解析，它們將(jiāng)落後(hòu)于另一些社會。後(hòu)者會進(jìn)行相應探究，提前調整自身制度，或如我們在下一章中讨論的那樣(yàng)建立全新的制度， 從而減少過(guò)渡期的錯位，并最大化與人工智能(néng)的夥伴關系帶來的物質和知識利益。随著(zhe)人工智能(néng)的發(fā)展，建立這(zhè)樣(yàng)的制度將(jiāng)至關重要。

對(duì)現實和人性的感知

由人工智能(néng)探索或在人工智能(néng)輔助下探索的現實，可能(néng)會超越人類想象。它可能(néng)包含我們從未察覺或無法概念化的模式；它被(bèi)人工智能(néng)所洞察的底層結構，可能(néng)是無法用人類語言表達的。正如我們的一位同行對(duì)AlphaZero 加以觀察後(hòu)所說：“像這(zhè)樣(yàng)的例子表明，有一些認知方式是人類意識無法實現的。”

爲了探索當代認知的未知疆域，我們可能(néng)需要委派人工智能(néng)前往那些我們自身無法進(jìn)入的領域；而當它返航時，也可能(néng)帶回我們不能(néng)完全理解的模式或預言。諾斯替派(Gnostic)哲學(xué)家關于存在“超越普通人類經(jīng)驗的内在現實”的預言，可能(néng)闡發(fā)新意。我們可能(néng)會發(fā)現， 自己離純粹知識的概念更近了一步，而不再受我們的心智結構和傳統人類思維模式的拘束。我們不僅必須重新界定我們的角色，我們已不再爲現實的唯一知者，還(hái)須重新界定我們以爲自己正在探索的現實。而且， 即使現實沒(méi)有令我們如此迷惑，人工智能(néng)的出現仍可能(néng)改變我們與現實以及我們彼此之間的關系。

随著(zhe)人工智能(néng)的普及，一些人可能(néng)認爲，人類比以往任何時候都(dōu)更有能(néng)力認識和組織周遭的環境。另一些人則可能(néng)會宣稱，我們并沒(méi)有自己想象的那麼(me)無所不能(néng)。這(zhè)種(zhǒng)對(duì)我們自身和我們所處現實的重新界定， 將(jiāng)改變關于我們的基本假設，并讓社會、經(jīng)濟和政治布局也随之而變。中世紀世界有它的神聖旨意，比如它的封建農業模式、它對(duì)王權的崇敬，還(hái)有它那高聳的大教堂尖頂所體現的向(xiàng)往。理性時代則有“我思故我在”的省思和對(duì)新疆域的追求，以及随之而來的在個人和社會的命運觀念中對(duì)“推動者”的全新主張。至于人工智能(néng)時代，則尚未定義其自身的組織原則、道(dào)德概念或其抱負感和局限性。

人工智能(néng)革命發(fā)生之迅猛，將(jiāng)超過(guò)大多數人的預期。除非我們發(fā)展出新的概念來解釋、演繹和組織其所帶來的轉變，否則無論是對(duì)人工智能(néng)還(hái)是對(duì)其所産生的影響，我們都(dōu)無法駕馭。在道(dào)德上、哲學(xué)上、心理上、實踐上，亦即在各個方面(miàn)，我們均發(fā)現自己正處于一個新時代的邊緣，身後(hòu)卻已無路可退。我們必須動用自己最根本的素養和資源，比如理性、信仰、傳統和技術，來調整我們與現實的關系，從而讓現實仍是人的現實。

本文節選自亨利•基辛格、埃裡(lǐ)克•施密特、丹尼爾•胡滕洛赫爾《人工智能(néng)時代與人類未來》，由中信出版社出版。