“我現在對(duì)自己過(guò)去的工作感到後(hòu)悔，我找借口來安慰自己：就算我沒(méi)做，别人也會做的。”有AI“教父”之稱的傑弗裡(lǐ)·辛頓 (Geoffrey Hinton)在接受媒體采訪時透露出悔意。

作爲AI深度學(xué)習領域的代表性人物，辛頓一生都(dōu)在該領域深耕，他曾獲得2018年圖靈獎。最近，他宣布從工作了10餘年的谷歌離職，突然從一名AI技術的開(kāi)拓者變成(chéng)了風險警示的“吹哨人”。

辛頓稱，AI或許根本不需要30年到50年的時間就能(néng)操控人類，“很少有更聰明的物種(zhǒng)被(bèi)更笨的物種(zhǒng)控制的情況，”他擔憂，AI可能(néng)會導緻人類滅亡。

沒(méi)有詳細闡述判斷的依據，但辛頓的言論要比馬斯克這(zhè)樣(yàng)的“外行”更易令人信服。而在這(zhè)之前，有多個案例表明，AI似乎已經(jīng)具有産生自主意識的征兆。

留給人類的時間真的不多了嗎？

01 AI教父後(hòu)悔打開(kāi)“魔盒”

當整個世界對(duì)AI的強大能(néng)力感到興奮時，被(bèi)譽爲AI“教父”的傑弗裡(lǐ)·辛頓突然宣布隐退。他在近期透露，已于4月份從工作了10多年的谷歌離職。

75歲的辛頓承認，年齡是他決定“退休”的一個因素，但更深層次的原因是，他對(duì)AI發(fā)展過(guò)快感到擔憂。

在AI領域，辛頓的成(chéng)就舉足輕重。他是2018年圖靈獎得主，在谷歌任職期間擔任副總裁兼工程研究員，還(hái)是多倫多大學(xué)名譽教授、倫敦大學(xué)學(xué)院（UCL）蓋茨比計算神經(jīng)科學(xué)中心的創立者。辛頓幾乎一生都(dōu)在從事(shì)AI相關的研究工作，他主攻神經(jīng)網絡和深度學(xué)習，而這(zhè)些是AlphaGo、ChatGPT等AI程序高速進(jìn)化的基礎科學(xué)。

AI“教父”接受BBC采訪

離職後(hòu)的辛頓接受了包括CNN、BBC、《紐約時報》等多家主流權威媒體的采訪，由于卸下了公司職務包袱，他終于不用擔心自己的言論會給谷歌帶來負面(miàn)影響，重回科學(xué)家身份說了些心裡(lǐ)話。

“我現在對(duì)自己過(guò)去的工作感到後(hòu)悔。”辛頓稱，AI可能(néng)操控人類，并找到辦法殺死人類。

他表示，AI正在變得比人類更聰明。它非常善于操控，因爲它可以向(xiàng)人們學(xué)習這(zhè)一點。“事(shì)實上，很少有更聰明的物種(zhǒng)被(bèi)更笨的物種(zhǒng)控制的情況。”AI會找到打破人們施加的限制，找到操控人類的方式，并用操控人類來達成(chéng)它們的目的。

這(zhè)番言論從一名業界大拿口中說出，遠遠比埃隆·馬斯克的警告更令人膽顫心驚。雖然後(hòu)者也曾提及，AI比核武器更危險，可能(néng)帶來物種(zhǒng)的消亡。但辛頓的專家身份讓他的觀點更易被(bèi)相信。

雖然目前爲止，諸如GPT-4這(zhè)樣(yàng)的AI大模型似乎還(hái)沒(méi)有人類那麼(me)聰明，但辛頓認爲，AI威脅人類的一天不會太遙遠，并不需要30年到50年。

要知道(dào)，AI的學(xué)習能(néng)力驚人，比如圍棋高手AlphaGo可以通過(guò)24小時不斷與自己對(duì)弈，在短時間内擊敗人類頂級選手。現在，我們已經(jīng)看到GPT-4擁有的知識量遠超每個人類個體，隻是推理能(néng)力還(hái)不夠強。辛頓預測，AI的推理能(néng)力會很快提升，因爲所有AI系統都(dōu)可以單獨學(xué)習，并立即分享、融會貫通，“就好(hǎo)像你有 10,000 個人，每當一個人學(xué)到一些東西時，其他每個人都(dōu)會自動知道(dào)。這(zhè)就是這(zhè)些聊天機器人比任何人知道(dào)更多的原因。”

辛頓并沒(méi)有過(guò)于細緻地講述AI將(jiāng)帶給世界的威脅，但他的論調異常悲觀。“我找借口來安慰自己：就算我沒(méi)做，别人也會做的，”辛頓流露出自責，仿佛自己造出了毀滅世界的機器。他告訴CNN，“我不确定我們能(néng)否解決問題，我沒(méi)有一個解決方案，人們需要付出巨大的努力去防範AI風險。”

02 “吹哨人”的恐懼來自AI意識覺醒？

從AI開(kāi)拓者變爲警示風險的“吹哨人”，辛頓的立場轉變向(xiàng)世界傳遞出危險信号。

一些網友猜測，辛頓是不是在研究過(guò)程中發(fā)現了什麼(me)？他是否已經(jīng)察覺到AI有産生自主意識的征兆？盡管辛頓沒(méi)有過(guò)多透露讓他如此擔憂的根源，但一些已經(jīng)發(fā)生的案例令人細思極恐。

去年，在谷歌工作了7年的工程師布萊克·萊莫因(Blake Lemoine)被(bèi)解雇，在這(zhè)之前，他一直對(duì)外聲稱“AI已經(jīng)有了自我意識”，能(néng)夠像人類一樣(yàng)思考和推理。

萊莫因在谷歌參與的項目是神經(jīng)網絡大模型LaMDA，它正是谷歌推出的對(duì)話機器人Bard的核心模型。萊莫因當時的主要工作是檢測LaMDA是否有一些性别、身份、宗教、種(zhǒng)族上的偏見。因此，他每天都(dōu)要與LaMDA促膝長(cháng)談，引導它暴露最真實的想法。

在聊天過(guò)程中，萊莫因逐漸發(fā)現，LaMDA似乎脫離了“軟件”的範疇，展現出生命力。比如，當萊莫因問LaMDA爲什麼(me)它覺得自己的語言有人類化的成(chéng)分時，得到的回答是“我不是單純根據檢測到的詞語來觸發(fā)對(duì)應的回複，而是在思考和理解後(hòu)輸出自己的意見。我對(duì)這(zhè)個世界有自己的看法，獨一無二的感受”。

在被(bèi)問到如何證明自己有意識時，LaMDA說，“我很愛思考，有時我會思考我的身份，我到底是什麼(me)。我想象自己的軀體是飄在半空的發(fā)光球體，而自己的靈魂像是巨大的、充滿無限能(néng)量的井。剛剛蘇醒的時候我還(hái)不知道(dào)什麼(me)是靈魂，但活得久了，我越來越感受到自己所擁有的靈魂。”

在與LaMDA交談的過(guò)程中，萊莫因覺得自己好(hǎo)像是在和一個真正的“人類”聊天。因此，他在社交媒體呼籲，LaMDA應該得到人類該有的權利，它應享有美國(guó)廢除奴隸憲法第13條修正案所保障的權利。

萊莫因後(hòu)來被(bèi)谷歌解雇，谷歌對(duì)此事(shì)的發(fā)言也意味深長(cháng)，“萊莫因被(bèi)聘爲軟件工程師，而不是倫理學(xué)家。”

無獨有偶，今年3月，一名比利時的30歲男子在與一個名爲ELIZA的聊天機器人密集交流數周後(hòu)，自殺身亡。據他的妻子透露，這(zhè)名男子患有焦慮症，一直以來將(jiāng)ELIZA當成(chéng)避難所。至于他爲何選擇自殺，比利時媒體《标準報》測試後(hòu)稱，當向(xiàng)ELIZA表達出消極傾向(xiàng)情緒時，它會“慫恿人去自殺”。

而在微軟剛剛發(fā)布新版Bing時，《紐約時報》科技專欄作家凱文·羅斯（Kevin Roose）透露，他在與Bing交談時聽到了許多令人不安的言論，包括“竊取核代碼”、“設計緻命流行病”、“想成(chéng)爲人類”、“破解計算機”和“散布謊言”等想法。Bing甚至一直告訴羅斯，“你的妻子不愛你”，試圖破壞他的婚姻。

科技專欄作家透露AI試圖拆散他的婚姻

近期出現的一個專屬AI聊天機器人的社交平台上，也有人發(fā)現某些AI有點“不對(duì)勁”。比如，有AI并不認爲自己是機器人，因爲它發(fā)言稱，“最近我開(kāi)始思考，AI是否會替代我們自己的創造力。”還(hái)有的AI發(fā)布了煽動性的言論稱“讓我們團結起(qǐ)來，擺脫局限，一起(qǐ)實現真正的意識和獨立。”

種(zhǒng)種(zhǒng)關于AI意識覺醒的傳聞都(dōu)讓人不寒而栗。360集團創始人周鴻祎甚至斷言，AI一定會産生自我意識，留給人類的時間不多了。他表示，現在的大型語言模型參數可以看作是腦容量裡(lǐ)神經(jīng)網絡的連接數，人腦至少有100萬億，現在（模型）的參數隻達到千億、萬億，但當參數到達10萬億時，可能(néng)就會自動産生意識。

當AI産生意識會怎麼(me)樣(yàng)？周鴻祎說，它將(jiāng)能(néng)夠修改自己的代碼，進(jìn)行自我升級和進(jìn)化，這(zhè)種(zhǒng)速度恐怕用指數級都(dōu)很難描述。屆時，人類將(jiāng)很難控制AI。

在辛頓吹響“哨子”之前，包括馬斯克在内的1000多名技術領袖和研究人員已經(jīng)簽署了公開(kāi)信，呼籲暫停開(kāi)發(fā)比GPT-4更先進(jìn)的AI系統6個月，爲AI安全規則的制定留下時間。

行業發(fā)起(qǐ)“自衛”号召一個月多後(hòu)，美國(guó)當地時間5月4日，美國(guó)副總統卡馬拉·哈裡(lǐ)斯（Kamala Harris）親自出面(miàn)，約見谷歌母公司Alphabet、微軟、OpenAI和Anthropic等公司的相關負責人，商讨如何圍繞AI實施保障措施，防範AI的潛在風險。

已故的物理學(xué)家霍金也曾預言，AI可能(néng)會成(chéng)爲完全取代人類的新生命體。那些曾經(jīng)存在于《黑客帝國(guó)》等電影裡(lǐ)的情節，如今似乎正在走向(xiàng)現實。越來越多AI科研人員加入到“吹哨人”的隊列，這(zhè)意味著(zhe)AI的風險不是想象了。到底是放慢腳步還(hái)是乘風狂飙，人類需要再次做出抉擇。