AI 的風險可以用 AI 防禦

恐慌可能(néng)是非理性的

強調 AI 危險的聯名信一封又一封，類比核戰争和流行病的譬喻層出不窮，與國(guó)會議員共進(jìn)晚餐的 OpenAI CEO 尋求監管。種(zhǒng)種(zhǒng)迹象表明，似乎不做些什麼(me)，AI 就要讓人類完蛋了。

馬克·安德森（Marc Andreessen）卻有著(zhe)不同的想法，他寫下近 7000 字的文章，洋洋灑灑論述以下觀點：

AI 不會毀滅世界，甚至可能(néng)會拯救世界。

馬克·安德森是矽谷風投公司 a16z 的聯合創始人和合夥人。

a16z 是矽谷最具影響力的創投公司之一，傾向(xiàng)長(cháng)期投資，參投過(guò) OpenAI，尤其關注下一代科技的發(fā)展，在區塊鏈和加密貨币領域享有盛名，并經(jīng)常以 KOL 的形象現身，發(fā)表尖銳和前沿的觀點。

來回搖擺的 AI 天平之上，馬克·安德森選擇站在另一個極端，展現著(zhe)極其樂觀的理想主義，駁斥了幾個主流的 AI 威脅論。

這(zhè)也在情理之中，因爲馬克·安德森本人與 AI 利益相關，并在文章的結尾提到，他和他的公司將(jiāng)盡可能(néng)支持 AI 工程師和初創公司。換言之，他想從 AI 革命裡(lǐ)賺錢。

我們不必無條件相信一切，隻是兼聽則明、偏信則暗，很少有人能(néng)夠準确預測未來，以批判性的目光多了解前沿觀點，也是一種(zhǒng)抓住可能(néng)性的方式。

劃重點

AI 提供了深度增強人類智力的機會。

對(duì) AI 的恐慌可能(néng)是非理性的。

認爲 AI 將(jiāng)殺死人類是一種(zhǒng)迷信。

不必擔心 AI 讓人失業。

AI 不會導緻技術不平等。

AI 的風險可以用 AI 防禦。

盡可能(néng)快速積極地構建 AI。

以下是原文編譯（有部分删改）

⼈⼯智能(néng)的時代已經(jīng)來臨，⼈們都(dōu)吓壞了。

但我想在這(zhè)裡(lǐ)帶來好(hǎo)消息：AI 不會毀滅世界，甚至可能(néng)拯救世界。

先簡單介紹 AI 是什麼(me)：

AI 是數學(xué)和軟件代碼的應用，教計算機如何像人類一樣(yàng)理解、綜合和生成(chéng)知識。

AI 類似其他計算機程序，運行、接收輸入、處理并生成(chéng)輸出。

AI 的輸出在各個領域都(dōu)很有用，包括編程、醫學(xué)、法律和創意藝術等等。

AI 由人擁有并受人控制。

AI 提供了深度增強人類智力的機會

人類智力是我們花費數千年到達現今世界的杠杆，創造科學(xué)、技術、數學(xué)、物理學(xué)、化學(xué)、醫學(xué)、能(néng)源、建築、交通、通信、藝術、音樂、文化、哲學(xué)、倫理和道(dào)德。

如果沒(méi)有這(zhè)些，我們仍然會生活在泥屋中，靠農業勉強維持溫飽。我們運用智力，讓生活水平在過(guò)去 4000 年間提高了大約 10000 倍。

AI 爲我們提供的，是深度增強人類智力的機會，使智力的所有産出，從創造新藥物，到解決氣候變化，再到探索星際旅行，變得更加卓越。

AI 對(duì)人類智力的增強已經(jīng)開(kāi)始，它以各種(zhǒng)計算機控制系統的形式存在于我們周圍，通過(guò)像 ChatGPT 這(zhè)樣(yàng)的大語言模型擴展和加速。

未來的 AI 新時代可能(néng)是這(zhè)樣(yàng)的：

每個人都(dōu)將(jiāng)擁有一位具備無限耐心、同理心和知識的 AI 助手，它將(jiāng)在人生的各個機遇和挑戰中與人同在，最大化每個人的成(chéng)果。

生産力增長(cháng)將(jiāng)大幅加速，推動經(jīng)濟發(fā)展，創造新的産業和就業機會，進(jìn)而在全球範圍内實現物質繁榮的新時代。

科學(xué)突破、新技術和新藥物將(jiāng)大幅擴展，自然規律將(jiāng)被(bèi)進(jìn)一步解碼。

創意藝術將(jiāng)迎來黃金時代，藝術家、音樂家、作家和電影制作人將(jiāng)更快、更大規模實現創意。

人們今天用天賦所做的任何事(shì)情，借助 AI 可以做得更好(hǎo)，并應對(duì)以前無法解決的新挑戰。

另外，AI 的人性化程度也被(bèi)低估了。 AI 藝術給了缺乏技能(néng)的人類創造的自由，醫療聊天機器人比人類同行更有同理心。 AI 不會讓世界變得更加殘酷和機械化，而是會讓它更加溫暖和美好(hǎo)。

對(duì) AI 的恐慌可能(néng)是非理性的

曆史上每一項重要的新技術，從電燈到汽車、從無線電到互聯網，都(dōu)引發(fā)了恐慌，這(zhè)是一種(zhǒng)社會傳染病，使人們相信新技術將(jiāng)毀滅世界。

我們正面(miàn)臨著(zhe)一場完全失控的 AI 恐慌，它本質上是非理性的，被(bèi)用來推動新的 AI 監管。行爲藝術家們發(fā)表戲劇性的公開(kāi)聲明，自稱是在無私捍衛公共利益。

ChatGPT 之父也簽署了的聯名信.

這(zhè)些人可以分爲兩(liǎng)類，狂熱的社會改革者和自利的機會主義者。

尤其那些打著(zhe)風險旗号尋求政府監管的 CEO，就像 20 世紀 20 年代美國(guó)禁酒運動的私酒販子，或將(jiāng)形成(chéng)壟斷組織爲自己牟利，提高新創企業和開(kāi)源競争的準入門檻，新鮮血液將(jiāng)更難發(fā)展起(qǐ)來。

認爲 AI 將(jiāng)殺死人類是一種(zhǒng)迷信

最經(jīng)典的 AI 末日論是，AI 將(jiāng)殺死人類。

「我們創造的技術終將(jiāng)崛起(qǐ)和摧毀我們」，這(zhè)種(zhǒng)恐懼深深地根植在我們的文化之中。

普羅米修斯爲人類帶來了火，因此他被(bèi)衆神永遠折磨。瑪麗·雪萊的《弗蘭肯斯坦》，譜寫了更加符合現代語境的神話。卡梅隆的電影《終結者》裡(lǐ)，殺人機器人的眼睛閃爍著(zhe)紅光。

但認爲 AI 將(jiāng)殺死人類是一種(zhǒng)迷信。AI 不是經(jīng)過(guò)數十億年進(jìn)化、參與适者生存的生命，它是數學(xué)、代碼、計算機，由人們建造、擁有、使用和控制。

簡而言之，AI 沒(méi)有意願，沒(méi)有目标，它不會想要殺掉你。AI 是一種(zhǒng)機器，就像你的烤面(miàn)包機，它不會變得有生命。

「AI 倫理學(xué)家」的言論應該被(bèi)謹慎看待，「AI 風險」已經(jīng)發(fā)展成(chéng)爲一種(zhǒng)邪教。

不必擔心 AI 讓人失業

自機械織布機等設備出現以來，曆史上每一項新的重大技術，都(dōu)帶來了更多的就業機會和更高的工資水平。與此同時，恐懼也如影随形，擔心人類勞動力終將(jiāng)被(bèi)緻命一擊。

自動化導緻失業，是一種(zhǒng)「固定餡餅謬誤」，即在任何給定的時間裡(lǐ)，勞動力的數量是固定的，要麼(me)由機器完成(chéng)，要麼(me)由人類完成(chéng)，如果由機器完成(chéng)，那麼(me)人類失業。

相反，當技術應用于生産時，生産力也會增長(cháng)，投入減少，産出增加，結果是商品和服務的價格降低，我們將(jiāng)有額外的消費能(néng)力購買其他東西。這(zhè)增加了需求，推動了新産品和新産業，爲之前被(bèi)機器取代的人們創造了新的工作崗位。

當市場經(jīng)濟正常運行、技術被(bèi)自由引入，這(zhè)將(jiāng)是一個永不停歇的向(xiàng)上循環。一個更大的經(jīng)濟體將(jiāng)出現，擁有更高的物質繁榮，更多的産業、産品和就業機會。正如米爾頓·弗裡(lǐ)德曼所說的「人類的需求無窮無盡」 ，我們想要的比我們擁有的更多。

如果更進(jìn)一步，所有現存的人類勞動都(dōu)被(bèi)機器替代，意味著(zhe)什麼(me)？

生産力增長(cháng)的速度將(jiāng)前所未有，現有商品和服務的價格將(jiāng)接近免費，消費者購買力飙升，新需求爆炸式增長(cháng)。企業家們將(jiāng)創造令人眼花缭亂的新産業、産品和服務，并雇傭盡可能(néng)多的 AI 和人類員工，從而滿足所有新需求。

假設 AI 再次替代了人類勞動力，這(zhè)個循環將(jiāng)重複，推動經(jīng)濟發(fā)展，讓就業增長(cháng)更上一層樓，通往亞當·斯密從未敢想象的物質烏托邦。

AI 不會導緻技術不平等

技術的擁有者獨占技術，并不符合自身利益。恰恰相反，他們想將(jiāng)技術賣給盡可能(néng)多的客戶。

世界上最大的産品市場，是整個世界的 80 億人。

電力、廣播、計算機、互聯網、移動電話和搜索引擎，這(zhè)些技術的制造商都(dōu)積極主動地降低價格，直到所有人都(dōu)能(néng)負擔得起(qǐ)。同樣(yàng)地，我們已經(jīng)可以免費或低成(chéng)本地使用 New Bing、Google Bard 等最先進(jìn)的生成(chéng)式 AI。

這(zhè)不是因爲他們愚蠢或慷慨，而恰恰是因爲他們貪婪——擴大市場規模，賺到更多的錢。

因此，情況與技術推動财富集中化相反，技術的最終用戶包括全球所有人。

這(zhè)并不是說，不平等不是社會問題，但它并非由技術驅動。

AI 的風險可以用 AI 防禦

技術是一種(zhǒng)工具。從火和石頭開(kāi)始，任何技術都(dōu)可以遊走在善惡之間。

有人提出應該盡早禁止 AI，但這(zhè)并不現實，因爲AI 不難獲取，它是數學(xué)和代碼。你可以通過(guò)成(chéng)千上萬的免費在線課程、書籍、論文和視頻學(xué)習如何構建 AI，每天都(dōu)有開(kāi)源項目不斷湧現。AI 就像空氣，它將(jiāng)無處不在。

AI 的風險可以用 AI 防禦。

例如，如果我們擔心 AI 生成(chéng)虛假人物和視頻，可以通過(guò)加密簽名驗證真實内容。 在 AI 之前，數字内容的創建和修改已經(jīng)存在了，答案不是禁止 Photoshop 或者 AI，而是利用技術構建一個真正解決問題的系統。

放棄禁止 AI 的徒勞，把它用于善意、合法的防禦目的，一個充滿 AI 的世界將(jiāng)比我們今天生活的世界更安全。

盡可能(néng)快速積極地構建 AI

應該允許大型 AI 公司盡可能(néng)快速、積極地構建 AI，但不允許它們建立壟斷組織。

應該允許初創 AI 公司盡可能(néng)快速、積極地構建 AI。即使初創公司失敗了，它們在市場上的存在，也將(jiāng)不斷激勵大公司做得更好(hǎo)。

應該允許開(kāi)源 AI 自由傳播，并與大型公司和初創公司競争。它們廣泛的可用性，將(jiāng)造福學(xué)習如何構建和使用 AI 的學(xué)生，确保無論身份和财富如何，每個人都(dōu)能(néng)從中受益。

爲了防止有人用 AI 做壞事(shì)，政府和企業應該積極利用 AI，最大化社會的防禦能(néng)力，不隻是應對(duì) AI 風險，還(hái)包括解決疾病、氣候等問題。