AI監管將(jiāng)是多國(guó)共同面(miàn)臨的問題。

Chat GPT熱度尚未退散，一場大會又將(jiāng)AI大模型的注意力推向(xiàng)新高度。    

在剛剛舉辦的北京智源大會上，彙聚了衆多傳說中的AI大佬，以張钹、張宏江爲代表的國(guó)内AI最前沿領軍人物，Geoffery Hinton、Yann LeCun、姚期智、Joseph Sifakis這(zhè)四位圖靈獎得主，Open AI創始人Sam Altman、PaLM-E和RoBERTa等AI公司高管。    

因每次的智源大會秉承著(zhe)專業的學(xué)術思想路線，因此在國(guó)内外人工領域内行精英圈層口碑極高，但對(duì)大衆來說，卻稍顯高冷。而在本次大會上，Sam Altman指出爲搞清楚通用AI技術的發(fā)展，Open AI必須要推進(jìn)AI研究變革。    

但這(zhè)一說法卻遭到了不少AI大佬們的反對(duì)。其中，加州伯克利分校教授斯圖爾特·羅素抨擊Open AI研發(fā)的Chat GPT和GPT-4沒(méi)有在“回答”問題，它們不理解世界，也不是一個通用AI的發(fā)展步驟。楊立昆更是直接指出，當前的GPT自回歸模型存在缺乏規劃、推理的能(néng)力，未來GPT系統或將(jiāng)被(bèi)抛棄。    

除激烈的學(xué)術争論外，關于當前AI如何監管、後(hòu)續AI的發(fā)展方向(xiàng)也成(chéng)了本次會議讨論的焦點。    

01.後(hòu)續AI到底要如何監管？

進(jìn)入到2023年以來，在生成(chéng)式AI以勢如破竹的速度席卷諸多領域的同時，由AI所引發(fā)的各種(zhǒng)問題也在加劇外界的擔憂。    

在我國(guó)，“AI詐騙”成(chéng)爲近期社會關注的方向(xiàng)之一。日前，内蒙古包頭警方通報一起(qǐ)利用AI實施詐騙的案件，福州市某公司法人代表郭先生10分鍾内被(bèi)騙430萬元。據通報，騙子通過(guò)AI換臉和拟聲技術，佯裝熟人實施詐騙。無獨有偶，江蘇常州的小劉被(bèi)騙子冒充其同學(xué)發(fā)語音、打視頻電話，小劉看到“真人”後(hòu)信以爲真，“借”了6000元給騙子。    

圖源：抖音    

事(shì)實上，AI詐騙案發(fā)生的背後(hòu)還(hái)是和當前AI技術迅速發(fā)展，技術合成(chéng)門檻持續降低有關。而從後(hòu)續來看，若AI大模型技術不斷突破，未來也將(jiāng)逐漸從面(miàn)部合成(chéng)轉向(xiàng)到全身合成(chéng)、3D合成(chéng)技術，其合成(chéng)效果也將(jiāng)更加逼真。    

在美國(guó)，AI是否會影響選舉成(chéng)爲當地媒體讨論的重點。據美聯社報道(dào)，如今複雜的生成(chéng)性AI工具能(néng)在幾秒鍾内“克隆”某人的聲音和形象，制造出大量“假料”。隻要綁定強大的社交媒體算法，AI就可以迅速鎖定受衆進(jìn)行傳播，以前所未見的規模和速度破壞選舉。    

美國(guó)其他媒體則預測，因美國(guó)下一任總統選舉是在明年舉行，不排除美國(guó)兩(liǎng)黨將(jiāng)使用AI技術用于宣傳、籌款等活動。更重要的是，因Chat GPT在文本能(néng)力上有著(zhe)卓越的表現。因此，參選者的團隊僅需在幾秒鍾就能(néng)生成(chéng)一份措辭華麗的演講稿。    

基于外界對(duì)AI的種(zhǒng)種(zhǒng)擔憂，日前，由“AI教父”傑弗裡(lǐ)・辛頓、Anthropic的首席執行官達裡(lǐ)奧・阿莫代，Google Deep Mind首席執行官戴米斯・哈薩比斯等超過(guò)350位AI領域高管和專家共同簽署了“減輕AI帶來的滅絕風險，應該與流行病和核戰争等其他社會規模的風險一起(qǐ)，成(chéng)爲全球優先事(shì)項”的聯合聲明。    

針對(duì)後(hòu)續AI如何監管的問題，Sam Altman在智源大會上指出，目前Open AI正在通過(guò)多種(zhǒng)方式來解決這(zhè)一問題。首先，早在5月26日，Open AI啓動了一項激勵計劃，出資100萬美元，向(xiàng)社會征集有效的AI治理方案。    

其次，Sam Altman認爲人類是無法發(fā)現一些惡意模型在一些邪惡的事(shì)情。目前Open AI正在投資一些新的、互補的方向(xiàng)，希望能(néng)夠實現突破。但可擴展的監督是嘗試使用AI 系統來協助人類發(fā)現其他系統缺陷，而解釋能(néng)力是用GPT-4解釋GPT-2神經(jīng)元，雖然還(hái)有很長(cháng)的路要走，但Open AI相信機器學(xué)習技術可進(jìn)一步提高AI可解釋能(néng)力。同時，Sam Altman也認爲未來隻有把模型做得更智能(néng)，更加有幫助，才能(néng)更好(hǎo)地實現通用AI的目标優勢，進(jìn)而降低AI風險。    

最後(hòu)，Open AI短期内雖不會推出GPT-5版本，但未來十年全球可能(néng)會擁有更強大的AI系統，全球範圍内需做好(hǎo)提前準備。而Open AI後(hòu)續對(duì)AI大模型的核心工作仍是訓練，并且準備在全球建立一套數據庫，以反映全球AI的價值觀和偏好(hǎo)，即時向(xiàng)全球分享AI安全研究。    

除Open AI自身努力外，Sam Altman也呼籲全球共同努力來完善對(duì)于AI的監管。比如說，Sam Altman指出當前中國(guó)擁有一些世界上最優秀的AI人才，考慮到解決 AI 系統對(duì)齊的困難需要來自世界各地最好(hǎo)的頭腦。    

因此，Sam Altman也希望未來中國(guó)AI研究人員能(néng)夠在AI風險上做出貢獻。Tegmark也認爲，目前中國(guó)在人工智能(néng)的監管方面(miàn)做得最多，其次則爲歐洲，最後(hòu)則是美國(guó)。    

圖源：智源大會    

另外，Sam Altman也指出，全球AI監管的合作困難是有的，但這(zhè)也實則是一種(zhǒng)機遇。AI在讓全世界走到一起(qǐ)的同時，後(hòu)續也需要出台系統性的框架和安全标準。    

但考慮當前全球大國(guó)和大國(guó)之間的博弈加劇，地緣沖突呈現多點式爆發(fā)，各國(guó)政府對(duì)生成(chéng)式AI的态度不一，這(zhè)在讓全球關于AI監管的合作短時間難以落地的同時，也會影響到生成(chéng)式AI公司的市場業務。    

歐洲一直走在AI監管的前沿，5月份歐盟已經(jīng)接近通過(guò)一項人工智能(néng)技術監管的立法，這(zhè)也有望成(chéng)爲全球首部全面(miàn)的人工智能(néng)法案，并可能(néng)成(chéng)爲發(fā)達經(jīng)濟體的先例。    

歐盟委員會主席烏爾蘇拉·馮德萊恩此前在接受媒體采訪說曾表示，“我們希望人工智能(néng)系統準确、可靠、安全且無歧視，無論其來源如何。歐盟相關法律法規的出台，可能(néng)會讓Open AI後(hòu)續退出歐盟市場。因此，後(hòu)續如何根據全球監管政策的調整，不斷完善自家的生成(chéng)式AI模型，這(zhè)不僅僅是Open AI自身遇到的問題，更是全行業需不斷關注的問題。    

02.生成(chéng)式AI未來的發(fā)展方向(xiàng)在哪？

不可否認的是，當前GPT-4在諸多能(néng)力上得到了很大提高。和GPT-3.5相比，GPT-4在複雜專業領域的性能(néng)表現大幅提升，邏輯推理能(néng)力也更強，其在美國(guó)律師資格考試測試中，GPT-4的成(chéng)績可以達到前10%，但GPT-3.5隻能(néng)達到後(hòu)10%的水平。    

圖源：Open AI    

能(néng)力的大幅度提高，也讓Chat GPT正開(kāi)拓更多的使用場景。目前Open AI官方也給出了幾大應用場景，如在Duolingo裡(lǐ)加入AI與用戶進(jìn)行日常聊天，加速用戶對(duì)語言的學(xué)習；摩根士丹利采用GPT-4來對(duì)其知識庫進(jìn)行管理，幫助員工快速訪問想要的内容。    

但針對(duì)GPT目前的能(néng)力，也有不少大佬存在質疑。斯圖爾特·羅素在演講中指出，Chat GPT和GPT-4他們并不理解世界，也沒(méi)有在“回答”問題，目前的大語言模型僅僅隻是一塊拼圖，這(zhè)個拼圖目前缺少哪些以及最終會拼成(chéng)什麼(me)樣(yàng)，這(zhè)些均不确定。諸多能(néng)力上的欠缺，也決定了發(fā)展通用人工智能(néng)還(hái)有很長(cháng)的路要走。基于對(duì)GPT-4能(néng)力的種(zhǒng)種(zhǒng)質疑，也讓斯圖爾特·羅素在Sam Altman在演講期間全程在修改PPT。    

圖源：智源大會    

和斯圖爾特·羅素持有相同觀點的也有來自圖靈獎”得主、“深度學(xué)習三巨頭”之一、Meta首席人工智能(néng)科學(xué)家楊立昆。他認爲，當前GPT的自回歸模型因缺乏規劃，導緻其推理能(néng)力目前整體不行。若單純根據概率生成(chéng)自回歸的大語言模型從本質上根本無法解決幻覺，錯誤的問題。在輸入文本增大的時候，錯誤的概率也會呈指數增加。    

事(shì)實上，兩(liǎng)位大佬對(duì)GPT的指責并非不是沒(méi)有道(dào)理。因Chat GPT所使用的RLHF算法，本身就是借助人類的感知，讓模型判斷自己的答案質量，訓練自己逐步給出更高質量的回答。若想要讓模型的推理能(néng)力得以提高的話，則需要在補充數據庫大量參數的同時，對(duì)算法也要進(jìn)行不斷叠代。    

圖源：西南證券    

但各種(zhǒng)風險的存在，也讓衆多生成(chéng)式AI公司并不敢輕易嘗試。若生成(chéng)式AI能(néng)到達和小說作家一樣(yàng)的具備故事(shì)推理能(néng)力，以及人物情感創造能(néng)力，這(zhè)是否會讓生成(chéng)式AI完全脫離人類的控制呢？這(zhè)在引發(fā)全球恐慌的同時，又是否會遭遇來自當地政府的強監管，進(jìn)而讓生成(chéng)式AI此前的投入付諸東流呢？    

針對(duì)未來生成(chéng)式AI的發(fā)展方向(xiàng)，楊立昆給出的答案是世界模型。這(zhè)個世界模型不單單是神經(jīng)水平上模仿人腦的模型，而是在認知模塊上也完全貼合人腦分區的世界模型，它與大語言模型最大的差别在于可以有規劃和預測能(néng)力（世界模型）以及成(chéng)本核算能(néng)力（成(chéng)本模塊）。    

借助世界模型能(néng)夠更好(hǎo)地理解這(zhè)個世界并預測和規劃未來，通過(guò)成(chéng)本核算模塊，結合一個簡單的需求（一定按照最節約行動成(chéng)本的邏輯去規劃未來），它就可以杜絕一切潛在的毒害和不可靠性。    

圖源：智源大會    

但問題是世界模型在訓練期間的參數、算法、成(chéng)本等等問題，楊立昆也隻是簡單地給出了一些戰略級想法。比如采用自監督模型去訓練以及建立多層級的思維模式等等，但對(duì)于具體如何落地，楊立昆也無法給出一個完整的方案。    

而其他參會嘉賓對(duì)于未來生成(chéng)式AI的發(fā)展方向(xiàng)，也并沒(méi)有分享自己的看法。因此，後(hòu)續生成(chéng)式AI仍將(jiāng)維持各家“各自爲政”的局面(miàn)，全球統一的生成(chéng)式AI或許也隻能(néng)停留在實驗室階段。    

03.國(guó)内生成(chéng)式AI預測

智源研究院院長(cháng)黃鐵軍教授在會後(hòu)接受媒體采訪時說，當前國(guó)内生成(chéng)式AI大模型存在的問題是行業過(guò)熱，但訓練數據過(guò)小，現在百億模型也隻是剛剛湧現能(néng)力。雖然中間也都(dōu)有一些技術能(néng)力，但因重複性發(fā)力，這(zhè)在讓行業資源愈發(fā)分散的同時，其智能(néng)水平和國(guó)外生成(chéng)式AI大模型相比，仍有一定差距。

如黃鐵軍教授所言，以阿裡(lǐ)旗下的“通義千問”大模型爲例，因該大模型訓練時的數據是從阿裡(lǐ)旗下的淘寶、支付寶、天貓等産業中抽取的大量中文對(duì)話和文本數據，以及一些其他來源的文本數據，其前期訓練數據量是約2000億個詞，相當于14TB的文本數據。    

而Chat GPT的訓練數據量是約45億個詞，相當于300GB的文本數據。訓練數據的相對(duì)較小，讓阿裡(lǐ)的“通義千問”也欠缺多模态能(néng)力，在文字方面(miàn)上來看二者均和GPT-4有較大差距。    

另據InfoQ 研究中心發(fā)布的《大語言模型綜合能(néng)力測評報告2023》數據顯示，目前Chat GPT以77.13%的綜合得分領先于國(guó)内其他的大模型廠商。    

圖源：《大語言模型綜合能(néng)力測評報告2023》    

同時，黃鐵軍教授也指出，今天的大模型都(dōu)是技術叠代的一個中間産品，随著(zhe)後(hòu)續國(guó)内大模型行業的發(fā)展，未來能(néng)夠存活的大模型生态合理數量爲3個左右。    

正如黃鐵軍教授所說，此前馬化騰在騰訊内部的高層會議上曾指出，未來十年C端市場紅利將(jiāng)消失殆盡，整個希望在ToB端市場，互聯網的下半場則屬于産業互聯網。阿裡(lǐ)商業研究院此前也指出，未來十年是傳統企業轉型的黃金風口。    

但從ToB端市場來看，以發(fā)展多年的SaaS市場作爲參考，大模型若想要真正打開(kāi)ToB端市場，其核心一定是要客戶帶來“降本增效”的價值，尤其是在當前不少行業對(duì)大模型仍保持觀望的情況下更是如此。以傳統制造業爲主，目前中小型傳統制造業普遍遇到的問題是訂單減少，行業一直在價格戰中厮殺，下遊回款周期變長(cháng)，許多中小制造業目前均是在苦苦支撐。爲避免出現較高的試錯成(chéng)本，不少中小制造企業自然不敢輕易嘗試大模型的使用。    

并且從SaaS産業的發(fā)展曆程來看，自2004年初期開(kāi)始國(guó)内SaaS産業在經(jīng)曆了波瀾不驚的10年之後(hòu)，于2015年迎來了一波生長(cháng)高峰。從2020年疫情暴發(fā)至今，疫情加速企業數字化轉型，國(guó)内SaaS市場進(jìn)入了關鍵的生長(cháng)期。但即使如此，當前國(guó)内SaaS産業生态尚未完整，市場并未成(chéng)熟。    

圖源：Flash Cloud    

顯然，大模型打開(kāi)TOB端市場也并非一朝一夕，而是一個極其緩慢的過(guò)程。而且模型叠代其間因算法、算力、數據産生的成(chéng)本，包括後(hòu)續推出各種(zhǒng)功能(néng)，均要求大模型公司不斷投入高額資金。    

商業化落地時間長(cháng)，資金投入高，短期内難以盈利等問題的存在，後(hòu)續也會讓缺乏現金流的企業，在資金壓力面(miàn)前隻能(néng)將(jiāng)企業自身的大模型進(jìn)行關停，行業資源也會更加向(xiàng)頭部大模型廠商身上集中。    

而從網約車、外賣等多個行業的經(jīng)驗來看，一個新興行業在曆經(jīng)多年的大浪淘沙過(guò)程中，後(hòu)續能(néng)夠真正發(fā)展起(qǐ)來的企業也隻在3家左右，其他不少企業則被(bèi)淹沒(méi)在曆史的長(cháng)河中。    

04.結語

不可否認的是，生成(chéng)式的AI能(néng)力正在逐漸被(bèi)市場所認可，但如何對(duì)AI進(jìn)行監管將(jiāng)會是後(hòu)續全球多國(guó)一直要重視的問題。    

而對(duì)于我們普通人擔心未來是否會被(bèi)AI搶走飯碗，引發(fā)自己失業所産生的焦慮，或許正如Tegmark所說，經(jīng)濟和就業市場的變化會越來越快，如果你在基礎知識方面(miàn)很強，并且非常善于創造性的開(kāi)放思維，你就可以靈活地随波逐流。