作者: 兆光科技 發(fā)布時間: 2024/08/09 點擊: 622次
英偉達獨霸時代結束?ChatGPT引爆谷歌微軟芯片大戰,亞馬遜也入局
【新智元導讀】ChatGPT引爆了芯片界「百家争鳴」,谷歌、微軟、亞馬遜紛紛入局芯片大戰,英偉達恐怕不再一家獨大。
ChatGPT爆火之後(hòu),谷歌和微軟兩(liǎng)巨頭的AI大戰戰火,已經(jīng)燒到了新的領域——服務器芯片。
如今,AI和雲計算都(dōu)成(chéng)了必争之地,而芯片,也成(chéng)爲降低成(chéng)本、赢得商業客戶的關鍵。
原本,亞馬遜、微軟、谷歌這(zhè)類大廠,都(dōu)是以軟件而聞名的,而現在,它們紛紛斥資數十億美元,用于芯片開(kāi)發(fā)和生産。
各大科技巨頭研發(fā)的AI芯片
根據外媒The Information的報道(dào)以及其他來源,這(zhè)三家大廠現在已經(jīng)推出或計劃發(fā)布8款服務器和AI芯片,用于内部産品開(kāi)發(fā)、雲服務器租賃或者二者兼有。
「如果你能(néng)制造出針對(duì)AI進(jìn)行優化的矽,那前方等待你的將(jiāng)是巨大的勝利」,研究公司Forrester的董事(shì)Glenn O’Donnell這(zhè)樣(yàng)說。
付出這(zhè)些巨大的努力,一定會得到回報嗎?
答案是,并不一定。
英特爾、AMD和英偉達可以從規模經(jīng)濟中獲益,但對(duì)大型科技公司來說,情況遠非如此。
它們還(hái)面(miàn)臨著(zhe)許多棘手的挑戰,比如需要聘請芯片設計師,還(hái)要說服開(kāi)發(fā)者使用他們定制的芯片構建應用程序。
不過(guò),大廠們已經(jīng)在這(zhè)一領域取得了令人矚目的進(jìn)步。
根據公布的性能(néng)數據,亞馬遜的Graviton服務器芯片,以及亞馬遜和谷歌發(fā)布的AI專用芯片,在性能(néng)上已經(jīng)可以和傳統的芯片廠商相媲美。
亞馬遜、微軟和谷歌爲其數據中心開(kāi)發(fā)的芯片,主要有這(zhè)兩(liǎng)種(zhǒng):标準計算芯片和用于訓練和運行機器學(xué)習模型的專用芯片。正是後(hòu)者,爲ChatGPT之類的大語言模型提供了動力。
此前,蘋果成(chéng)功地爲iPhone,iPad和Mac開(kāi)發(fā)了芯片,改善了一些AI任務的處理。這(zhè)些大廠,或許正是跟蘋果學(xué)來的靈感。
在三家大廠中,亞馬遜是唯一一家在服務器中提供兩(liǎng)種(zhǒng)芯片的雲服務商,2015年收購的以色列芯片設計商Annapurna Labs,爲這(zhè)些工作奠定了基礎。
谷歌在2015年推出了一款用于AI工作負載的芯片,并正在開(kāi)發(fā)一款标準服務器芯片,以提高谷歌雲的服務器性能(néng)。
相比之下,微軟的芯片研發(fā)開(kāi)始得較晚,是在2019年啓動的,而最近,微軟更加快了推出專爲LLM設計的AI芯片的時間軸。
而ChatGPT的爆火,點燃了全世界用戶對(duì)于AI的興奮。這(zhè)更促進(jìn)了三家大廠的戰略轉型。
ChatGPT運行在微軟的Azure雲上,使用了上萬塊英偉達A100。無論是ChatGPT,還(hái)是其他整合進(jìn)Bing和各種(zhǒng)程序的OpenAI軟件,都(dōu)需要如此多的算力,以至于微軟已經(jīng)爲開(kāi)發(fā)AI的内部團隊分配了服務器硬件。
在亞馬遜,首席财務官Brian Olsavsky在上周的财報電話會議上告訴投資者,亞馬遜計劃將(jiāng)支出從零售業務轉移到AWS,部分原因是投資于支持ChatGPT所需的基礎設施。
在谷歌,負責制造張量處理單元的工程團隊已經(jīng)轉移到谷歌雲。據悉,雲組織現在可以爲TPU和在其上運行的軟件制定路線圖,希望讓雲客戶租用更多TPU驅動的服務器。
早在2020年,谷歌就在自家的數據中心上部署了當時最強的AI芯片——TPU v4。
不過(guò)直到今年的4月4日,谷歌才首次公布了這(zhè)台AI超算的技術細節。
相比于TPU v3,TPU v4的性能(néng)要高出2.1倍,而在整合4096個芯片之後(hòu),超算的性能(néng)更是提升了10倍。
同時,谷歌還(hái)聲稱,自家芯片要比英偉達A100更快、更節能(néng)。對(duì)于規模相當的系統,TPU v4可以提供比英偉達A100強1.7倍的性能(néng),同時在能(néng)效上也能(néng)提高1.9倍。
對(duì)于相似規模的系統,TPU v4在BERT上比A100快1.15倍,比IPU快大約4.3倍。對(duì)于ResNet,TPU v4分别快1.67倍和大約4.5倍。
另外,谷歌曾暗示,它正在研發(fā)一款與Nvidia H100競争的新TPU。谷歌研究員Jouppi在接受路透社采訪時表示,谷歌擁有「未來芯片的生産線」。
不管怎麼(me)說,微軟在這(zhè)場芯片紛争中,依舊躍躍欲試。
此前有消息爆出,微軟秘密組建的300人團隊,在2019年時就開(kāi)始研發(fā)一款名爲「雅典娜」(Athena)的定制芯片。
根據最初的計劃,「雅典娜」會使用台積電的5nm工藝打造,預計可以將(jiāng)每顆芯片的成(chéng)本降低1/3。
如果在明年能(néng)夠大面(miàn)積實裝,微軟内部和OpenAI的團隊便可以借助「雅典娜」同時完成(chéng)模型的訓練和推理。
這(zhè)樣(yàng)一來,就可以極大地緩解專用計算機緊缺的問題。
彭博社在上周的報道(dào)中,稱微軟的芯片部門已與AMD合作開(kāi)發(fā)雅典娜芯片,這(zhè)也導緻AMD的股價在周四上漲了6.5%。
但一位知情者表示,AMD并未參與其中,而是在開(kāi)發(fā)自己的GPU,與英偉達競争,并且AMD一直在與微軟讨論芯片的設計,因爲微軟預計要購買這(zhè)款GPU。
而在與微軟和谷歌的芯片競賽中,亞馬遜似乎已經(jīng)領先了一個身位。
在過(guò)去的十年中,亞馬遜在雲計算服務方面(miàn),通過(guò)提供更加先進(jìn)的技術和更低的價格,一直保持了對(duì)微軟和谷歌的競争優勢。
而未來十年内,亞馬遜也有望通過(guò)自己内部開(kāi)發(fā)的服務器芯片——Graviton,繼續在競争中保持優勢。
作爲最新一代的處理器,AWS Graviton3在計算性能(néng)上比上一代提高多達25%,浮點性能(néng)提高多達2倍。并支持DDR5内存,相比DDR4内存帶寬增加了50%。
針對(duì)機器學(xué)習工作負載,AWS Graviton3比上一代的性能(néng)高出多達3倍,并支持 bfloat16。
基于Graviton 3芯片的雲服務在一些地區非常受歡迎,甚至于達到了供不應求的狀态。
亞馬遜另一方面(miàn)的優勢還(hái)表現在,它是目前唯一一家在其服務器中提供标準計算芯片(Graviton)和AI專用芯片(Inferentia和Trainium)雲供應商。
早在2019年,亞馬遜就推出了自己的AI推理芯片——Inferentia。
它可以讓客戶可以在雲端低成(chéng)本運行大規模機器學(xué)習推理應用程序,例如圖像識别、語音識别、自然語言處理、個性化和欺詐檢測。
而最新的Inferentia 2更是在計算性能(néng)提高了3倍,加速器總内存擴大了4倍,吞吐量提高了4倍,延遲降低到1/10。
在初代Inferentia推出之後(hòu),亞馬遜又發(fā)布了其設計的主要用于AI訓練的定制芯片——Trainium。
它對(duì)深度學(xué)習訓練工作負載進(jìn)行了優化,包括圖像分類、語義搜索、翻譯、語音識别、自然語言處理和推薦引擎等。
在一些情況下,芯片定制不僅僅可以把成(chéng)本降低一個數量級,能(néng)耗減少到1/10,并且這(zhè)些定制化的方案可以給客戶以更低的延遲提供更好(hǎo)的服務。
不過(guò)到目前爲止,大多數的AI負載還(hái)是跑在GPU上的,而英偉達生産了其中的大部分芯片。
據此前報道(dào),英偉達獨立GPU市場份額達80%,在高端GPU市場份額高達90%。
20年,全世界跑AI的雲計算與數據中心,80.6%都(dōu)由英偉達GPU驅動。21年,英偉達表示,全球前500個超算中,大約七成(chéng)是由自家的芯片驅動。
而現在,就連運行ChatGPT的微軟數據中心用了上萬塊英偉達A100 GPU。
一直以來,不管是成(chéng)爲頂流的ChatGPT,還(hái)是Bard、Stable Diffusion等模型,背後(hòu)都(dōu)是由每個大約價值1萬美元的芯片英偉達A100提供算力。
不僅如此,A100目前已成(chéng)爲人工智能(néng)專業人士的「主力」。2022人工智能(néng)現狀報告還(hái)列出了使用A100超級計算機部分公司的名單。
顯而易見,英偉達已經(jīng)壟斷了全球算力,憑借自家的芯片,一統江湖。
根據從業者的說法,相比于通用芯片,亞馬遜、谷歌和微軟一直在研發(fā)的專用集成(chéng)電路(ASIC)芯片,在執行機器學(xué)習任務的速度更快,功耗更低。
O’Donnell董事(shì)在比較GPU和ASIC時,用了這(zhè)樣(yàng)一個比較:「平時開(kāi)車,你可以用普銳斯,但如果你必須在山上用四輪驅動,用吉普牧馬人就會更合适。」
然而盡管已經(jīng)做出了種(zhǒng)種(zhǒng)努力,但亞馬遜、谷歌和微軟都(dōu)面(miàn)臨著(zhe)挑戰——如何說服開(kāi)發(fā)者使用這(zhè)些AI芯片呢?
現在,英偉達的GPU是占主導地位的,開(kāi)發(fā)者早已熟悉其專有的編程語言CUDA,用于制作GPU驅動的應用程序。
如果換到亞馬遜、谷歌或微軟的定制芯片,就需要學(xué)習全新的軟件語言了,他們會願意嗎?
标簽: ChatGPT
版權申明:本站文章部分自網絡,如有侵權,請聯系:hezuo@lyzg168.com
特别注意:本站所有轉載文章言論不代表本站觀點,本站所提供的攝影照片,插畫,設計作品,如需使用,請與原作者聯系,版權歸原作者所有
輸入您的聯系信息,我們將(jiāng)盡快和你取得聯系!
Tel:15137991270
企業QQ:210603461
Emile:hezuo@lyzg168.com
地址:洛陽市西工區王城大道(dào)221号富雅東方B座1711室
網站:https://www.lyzg168.com
我們的微信
關注兆光,了解我們的服務與最新資訊。
Copyright © 2018-2019 洛陽霆雲網絡科技有限公司