【資料圖】
快科技5月29日消息,AI是當(dāng)前的熱點(diǎn),現(xiàn)在也成了NVIDIA最受人關(guān)注的部分,今天在臺(tái)北電腦展的主題演講上,NVIDIA又發(fā)布了針對AI推出的大內(nèi)存DGXGH200超算系統(tǒng),配備了256個(gè)Grace Hopper芯片,總計(jì)1.8萬CPU核心,144TB內(nèi)存,相比之前漲了500倍。
AI運(yùn)算對內(nèi)存容量的要求更高,所以DGX GH200通過最新的NVLink、NVLink Switch等技術(shù)連接了256塊Grace Hooper超級芯片,實(shí)現(xiàn)了極為夸張的性能及內(nèi)存。
Grace Hooper我們之前報(bào)道過,這是一塊CPU+GPU合體的超級芯片,CPU是NVIDIA自研的72核處理器,Neoverse V2內(nèi)核,擁有480GB LPDDR5內(nèi)存,512GB/s帶寬。
GPU部分是H100,F(xiàn)P64性能34TFLOPS,但更強(qiáng)的是INT8性能,AI運(yùn)算能力達(dá)到了3958TFLOPS,帶96GB HBM3內(nèi)存。
GH200總計(jì)有256塊Grace Hooper芯片,因此總計(jì)18432個(gè)CPU核心,144TB HBM3內(nèi)存,AI性能達(dá)到了1 exaFLOPS,也就是100億億次。
這是什么概念,當(dāng)前最強(qiáng)的TOP500超算也就是百億億次性能,只不過這個(gè)性能是HPC計(jì)算的,NVIDIA的是百億億次AI性能。
為了讓256個(gè)超級芯片互聯(lián),GH200還使用了256塊單口400Gb/s InfiniBand互聯(lián)芯片,256個(gè)雙口200Gb/s InfiniBand芯片,還有96組L1 NVLink、36組L2 NVLink開關(guān)等等,設(shè)計(jì)非常復(fù)雜。
NVIDIA表示,谷歌、Meta及微軟是首批獲得DGX H200系統(tǒng)的公司,后續(xù)他們還會(huì)開放給更多客戶,運(yùn)行客戶定制。
不過DGX H200還不是最強(qiáng)的,NVIDIA今年晚些時(shí)候會(huì)推出名為NVIDIA Helios的AI超算系統(tǒng),由4組GH200組成,總計(jì)1024個(gè)Grace Hooper超級芯片,576TB HBM內(nèi)存。
關(guān)鍵詞:
當(dāng)前短訊!鄭州外國語中學(xué)建設(shè)項(xiàng)目穩(wěn)步推進(jìn),9月可招生 進(jìn)行室外鋪裝、開挖室外地溝、弱電安裝埋管……近日,在蓮湖街道轄區(qū)的鄭州外國語中學(xué)
東華能源:公司目前沒有天然氣制氫項(xiàng)目|世界快報(bào) 東華能源(002221)05月29日在投資者關(guān)系平臺(tái)上答復(fù)了投資者關(guān)心的問題。
“躍動(dòng)希望·與愛同行” 三柏碩聯(lián)合星星雨為孤獨(dú)癥兒童康復(fù)捐贈(zèng)蹦床 2023年5月26日,躍動(dòng)希望·與愛同行捐贈(zèng)儀式在中國國際體育用品博覽會(huì)現(xiàn)場舉行。捐贈(zèng)
露營座駕挑花眼?別急,四驅(qū)精致悅野SUV奇瑞TJ-1會(huì)出手 夏天馬上來臨,不少朋友想在周末or假期擺脫一成不變的生活模式,和家人來一場放松身心
艾瑞澤8釋放大招!2.0T運(yùn)動(dòng)版價(jià)值太香太具競爭力,等等黨終于有福了 A+級轎車市場,越來越卷。突然出來一款極具競爭力、影響力的新車,很有可能就是這個(gè)細(xì)
618權(quán)威媒體電視排行榜NO.1,海信電視E8詮釋MiniLED畫質(zhì)巔峰 一年一度的618激戰(zhàn)正酣,各大科技媒體也開始紛紛上榜手機(jī)、筆記本、電腦等3C產(chǎn)品熱度
一招短線選股法是什么意思?尾盤買入法的好處有哪些?拉尾盤什么意思? 尾盤買入法:屬于短線的操作,今天買了,明天就有機(jī)會(huì)賣的。每天下午14:30分的時(shí)候有