英偉達(dá)近日震撼發(fā)布了一款名為Dynamo的創(chuàng)新產(chǎn)品,它被贊譽(yù)為“AI工廠的操作系統(tǒng)”,為AI領(lǐng)域帶來了一場革命性的變革。
Dynamo的核心定位為一個“分布式推理服務(wù)庫”,旨在解決用戶對于token需求高漲而生產(chǎn)不足的關(guān)鍵問題。這是一個面向開源社區(qū)的解決方案,致力于提升AI工廠的生產(chǎn)效率和靈活性。
英偉達(dá)CEO黃仁勛在發(fā)布會上通過一張直觀的圖表展示了Dynamo的強(qiáng)大能力。圖表的X軸代表用戶每秒所需的Token數(shù),而Y軸則代表AI工廠每秒能生產(chǎn)的Token數(shù)。通過這張圖表,觀眾可以清晰地看到Dynamo如何顯著提升了AI工廠的生產(chǎn)效率。
更令人矚目的是,Dynamo與英偉達(dá)最新的Grace Blackwell NVLink72超級芯片相結(jié)合,實(shí)現(xiàn)了前所未有的性能突破。相較于上一代Hopper芯片,Blackwell在Dynamo的加持下實(shí)現(xiàn)了25倍的性能提升。這一數(shù)據(jù)無疑為AI工廠的建設(shè)者提供了強(qiáng)大的技術(shù)支持和信心。
在推理模型方面,Blackwell的性能優(yōu)勢更加顯著,相較于Hopper芯片,其性能提升了高達(dá)40倍。這一數(shù)據(jù)無疑將推動AI推理領(lǐng)域的發(fā)展,為更多應(yīng)用場景提供高效、精準(zhǔn)的解決方案。
發(fā)布會上,黃仁勛還幽默地表示,有了Dynamo和Blackwell這樣的先進(jìn)技術(shù)加持,搭建AI工廠的廠商將能夠享受到“買得越多、省得越多”的實(shí)惠。這無疑為AI工廠的建設(shè)者提供了更多的經(jīng)濟(jì)激勵和信心,也將進(jìn)一步推動AI產(chǎn)業(yè)的發(fā)展。