英偉達近日震撼發布了一款名為Dynamo的創新產品,它被贊譽為“AI工廠的操作系統”,為AI領域帶來了一場革命性的變革。
Dynamo的核心定位為一個“分布式推理服務庫”,旨在解決用戶對于token需求高漲而生產不足的關鍵問題。這是一個面向開源社區的解決方案,致力于提升AI工廠的生產效率和靈活性。
英偉達CEO黃仁勛在發布會上通過一張直觀的圖表展示了Dynamo的強大能力。圖表的X軸代表用戶每秒所需的Token數,而Y軸則代表AI工廠每秒能生產的Token數。通過這張圖表,觀眾可以清晰地看到Dynamo如何顯著提升了AI工廠的生產效率。
更令人矚目的是,Dynamo與英偉達最新的Grace Blackwell NVLink72超級芯片相結合,實現了前所未有的性能突破。相較于上一代Hopper芯片,Blackwell在Dynamo的加持下實現了25倍的性能提升。這一數據無疑為AI工廠的建設者提供了強大的技術支持和信心。
在推理模型方面,Blackwell的性能優勢更加顯著,相較于Hopper芯片,其性能提升了高達40倍。這一數據無疑將推動AI推理領域的發展,為更多應用場景提供高效、精準的解決方案。
發布會上,黃仁勛還幽默地表示,有了Dynamo和Blackwell這樣的先進技術加持,搭建AI工廠的廠商將能夠享受到“買得越多、省得越多”的實惠。這無疑為AI工廠的建設者提供了更多的經濟激勵和信心,也將進一步推動AI產業的發展。