英偉達在近期舉辦的NVIDIA GTC 2025大會上,震撼發布了其DeepSeek-R1模型在推理性能上的全新世界紀錄。這款滿載6710億參數的模型,在配備八個NVIDIA Blackwell GPU的單個DGX系統上,展現了驚人的處理能力。
據英偉達官方介紹,DeepSeek-R1在每位用戶的每秒處理令牌數上,成功突破了250個的大關。更令人矚目的是,該系統的最大吞吐量達到了每秒超過30000個令牌,這一數字無疑在AI推理領域樹立了新的標桿。
DeepSeek-R1的出色表現,無疑得益于NVIDIA Blackwell GPU的強大算力支持。這款GPU以其卓越的并行處理能力和高效能設計,為DeepSeek-R1提供了堅實的硬件基礎。同時,NVIDIA DGX系統的優化架構,也進一步提升了模型的運行效率。
此次DeepSeek-R1所創造的推理性能世界紀錄,不僅彰顯了英偉達在AI技術領域的領先地位,也為未來的AI應用提供了更加廣闊的可能性。隨著AI技術的不斷發展,我們有理由相信,將會有更多創新性的應用涌現出來,為人類社會帶來更加智能、便捷的生活方式。