英偉達近期描繪了一幅未來AI加速器復合體的宏偉藍圖,該藍圖揭示了一種前所未有的技術集成方式。在這個設想中,AI加速器復合體將基于大面積先進封裝基板構建,采用革命性的垂直供電設計,同時整合了硅光子I/O器件。
據透露,每個AI加速器復合體將包含四個GPU模塊,這些模塊通過垂直連接方式,與六個小型DRAM內存模塊緊密相連,并且每個GPU模塊都配備了三組硅光子I/O器件。這種設計不僅提高了數據傳輸帶寬,還顯著提升了能效。
硅光子I/O器件的應用是這一藍圖中的亮點之一,它超越了現有電氣I/O的帶寬和能效限制,成為未來先進工藝的重要發展方向。與此同時,3D垂直堆疊的DRAM內存方案相較于當前的2.5D HBM方案,具有更短的信號傳輸距離,從而能夠支持更多I/O引腳和更高的每引腳速率。
然而,這種高度集成的設計也帶來了挑戰,特別是發熱問題。為了應對這一挑戰,英偉達計劃在模塊內直接整合冷板,以提升解熱能力。這種創新的設計思路旨在確保AI加速器復合體在高性能運行的同時,保持穩定的溫度控制。
盡管這一設想令人振奮,但英偉達的技術專家Ian Cutress認為,這一AI加速器復合體的實現仍需時日。他預計,由于英偉達AI GPU訂單的龐大需求,對硅光子器件的產能要求極高,只有當英偉達能夠確保每月生產超過100萬個硅光子連接時,才會考慮轉向光學I/O。
垂直芯片堆疊所帶來的熱效應也是一個亟待解決的問題。Ian Cutress指出,為了克服這一挑戰,需要采用更先進的材料和技術,甚至可能在未來出現芯片內冷卻方案。因此,他預計這一設想中的AI加速器復合體最早可能在2028至2030年間成為現實,甚至可能更晚。