據悉,Trainium2芯片在去年底的AWS 2023 re:Invent大會上首次亮相。與第一代產品相比,新款芯片在訓練速度上有了顯著提升,最高可達到原先的4倍。同時,其在能效方面也表現出色,提升了多達2倍。Trainium2的內存容量也增至前代的3倍,并能夠在EC2 UltraClusters中擴展至多達10萬個芯片。這一強大的擴展能力使得Trainium2能夠在極短的時間內完成基礎模型和大語言模型的訓練任務。
Trainium2芯片的開發工作由亞馬遜旗下芯片設計部門Annapurna Labs主導。該部門是亞馬遜在2015年以3500萬美元收購的,如今已成長為亞馬遜在AI芯片領域的重要力量。目前,Trainium2芯片正在接受多家AI創新企業及全球知名公司的測試,包括Anthropic、Databricks、Stockmark等AI創企,以及德國電信和日本理光等行業巨頭。
亞馬遜并非唯一一家致力于自研AI芯片的大型科技企業。微軟、谷歌和meta等公司也在積極投入資源,開發各類用于AI推理或訓練的芯片。這些企業的共同目標在于減少對英偉達等硬件供應商的依賴,從而掌握更多在AI領域的技術主動權。