亚洲第一福利视频,欧美黑人粗大xxxxpp,国内精品一区二区三区,国产精品久久久久影院色

智快網 - 新科技與新能源行業網絡媒體

馬斯克旗下xAI揭曉Grok-1.5:長上下文理解再進化

   發布時間:2024-03-29 13:50

【智快網】3月29日消息,馬斯克旗下的人工智能企業xAI今日在官方博客上揭曉了全新升級的Grok-1.5大語言模型。

這款新模型Grok-1.5,以其增強的推理能力和高達128k的上下文長度脫穎而出。特別在編碼和數學相關任務上,Grok-1.5展現出了顯著的進步。據智快網了解,該模型將在近日通過X平臺向早期測試人員及現有Grok用戶開放。

在官方進行的測試中,Grok-1.5在MATH基準上斬獲了50.6%的佳績,同時在GSM8K基準上也取得了高達90%的得分。這兩個數學基準測試覆蓋了從小學到高中階段的各類競賽題目。此外,Grok-1.5還在評估代碼生成與問題解決能力的Humaneval基準測試中,獲得了74.1%的分數。

在長上下文理解方面,Grok-1.5同樣表現出色,其能夠在上下文窗口內處理多達128k tokens的信息。這意味著Grok的內存容量已提升至先前版本的16倍,從而能夠更深入地理解長篇文檔中的信息內容。

據介紹,Grok-1.5是基于JAX、Rust和Kubernetes構建的自定義分布式訓練框架上打造而成。這一自定義訓練協調器具備自動檢測并剔除問題節點的功能,從而確保訓練作業的穩定進行。同時,xAI還對檢查點、數據加載及訓練作業重啟等環節進行了優化,以在發生故障時最大程度地減少停機時間。

 
 
更多>同類內容
全站最新
熱門內容
本欄最新
 
智快科技微信賬號
ITBear微信賬號

微信掃一掃
加微信拉群
電動汽車群
科技數碼群