近日,MLCommons宣布了一項重要進展,正式推出了MLPerf Client基準測試的0.5版本,這一版本專門針對消費類PC的AI性能進行評估。這是該基準測試的首個公開版本,標志著AI性能評估領域的一大步。
MLCommons表示,MLPerf Client基準測試的問世離不開眾多利益相關方的共同努力,包括AMD、英特爾、微軟、英偉達、高通以及頂級PC制造商等。這些合作伙伴為測試的開發提供了寶貴的專業知識和資源。
MLPerf Client基準測試0.5版本基于meta的Llama 2 7B開源LLM,涵蓋了四項AI任務,分別是內容生成、創意寫作以及對兩份不同長度文本的摘要。該版本目前支持兩種加速路徑,分別是DirectML ONNX和OpenVINO(僅限于英特爾GPU)。
值得注意的是,該基準測試在初期階段僅支持Windows x86-64設備。具體來說,可以在以下設備上運行:AMD Radeon RX 7900系列獨立顯卡、最低配備8GB顯存的英特爾銳炫獨顯、最低配備12GB顯存的英偉達GeForce RTX 40系列獨顯、銳龍AI 9系列處理器(最低32GB內存)以及搭載英特爾銳炫核顯的酷睿Ultra 200系列處理器(最低16GB內存)。
雖然目前僅限于特定設備和操作系統,但MLCommons透露,MLPerf Client未來將會拓展支持范圍,包括macOS和Windows on Arm設備。同時,還將引入更多的硬件加速路徑以及更廣泛的AI模型測試場景,以滿足不斷發展的市場需求。
對于對MLPerf Client基準測試感興趣的讀者,可以通過以下鏈接了解更多信息: