亚洲第一福利视频,欧美黑人粗大xxxxpp,国内精品一区二区三区,国产精品久久久久影院色

智快網(wǎng) - 新科技與新能源行業(yè)網(wǎng)絡(luò)媒體

微軟Copilot+ PC實現(xiàn)新突破,本地運行DeepSeek 7B和14B大模型

   發(fā)布時間:2025-03-04 12:06 作者:鐘景軒

微軟近日宣布了一項重要進展,正式為Copilot+ PC引入了DeepSeek-R1的7B和14B蒸餾模型,這一功能通過Azure AI Foundry平臺實現(xiàn)。此舉標志著微軟在將AI能力進一步融入個人電腦方面邁出了關(guān)鍵一步。

早在今年年初,微軟便透露了將DeepSeek-R1模型的NPU優(yōu)化版本引入搭載高通驍龍X處理器的Copilot+ PC的計劃。如今,這一承諾已如期兌現(xiàn),為用戶帶來了更為強大的本地AI運算能力。

據(jù)微軟官方博客介紹,這一新功能將首先從搭載高通驍龍X處理器的Copilot+ PC開始部署,隨后將逐步擴展到英特爾酷睿Ultra 200V和AMD銳龍系列的設(shè)備。這意味著,越來越多的用戶將能夠享受到由AI帶來的便捷與高效。

由于DeepSeek模型運行在NPU上,這大大減輕了對PC電池續(xù)航和散熱性能的壓力。同時,用戶能夠持續(xù)獲得強大的AI計算能力,而CPU和GPU則可以專注于執(zhí)行其他任務,從而提升了整體系統(tǒng)的運行效率。

微軟在模型優(yōu)化方面下足了功夫。他們使用了內(nèi)部開發(fā)的Aqua自動量化工具,成功將所有DeepSeek模型的變量量化為int4權(quán)重。然而,目前模型的標記速度尚有待提高。據(jù)微軟報告,14B模型的標記速度僅為8 tok/秒,而1.5B模型的標記速度則接近40 tok/秒。不過,微軟表示他們正在積極優(yōu)化,以期進一步提高速度。

對于開發(fā)者而言,這一新功能無疑是一個利好消息。他們現(xiàn)在可以通過AI Toolkit VS Code擴展,在Copilot+ PC上輕松下載和運行DeepSeek模型的1.5B、7B和14B版本。這將為他們提供更加豐富的AI工具,助力他們開發(fā)出更加智能、高效的應用程序。

 
 
更多>同類內(nèi)容
全站最新
熱門內(nèi)容
本欄最新
 
智快科技微信賬號
微信群

微信掃一掃
加微信拉群
電動汽車群
科技數(shù)碼群