近日,鞭牛士從火山引擎官方獲悉,火山引擎將新增對V3/R1等不同規(guī)格DeepSeek開源模型的支持,為企業(yè)用戶提供更多樣化的AI解決方案。
據(jù)悉,企業(yè)用戶可以通過兩大途徑來運用這些模型。首先,他們可以選擇在火山引擎的機器學(xué)習(xí)平臺veMLP上部署DeepSeek模型。值得注意的是,veMLP已經(jīng)能夠支持全系列的DeepSeek模型,并且針對SGLang和vLLM進行了細致的性能優(yōu)化與效果評估。火山引擎自主研發(fā)的PD分離+EP并行推理引擎也即將面世,并將全面對外開放。這一方案尤其適合那些希望自主進行模型定制、部署及推理操作的企業(yè)。
另一種方式則是通過火山方舟平臺直接調(diào)用DeepSeek模型。這對于希望通過API快速集成預(yù)訓(xùn)練模型以加速產(chǎn)品開發(fā)的企業(yè)而言,無疑是一個更為便捷的選擇。目前,火山方舟已經(jīng)支持四個版本的DeepSeek模型,并提供了業(yè)內(nèi)最高的限流保障,確保模型調(diào)用的穩(wěn)定性和高效性。
火山引擎的這一舉措,無疑將進一步推動AI技術(shù)在各行業(yè)的應(yīng)用與普及,為企業(yè)用戶提供更加強大、靈活的AI解決方案。