京东云全面上线DeepSeek-R1/V3 支持两种模式一键部署
京东云已正式上线 DeepSeek-R1和 DeepSeek-V3模型,支持公有云在线部署、专混私有化实例部署两种模式,供用户按需部署,快速调用。
其中,公有云在线部署是指开发者和企业可以在京东云官网,进入言犀AI开发计算平台的“AI资产市场“中,选用该模型进行一键部署。言犀AI开发计算平台已经支持 DeepSeek-V3、DeepSeek-R1 以及所有蒸馏小参数模型(DeepSeek-R1-Distill)的一键部署。
而专混私有化实例部署模式,是指已经同步上线京东云vGPU AI算力平台,为金融、企业、政府等客户提供数据不出域的私有化模型推理服务。以DeepSeek R1版本为例,可根据界面提示进行选择资源规格以及对应带有deepseek模型的镜像,待资源创建成功后进入实例,启动即可与之对话。
据介绍,京东云言犀AI开发计算平台还支持私有化部署及API快速集成,通过自研高性能资源管理与弹性调度系统,可提供大模型的全生命周期服务及部署,涵盖模型开发、推理及多场景应用扩展。
针对资源紧缺的场景,京东云支持通过蒸馏技术训练企业自己的大模型,减少模型部署所需资源的同时具备较好的性能。使用京东云vGPU AI算力平台,可以将多个蒸馏过的企业自有模型部署在同一张卡上,有效提升资源利用率70%。
(责任编辑:王晨曦)
版权声明:
1.凡本网站注明“来源:中国网科技”的所有作品,均为本网合法拥有版权或有权使用的作品。
2.未经本网授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的,应在授权范围内使用,并注明“来源及作者”。违反上述声明者,本网将追究其相关法律责任。
声明:本站所有文章资源内容,如无特殊说明或标注,均为采集网络资源。如若本站内容侵犯了原著者的合法权益,可联系本站删除。