DeepSeek-V3-0324在火山引擎上线

作者:

文少

责任编辑:

刘沙

来源:

电脑商情在线

时间:

2025-03-27 10:59

关键字:

DeepSeek 火山引擎 火山方舟

  近日,火山方舟已正式上线了DeepSeek-V3-0324模型,该模型是DeepSeek团队推出的最新版本,在推理性能、前端开发能力、中文写作与搜索质量等方面均实现了显著优化。

  据介绍,由火山方舟提供服务的DeepSeek-V3-0324在模型效果上实现了质的飞跃:它与DeepSeek官方API效果高度一致。该模型支持128K的上下文窗口长度和最大16K的输出长度,在复杂问答、多轮对话、文档总结等场景中能够提供更加精准、高效的智能体验。该模型还支持联网和FunctionCall功能,具备实时信息获取与外部工具调用的能力,从而拓展出更丰富的应用场景。

  为帮助企业用户更好地应用DeepSeek模型,火山引擎在资源保障、承载能力、推理速度等方面进行了持续优化。火山方舟提供了全网最高的500万TPM初始限流,能够满足高频交互和大规模调用场景的需求。该平台还支持离线批量推理,提供最高50亿tokens/天(TPD)的配额保障,适用于高吞吐量任务,如数据处理、内容生成、智能标注等。此外,TPOT(吐字间隔)能够保持在25-40毫秒之间,为用户带来流畅的交互体验。火山方舟还支持Prefix Cache(前缀缓存),显著降低了重复计算的开销,实现了更快的响应速度和更高的推理效率。

  这些极致效果和稳定可靠的表现背后,是火山方舟底层全链路推理性能优化、服务稳定性保障机制以及高吞吐推理架构等技术能力的支持。

  据悉,火山引擎veMLP平台也即将支持DeepSeek-V3-0324版本,企业可以在分钟级内完成部署并投入使用。此外,一站式AI应用开发平台扣子也已接入DeepSeek-V3-0324的能力,企业可以通过扣子平台,畅享该版本带来的多项能力提升,从而更高效地开发和部署AI应用。

ToB最前沿

ToB最前沿抖音号

CBI科技在线

地址:北京市朝阳区北三环东路三元桥曙光西里甲1号第三置业A座1508室 商务内容合作QQ:2291221 电话:13391790444或(010)62178877
版权所有:电脑商情信息服务集团 北京赢邦策略咨询有限责任公司
声明:本媒体部分图片、文章来源于网络,版权归原作者所有,我司致力于保护作者版权,如有侵权,请与我司联系删除
京ICP备:2022009079号-3
京公网安备:11010502051901号
ICP证:京B2-20230255