TAG:DSpark

北大与DeepSeek联合开源大模型推理框架DSpark,实现算力提速关键突破

北大与DeepSeek联合开源大模型推理框架DSpark,实现算力提速关键突破

北京大学与DeepSeek联合开源DSpark大模型推理加速框架。该框架针对高并发自回归生成中的响应延迟与算力浪费痛点,创新采用半自回归架构(2层Transformer优于5层并行模型)与置信度调度验证机制。在代码、数学、对话等多场景测试中显著优于Eagle3和DFlash,尤其擅长长序列生成。已落地DeepSeek-V4服务并全面开源代码、权重及工具,为行业提供低成本高性能推理技术范式。

2026-06-29 10:36
0
0

推荐专栏

爱力方

爱力方

机器人前沿资讯及信息解读
机器人大讲堂

机器人大讲堂

中国顶尖的机器人专业媒体服务平台
关注爱力方,掌握前沿具身智能动态

© 2025 A³·爱力方

https://www.agentren.cn/