TAG:算力优化

Moonshot AI与清华大学联合发布了PrfaaS（预填充即服务）架构，旨在破解大模型推理中的算力瓶颈。该架构通过解耦预填充与解码阶段，将计算密集型任务卸载至专用集群，并配合双时间尺度调度机制优化资源利用。实测显示，该方案可提升54%的服务吞吐量并显著降低延迟，为未来跨地域算力网络的构建和AI工业化应用奠定了坚实的技术基础。

aibase

2026-04-20 15:33

0

·

0

中国中车与百度智能云合作，利用AI大模型技术显著提升高铁研发与运维效率，将原本耗时24小时的仿真计算压缩至10秒，实现从经验主导到数据驱动的研发革新，开启中国智造的新篇章。

资讯中国

2026-03-11 13:45

0

·

0

vLLM原班人马创立AI基础设施公司Inferact，以8亿美元估值完成1.5亿美元种子轮融资，旨在通过优化推理引擎技术，大幅降低AI推理成本并提升效率，推动人工智能向实用化阶段迈进。

aibase

2026-01-23 15:29

20

·

0

文章探讨了AI大模型产业化进程中Token成本对企业竞争力的关键影响。随着智能体应用普及，Token消耗量呈指数级增长，高昂成本成为制约AI规模化落地的核心瓶颈。文章分析了政策支持、行业数据和技术创新如何共同推动Token成本下降，指出未来AI竞争不仅是技术高低之争，更是成本效率的经济账。

财联社

2026-01-02 22:20

33

·

0

Yuan3.0Flash是一款开源的40B参数多模态基础大模型，采用创新的稀疏混合专家架构，显著降低算力消耗并提升推理准确性。模型支持二次开发，在企业应用中已超越GPT-5.1，在多模态检索和表格理解等任务上表现优异，有效降低AI应用成本。

aibase

2025-12-31 17:50

14

·

0