TAG:混合注意力模型
小红书联手北京大学、上海交通大学提出HYPIC，给混合注意力大模型装上位置无关缓存，首token延迟砍掉3.25倍
小红书大模型推理团队联合北大、上交提出HYPIC，实现混合注意力大模型的位置无关缓存。系统解决现有PIC与线性注意力无法兼容问题，通过转移算子缓存、缝合窗口重算和段并行加速冷请求。实测首token延迟平均降低3.25倍，QPS提升1.66倍，任务质量仅差1.71分。完美适配RAG、多文档Agent等超长上下文负载。
0 
0 
美股三大指数震荡整理，芯片股走高，光通信板块大涨
2026-05-11
0 浏览
多空胶着恒指震荡整理，AI景气外溢主导行情波动
2026-05-11
0 浏览
宠物AI公司PurrPurr获阿尔法公社投资 首年GMV目标5000万
2026-05-11
0 浏览
隆源股份业绩说明会回应今年新能源汽车零部件领域新客户洽谈中
2026-05-11
0 浏览
中国品牌市占率达75%，4月我国汽车销量约252.6万辆，新能源汽车出口贡献度近五成
2026-05-11
0 浏览
4月汽车出口增长51% 国内零售下跌超20%
2026-05-11
0 浏览
4月全国新能源汽车渗透率历史首次突破60%，燃油车零售同比暴跌37%
2026-05-11
0 浏览
港股复盘：强势翻红 芯片概念股冲高回落 短期风险需警惕
2026-05-11
0 浏览
申昊科技拟设具身智能子公司 加码人形机器人业务
2026-05-11
0 浏览
