打开APP
×
20:27
腾讯混元提出Stem稀疏注意力算法 首字延迟降低3.6倍
财联社6月5日电,腾讯混元宣布提出Stem稀疏注意力算法,已被机器学习顶会ICML-26收录。根据Stem算法×HPC算子的全栈加速方案,算法层面,Stem通过Token位置衰减(TPD)和输出感知度量(OAM)实现25%预算下的近无损精度;算子层面,HPC开源的Stem+BSA算子将稀疏收益转化为真实硬件加速,128K上下文下首字延迟降低3.7倍。
超高清视频
人工智能
算力
阅读 68401
特别声明:文章内容仅供参考,不构成投资建议。投资者据此操作风险自担。
相关新闻
英伟达Vera Rubin量产提速,卖铲人的卖铲人行情要来了?
5小时前
Anthropic据悉最早10天后将公布招股书 IPO已至最后冲刺阶段
23小时前
Claude闯入现实!Anthropic首款在物理世界运行的AI工具问世了
08月28日 14:29
相关企业家
联系Ta
联系企业家
为保护双方个人信息请联系您的专属助理进行接洽
我再想想
点击复制
复制成功,请去微信添加