打开APP
×
20:27
腾讯混元提出Stem稀疏注意力算法 首字延迟降低3.6倍
财联社6月5日电,腾讯混元宣布提出Stem稀疏注意力算法,已被机器学习顶会ICML-26收录。根据Stem算法×HPC算子的全栈加速方案,算法层面,Stem通过Token位置衰减(TPD)和输出感知度量(OAM)实现25%预算下的近无损精度;算子层面,HPC开源的Stem+BSA算子将稀疏收益转化为真实硬件加速,128K上下文下首字延迟降低3.7倍。
超高清视频
人工智能
算力
阅读 68328
特别声明:文章内容仅供参考,不构成投资建议。投资者据此操作风险自担。
相关新闻
史无前例!OpenAI模型“失控”攻入全球最大AI开源社区 中国开源模型参与取证
2小时前
SpaceX做空比例飙至32% 马斯克警告空头:几无存活可能!
2小时前
AI交换芯片走到聚光灯下:英伟达发布Spectrum-6 或推动Token生成能力倍增
4小时前
相关企业家
联系Ta
联系企业家
为保护双方个人信息请联系您的专属助理进行接洽
我再想想
点击复制
复制成功,请去微信添加