打开APP
×
20:27
腾讯混元提出Stem稀疏注意力算法 首字延迟降低3.6倍
财联社6月5日电,腾讯混元宣布提出Stem稀疏注意力算法,已被机器学习顶会ICML-26收录。根据Stem算法×HPC算子的全栈加速方案,算法层面,Stem通过Token位置衰减(TPD)和输出感知度量(OAM)实现25%预算下的近无损精度;算子层面,HPC开源的Stem+BSA算子将稀疏收益转化为真实硬件加速,128K上下文下首字延迟降低3.7倍。
超高清视频
人工智能
算力
阅读 68418
特别声明:文章内容仅供参考,不构成投资建议。投资者据此操作风险自担。
相关新闻
AI基建已成美国经济支柱!全球最大资管警告:数据中心禁令恐引发衰退
2小时前
科技圈要疯?马斯克自曝:过去一年,经历了6次“AI精神病”!
8小时前
AI安全引爆担忧?黄仁勋表态:若客户开发“不安全软件”,会断供芯片!
8小时前
相关企业家
联系Ta
联系企业家
为保护双方个人信息请联系您的专属助理进行接洽
我再想想
点击复制
复制成功,请去微信添加