打开APP
×
20:27
腾讯混元提出Stem稀疏注意力算法 首字延迟降低3.6倍
财联社6月5日电,腾讯混元宣布提出Stem稀疏注意力算法,已被机器学习顶会ICML-26收录。根据Stem算法×HPC算子的全栈加速方案,算法层面,Stem通过Token位置衰减(TPD)和输出感知度量(OAM)实现25%预算下的近无损精度;算子层面,HPC开源的Stem+BSA算子将稀疏收益转化为真实硬件加速,128K上下文下首字延迟降低3.7倍。
超高清视频
人工智能
算力
阅读 68411
特别声明:文章内容仅供参考,不构成投资建议。投资者据此操作风险自担。
相关新闻
苹果最强Mac今日到店:Mac Studio现货紧俏,本地AI部署能力成消费者关注焦点
10小时前
“Muse之父”放话:这款AI助手能帮用户“薅回”上千美元
12小时前
3倍性能最强芯片、10万亿参数模型、20GW数据中心……阿里云栖大会“火力全开”
16小时前
相关企业家
联系Ta
联系企业家
为保护双方个人信息请联系您的专属助理进行接洽
我再想想
点击复制
复制成功,请去微信添加