财联社
财经通讯社
打开APP
14:53:38【腾讯云将全面升级云基础设施】
财联社9月16日电,在9月16日举行的2025腾讯全球数字生态大会上,腾讯集团副总裁、腾讯云总裁邱跃鹏透露,目前,腾讯云已在推理加速、Agent Infra和国际化布局等方面取得突破,腾讯云正不断升级云基础设施,以支撑Agent规模化落地和企业全球化发展。邱跃鹏介绍,在推理加速方面,腾讯云深入参与开源贡献,向DeepSeek、vLLM、SGLang等社区提交了多项优化技术。针对大模型推理面临的内存瓶颈,腾讯云自研并开源FlexKV多级缓存技术,大幅降低KVCache的占用,将首字时延降低多达70%。
腾讯云 人工智能
财联社声明:文章内容仅供参考,不构成投资建议。投资者据此操作,风险自担。
2025-09-16 14:53:38 1110093 阅读
商务合作
热门解锁
相关阅读
评论
热度
最新
发送