①Aegaeon系统在服务数十个参数量高达720亿的大模型时,所需的英伟达H20 GPU数量从1192个减至213个,削减比例高达82%; ②未来AI的发展将不仅依赖于硬件算力的单纯增长,更需要通过系统级的软件创新来深度挖掘现有硬件的潜力。
①超节点最早由英伟达提出,指将数千张GPU集成在一个逻辑单元内,形成类似“超级计算节点”的系统。 ②在9月召开的华为全连接大会上,华为表示CloudMatrix 384超节点已销售300余套,主要需求来自政企。 ③机构指出,中美AI竞争正从“单卡性能”走向“系统级效率”。
①七款大模型技术产品覆盖语言、语音、视觉、多模态、代码等模型领域。 ②阿里云展示了在超节点服务器、高性能网络等AI基础设施方面的最新动向,并宣布了新一轮全球基础设施扩建计划。