打开APP
×
AI淘金者苦算力短缺久矣!托关系、改模型、共享资源 GPU一等就是半年
科创板日报 郑远方
2023-05-30 星期二
原创
①服务器厂商需等待6个月以上才能获得英伟达最新GPU;
②投资公司梳理关系网寻求空闲算力,协调订单以求共享资源。AI初创公司缩减模型,自购服务器,转向“冷门”云服务厂商,还有的乞求云服务巨头多给点算力;
③短缺之下,客户或将目光投向AMD、英特尔、Cerebras等公司产品。
人工智能
人工智能是计算机科学的一个分支,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器,该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。
关注

《科创板日报》5月30日讯(编辑 郑远方)谷歌CEO曾将人工智能革命比作人类学会用火,但如今AI“火种”供应却难以保证。目前行业内的AI GPU却几乎全部都来自英伟达,而随着需求激增,GPU已陷入供应短缺。

“行业对GPU的需求很强劲。”OpenAI发言人指出。而许多AI创始人预计,这种短缺至少会持续到明年

一些投资公司正在梳理关系网,苦苦寻求空闲算力;另一些投资公司则在努力协调处理器与服务器容量订单,这样自己的人工智能初创公司能共享这些资源

AI初创公司们对于短缺则各有各的解法——或缩减自家AI模型以提高效率,或为自己购买配备GPU的服务器,或转向甲骨文等相对“冷门”的云服务厂商,还有一些创始人则选择乞求亚马逊和微软的销售人员多给点算力

值得一提的是,知情人士透露,今年早些时候,初创公司们正在争抢甲骨文公司算力。但这些公司突然被告知,一个卖家已经抢购了甲骨文大部分备用服务器空间。这个买家是马斯克,他正在建立自己的OpenAI竞争对手公司X.AI。

当然,也有人已经提前“囤货”。AI研究公司Generally Intelligent CEO Kanjun Qiu自去年以来一直在为自家服务器购买先进GPU,因此她得以渡过眼下的短缺。Qiu最近还收到了一位风投家的消息,询问是否有多余的算力容量可以租给其他初创公司,不过Qiu暂未作出决定。

即便付钱抢到了产能,也还是要等。Perplexity AI CEO Aravind Srinivas表示,预付费用后,GPU也不会在第二天或一周内送到,“你只能等着”。

还有服务器厂商及其直接客户表示,他们需要等待6个月以上才能获得英伟达最新GPU

瑞银分析师估计,早期版本的ChatGPT大约需要10000个GPU;马斯克估计,其更新后需求量大约增至3-5倍之多

庞大需求面前,英伟达也正在不断扩大H100等产品供应。在一些零售商处,英伟达高级AI芯片售价已达到33000美元,而这些芯片在二级市场上的售价可能更高。

甚至有初创公司用“疫情期间的卫生纸”比喻这种短缺(此前疫情爆发后,全球多国居民开始抢购卫生纸)。OpenAI CEO Sam Altman表示,处理器瓶颈面前,如果ChatGPT用户少一些就好了。

这种短缺也限制了亚马逊、微软等云厂商向客户提供算力服务。而超微电脑(Super Micro Computer)之前已表示,公司的GPU系统订单处于历史最高水平,公司正急于扩产,并提醒AI服务器出货量可能会受到供应链瓶颈的限制

▌竞争对手替代品会“上位”吗?

此前曾有消息指出,一些客户没有选择“吊死在英伟达一棵树上”,他们将目光投向了英伟达的竞争对手(详见《科创板日报》此前报道),例如AMD、英特尔、Cerebras。

其中,Cerebras曾表示自家的WSE-2是“地球上最快的AI处理器”。

而AMD的MI300等一系列AI芯片都意在叫板英伟达。其中MI300是AMD首款数据中心/HPC级APU,该芯片正引发巨大兴趣,客户的参与度与关注势头“令人满意”

大摩分析师Joseph Moore认为,AMD已看到来自客户的“稳定订单”,公司2024年的AI相关营收有望达到4亿美元,最高甚至可能达到12亿美元——这一预期是此前的12倍之多(详见《科创板日报》此前报道)。

从摩尔定律演进,从CPU到GPU,行业对算力的追求始终未变。如今的AI热潮中,对算力的追捧进一步扩大,“算力即权力”不仅成为现实更是演绎到了极致。这场AI时代“权力的游戏”将如何演进,还有待观察。

特别声明:文章内容仅供参考,不构成投资建议。投资者据此操作风险自担。
相关新闻
抄底成功
相关企业家
联系Ta
联系企业家
为保护双方个人信息请联系您的专属助理进行接洽
我再想想
点击复制
复制成功,请去微信添加