博通2024财年公司的人工智能收入增长220%,达到122亿美元;博通预计AI产品收入将在2025财年第一财季同比增长65%。博通还透露,目前正在与三个非常大型的客户开发AI芯片,预计明年公司AI芯片的市场规模为150亿-200亿美元。
国盛证券表示,AI业务中,博通已有的三家大客户已迭代多版XPU,在2027年,每家客户均将在单一网络架构中部署百万个XPU,ASIC芯片需求初步演绎、后续趋势明确。
特邀行业专家全面解读AI应用落地终端带来的硬件增量需求,12月17日(周二)19:00,财联社VIP携手蜂网专家为您带来“ASIC芯片”主题的【风口专家会议】。
特邀专家:AI芯片行业专家
分享主题:
AI推理大布局到来?
——特邀行业专家全面解读AI应用落地终端带来的硬件增量需求
分享内容:
1、美股博通连续大涨!ASIC推理芯片增量需求分析;
2、ASIC推理芯片主要生产厂商及下游客户介绍;
3、数据中心AEC方案优势及相关业务厂商分析;
4、AI应用落地终端有望带动其它电子硬件增量需求分析。
您可以在12月17日(周二)晚上7点前等待电话外呼接入会议,也可以点击以下链接参会。(会议结束后点击链接可看回放)
PC端点击链接入会☛《AI推理大布局到来?》☚
手机APP端点击链接入会☛《AI推理大布局到来?》☚
微信、海报等点击链接入会☛《AI推理大布局到来?》☚
小贴士:包时段用户可以在新更新的会议纪要文章里直接查看纪要内容。仅单篇解锁该文章的用户,会议纪要会同步更新的该文章内,次交易日午后可以回看该文章查阅纪要。
如您对《风口专家会议》的订阅以及观看流程有疑问,或者有特别想对专家提问的问题,可以添加财联社小财神客服微信(clsvip168),了解详情。
附本次会议纪要
AI芯片行业核心逻辑
电话会议纪要
问题一:什么是ASIC芯片?如何分类以及分别有怎样的用途?与通常的GPU和CPU相比有怎样的区别?
专家:ASIC指专用集成电路,GPU和CPU是通用芯片。通用芯片有普适性、广泛性和强兼容性,而专用芯片更能满足某一场景的使用。ASIC芯片的种类丰富,无论芯片是否简易,都可以做成专用芯片。目前的种类如MCU芯片、通讯芯片、AI芯片,都有相应的专用芯片。CPU和GPU芯片在市面上可以直接买到,有大厂提供标准规格的产品,不需要额外的开发成本,而ASIC芯片需要额外开发和定制,有时间成本和开发成本。ASIC芯片的开发也可能会失败,因为需要满足特定应用的强适配和某些硬件、软件的强绑定,有技术壁垒。
总结来看,ASIC芯片是定点给某些特定客户或自己做研发,不是公开出售的,类似一个唯一的或者非常稀缺的资产,开发完成后在该场景有非常高的竞争力,但有开发成本和时间成本。
问题二:介绍一下博通公司。业绩大涨的原因是什么?明年是否还有增速的持续性?
专家:博通是个美国公司,之前注册在新加坡,做过很多笔大额交易的并购,最初是一个做通讯和交换芯片的公司,经过一系列的收购后,现在是一个软硬件综合实力强、聚焦专用芯片和通用芯片的企业。在通讯交换芯片领域,目前是世界前两大供应商之一。在ASIC芯片领域,曾收购过美国一家非常著名的芯片设计、开发公司。第三大业务还有数据连接部分。
业绩大涨是由于最近公开宣布了2025-2027年的业绩预测和前瞻性分析,特别是在ASIC定制化芯片业务上,有来自AI端的增长,有几家互联网大厂做了一些订单和承诺,预计比此前的收入规模增长很多。另外,在接下来AI强落地的背景下,ASIC定制化芯片可能会对通用芯片形成强补充,可能会增加芯片总需求,也甚至可能会瓜分部分英伟达的通用芯片市场。
此外,英伟达的股价上涨过久,被部分兑现,市场可能也需要一个新的增长点,博通出现的节点不错。
问题三:是否存在ASIC芯片增速大幅提升、英伟达通用芯片增速相对放缓的预期?
专家:专用芯片销量增速提升是有可能的,在过去很长一段时间中,大部分是用英伟达方案,即通用方案,增速提升是由于ASIC芯片基础存量较低。如果大家都采用英伟达的通用芯片,产品就不具备差异性。另外,英伟达的通用芯片无法将软硬件和独有算法进行强绑定,改善空间小,专用芯片可以在算法上进行优化,做协同性调整。因此,大厂做这件事情是势在必行,尤其是互联网大厂,一年用几万至十万套的芯片,一部分选择专用芯片,一部分选择通用芯片,合理分摊算力。
问题四:国内有哪些ASIC芯片设计和代工厂商?其下游大客户是否会考虑使用这些厂商的产品?
专家:国内大陆的选择非常有限,大陆只有几家ASIC芯片设计公司,其中上市公司有芯原股份,做ASIC芯片定制,业务小;灿芯股份也可以承接ASIC芯片定制开发业务。此外,国内使用大模型的公司有一些自己开发定制芯片,但帮别人设计的比较少。比如翱捷科技也在尝试承接业务,从财报上可以看出有一部分来自委外设计,但它不是专业的,主要还是做手机芯片。华为海思也可以做从端侧到训练侧的所有芯片,有自己的生产线和平台,但不可能帮别人做。百度昆仑做的类似ASIC芯片,与博通、三星都有合作。平头哥、寒武纪、摩尔线程等仍以通用芯片为主,对标国产版英伟达。代工厂商的话,中芯国际可能是唯一选择,但是也不太优。
问题五:什么是AEC连接方案?还有哪些连接方式?AEC的优势所在?
专家:主要的连接方式有三种:AEC、AOC和DAC。AOC是光通讯,AEC和DAC都是用铜缆或者电缆来完成的。区别分三个维度:成本、距离、性能。
成本维度上,由高到低分别是AOC、AEC、DAC。AOC里面是光纤,所以最贵。
一个数据中心由数百个机柜组成,每个机柜由数10台服务器构成,数10台服务器里包括算力卡服务器和交换服务器,彼此的柜子需要连接在一起,这样矩阵才能扩大。如果在机柜内部用DAC直连,一个机柜线缆的长度不长,5-10米就足够了,所以DAC是可以控制和覆盖的。与DAC的显著区别在于,AEC会做主动的芯片增强、恢复、校准、纠错,或者将数据包进行分包处理。所以,AEC的距离可以达到15-20米,宽带可达100-200G。AOC是光缆,只要光纤不损坏、不折断,再远都可以传。
性能维度上,DAC的带宽在100G以内,常规的25G到40G都没问题。DAC是铜线会衰竭,但在可控距离范围内,衰竭还是可以被克服的。
这三个技术都很成熟,在数据中心里已经存在了5-10年以上。AEC火的原因是数据中心单个通道的数据吞吐量和功耗提高了,但物理空间有限,需要把密度提高,就必须用更高效的传输方式,比如AEC或AOC,但AOC比较贵。
问题六:AEC业务比较好的公司及其上游公司有哪些?
专家:不清楚有哪些供应商,但用户很明确,需要部署数据中心的都是用户,但这跟数据中心总量有关,因为一个机柜里面需要的AEC长度是确定的,和数据中心的机柜容量呈倍数关系。
问题七:在大模型落地的关键节点,除了推理芯片,还有哪些消费电子端的硬件需求会大幅提升?包括性能需求和量的需求。
专家:推理芯片的形态产生了,但是尚未普及。目前推理侧的应用都是图文生成、语音转字幕,或者文案输出等,终端产品的形态可以各种各样,玩具、手机、电脑、眼镜、智能音箱等,需要不断试错。推理芯片本身跟训练芯片完全不一样,推理要用专用芯片来实现,市场上没有推理芯片的通用芯片,所以推理芯片的落地和商业化还会产生很多专用芯片的可能性,ASIC的机会更大一点。
问题八:除了推理芯片,手机的存储芯片、通讯模组等其他零部件的需求提升幅度多大?大概的增量排序如何?
专家:以手机为例,其推理芯片很有可能会被主芯片集成掉。现在主芯片的供应商如高通、联发科,都具备这个能力。
如果要推出智能终端产品,首先要在GPU上做大规模的性能提升,相配套的是内置存储。因为一旦做推理,有很多在线和离线的交互,这些会产生大量存储容量的强需求,占多少增量比例取决于终端的推理功能强度。
目前手机上做推理侧的应用强度较轻,一旦加重,整个手机的能耗、面积、体积、设计等各方面都会出问题,至少在目前的体量上都会有问题。此外,可能也会增加一些外设功能的强度,比如摄像头、外设的辅助设备。
问题九:如何看待交换机未来的增量需求?随着数据中心的运算量增大,它的升级是否重要?
专家:博通是做交换芯片出身的,对于这方面有非常深的理解,参与了数据中心的建设、扩容和升级,与互联网大厂有非常好的关系。
交换芯片在其中起到举足轻重的作用,是一个通路,无论是单体还是多体,提升主要在于其单芯片或多芯片的带宽容量增加、单通道和多通道的容量增加、吞吐率、对时延和功耗的控制。随着数据中心AI需求的增加,数据吞吐量急剧增加,意味着交换机的设备和主芯片都要提升上去。
光靠训练侧和推理侧的提升,数据会拥塞在交换部分,那是解决不了问题的,交换设备一定要提升。随着AI的落地,无论是训练侧还是推理侧的都会显著体现的,所以做交换芯片的公司肯定是有红利的。
问题十:国内做交换机的品牌有哪些?
专家:国际企业中,思科和博通都可以提供这方面的芯片,也可以提供整机和设备。此外,国内还有几家自研交换芯片的公司,比如华为海思、中兴通讯的中兴微电子、烽火通信、苏州申科,其产品性能带宽跟博通比有差距。
系统厂商方面,上述有些芯片公司本身提供系统,包括华为、中兴通讯和烽火通信等。此外,浪潮信息是贴牌的,用别人芯片来做交换设备。苏州申科也提供交换设备,并且自己也做芯片。对做整机的公司来说,有自研芯片的能力是很重要的,如果没有自研芯片,只是拿别人芯片来组装,其竞争力相对较弱,因为交换机的核心在于硬件芯片和协议上。
问题十一:PCB产品是否会因为ASIC芯片的布局,需要做出产品改变或者数量提升?
专家:需要。一般来说,做了专业芯片,PCB设计的BOM的其他配件或元器件,需要跟专用芯片适配。专用芯片不是一个单芯片的问题,而是一个系统问题。一般客户开一个专用芯片,会有系统解决方案,包括专用芯片,加上外设和其他元器件,PCB设计需要做一些调整。
问题十二:除了PCB,其他也需要根据专用芯片做产品革新或改变吗?
专家:不需要,既然做专用芯片,就不应该去提高整个系统的改变成本或结构。专用芯片的量一旦起来,它的成本要比通用芯片便宜。如果只需要100-1000张,会觉得GPU比专用芯片的开发成本低,当需要1万张以上时,肯定是专用芯片便宜。
问题十三:目前数据中心的液冷需求高吗?市面上主要有哪些液冷产品提供商?
专家:液冷是一个确定的趋势,随着芯片颗粒变大、集成度变高,无论是单芯片还是单板,单机柜还是多机柜,整体功耗会显著上升。AI有几个瓶颈,分别是算力瓶颈,能耗瓶颈,电力瓶颈。通过液冷的方式,可以快速实现能量转换,液冷不只是做个散热,还要做转换,所以用液冷是目前的最佳解决方案,比传统的风冷、自然冷却、加特殊材料,或者在上面贴冷却板或冷却片,肯定是要强得多。
液冷供应商提供的液体不是水,是丙醇加上其他混合体,还提供整个设备的解决方案。科创板和和北交所都有上市公司,比如中科曙光,提供整个解决方案,甚至帮数据中心做完整配套,为百度、京东等提供了服务。