欢迎来到变频电源|交流大功率变频电源|60HZ三相变频电源品牌厂家|上海五星体育官方网站!
全国服务热线:+86-755-28612366      售后服务:13924598495

上海五星体育频道

大模型领域再掀热潮芯片技术能否解决耗电困局?

时间: 2024-12-07 19:45:50 |   作者: 上海五星体育频道

  

大模型领域再掀热潮芯片技术能否解决耗电困局?

  大模型的高性能计算和高带宽存储需求导致数据中心电力消耗激增,EPC联合发起人Alex Lidow表示,数据中心的能耗可能很快会占到世界电力生产的8%。随着AI市场的迅速增加,数据中心的电力与算力需求急剧上升。为应对高能耗问题,第三代半导体氮化镓因其高效能和低损耗特性,成为提高AI服务器运行效率的关键技术。

  北京时间周五凌晨,OpenAI举行了“12天12场直播”活动的首秀,如预期一样带来了推理大模型o1的“满血”版本(即完整版本)和进阶模式,以及每月收费高达200美元(约合人民币1453元)的ChatGPT Pro订阅服务。

  大模型新一轮热潮正在袭来。不过,大模型所需要的高性能计算、高带宽存储,也给行业带来了耗电难题。

  全球氮化镓领域领先的厂商EPC(宜普公司)联合创始人兼首席执行官Alex Lidow对《每日经济新闻》记者表示:“随着对云计算、人工智能、机器学习和游戏等高密度计算应用的需求飞速增加,数据中心的能耗可能很快会占到世界电力生产的8%。”

  Alex Lidow表示:“据彭博智库,生成式AI市场将以42%的年增长率成长,在10年内,将从2022年时400亿美元的规模扩大至1.3万亿美元⋯⋯数据中心对电力与算力的需求将急剧上升,随之而来的用电量激增不仅将对运营效率造成压力,更将成为数据中心达成净零排放目标的重大阻碍。”

  另据西部证券研究报告,AI行业快速地发展,电力需求大幅度的提高。算力核心设备逐渐由传统的CPU(中央处理器)向GPU(图形处理器)转移,在提升计算效率、实现复杂的数据处理和深度学习模型的同时也带来了高能耗。根据国际能源署(IEA)的数据,2023年英伟达芯片的电力消耗已达7.3TWh,预估至2026年,这一数字将升至2023年的十倍。与此同时,AI服务器电源需求大幅提升。

  不仅仅是电力,AI服务器对功率密度的需求也在提升。Alex Lidow表示:“随着AI服务器功率持续提升,对电源转换的需求将倍速增长,以英伟达GPU产品为例,一年前其功率是300W,在今年达到800W,下一年预计将达到1700W。”

  近期,天风国际证券分析师郭明錤就表示,受益英伟达GB200订单情况超乎预期,美国电阻公司威世(Vishay)目前2025年的MOSFET(金属氧化物场效晶体管)产能已满载,预计将贡献营收约20%至30%,毛利率高于平均水准。

  对于AI服务器电源业务在当下的增速,一位国内电源管理头部厂商工作人员对《每日经济新闻》记者表示:“我没有(具体)数据,但是日常和销售端交流(得知),应该是比较乐观的。我们主要提供一些服务器通信接口、隔离之类的产品。该业务下游客户是台达。”

  目前,台达公司是全球AI服务器电源头部供应商。据中金公司研报,AI服务器电源市场仍然以中国台湾地区厂商为主,“台达”“光宝”等品牌占据主要市场份额。

  而A股上市公司中,从事AI服务器电源业务的主要有麦格米特(SZ002851,股价42.56元,市值232.05亿元)、欧陆通(SZ300870,股价82.27元,市值83.26亿元)和奥海科技(SZ002993,股价35.16元,市值97.06亿元)。

  不过,根据麦格米特11月1日投资者关系活动记录表,公司所开发的服务器系统电源项目因目前尚处于研发阶段,尚未获得相关客户的正式订单,公司后续尚需与下游系统集成商进行系统匹配测试、取得系统集成商供应资格。

  欧陆通则在11月4日至11月15日投资者关系活动记录表中表示:“在产品类型上,数据中心电源最重要的包含网安、通信及其他数据中心电源、通用型服务器电源、高功率服务器电源,涵盖了800W以下、800W至2000W、2000W以上等全功率段产品系列。在高功率服务器电源产品及解决方案上,公司已推出了包括3200W钛金M-CRPS服务器电源、1300W至3600W钛金CRPS服务器电源、3300W至5500W钛金和超钛金GPU服务器电源、浸没式液冷服务器电源及机架式电源(Power Shelf)解决方案等核心产品。”

  据中金公司研报,AI服务器电源大致上可以分为AC/DC(交流/直流)和DC/DC(直流/直流)两部分。从电网传输到芯片的过程中,电压要从1万~3万伏特降低至0.5~1伏特,在这样的一个过程中数据中心电源架构大致上可以分为保障电路UPS(不间断电源)、机架电源AC/DC、芯片电源DC/DC三个层级。AC/DC的输入是PDU(电源分配单元)输入的交流电,经过降压、整流两个过程输出直流电;DC/DC则进一步将电压调降至芯片可用电压。其中AC/DC电源难点在于有限体积内提升功率密度,而DC/DC则在于如何尽量压降板路损耗。

  第三代半导体氮化镓,既能够完全满足高功率密度,也能大大的提升电源转换效率。Alex Lidow称:“相较于第一代半导体材料硅和以砷化镓为代表的第二代半导体材料,氮化镓在光和电的转化方面性能突出。且相比硅基产品主要在存量应用类市场发展,氮化镓正在占据更多增量市场,这中间还包括AI服务器和激光雷达等。”

  TrendForce集邦咨询分析师龚瑞骄对《每日经济新闻》记者表示:“模型的发展对算力有极大需求,AI服务器的需求在快速上升,同时服务器电源的效率和功率密度也在持续增加,因此功率器件用量将明显提升。”

  对于第三代半导体在AI服务器领域的应用趋势,龚瑞骄表示:“相较于传统MOSFET,第三代半导体的优点是高功率、高电压和散热佳,目前主要被欧美日IDM(集成设备制造商)从业者掌握。第三代半导体用于AI服务器可提高其运行效能和功率密度,以此来降低总体经营成本,未来将会成为AI服务器升级的刚需。”

  Alex Lidow也表示:“AI服务器有必要进行高效的电流转换,而氮化镓器件因其高效率、低损耗和快速开关特性,能轻松实现将电源直接从48伏特转换至数字芯片所需的1伏特,无需多次转换,从而大幅度降低能耗,让数据中心更加节能。”

  其补充表示:“有相关需求的公司也慢慢变得多,明年微软、亚马逊、Meta、谷歌等AI服务器中的DC/DC转换器都将搭载EPC的电源转换产品。从应用市场看,截至2024年第三季度,EPC25%的收入来自AI服务器,(在)中国市场,最大的应用场景也是AI服务器。”

  如需转载请与《每日经济新闻》报社联系。未经《每日经济新闻》报社授权,严禁转载或镜像,违者必究。

  特别提醒:如果个人会使用了您的图片,请作者与本站联系索取稿酬。如您不希望作品出现在本站,可联系我们要求撤下您的作品。

  寒武纪半年报“交卷”:亏损收窄至5.30亿元,研发投入占比690.92%

  电子科技大学(深圳)高等研究院执行院长汤志伟:面向行业的垂直大模型将是我国实体经济和数字化的经济深层次地融合发展的重点

  豆包进击,字节版Sora“虽迟但到” 火山引擎总裁谭待:一落地就开始考虑商业化

  常州高新区(新北区)商务局局长骆晓霞:竞逐:“新能源之都” 常州的优势是产业生态完善

  火石创造副总裁何伟:“数据要素X时代”,提升产业园区的资源配置效率非常重要

  成都银行党委副书记、行长徐登义:以科技金融赋能,点燃新质生产力培育引擎

  国家一级演员陈丽云,被查!她还曾担任演艺集团副总经理,原总经理上月落马

  比特币重上10万美元;事关配售型保障性住房,广州发文;茅台公开招募京东、天猫旗舰店运营商;马斯克为特朗普竞选捐赠达2.59亿美元丨财经早参


上一篇:海兰云直流供电系统专利:未来海底数据中心的动力解决方案
下一篇:星帅尔2024年1-9月纯利润是145亿元较去年同期下滑2015%