AI淘金者苦算力短缺久矣!托关系、改模型、共享资源 GPU一等就是半年

来源:科创板日报  发布时间:2023-05-31 11:58:45 


【资料图】

谷歌CEO曾将人工智能革命比作人类学会用火,但如今AI“火种”供应却难以保证。目前行业内的AI GPU却几乎全部都来自英伟达,而随着需求激增,GPU已陷入供应短缺。

“行业对GPU的需求很强劲。”OpenAI发言人指出。而许多AI创始人预计,这种短缺至少会持续到明年。

一些投资公司正在梳理关系网,苦苦寻求空闲算力;另一些投资公司则在努力协调处理器与服务器容量订单,这样自己的人工智能初创公司能共享这些资源。

AI初创公司们对于短缺则各有各的解法——或缩减自家AI模型以提高效率,或为自己购买配备GPU的服务器,或转向甲骨文等相对“冷门”的云服务厂商,还有一些创始人则选择乞求亚马逊和微软的销售人员多给点算力。

值得一提的是,知情人士透露,今年早些时候,初创公司们正在争抢甲骨文公司算力。但这些公司突然被告知,一个卖家已经抢购了甲骨文大部分备用服务器空间。这个买家是马斯克,他正在建立自己的OpenAI竞争对手公司X.AI。

当然,也有人已经提前“囤货”。AI研究公司Generally Intelligent CEO Kanjun Qiu自去年以来一直在为自家服务器购买先进GPU,因此她得以渡过眼下的短缺。Qiu最近还收到了一位风投家的消息,询问是否有多余的算力容量可以租给其他初创公司,不过Qiu暂未作出决定。

而即便付钱抢到了产能,也还是要等。Perplexity AI CEO Aravind Srinivas表示,预付费用后,GPU也不会在第二天或一周内送到,“你只能等着”。

还有服务器厂商及其直接客户表示,他们需要等待6个月以上才能获得英伟达最新GPU。

瑞银分析师估计,早期版本的ChatGPT大约需要10000个GPU;马斯克估计,其更新后需求量大约增至3-5倍之多。

庞大需求面前,英伟达也正在不断扩大H100等产品供应。在一些零售商处,英伟达高级AI芯片售价已达到33000美元,而这些芯片在二级市场上的售价可能更高。

甚至有初创公司用“疫情期间的卫生纸”比喻这种短缺(此前疫情爆发后,全球多国居民开始抢购卫生纸)。OpenAI CEO Sam Altman表示,处理器瓶颈面前,如果ChatGPT用户少一些就好了。

这种短缺也限制了亚马逊、微软等云厂商向客户提供算力服务。而超微电脑(Super Micro Computer)之前已表示,公司的GPU系统订单处于历史最高水平,公司正急于扩产,并提醒AI服务器出货量可能会受到供应链瓶颈的限制。

▌竞争对手替代品会“上位”吗?

此前曾有消息指出,一些客户没有选择“吊死在英伟达一棵树上”,他们将目光投向了英伟达的竞争对手,例如AMD、英特尔、Cerebras。

其中,Cerebras曾表示自家的WSE-2是“地球上最快的AI处理器”。

而AMD的MI300等一系列AI芯片都意在叫板英伟达。其中MI300是AMD首款数据中心/HPC级APU,该芯片正引发巨大兴趣,客户的参与度与关注势头“令人满意”。

大摩分析师Joseph Moore认为,AMD已看到来自客户的“稳定订单”,公司2024年的AI相关营收有望达到4亿美元,最高甚至可能达到12亿美元——这一预期是此前的12倍之多(详见《科创板日报》此前报道)。

从摩尔定律演进,从CPU到GPU,行业对算力的追求始终未变。如今的AI热潮中,对算力的追捧进一步扩大,“算力即权力”不仅成为现实更是演绎到了极致。这场AI时代“权力的游戏”将如何演进,还有待观察。

关键词:

AI淘金者苦算力短缺久矣!托关系、改模型、共享资

谷歌CEO曾将人工智能革命比作人类学会用火,但如今AI“火种”供应却难以保证。目前行业内的AIGPU却几乎全部更多

2023-05-31 11:58:45

深圳:要打造大湾区智能算力枢纽 建设城市级智能

深圳市发布《深圳市加快推动人工智能高质量发展高水平应用行动方案(2023—2024年)》。《方案》指出,要整更多

2023-05-31 11:46:17

马斯克到北京第一天吃了啥,下榻北京顶级会所 晚

金融界5月3日消息特斯拉CEO马斯克时隔三年之后再度访华,马斯克的一举一动都牵动着新能源市场的心据了解,更多

2023-05-31 10:54:39

天天播报:鸿海董事长刘扬伟:正在与英伟达合作进

鸿海董事长刘扬伟表示,鸿海正在与英伟达合作进行自动驾驶技术研发。此外,鸿海正在开发“CITYGPT”聊天机更多

2023-05-31 10:53:06

全球今日报丨马斯克与电池龙头“宁王”董事长会面

马斯克与电池龙头“宁王”董事长会面,双方会商谈什么?当晚下榻北京顶级会所,晚宴一共16道菜5月30日,特更多

2023-05-31 10:47:18

世界快资讯:北上广深,门店全关!知名火锅店“凉

又一家明星餐饮倒闭了!据北京商报报道,由知名艺人陈赫创建的贤合庄卤味火锅(以下简称“贤合庄”)北京门更多

2023-05-31 10:48:29

天天热点!人民银行上海总部副主任孙辉:4月上海

人民银行上海总部副主任孙辉:4月上海新发放企业贷款加权平均利率3 57%处于历史最低水平人民银行上海总部副更多

2023-05-31 10:52:55

人民币兑美元中间价报7.0821,下调3点_全球播资讯

人民币兑美元中间价报7 0821,下调3点;上一交易日中间价7 0818,上一交易日官方收盘价7 0901,上日夜盘报更多

2023-05-31 10:04:07

中国5月官方制造业PMI为48.8 低于临界点|全球热点评

一、中国制造业采购经理指数运行情况5月份,制造业采购经理指数(PMI)为48 8%,比上月下降0 4个百分点,低更多

2023-05-31 09:55:50

在岸人民币兑美元跌破7.10 为2022年11月30日以来

金融界5月31日消息据中国货币网,在岸人民币兑美元跌破7 10,为2022年11月30日以来首次。此外,离岸人民币更多

2023-05-31 09:46:47