大模型热到芯片暴涨阿里百度成了英伟达的打工仔

当前位置：首页 > 综合 >

来源：东方资讯时间：2023-04-21 00:31:15

文｜《中国企业家》记者闫俊文

中国科技公司和创业者竞相追逐大模型，引发GPU芯片需求量的暴增，以及价格的疯狂上涨。

【资料图】

GPU是ChatGPT训练和部署的关键部件，这是强大算力的基础设施。根据公开消息，微软的Azure云服务为ChatGPT构建了超过1万枚英伟达A100 GPU芯片的AI计算集群。

千芯科技董事长陈巍告诉《中国企业家》，以A100芯片为例，从去年年底到现在，其单价涨了超过50%，从之前约5万元涨到了近10万元。由于A100已经被美国禁止售往中国内地，国内同行预估仅有3万枚存量。英伟达推出的A100替代版A800，国内厂商也是排队拿货，并且常常无货。

国内某大型服务器厂商的员工王石也感受到了这股浪潮。他告诉《中国企业家》，近期供应的压力比较大，包括英伟达等供应商的压力也比较大，但这并不代表错过了这一波就没有机会了，“相信今年年内供需回归到相对理性的水平”。

“我要给大家降温。这是一个突发的需求，大家不要着急，不是说我错过了这两个月或者三个月，我就失败了，远远没有到那个时候。”王石强调。

据《中国企业家》统计，除了阿里巴巴、百度等互联网巨头之外，商汤科技、昆仑万维、毫末智行、360等公司也官宣了自己的大模型，如果再加上王小川、王慧文、李开复等创业者，中国年内推出的大模型数量已经超过了10个。

一些行业人士预测，国内需要有8至20个大模型，比如生物医药计算、材料计算、化学计算、自动驾驶、气象等大模型，甚至未来四五十个也说不定。

算力、算法和数据构成了AI时代的三要素，而算力又是电力般的基础设施，有多少枚GPU，有多少算力，成为外界评估大模型研发和创业成败的关键。

在这一轮由ChatGPT掀起的大模型创业潮里，黄仁勋和英伟达成为了大赢家。

据统计，2020年，全世界跑AI的云计算与数据中心，80.6%都在用英伟达的GPU驱动。截至发稿，英伟达股价为270美元，比2022年9月时的低点119美元翻了一番，总市值为6669亿美元，成为美国第五大上市公司，比德州仪器、超威半导体（AMD）、高通、英特尔等芯片企业市值相加还要多。

五分之二的预算买算力

英伟达已经供不上货了。

近期，马斯克为推进推特内部的新AIGC项目，购买了大约1万枚GPU。从2022年末，微软就实行了GPU资源配额供给，但今年1月以来审批时间越来越长，如今部分申请需要等待几天甚至几周才能获批。同时，微软向英伟达预订的数万枚GPU芯片，交货无期。

2月份，出门问问CEO李志飞和美团联合创始人王慧文，讨论了大模型创业要花多少钱、入门门槛什么样。李志飞认为，门槛至少需要5000万美元，其中的2000万美元就是用来购买算力的。王慧文和李志飞不久前相继宣布在大模型领域创业。

根据陈巍测算，国内如果想要直接训练出一个ChatGPT3级别的大模型，常规最少需要1000枚A100级别的GPU芯片，而如果想要实际部署，不考虑冗余和响应速度，对于搜索引擎级别的服务，至少需要6000枚A100级别的GPU芯片。仅仅芯片一项，最小投入就到了近10亿元人民币。

一份流传的《阿里AI专家交流纪要》显示，百度年初紧急下单3000台8张芯片的A800服务器，这意味着需要2.4万枚A800，而预计全年百度会有A800和H800共5万枚的需求。阿里云预计在今年需要1万枚左右，其中6000枚是H800。此外，阿里云也会用到平头哥这种自研的芯片，每年采购大概3000枚。

2022年9月，英伟达发布H100型号GPU，但被美国禁止出口至中国，但英伟达怎会忍心错过中国的大模型热，为了出口，英伟达牺牲了部分性能，在今年推出了H800版本。

对照百度发布的文心一言，陈巍测算，按照国内成本估算单次应答成本5分钱，如果日访问量10亿人次，以月租价格评估，每天云计算成本约5000万元人民币，一个月将增加成本15亿元，一年增加成本180亿元，远远高于训练成本。此前媒体估算，ChatGPT光3月份的电费就得交近200万美元，这差不多跟27.5万中国居民一个月用电量相当。

《中国企业家》了解到，对于不缺钱的巨头来说，A100存储量也不多，未来采购以A800和H800为主，但仍需要V100等老式芯片补充。V100性价比高一些，在云上跑的成本是A100的三分之二左右，但运行速度较慢，如果是ChatGPT4级别大模型就不够用了。

也就是说，要想大模型算得更快、更准，必须适配最先进的GPU芯片。虽然拿不到最先进的GPU，但大模型玩家依然在积极囤货。按照上述数字估算，国内对A800以及H800的需求已经到了数十万级别。

王石说，目前来看，对于算力的需求可以说是上不封顶，有多少算力，都希望能够投身进来，“只能这么说，越多越好”。

仅仅靠资本似乎已经玩不转了，大模型之战，最后结局可能还是巨头之间的游戏。

一位头部投资机构的负责人告诉《中国企业家》：“创投界这点资本是不值一提的，资本它对整个行业的格局不造成影响，本来就这点钱也投不起，中国这几个VC加上PE，今年不在ChatGPT上投下10亿、20亿美元，水漂都打不起来，做不了几个训练级，但是百度和华为如果愿意在上面努力去做的话，我觉得投得起。”

瘸腿奔跑的中国大模型

不管是阿里巴巴、腾讯、百度等巨头，还是王慧文、王小川等创业者，他们不得不戴着枷锁跳舞：一方面，迫于美国的芯片禁令，他们得不到最先进的芯片源源不断的支持；另一方面，他们还要追赶国外已经到了ChatGPT4水准的技术。

陈巍感慨中国AI企业的不易。如果得不到国外先进的芯片，中国企业只能使用比较老旧或者工艺成熟但不那么先进的芯片，综合性能可能只有A100的60%，数量需要更多，跑得却更慢，综合成本要高出20%至30%，对于企业来说，这很有可能是赚钱和不赚钱的分水岭，活下去和活不下去的分水岭。

处处受限，起步又晚，但大模型也得干下去。

王小川在接受媒体采访时说，晚了也得干。美国人之前把核弹造出来，中国就不造了吗？这跟创业公司本身没关系，是中国要不要做的问题。

王石认为，中国企业没必要“芯片焦虑”。他提到了前几年“挖币”造成的硬盘泡沫，结果造成了SSD（硬盘）的一地鸡毛，整个硬盘厂商在2022年整年可能都在消耗库存。

GPU只是大模型创业链条中的一环，机房环境、算法、人才等等也必须配套跟上。