(华盛顿13日讯)近年来科技新创如春笋般涌现,而需要租用超大规模云端服务供应商的图像处理器(GPU)晶片身价也水涨船高,其保值价格更甚汽车!
据德国媒体报导,GPU价格追踪商——Silicon Data公司首席执行员李卡门(Carmen Li,译音)表示,强劲的人工智能(AI)需求直接推动GPU晶片价格上涨。该公司的定价数据显示,用于训练和运行AI模型的英伟达(Nvidia)新旧GPU价格,过去几个月价格普遍上涨。
李卡门直言,人工智能晶片市场正在获取暴利,英伟达二手GPU晶片H100,使用3年后还保值84%,“价格已疯了,车贬值速度都比这快得多。”
现实情况恰恰相反
李卡门于2024年创办Silicon Data,专门追踪GPU价格,目标是提高GPU租赁市场的透明度。这位创始人表示,该公司收集全球数十万个GPU价格点,并将其标准化为指数,用于了解租赁和长期价值。
由于科技巨头、人工智能实验室和其他公司斥资数万亿美元购买GPU、并建造资料中心,以推动生成式AI的蓬勃发展,因此,GPU价格至关重要。
人们担心,如果GPU价格因需求疲软下跌,AI云端巨头可能不得不加快这些资产的折旧速度,这可能会严重影响获利。但到目前为止,情况恰恰相反,GPU价格正在上涨,即使是较旧的GPU贬值幅度也不大。
汽车贬值速度还快
李卡门还经营一家名为Compute Exchange的公司,专门转售翻新GPU。她指出,如果使用H100 GPU晶片第2年,可以以原价85%的价格出售一块翻新的晶片。到第3年,同样的GPU可以以原价84%的价格出售,“我的车贬值速度都比这快得多。”
对于AI创业者来说,过去3个月的晶片租金数据让人窒息,英伟达的Neo Cloud H100指数从2.20点升至2.64点,涨幅达20%;Neo Cloud B200指数从4.40点攀升至5.35点,涨幅达22%; Hyperscaler H100指数也从7.26点升至7.46点,涨幅为3%。
产能限制依然存在
这些数据表明,人工智能运算的需求仍然超过供应。李卡门表示,市场并未遵循通常的新晶片发布初期价格上涨,然后随著供应改善价格逐渐回落的模式。相反,她指出,B200价格一直居高不下,甚至进一步走高,这表明产能限制仍然存在。
她进一步指出,这种供需失衡所带来的压力体现在整个AI产业链的各个环节:晶片、记忆体、电源和资料中心空间。
这种限制使得即使是像英伟达H100这样的老旧硬体价格也保持坚挺,而这些硬体仍然是人工智能训练和推理工作负载的核心。
目前,人工智能需求远超预期,而运算资源的供应却无法满足需求。这不仅对基础设施预算产生影响,而且对依赖租用GPU大规模产生AI产品的公司来说,经济效益也会产生巨大影响。
要看最快最熱資訊,請來Follow我們 《東方日報》WhatsApp Channel.