由于担心美国将实施新的出口管制,中国的互联网巨头们正急于购买对构建生成式人工智能系统至关重要的高性能英伟达芯片,发出了价值 50 亿美元的订单,据日经。
据多位熟知内情的人士透露,百度、字节跳动、腾讯和阿里巴巴已从美国芯片制造商那里订购了价值 10 亿美元的 A800 处理器,将于今年交付。两位与英伟达关系密切的人士说,这些中国公司还购买了价值 40 亿美元的图形处理单元芯片,将于 2024 年交付。
A800是英伟达用于数据中心的尖端A100 GPU的弱化版本。由于华盛顿去年为遏制中国的技术野心而实施的出口限制,中国的科技公司只能购买数据传输速率低于A100的A800。
随着过去一年人工智能热潮的升温,英伟达可为大型语言人工智能模型开发提供计算能力的图形处理器,已成为全球最大科技公司中最热门的商品,
由于担心拜登政府正在考虑新的出口限制,甚至会涉及英伟达被削弱的芯片,以及需求过旺导致的更大范围的GPU短缺,中国互联网集团正在竞相囤积A800芯片。
一位不愿透露姓名的百度员工说:”没有这些英伟达芯片,我们就无法进行任何大型语言模型的训练。”
在微软支持的 OpenAI 八个月前推出的聊天机器人 ChatGPT 取得成功后,这些公司正在开发自己的国产大型语言模型。
据两位接近字节跳动的人士透露,字节跳动有许多小团队正在开发各种生成式人工智能产品,其中包括一个代号为Grace的人工智能聊天机器人,目前正在进行内部测试。
今年早些时候,字节跳动为TikTok 测试了一个生成式人工智能功能,名为 TikTok Tako,可以授权使用 OpenAI 的 ChatGPT。
两位直接了解此事的员工表示,字节跳动已经储备了至少1万块英伟达GPU,以支持开发,公司还订购了近7万块A800芯片,将于明年交付,价值约7亿美元。
阿里巴巴计划将其所有产品都纳入大语言模型,包括其在线购物平台淘宝和地图工具高德地图。与此同时,百度也在开发自己的类似 ChatGPT 的项目-,一个名为文心一言的生成式人工智能聊天机器人。
今年早些时候,据中国科技公司的多名员工称,大多数中国互联网巨头的库存中,可用于训练大型语言模型的芯片不足数千枚。此后,随着需求的增长,这些芯片的成本也在增加。
一位英伟达经销商说:”经销商手中的 A800 价格上涨了 50%以上。”
腾讯云在四月份发布了一个新的服务器集群,供他人租用计算能力,采用了英传达H800 GPU,这是英伟达最新的H100型号在中国的改良版,可以支持大型语言模型训练、自动驾驶和科学计算。
据两位接近阿里巴巴的人士透露,阿里巴巴云也从英伟达收到了数千枚H800芯片,许多客户已经联系,寻求由这些芯片驱动的云服务,以帮助他们在中国复制ChatGPT。
字节跳动公司利用储备的英伟达芯片 A800 和 A100 提供云计算设备,还在 6 月份推出了一个平台,供企业试用不同的大语言模型服务。