登陆注册
29798

云服务商正组建GPU大军(800G需求更进一步)

大财经2023-05-18 17:19:270

谷歌推出大模型PaLM2,800G产业趋势已在路上。谷歌的 PaLM 模型在训练时被拆分到了两个拥有 4000 块 TPU 芯片的超级计算机上,用时 50 天。谷歌当前已经部署了数十台 TPU v4 超级计算机,供内外部通过谷歌云使用。而谷歌在论文中暗示了或有下一代基于4nm制程的TPU v5,互联带宽有望进一步提升。随着更高速互联的H100与或即将面试的TPU V5,都有望大幅推动高速光互联800G DR8/SR8的需求。

投资建议:1)云产业链推荐光模块头部厂商,天孚通信、仕佳光子、光库科技、新易盛、光迅科技等;2)光纤光缆和海缆推荐亨通光电,中天科技,长飞光纤;3)控制器板块推荐和而泰、拓邦股份;4)数据中心及配套推荐奥飞数据、宝信软件等,受益标的为英维克、科华数据;5)运营商板块:推荐中国联通,受益标的中国移动,中国电信。6)电力信息化推荐威胜信息、映翰通、力合微。

风险提示:疫情不利影响、“东数西算”和5G落地进程不及预期、云计算发展或不及预期、流量类业务及产业互联网应用发展不及预期。

本文源自券商研报精选

云服务商正组建GPU大军,以提供更多AI资源服务。Google在I/O大会上还宣布一款基于H100 GPU的AI超级计算机A3。且谷歌还将努力构建多个类似的集群。面向希望训练大型语言模型的客户。此外,微软还宣布了配备更多 GPU 的下一代 AI 超级计算机。Oracle 的云服务提供对 512 个 GPU 集群的访问,并且正在研究新技术以提高 GPU 通信的速度。AWS则为客户提供用于在AWS云上提供训练和推理的硬件,新推出的网络EC2 Trn1n 实例,是巨头中首个推出专门面向生成式AI实例的玩家。云服务厂商通过自研或借道Nvidia部署算力集群,并逐步对外服务。我们当前的判断是如2017-2018年的应用程序生态、云计算工具触发互联网繁荣,本次2023-2024年生成式AI的训练、推理需求将带来大厂6-8个季度对算力和光模块的CAPEX不断上行,2023-2024年800G光模块的需求有望超市场预期。

0000
评论列表
共(0)条
热点
关注
推荐