探秘全球最大 AI 集群 xAI Colossus：122 天建成，10 万张英伟达 H100 构筑马斯克 AI 愿景

GoodNav 10 月 29 日报道，科技媒体 servethehome 在 10 月 28 日发表了一篇博文，应 xAI 公司的邀请，参观了全球最大的 AI 训练集群 Colossus。

今年 9 月份有报道称，xAI 在 Supermicro 的支持下，在短短 122 天内构建了 10 万张英伟达 H100，并计划未来再增加 10 万张 GPU，其中 5 万张将是更先进的 H200。

xAI Colossus 采用了英伟达 HGX H100 服务器，每台服务器配置 8 张 H100 GPU，所有服务器均在 Supermicro 的 4U 水冷系统中运行，以确保良好的散热效果。

每个机架可容纳 8 台服务器，8 台服务器形成 1 个阵列，意味着每个阵列拥有 512 个 GPU。Colossus 集群内超过1,500个 GPU 机架，支持高带宽网络互联。

每个 GPU 配备 400GbE 网络接口控制器，确保每台 HGX H100 服务器的以太网带宽达到 3.6 Terabit 每秒。

xAI 使用 Supermicro 的 4U 通用 GPU 系统，这些系统结合了先进的液冷技术，以提高散热效率，确保高性能计算的稳定性。液冷设计使得系统在高负荷运行时能够保持较低温度，从而延长设备的使用寿命。

此次展示得到了埃隆·马斯克及其团队的特别批准，由于构建全球最大 AI 集群的敏感性，部分内容在视频中被模糊处理，而 Supermicro 是此次巡展的赞助商，彰显了其在行业中的重要地位。