首页 人工智能元宇宙大数据 企业智能化 智慧城市 科技 商务
当前位置:首页 > 人工智能

Supermicro在GTC2024上推出先进的生成式AI解决方案

来源:卫浴新闻,卫浴资讯,最新卫浴信息,卫浴行业媒体报道 发布日期:2024-03-25

Supermicro 推出了一套新的解决方案来推进生成式 AI 的部署,标志着大型语言模型 (LLM) 基础设施的发展迈出了重要一步。这些 SuperCluster 解决方案被设计为支持当前和未来人工智能需求的核心组件。

这个新版本包括三种不同的 SuperCluster 配置,专为生成式 AI 任务而定制。选项包括 4U 液冷系统和 8U 风冷设置,专为强化 LLM 培训和高容量 LLM 推理而设计。此外,采用 Supermicro NVIDIA MGX 系统的 1U 风冷变体适用于云规模推理应用。这些系统旨在在 LLM 训练中提供无与伦比的性能,拥有大批量大小和用于 LLM 推理的大量处理能力等功能。

AI集群扩容

Supermicro 每月能够生产多达 5,000 个机架,能够快速供应完整的生成式 AI 集群,承诺为客户提供更快的交付速度。例如,一个 64 节点集群可以包含 512 个 NVIDIA HGX H200 GPU,利用高速 NVIDIA Quantum-2 InfiniBand 和 Spectrum-X 以太网网络来实现强大的 AI 训练环境。与 NVIDIA AI Enterprise 软件结合使用,该配置是企业和云基础设施的理想解决方案,旨在训练具有数万亿参数的复杂法学硕士。

创新冷却和性能

与 8U 风冷替代方案相比,新型 Supermicro 4U NVIDIA HGX H100/H200 8-GPU 系统利用液体冷却将密度提高了一倍,从而降低了能耗并降低了数据中心的总拥有成本。这些系统支持基于 NVIDIA Blackwell 架构的下一代 GPU,采用高效冷却技术,可保持最佳温度以实现最佳性能。

超级集群规格

Supermicro SuperClusters 是可扩展的解决方案,用于训练大规模基础模型和创建云规模的 LLM 推理基础设施。凭借高度可扩展的网络架构,这些系统可以从 32 个节点扩展到数千个,确保无缝的可扩展性。集成先进的液体冷却和全面的测试流程可保证运营效率和有效性。

Supermicro 详细介绍了两种主要配置:配备 4U 液冷系统的 SuperCluster,能够在紧凑的占地面积内支持多达 512 个 GPU,以及配备 1U 风冷 NVIDIA MGX 系统的 SuperCluster,专为大容量、低延迟的推理任务而设计。两种配置都因其高网络性能而突出,这对于 LLM 训练和推理至关重要。

1肥胖率上升刺激了对大尺寸家具的需求这是全球市场的增长趋势

2适用于Android的PS2模拟器所有可用的最佳选项

3Meta在即将推出的Meta Quest UI更新中引入苹果Vision Pro

4小米的Mijia可调节风扇上市售价329元

5GarminForerunner255收到新的稳定更新并修复了错误

6麦迪逊清算人的客户现在可以使用现代隔间替代品

7大小合适的浴室应该是首要任务

8伦敦土地集团庆祝旗舰开发项目建设取得里程碑式的成就

9Vivo Y200e 5G手机发布在即获得BIS认证

10部分iPhone16系列机型有望配备更大电池

11Moto Watch 40为用户提供了超过85种表盘选项

12耗资1700万英镑的布里斯托尔零碳办公楼开发项目竣工

13适用于iOS和Android的最佳模因制作应用程序

14Android 15开发者预览版1上线新功能和兼容设备

15视频平台快手与合作开发HarmonyOS原生应用