人工智能的浪潮仍在继续,惠普企业和戴尔科技均推出了面向训练大型语言模型 (LLM) 的新服务器。
HPE 的新款 HPE ProLiant Compute XD685 采用AMD 最新推出的第五代 Epyc 处理器和 Instinct MI325X 加速器,支持自然语言处理、LLM 和多模态 AI 训练。XD685 采用模块化 5U 机箱,支持多种 GPU、CPU 组合,提供风冷和直接液冷两种冷却方式。它最多支持 8 个 Instinct MI325X 加速器,内存带宽为 6 Tbps。
Instinct GPU 具有 HBM3E 共享内存,因此所有卡都显示为一个大内存池。这意味着需要更少的卡来实现相同的性能水平,从而降低总体拥有成本。
XD685 的另一个优势是其由 HPE Services 提供的服务套件,用于设置大型 AI 集群。这包括配置、验证和测试协助,以缩短部署时间。安全性通过 HPE Integrated Lights-Out (iLO) 技术提供,提供嵌入到硅片中的生产级安全性
HPE ProLiant Compute XD685 可通过 HPE 订购,并将于 2025 年第一季度全面上市。
与此同时,戴尔科技集团继续通过戴尔 AI Factory 旗下的一系列产品扩展其广泛的生成式 AI 解决方案组合。
首先是一系列新的 PowerEdge 服务器。PowerEdge XE9712 为 LLM 训练和大规模 AI 部署的实时推理提供高性能、密集加速。它使用 Nvidia 的 GB200 NVL72,在机架级设计中配备多达 36 个 NVIDIA Grace CPU 和 72 个 NVIDIA Blackwell GPU。72 个 GPU 通过 NVLink 域连接,充当单个 GPU,可实现高达 30 倍的实时、万亿参数 LLM 推理速度。
Dell PowerEdge M7725 专为高性能密集计算而设计,非常适合研究、政府、金融科技和高等教育环境。Dell PowerEdge M7725 每机架可扩展至 24K-27K 个核心,配备 64 或 72 个双插槽节点,使用第五代 AMD Epyc 处理器。它同时使用直接液体冷却和空气冷却。
除了计算之外,戴尔还通过其 PowerScale 存储设备提供非结构化存储和数据管理,以提高人工智能应用程序的性能并提供简化的全局数据管理。
新的 PowerScale 具有更快的元数据和 Dell Data Lakehouse 发现功能,而新的 61TB 驱动器则提高了容量和效率,并将数据中心存储空间减少了一半。PowerScale 还增加了 InfiniBand 功能和 200GbE 以太网适配器支持,可提供高达 63% 的更快吞吐量。
为了安装所有这些硬件,戴尔推出了 Integrated Rack 7000 (IR7000),它以更高的密度、更可持续的电源管理和先进的冷却技术来满足加速计算需求。它基于开放计算项目 (OCP) 标准。
IR7000 机架专为液体冷却而设计,能够冷却高达 480KW 的未来部署。据戴尔称,它能够捕获近 100% 产生的热量。它支持戴尔和现成的网络,是一个集成的即插即用机架级系统。
【代理级别】成都戴尔服务器工作站代理商
【销售经理】李丹经理
【联系方式】微信电话:13438344046
【公司地址】成都市二环路南一段侠客岛商务写字楼
请用微信扫描二维码