为深度学习和人工智能构建 IT 基础设施是一项艰巨的任务。部署人工智能工作负载所使用的技术和实践与传统企业IT应用程序有很大不同。这可能会迫使 IT 从业人员使用新的（如果不是不熟悉的）技能，从而给 IT 项目带来一定程度的风险。
尤其是生成式人工智能，对几乎所有行业的 IT 团队都提出了新的要求。生成式 AI 所需的 GPU 价格昂贵且耗电，您可能需要很多。调整存储来满足那些需要大量数据的 GPU 需要采用新技术，例如 NVIDIA 的GPUDirect，该技术使应用程序能够将数据从主存储直接传输到 GPU 内存中。该软件堆栈看起来几乎与企业 IT 中的其他任何东西都不同。这样的例子不胜枚举。
戴尔科技集团和 NVIDIA 正在共同努力降低构建和部署生成式 AI 基础设施的复杂性。两家公司今年早些时候在 Dell Technologies World 上宣布了 Project Helix，戴尔将其描述为基于戴尔和 NVIDIA 基础设施和软件提供具有技术专业知识和预构建工具的全栈解决方案。
戴尔和 NVIDIA 宣布了 Project Helix 的第一个具体元素。两家公司正在为基于 NVIDIA 加速器和软件的推理系统提供经过验证的设计、帮助企业拥抱生成式 AI 的专业服务以及用于 AI 开发的全新 Dell Precision 工作站。
生成式人工智能验证设计
经过验证的设计使 IT 组织能够采用配方驱动的方法来构建基础设施。戴尔在通过经过验证的设计实现快速技术采用方面有着悠久的历史，其中包括戴尔经过验证的分析、HPC 和 ORAN 设计等。现在，戴尔拥有一套经过验证的生成式人工智能推理设计。
戴尔和 NVIDIA 共同设计了戴尔生成式 AI 验证设计，为构建生成式 AI 推理基础设施提供了蓝图。经过验证的设计是一系列经过预先测试、经过验证的配置，基于 Dell PowerEdge 服务器并结合了适当的 NVIDIA 加速器。
戴尔与 NVIDIA 合作的生成式 AI 验证设计可通过传统戴尔渠道在全球范围内销售。戴尔还通过其 APEX 即服务产品提供基于经过验证的设计的系统。
服务器和存储
生成式 AI 蓝图提供了服务器选择：Dell PowerEdge XE8640、PowerEdge XE9680 或 PowerEdge R760xa。所有这些服务器均基于最新一代英特尔至强处理器。鉴于 AMD 在这一领域的成功，令人惊讶的是 AMD 似乎没有选择。经过验证的设计中的服务器支持四到八个通过 NVIDIA NVLink 技术连接的 NVIDIA Hopper H100 GPU。
存储选项比服务器产品更广泛。戴尔正在支持其PowerScale过滤器和ECS对象存储。两个系统都支持 NVIDIA 的 GPUDirect，以便在向集群内的 GPU 提供数据时提高性能并减少延迟。
基于 NVIDIA 的企业 AI 软件堆栈
虽然生成式人工智能是硬件密集型的，但真正发挥作用的是软件堆栈。每个经过戴尔验证的生成式 AI 设计都在很大程度上依赖于 NVIDIA 的企业 AI 堆栈。这包括以下 NVIDIA 软件元素：
NVIDIA AI Enterprise 提供端到端、云原生的 AI 和数据分析软件套件。
Triton 推理服务器用于标准化和加速生产环境中的 AI 模型部署和执行。
Triton 模型分析器分析 AI 模型以识别潜在的部署问题，包括硬件的延迟和充足性。
更快的 Transformer技术，用于优化语言处理。
NVIDIA NeMo 框架，用于构建、自定义和部署具有数十亿参数的生成式 AI 模型。
集群管理器通过 AI 集群管理 AI 节点的配置和操作。
戴尔 Precision AI 工作站
戴尔的 Precision 工作站长期以来一直受到数据科学家和人工智能研究人员的欢迎。作为其最近公告的一部分，戴尔发布了新的 Dell Precision AI 工作站。
新工作站混合了基于 AMD Threadripper 和 Intel Xeon 处理器的型号，并配备了多达四个 NVIDIA RTX 6000 GPU。新的工作站型号将于八月份通过戴尔常规销售渠道发售。
人工智能专业服务
专业服务始终是戴尔整体客户体验的核心。该公司提供广泛的服务，包括云采用、APEX、大数据、业务弹性和多个数字化转型专业。戴尔已扩展其服务范围，现已包括生成式人工智能。
戴尔的专业服务团队在人工智能实施的整个生命周期中直接与客户合作。这包括与客户合作创建生成式人工智能策略，识别高价值用例并跟进全栈实施服务。部署后，戴尔专业服务可以继续参与以确保运营效率、提供托管服务，甚至处理员工培训。
分析师的看法
人工智能无处不在。几乎每天都会听说生成式人工智能将改变企业运营方式的另一种方式。这并不全是炒作；而是。生成式人工智能具有颠覆性。生成式人工智能将影响业务流程，并且已经改变了企业对数字化转型的看法。更重要的是，人工智能正在改变 IT 从业者对基础设施的看法。
鉴于人工智能新闻的不断轰炸，人们很容易忘记这项技术到底有多新。该行业仍在寻找最佳实践。这些技术都不是商品。任何拥有生成式 AI 项目的 IT 组织都会面临解决方案的成本和复杂性问题，而任何能够缓解这一问题的方法都是有益的。
我一直是戴尔经过验证的设计的粉丝，我真的很喜欢生成式人工智能的新选项。遵循戴尔和 NVIDIA 的蓝图可以消除构建和部署生成式 AI 基础设施的大部分风险。让戴尔的专业服务团队帮助您消除更多风险，尽可能确保您取得成功。任何能够简化 IT 从业者生活的事物（如戴尔的新产品）都是好事。
【公司名称】四川旭辉星创科技有限公司
【代理级别】成都戴尔服务器工作站总代理
【销售经理】李经理
【联系方式】座机：028-85596747 手机：13540160369
【公司地址】成都市人民南路4段 桐梓林 商鼎国际2号楼1单元1913
请用微信扫描二维码
