# HPE 卖“盒装 AI”，FDE 的活从到货那天开始

> 交钥匙只保证部件能协同，不回答数据在哪、GPU 归谁、模型怎样进入内网。

原文: https://fdetimes.net/zh/guides/hpe-private-cloud-ai-five-layers/

合同已经签了。几周后，一机柜 GPU 服务器会装进客户的数据中心，附带一句承诺：这是“盒装 AI”。把这个盒子变成跑在客户真实数据上的应用，是你的事。

HPE Private Cloud AI 是这类项目的典型。HPE 与 NVIDIA 联合开发了这套技术栈，按四种配置销售，每种配置对应一类 AI 工作负载。

Constellation Research 的分析师观察到，这种交钥匙技术栈对业务负责人很有吸引力。他们同时提醒，早期采用不太可能迅速起量，因为大多数客户仍在试验阶段。

从“买了”到“能用”之间的这段距离，正是前线部署工程师（FDE）谋生的地方。你可能受雇于硬件厂商、集成合作伙伴，或是一家产品必须跑在客户本地基础设施上的 AI 创业公司。

无论坐在哪个位置，所需的能力都一样：拿到一个交钥匙产品，看出客户还有哪些决定没做。

## 交钥匙只意味着部件能装到一起

交钥匙产品只解决一个问题：各组件已经测试过，可以协同工作。它不会告诉你客户的数据放在哪里、哪个团队分到多少 GPU、模型经由什么途径才允许进入内网。这些问题只有客户能回答，而提问的人是你。

要问对问题，先把技术栈逐层拆开。HPE Private Cloud AI 的最底层是 HPE ProLiant 服务器，支持 NVIDIA L40S、H100 NVL GPU 以及 GH200 NVL2 平台。

其上是 NVIDIA AI Enterprise，包含 NIM 推理微服务。再往上是 HPE AI Essentials，一套经过筛选的 AI 与数据工具，通过统一控制平面管理。

剩下两层最容易被忽视。HPE Data Fabric 是数据层，自 2025 年 3 月的版本起，可以作为 Apache Iceberg 端点服务于 AI 工程工作。运维通过 HPE GreenLake 完成，其中的 OpsRamp AI 助手帮助 IT 团队监控工作负载性能。

## 五层地图及对应的问题

下表每一层的最后一列，是带进需求调研会的问题。

| 层 | 组件 | 要问客户的问题 |
|---|---|---|
| 硬件 | ProLiant，L40S / H100 NVL / GH200 NVL2 GPU | 主要工作负载是推理、微调还是两者都有？选了四种配置中的哪一种？ |
| 数据 | HPE Data Fabric，Iceberg 端点 | 源数据已经在 Iceberg 湖仓里，还是仍分散在多个系统中？ |
| 推理 | NVIDIA AI Enterprise，NIM | 需要哪些模型？模型以什么方式允许进入内网？ |
| 工具 | HPE AI Essentials，NVIDIA blueprint | 有没有接近该用例的现成 blueprint？ |
| 运维 | GreenLake，OpsRamp，隔离网络，多租户 | 系统是否必须与互联网完全隔离？会有几个团队共用？ |

## 实例推演：为一家银行做检索助手

以下是一个假设场景。一家银行购买了 Private Cloud AI，想基于内部文档做一个问答助手。两个团队共用：风险管理和客户服务。安全部门要求系统不得有任何通往互联网的路径。

从最难的约束入手。2025 年 6 月的版本新增了隔离网络（air-gapped）管理模式，面向数据隐私要求严格的客户。

因此，方案一开始就要列出所有通常需要从外部拉取的内容，例如模型权重、微服务镜像和更新，并与客户安全团队商定每一项如何带入内部、由谁签字批准。

接下来确定起点。平台支持针对常见工作负载预先验证过的 NVIDIA blueprint，所以应先找一个接近文档问答的 blueprint，而不是从零搭建。blueprint 能让你尽早拿出可用版本，但决定质量的仍是数据。

在数据层，假设银行已经把政策文档和风险报告以 Iceberg 表的形式载入湖仓。Data Fabric 现在可以充当 Iceberg 端点，你很可能可以减少把数据复制到别处的工作。这一点要先与客户的数据团队核实，再写进方案。

如果数据仍分散在多个系统中，整合数据将是整个项目最大的工作量，应在第一周就告诉客户。

最后是资源划分。多租户功能允许组织按团队划分和分配资源。提前商定每个团队的配额，并定下规则：客服团队不能检索风险报告。一开始设计错了，日后在线上系统里修改访问权限，代价非常高。

**要点:** 买交钥匙产品缩短了安装时间，但把它接上数据和人员，仍是你的工作。

## 工作顺序

先约束，后功能。先定网络策略（是否隔离），再定租户边界，最后才选模型和 blueprint。顺序反过来，很容易做出一个精致的演示，才发现它不被允许连接所需的系统。

如果客户仍在试验阶段，不要直接推向生产环境。HPE 在 2025 年 3 月推出了开发者版，定位为 AI 开发的起点，内置 32TB 集成存储。

HPE 还在 Equinix 数据中心开展“先试后买”计划。在客户订购大型配置之前，用这些途径验证用例。

谈到扩容时，记住 HPE 已承诺该平台可跨多代 GPU 扩展。即便如此，也要记录应用中哪些部分依赖特定 GPU 型号，免得下一次升级变成一个新项目。

## 常见错误

最常见的错误是相信“交钥匙”三个字，在弄清数据在哪之前就承诺交付日期。第二是凭直觉选择 GPU 配置，而 GPU 型号决定了系统规模和适合跑哪些工作负载。

第三是把隔离网络当成一个勾选项，实际上它会改变日后更新模型的整个流程。第四是为了“快”让所有团队共用一个资源池，等真实用户进来后又不得不拆分。

最后一个是忽视运维层：如果客户的 IT 团队不会通过 GreenLake 监控系统，半夜接电话的就是你。

## 把这项能力写进简历

阅读 FDE 岗位描述时，留意 on-prem、air-gapped 这类词。它们说明产品要跑在客户的基础设施内部，有时还与互联网完全隔离。multi-tenant、NIM 或 Iceberg 这类词则指明你将使用的具体技术栈。

简历上避免“部署了 AI 解决方案”这种空泛表述。写清你处理过的一个具体约束，例如把模型带入没有互联网访问的环境，或在一个 GPU 集群上为多个团队设计配额，并说清你做了什么。

最早购买 AI 盒子的客户，往往还不知道要用它做什么。懂得在五个层次问出那五个问题的部署工程师，才能帮他们找到答案。

**本周动手试试:**

- 选一个客户正在使用或计划购买的 AI 平台，拆成五层，每层写一个需求调研问题
- 为隔离网络场景写一页方案：列出系统需要从外部获取的全部内容，以及每一项如何带入内部
- 用熟悉的工具打开一张 Iceberg 表，记下它的 schema，以及你会用作检索元数据的列

## 信源

- [Hewlett Packard Enterprise and NVIDIA Announce Co-Developed AI Solutions](https://www.storagereview.com/news/hewlett-packard-enterprise-and-nvidia-announce-co-developed-ai-solutions)

- [HPE unveils Private Cloud AI, broad Nvidia partnership aimed at genAI workloads](https://www.constellationr.com/insights/news/hpe-unveils-private-cloud-ai-broad-nvidia-partnership-aimed-genai-workloads)

- [HPE, Nvidia broaden AI infrastructure lineup](https://www.networkworld.com/article/3848304/hpe-nvidia-broaden-ai-infrastructure-lineup.html)

- [HPE Launches AI Factory Solutions Powered by Blackwell GPUs and Gen12 Servers](https://www.storagereview.com/news/hpe-launches-ai-factory-solutions-powered-by-blackwell-gpus-and-gen12-servers)