序号

名称

技术指标与功能要求

单位

数量

1

大模型训练服务器

1、规格：≤标准4U 双路机架式加速计算服务器，配置安装导轨；

★2、CPU： 配置性能不低于两颗 INTEL 第三代可扩展XEON CPU 32核 2.6GHz；

3、内存：配置≥1TB 3200MHz DDR4内存，最大支持32DIMM插槽,3200MHz ECC DDR4 SDRAM，最大支持12TB；

4、硬盘位扩展：最大支持30块硬盘位（最大支持24块2.5寸热插拔SAS/SATA硬盘以及最大支持6块3.5寸SATA硬盘），其中默认支持不少于8块2.5寸NVME U.2热插拔盘位，板载 SATA 控制器，提供≥ 10 个 SATA3 (6Gbps) ports；本次配置≥2块960GB 2.5寸 SATA SSD 企业级，≥5块7.68TB 2.5寸 U.2 NVME PCIE 4.0 SSD 企业级。

5、扩展性：≥12个PCI-E 4.0×16速率插槽（x16 英寸，10个双宽插槽）最大支持10张专业图形卡或加速卡； 不少于 1个OCP网卡插槽；

6、加速卡：本次配置≥8 块性能不低于 CUDA核心≥10750个，单精度浮点计算性能≥38.5TFLOPS，≥48GB显存，显存频率≥2000MHz；

7、网卡控制器：配置≥2个万兆网口；

8、电源：具备PMBus功能的 2000W 2+2高效冗余电源；

9、管理功能：支持IPMI2.0，对外提供1个100/1000 Mbps RJ45管理网口，集成iKVM，支持远程管理；

★10、 质保 ：不低于 3年质保服务，不低于3年7*24小时电话支持服务；

★ 11、 提供部署 Kubernetes集群堆栈，包括深度学习框架、机器学习库、Kubeflow平台、Gang Scheduling调度组件等服务，用于训练和推理运算和部署（提供软件功能截图）。

套

2

2

小模型共享训练服务器

1、规格：≤标准4U 双路机架式加速计算服务器，配置安装导轨；

★2、CPU： 配置性能不低于两颗 INTEL 第三代可扩展XEON CPU 32核 2.6GHz；

3、内存：配置≥768GB/DDR4/3200MHz，最大支持32DIMM插槽,3200MHz ECC DDR4 SDRAM，最大支持6TB；

4、硬盘位扩展：最大支持30块硬盘位（最大支持24块2.5寸热插拔SAS/SATA硬盘以及最大支持6块3.5寸SATA硬盘，其中默认支持不少于8块2.5寸NVME U.2热插拔盘位，板载 SATA 控制器，提供≥ 10 个 SATA3 (6Gbps) ports；本次配置≥2块480GB 2.5寸 SATA SSD 企业级，≥4块7.68TB 2.5寸 U.2 NVME PCIE 4.0 SSD 企业级。

5、扩展性：≥12个PCI-E 4.0×16速率插槽（x16 英寸，10个双宽插槽）最大支持10张专业图形卡或加速卡； 不少于 1 个 OCP网卡插槽；

6、加速卡：本次配置≥8 块，性能不低于 CUDA核心≥10490个，单精度浮点计算性能≥35 TFLOPS，≥24GB显存，显存频率≥19400MHz；

7、网卡控制器：配置≥2个万兆网口；

8、电源： 具备 PMBus功能的 2000W 2+2高效冗余电源；

9、 管理功能：支持 IPMI2.0，对外提供1个100/1000 Mbps RJ45管理网口，集成iKVM，支持远程管理；

★10、 质保 ： 不低于 3年质保服务，不低于3年7*24小时电话支持服 务；

套

2

3

推理工作站

1、处理器：≥Core i7-12700；

2、内存：≥64GB 3200MHz；

3、硬盘：≥2TB SSD +2TB HD 7200RPM

4、鼠标键盘：无线键鼠套装；

5、GPU计算卡：CUDA核心≥7680个，≥12GB显存；

6、网卡：千兆以太网卡；Wi-Fi6无线网卡；

7、服务： 不低于 三年质保服务。

8、预装正版操作系统和正版办公软件

台

8

4

显示器（ 1）

1、 屏幕尺寸： ≥27寸2K ,IPS显示器

2、 屏幕比例： 16:9

3、接口类型：不少于HDMI*2

台

5

5

显示器（ 2）

1、 屏幕尺寸： ≥31.5寸4K ，IPS显示器

2、 屏幕比例： 16:9

3、 接口类型：不少于 HDMI*1，不少于DP*1

台

5

6

人工智能开发平台

1、人工智能开发平台软件必须为商用软件，软件包含异构计算集群调度、AI开发全流程管理、数据管理、集群监控和统计等功能，提供 ≥2个license授权满足节点使用。

★2、用户通过前端在线填报系统，进行账号申请。申请内容可自定义，具备≥15 种以上控件，通过拖拽的方式搭建申请内容，预留可发布至教学平台或第三方移动端应用的接口，填报内容可导出。审批通过后方可使用人工智能平台。（提供功能截图）

人工智能开发平台主要功能：在线开发、训练分布式支持、弹性任务、模型管理、统一管理、模型测试、算法管理、工作流管理 .

在线开发：

1.交互式开发：支持用户通过平台内置AI镜像或用户自定义镜像进行环境创建交互式开发环境，环境实例可以使用CPU资源也可以使用GPU资源；开发环境支持Jupyter、web shell的在线交互开发，支持对接第三方开发工具（如VSCode、PyCharm）；

2.开发过程评估：支持开发环境容器维度的资源监控，包括CPU、内存、加速卡（计算利用率、显存利用率、nvlink带宽）、网络IO、磁盘IO的实时监控，提供页面化的实时动态趋势图展示；

3.支持基于web的资源组管理，不同异构加速卡可以划为1个资源组。资源组可设置不同的任务使用策略、资源配额约束和任务超时控制策略。

4.GPU共享细粒度管理：支持调度挂载多张GPU共享卡的开发环境，例如单个开发环境可以挂载2张GPU卡，每张GPU卡显存大小不小于1G

训练分布式支持：

支持 AI模型的多机分布式训练，提供模板可以提交Tensorflow、Caffe、Deepspeed、megatron、pytorch、PaddlePaddle、MXNet框架的分布式训练作业，支持的分布式类型有：MPI、Master/Worker、PS/Worker、Server/Worker、Pytorch DDP等；

训练资源自定义配置：用户可通过页面的方式，指定任务使用的容器数量、加速卡数量、内存、指定不同的加速卡型号资源，并且可以实时查看训练日志，监控各容器内资源使用状况；同时提供服务端口开放功能，容器内服务端口自动映射至平台开放端口；

训练可视化：支持 tensorboard、Visdom、Netscope可视化框架，用户可以通过页面化方式发起可视化服务

训练过程评估：支持训练过程中训练日志；支持训练容器维度的资源监控，包括 CPU、内存、加速卡（计算利用率、显存利用率、nvlink带宽）、网络IO、磁盘IO的实时监控，提供页面化的实时动态趋势图展示；

弹性任务：

支持按照 worker的最大值弹性伸缩，按需动态分配计算资源；可以根据运行情况，动态调整训练任务资源，保障巨量规模训练的时效性和可靠性；

模型管理：

模型导入：将生产训练好的模型按照不同模型类别、版本有序进行存储和管理，管理的维度有：模型名称、版本、场景、训练数据、训练镜像和脚本、模型文件、模型描述、参数信息（如 batch size、learning rate、weight_decay、momentum等）和评估信息（如评估数据、评估镜像、召回率、准确率、精确率、F1值等）；支持将符合技术标准的外部训练模型导入，在平台中进行统一管理

版本管理：支持模型版本化管理，提供模型多次迭代间的版本化组织功能；

模型测试：

模型测试：支持模型在线测试和离线测试两种方式，具体包括：

在线测试：用户可以页面化发起在线测试任务，通过开发服务端口的方式提供模型测试服务，支持常见的在线测试方式，如 tensorflow-serving、tensorRT-server、torch-server等，支持http、gRPC等多种调用方式；

离线测试：用户可以页面化发起离线测试任务，用户指定测试使用的资源规格（ CPU、加速卡型号及个数）、离线测试脚本、离线测试数据等，发起任务后，平台自动将模型挂载至离线测试任务环境内，根据用户自定义脚本批处理式的进行模型测试

算法管理：

算法管理：平台可以规范模型训练的输入、训练使用镜像、训练资源规格、输出，提供算法的版本化管理。

算法创建：平台提供页面化的算法管理功能，算法包括名称、版本、运行时镜像、训练脚本 /命令、环境变量、模型、资源规格（CPU、加速卡种类及个数等）、单机或分布式运行模式、描述等；

工作流管理：

平台提供工作流调度功能；用户可以定义模型训练的数据处理、模型算法训练过程，支持自定义数据处理脚本、数据输入输出、数据处理任务资源规格，支持自定义选择模型算法、运行参数、环境变量、模型挂载、单机分布式运行模式，用户可自定义模型导出相关信息（如模型名及版本）；

工作流自定义运行周期：工作流支持手动触发运行；支持周期性运行模式，间隔固定时间后由平台自动触发运行；

工作流定义子任务：支持创建多个子任务，每个子任务独立运行，多个任务以串行方式运行；

工作流模型导入：工作流产生的模型，可自动导入至模型管理模块；

套

1

7

数据中心集群配件

1、 服务器内存： RECC DDR4 2400 2R×4 单条 不小于 32GB，不少于32条

2、 RAID卡：≥8个端口；缓存≥2G,12Gb；支持U.2 NVME，配置电池模块，不少于4块

3、 数据中心组别固态硬盘： ≥1.92TB;写入寿命≥8.8PBW,SATA接口，不少于15块

套

1

8

VRV多联机空调

1、 类型：多联机 1托2空调

2、 空调匹数： ≥10匹

3、 内机采用嵌入式内机

4、 制冷量： ≥26000瓦

5、 制冷功率： ≥8150瓦

6、 制热量： ≥28000瓦

7、 制热功率： ≥7800瓦

8、 室内机噪音： 36/41分贝

9、 新冷媒：新冷媒 R410A

台

1