高性能深度学习计算GPU服务器采购调研公告

模块/功能

子功能

规格及技术指标

备注

1.高性能深度学习计算GPU服务器

1.1 GPU服务器硬件参数

1. 机箱：≥4U标准机架式

2. CPU：≥2颗国产C86架构CPU，每颗CPU核心数≥32核且线程数≥64，CPU主频≥2.2G；

3. 内存：支持≥24个DDR5内存插槽，≥512GB DDR5内存

4. PCIE插槽：最大支持12个标准PCIe 5.0 x16扩展插槽，最高支持8个GPU加速卡，总FP16算力不小于560 TFLOPS，总显存不低于256 GB。

5. 存储：≥24ד2.5/3.5”SAS/SATA或最高支持16ד2.5”NVMe U.2 SSD。配置≥2块960GB SSD硬盘，≥4块3.84TB NVMe SSD硬盘；≥2个板载 M.2 SSD。

6. 网络：≥2个RJ45 1000M网口，≥2*25GE端口（满配25G多模光模块），≥2个10GE端口（满配多模光模块），支持标准PCIe网卡。

7. I/O接口：≥2个VGA接口，≥4个USB 接口，≥1 个 RJ-45 管理接口，支持常用管理串口。

8. 电源：支持3+1或2+2冗余，支持2700W/3200W CRPS 高效电源，总功率满足满配系统电力需求。

1.2管理软件

1. 管理软件嵌入服务器主板的独立硬件管理系统，独立于主 CPU、操作系统运行，只要服务器通电即可工作；

2. 设备自带服务器管理软件，远程控制，允许用户在服务器上进行远程操作，包括启动远程控制台、服务器电源控制，散热策略以及 BIOS 配置等；

3. 服务器自带品牌管理软件：可以对日志信息进行筛选、查看、导出及清空等；

4. 服务器自带品牌管理软件：可对机器的各个方面的进行配置，如时间日期、网络、SNMP、SMTP、防火墙、用户管理等；

5. 服务器自带品牌管理软件：可以对系统硬件信息进行查看与监控，包括资产信息、FRU 信息、RAID 信息、传感器信息、存储系统、硬件信息及监控；要求提供功能截图证明

6. 服务器自带品牌管理软件：故障诊断可重启 BMC，抓取自检代码及保存故障截屏等；

7. 服务器自带品牌管理软件：可对机器进行固件升级，恢复出厂设置，保留部分设置等操作；

1.3人工智能平台

1. 部署企业级人工智能平台软件，支持TensorFlow、PyTorch等多种主流深度学习框架。

2. 平台需具备智能资源调度功能，可根据任务的优先级、资源需求和用户配额，动态、合理地分配GPU、CPU和内存资源，最大化利用算力资源。

3. 提供完整的AI开发服务，包括但不限于：

l 算法训练：提供交互式Notebook开发环境与批量任务提交接口。

l 模型托管：支持模型版本管理、部署与API发布。

l 数据管理：提供数据集版本控制与安全访问机制。数据标注工具服务化，通过平台可以在线完成数据标注，标注后的数据可用于开发环境或训练任务，同时平台也支持标注工具的扩展。

l 训练环境管理：支持自定义镜像与预置常用AI环境。支持镜像上传下载/多版本管理/镜像共享。支持对容器进行管理，提供ssh等连接方式。

l 自动调参：支持AutoML超参数自动调整。

l 人员管理：支持多层次组织架构管理，人员信息、权限管理。

l 系统运维：多数据中心管理：支持接入多个数据中心并划分逻辑集群，通过统一平台调度管理。可在线动态扩容计算节点，灵活调整资源。实时监控节点状态、CPU、内存、GPU使用率及节点负载。

l 财务管理：支持硬件资源定价管理，支持记录平台充值/消费记录。

4. 通过该平台，科研人员将能够便捷地开展医学影像智能分析、多模态数据融合建模、疾病风险预测等前沿研究，极大地提升数据分析的深度与广度。