长沙市第一医院AI服务器采购需求公开

一、功能及要求：

1、为点击登录查看提供AI服务器

2、本项目落实《促进中小企业发展》政策

二、相关标准：

采购标的满足相关国家、行业标准

三、技术规格：

★（一）硬件参数

1、品牌及规格：国产品牌。

2、单机配置不少于2颗高性能处理器，单颗处理器核数不少于48核，主频不低于2.1GHz。

3、单机配置不少于2048G内存，频率≥ 5600MHz。

4、单机配置不少于≥2 块960G SSD，配置RAID1，≥2块7.68TB NVME 固态硬盘；配置≥1块阵列卡，阵列卡配置≥1G缓存。

5、GPU 加速卡数量：不少于8 块。

6、GPU 加速卡单卡参数：支持 CUDA ，GPU 核心数≥10240，显存≥48GB，支持INT8、FPB、BF16、FP16等多种精度运算。

7、单机配置不少于2个万兆光口（带万兆多模模块）。

8、电源：满配电源模块，N+N 冗余。

9、支持运行deepseek 70B及以上模型，支持Qwen系列 70B 及以上模型，提供免费模型下载及更新服务。

（二）配套软件要求

2.1、基础要求：

▲2.1.1、满足企业不同算力场景落地需求，同时提供AI推理服务实例、云主机实例、容器实例、裸金属实例统一管理界面。（提供软件运行截图证明材料）

2.1.2、平台提供分布式元数据存储系统，支持三副本高可用架构，能够实现故障快速拉起；同时分布式元数据存储系统为AI每个推理服务提供多层缓存加速技术，可大幅提升模型读速度。

2.1.3、为保证平台架构的灵活性和扩展性，平台须支持多种存储协议，包括NFS、RBD、FC、iSCSI、CBD和vHost，以适应不同的数据需求。

2.2、GPU运维管理

2.2.1、为保障客户快速查询GPU卡，平台支持按照云主机集群、容器集群、裸金属集群展示GPU卡分布情况，直观显示GPU数量分布以及GPU加载的实例。

2.2.2、为满足运维人员了解GPU设备基本情况并在故障发生时及时定位排查，平台需提供详细的GPU信息，包括GPU厂商、型号、类型、显存大小、实时监测并展示GPU设备状态和负载情况，提供GPU温度、利用率、显存利用率、功耗、温度、风扇转速、PCIe RX吞吐量、PCIe TX吞吐量监控数据。

▲2.2.3、支持不少于三种品牌国产GPU卡的运维监控，如昇腾、海光、燧原、天数智芯等，单平台支持 2000+卡的管理运维。（提供软件运行截图证明材料）

2.2.4、提供GPU温度/负载报警阈值可根据实际业务需求灵活设置，满足多维度的GPU监控对应报警条目，包含GPU设备故障、温度过高、负载过高，预防和修复GPU问题，避免造成业务影响。

2.2.5、告警消息支持向邮箱、短信、Webhook、SNMP Trap钉钉、企业微信、飞书、Microsoft Teams通知对象发送告警消息。

2.3、AI数据管理

2.3.1、支持DeepSeek、Qwen、LLaMA、ChatGLM等业内主流模型部署，支持传统或经典的小模型网络如Yolo，Resnet等的模型部署。

▲2.3.2、提供模型仓库统一存放和管理AI模型，仓库类型支持大语言模型、音频生成和处理、图像生成和处理、重排序模型、文本嵌入模型、多模态模型及其他类型，支持通过类型快速筛选模型。并内置基础模型，方便分类和快速筛选。（提供软件运行截图证明材料）

2.3.3、系统多款开源模型（如Qwen、Stable diffusion、XTTS、Yolo等），支持本地预览文件、创建推理服务、设定为模型绑定默认推理模板、删除等管理操作。

2.3.4、支持将第三方模型导入模型仓库统一管理，支持从本地上传或通过HuggingFace、ModelScope等快速下载开源模型到平台。

2.3.5、平台须支持模型全生命周期管理，包括以下功能：支持模型的导入、删除、精调、部署、评估等操作。

2.3.6、支持对模型进行多版本管理，支持记录模型的各类主数据信息，包括但不限于模型名称、模型类型、模型框架、模型体积、模型标签、模型描述、所属项目、创建人、创建时间、存储信息、文件列表、输入输出参数、最小运行资源。对于平台训练生成的模型，支持回溯查看实验任务和数据集。

2.3.7、模型文件类型支持第三方模型主流开源框架，必须支持三种以上的主流开源框架。镜像文件类型的第三方模型全量支持，通过容器镜像屏蔽框架差异。

2.3.8、支持利旧用户现有NFS和S3协议存储作为AI 模型平台的数据存储存放模型文件等冷数据。

2.3.9、为方便客户快速定位数据集，支持按照使用场景和数据类型两种方式进行定位，使用场景包含模型精调、模型能力评测和服务性能评测，数据类型支持文件、图片、音频、视频、表格、地理空间和时间序列。

2.4、模型部署与开发

▲2.4.1、为满足业务多样性，平台部署推理服务须同时支持基于容器实例和云主机实例两种方式，用户可根据需求选择合适的底座，平台需提供对容器和云主机的开关机、修改操作系统等全生命周期管理及批量管理功能。（提供软件运行截图证明材料）

▲2.4.2、AI模型平台须支持一键部署AI推理服务，在选择目标模型算法和推理模板后，系统根据模型算法智能计算和填充最低CPU、内存、GPU配置参数，同时也支持用户自定义修改配置参数。(提供截图证明材料)

2.4.3、支持展示推理服务的基本信息，例如状态、所有者、创建时间等。展示每个服务的实例资源名称、CPU、内存、GPU。展示任务的运行日志，支持通过筛选实例查看日志。支持UI可视化的查看推理服务的请求时长、请求次数、请求失败率等图表，允许用户自定义设置监控的时间段。

2.4.4、推理服务须支持 Notebook 工具，用户可通过Jupyter 或类似工具查看推理服务中的各种文件信息，并进行在线开发调试。

2.4.5、支持缓存加速, 为本地模型推理实例提供性能优化。

2.5、模型调优训练

2.5.1、平台支持通过云主机或容器的方式创建模型精调服务，支持自定义关联模型和数据集。

2.5.2、平台提供可视化精调工作台界面，支持查看训练损失、学习率等关键指标，支持跨团队共享模型资源，提升协作效率。

2.6、模型评估

▲2.6.1、支持对AI模型平台应的模型推理能力、推理服务性能进行评估，满足以下要求：支持基于系统数据集或自定义数据集对模型推理能力进行抽样测评；提供可视化界面展示评估结果，生成详细的评测报告；支持导出测评记录文件，便于后续分析与存档。（提供软件运行截图证明材料）

2.6.2、支持对平台中的推理服务和外部的推理服务进行统一模型评估，支持自定义并发请求数量、输出详细日志和性能参数报告（如耗时、延迟、吞吐等）。

▲2.6.3、支持对大语言模型进行评估，支持的指标包括但不限于准确率（Accuracy）、BLEU、ROUGE-1、ROUGE-2、ROUGE-L、Pass@k（k=1）、F1-score、Exact Match。

2.7、AI应用开发

▲2.7.1、平台须支持应用开发服务，包括集成Dify、FastGPT、ComfyUI等第三方应用。可在平台上进行RAG知识库管理、多推理服务编排及应用开发。同时，平台应具备可视化模型编排工作流设计并一键部署，支持自定义工作流设置，满足不同业务场景需求，提升应用运行效率和管理便捷性。（提供软件运行截图证明材料）

2.8、AI 服务统计与运维

2.8.1、支持可视化统计和展示平台已有的全部 AI 数据数量和使用容量, 已使用的 AI 服务数量, 以及所使用的资源实例状态和规格等信息。

2.8.2、支持实时监控和可视化展示 AI 平台的全部管理服务状态, 以及对应的资源实例状态和规格等信息, 方便用户及时掌握平台运行情况。

（三）其他需求

3.1、投标人需配合医院完成AI应用在院内业务软件（包括但不限定HIS系统、电子病历系统、微信公众号等）中的部署，费用包含在本合同总金额内。

3.2、投标人需配合医院完成AI应用模型在相关单位的备案工作，费用包含在本合同总金额内。

★3.3、投标人承诺中标后提供设备及配套软件的原厂交付服务及5年原厂质保售后服务(投标人需提供相关承诺书盖公章，格式自拟)。

3.4、投标人在验收之前需至少安排1名专业技术人员提供5*8小时驻场服务。

四、交付时间和地点：

1、交货时间：合同签订后30天内完成。

2、交货地点：点击登录查看（买方所在地的指定交货地点）

五、服务标准：

（一）供货范围：

1、产品正常使用时所需的附件、工具等；

2、投标人负责产品到施工地点的全部运输，包括装卸及现场搬运等；

3、投标人负责产品在施工地点的保管，直至项目安装验收合格；

4、投标人负责其派出的施工人员的人身意外保险。

（二）质量保证：

1、投标人提供的产品应是原装正品产品，必须符合国家现行强制性质量检测标准。

2、质保期从验收合格后开始计算，质保期内所有产品维护等要求免费上门服务。投标人提供的产品应是全新、原装正品，符合国家质量检测标准，具有出厂合格证或国家鉴定合格证。投标人提供的产品“铭牌”必须符合《产品质量法》中十七款“生产者责任”的规定。

六、验收标准：

1、项目验收另有国家有强制性规定的，按国家规定执行，验收报告作为申请付款的凭证之一。

2、投标人负责所有货物的安装、调试，按合同规定的时间安装、调试并交付使用，验收过程中产生纠纷的，由质量技术监督部门认定的检测机构检测,如为投标人原因造成的，由投标人承担检测费用。

3、项目验收不合格，由投标人返工直至合格，有关返工、再行验收，以及给采购人造成的损失等费用由投标人承担。连续两次项目验收不合格的，采购人可终止合同，另行按规定选择其他供应商采购，由此带来的一切损失由投标人承担。

七、其他要求：

无

采购需求仅供参考，相关内容以采购文件为准。