技术规格及参数 | 1.CPU：配置2颗服务器级处理器，单颗物理核心数不少于128核，单颗线程数不少于256线程，基础主频不低于2.25GHz,配备 256MB 三级缓存，支持DDR5-5600高速内存，数据吞吐能力强；
2.内存：单根≥64 DDR5 RDIMM 4800MHz频率 ,内存总容量≥1TB；≥24个内存插槽；
3.硬盘1(系统)：配置不低于8TB SSD NVMe PCIe 5
4. 显卡：总显存大于等于576G;单卡显存大于等于72G，CUDA核心数量不少于14080，显存类型为GDDR7，显存速率不小于为28 Gbps，显存位宽为384-bit，显存带宽不小于1344GB/s
5.机型：4U机架式高性能异构计算服务器，cTDP up to 400W，支持8张双宽GPU，轻松处理严苛的应用程序； 24根6400MT/s DDR5内存插槽，可提供超高内存带宽；支持12块3.5或2.5寸热插拔硬盘，提供海量存储和数据读写性能，另搭载2700W（2+2）冗余电源。
6. 软件：预装 Linux Ubuntu 22.04 配套应用软件:CUDA SDK,深度学习应用软件,Environment modules，安装并调试一下OpenMPI并行库，并行运算核心能正常调用，集成多种深度学习框架（如TensorFlow，PyTorch，Caffe，Keras，horovod，Ray，Matlab等）用户模型开发、模型训练等；支持自定义框架
7. 测试：ATA 功能测试报告；其中包含：ATA 系统配置确认；ATA 压力测试报告；ATA 功能测试报告；GPU 设备测试信息；GPU 设备Burn-In 测试报告；GPU 矩阵运算测试报告；IPMI 测试报告.
8. 提供AI深度学习调度软件包，含以下功能：
1).提供统一的中文web管理界面，支持web界面中英文切换。
2).系统所有功能均对外提供Restful API，方便用户进行二次开发。
3).对用户进行管理。支持用户创建、删除、用户组、分区、存储卷和资源配额设定，用户删除安全性检查。
4).支持安全审计员角色，安全审计员可以对系统操作记录进行审计，支持Intel oneAPI镜像的下载并保存到镜像仓库。
5).根据任务的CPU、GPU和Mem的需求，以及对GPU卡型号的选择，动态调度任务到最优的节点上，保证资源使用的效率。
6).基于Horovod的分布式训练，支持Tensorflow、PyTorch、MxNet，极大降低用户开发分布式训练的难度；容器之间通过基于SR-IOV的高速虚拟网卡通信，大大提高训练性能。 |