技术规格及参数 | 1.CPU：配置2颗服务器级处理器，单颗物理核心数不少于32核，单颗线程数不少于64线程，基础主频不低于2.7GHz,配备 128MB 三级缓存，支持 DDR5-5600 高速内存，数据吞吐能力强；
2.内存：单根≥32 DDR5 RDIMM 5600MHz频率 ,内存总容量≥64GB；≥24个内存插槽；
3.硬盘：配置不低于960G 企业级固态，数量≥1个；
4.显卡：显存大于等于96G;CUDA核心数量不少于24064，显存类型为GDDR7，被动散热，显存位宽为512-bit，显存带宽不小于1597GB/s功率≥600W；
5.机型：4U机架式高性能异构计算服务器，cTDP up to 400W，支持8张双宽GPU，轻松处理严苛的应用程序； 24根6400MT/s DDR5内存插槽，可提供超高内存带宽；支持12块3.5或2.5寸热插拔硬盘，提供海量存储和数据读写性能，另搭载2700W（2+2）冗余电源；
6. 软件：预装 Linux Ubuntu 23.04 配套应用软件:CUDA SDK,深度学习应用软件,Environment modules，安装并调试一下OpenMPI并行库，并行运算核心能正常调用，集成多种深度学习框架（如TensorFlow，PyTorch，Caffe，Keras，horovod，Ray，Matlab等）用户模型开发、模型训练等；支持自定义框架；
7.测试：ATA 功能测试报告；其中包含：ATA 系统配置确认；ATA 压力测试报告；ATA 功能测试报告；GPU 设备测试信息；GPU 设备Burn-In 测试报告；GPU 矩阵运算测试报告；IPMI 测试报告；
8.网卡1：双口/10G/光纤/以太网/82599ES/SFP+/含模块；
9.网卡2：ConnectX-6 200Gbps RDMA网卡；
10.提供AI深度学习调度软件包，含以下功能：
1).提供统一的中文web管理界面，支持web界面中英文切换。
2).系统所有功能均对外提供Restful API，方便用户进行二次开发。
3).对用户进行管理。支持用户创建、删除、用户组、分区、存储卷和资源配额设定，用户删除安全性检查。
4).支持安全审计员角色，安全审计员可以对系统操作记录进行审计，支持Intel oneAPI镜像的下载并保存到镜像仓库。
5).根据任务的CPU、GPU和Mem的需求，以及对GPU卡型号的选择，动态调度任务到最优的节点上，保证资源使用的效率。
6).基于Horovod的分布式训练，支持Tensorflow、PyTorch、MxNet，极大降低用户开发分布式训练的难度；容器之间通过基于SR-IOV的高速虚拟网卡通信，大大提高训练性能。 |