作为人工智能的核心要素,算力是承载和推动人工智能走向深度应用的决定性力量,人工智能模型的训练和推理都离不开大量算力支持。随着ChatGPT引领了新一轮的人工智能热潮,算力的需求出现爆炸性的增长。 8月9日,NVIDIA 发布全新的L40S GPU,以及搭载这款加速卡的NVIDIA OVX服务器系统。这款GPU以及OVX服务器,适用于人工智能大模型训练和推理、三维设计和可视化、视频处理、工业数字化等用途,能够帮助机构企业和数据中心增强生成式AI、图形和视频处理能力,满足不断增长的算力需求。 作为NVIDIA NPN的网络Elite精英级合作伙伴、Compute计算的优选级合作伙伴,超擎数智与NVIDIA紧密协作,率先发布旗下搭载NVIDIA最新L40S GPU的CQ7458-L和CQ6458-L AI服务器新产品,这是超擎数智基于AI算力打造的全新重磅新产品,可为用户完成规模计算资源和高效算力升级,满足客户从算法训练、推理到超大规模模型训练等多样的算力需求,共同迎接生成式AI下iPhone时刻的到来! 作为4U双路产品中定位高端旗舰的产品,CQ7458-L和CQ6458-L AI服务器具备高性能、高扩展、高能效和开放生态等优点,将为AI客户提供强大的大模型训练和推理能力,不仅在4U空间内支持2颗Intel最新的SPR CPU,也能支持上一代Ice Lake至强平台和最高8片来自NVIDIA的L40S GPU,网络方面除了支持Ethernet以外,还支持NVIDIA InfiniBand, NV-Bluefield DPU等智能网卡,从生成式 AI 和大型语言模型(LLM)推理与训练,到 3D 图形、渲染和视频,都能应对自如。 ▲超擎数智L40S AI服务器CQ7458-L ▲超擎数智L40S AI服务器CQ6458-L NVIDIA L40S GPU是一款功能强大的通用数据中心GPU,旨在为人工智能推理和训练、图形和视频应用提供突破性的多工作负载加速。L40S旨在为新一代数据中心工作负载提供支持,借助最新的Ada架构,L40S GPU 可以支持超快渲染和更高帧率,使画面有如行云流水。Transformer 引擎可显著加速AI性能,并提高训练和推理的内存利用率,除此之外,凭借Ada Lovelace第四代Tensor Core的强大功能,Transformer引擎可以智能地扫描转换器架构神经网络的各个层,并在FP8和FP16 精度之间自动重铸,从而提供更快的AI性能并加速训练和推理,提供突破性的多工作负载性能体验。 ▲NVIDIA最新发布的L40S GPU 超擎数智AI服务器产品品类丰富,可搭载NVIDIA各型号GPU产品,为用户提供多样化的产品选择与技术服务。除了搭载NVIDIA最新L40S GPU的CQ7458-L、CQ6458-L AI服务器新品外,超擎数智AI服务器产品家族还包括支持8颗NVIDIA最新的NVSwitch全互联H800 GPU的CQ7688-L AI服务器、最高支持11片NVIDIA DataCenter GPU的CQ7458-A AI服务器以及装载8块PCleGen4 GPU的CQ6458-A AI服务器。超擎数智AI服务器支持当前最领先Al计算科技,提供卓越的性能输出,延续超擎高品质和高兼容性设计,匹配成熟出色的生态,为国内专业Al客户提供强大可靠的基础架构支撑。 ▲超擎数智H800 AI服务器CQ7688-L ▲超擎数智通用AI服务器CQ7458-A ▲超擎数智通用AI服务器CQ6458-A 超擎数智致力通过创新的算力和网络方案成就客户,创造价值。本次L40S AI服务器新产品的重磅发布,是超擎数智在前沿产品技术创新和行业用户服务方面取得的又一重要里程碑。超擎数智在AI服务器领域拥有专业的产品技术团队和丰富的项目交付经验,依托超擎数智高性能计算和人工智能研发测试中心,持续为用户提供创新、高效、可靠的产品、解决方案与技术服务。面向未来,超擎数智将以NVIDIA GPU和AI服务器产品为平台,为生成式AI及人工智能应用提供极具吸引力的算力平台,加速AIGC创新步伐、赋能生成式AI产业创新发展! |
正在阅读:AI算力引擎,超擎数智重磅发布L40S AI服务器新产品AI算力引擎,超擎数智重磅发布L40S AI服务器新产品
2023-10-09 21:06
出处:其他
责任编辑:houxianyong