[TechWeb]新闻在7月10日,他宣布,NVIDIA Grace Blackwell Superchips推广了Amazon EC2 P6E-GB200 Ultraser,以加速新一代技术的开发,作为推断和代理的推论和系统的模型。 Ultraver P6E-GB200旨在培训和部署最大,最复杂的AI模型。今年早些时候,亚马逊云技术根据NVIDIA Blackwell GPU推出了Amazon EC2 P6-B200实例,该实例支持各种计算机和高性能计算机工作负载。 Amazon EC2 P6E-GB200 Ultraver是迄今为止最强大的Amazon Technology GPU产品,配备了高达72 GPU NVIDIA Blackwell,通过Nvlink Nvlink Nvidia Nvidia的第五代NVIDIA NVIDIA互连,并作为单个计算机单元运行。与P5EN的实例相比,每种超声波都可以提供高密度的FP8计算机功率,最高360 PETAFLOPS和13.4TB的Video MemoryHigh带宽(HBM3E)。单个N的计算机功率VLINK域增加了20倍以上,并且记忆能力增加了11倍以上。 Amazon EC2 P6E-GB200 Ultraser接纳了高达28.8 TBP的第四代弹性织物网络(EFAV4)的网络。 Amazon EC2 P6-B200实例为广泛的AI场景提供了灵活的选择。每个实例都配备了通过NVLink互连的八个GPU NVIDIA Blackwell,具有1.4TB的高带宽内存,高达3.2TBP的EFAV4网络带宽和第五代的可实现可伸缩处理器。与Amazon EC2 P5EN的实例相比,Amazon EC2 P6-B200的实例具有2.2 GDEN的计算机功率5次,视频内存容量的1.27倍,是视频记忆频段的视频宽度的1.6倍。现在,Amazon Cloud Technology通过多个实现路线简化了HABIL过程,用于超级ver的实例和Amazon EC2 P6-B200 Amazon EC2 P6E-GB200,它允许客户快速使用Blackwell GPU开始使用Blackwell GPUE维护其现有操作和维护模式。 Amazon Sagemaker HyperPod支持Amazon EC2 P6E-GB200 Ultraver和Amazon EC2 P6-B200的实例,优化维持其与NVLink域的同等工作量,以最大程度地提高性能。 Amazon Cloud Technology还创建了一个完整的多级恢复机制。 AmazonSageMakerHyperPod可以在同一NVLINK域中使用预配置的备份实例自动替换失败的节点。构建的板板对使用GPU的使用,记忆使用对工作负载指标的使用以及超速操作状态提供了全面的可视化。同时,NVIDIA DGX Cloud也可以使用Amazon EC2 P6E-GB200 Ultraver。 DGX Cloud是一个统一的AI平台。该体系结构在各个级别都具有多个节点和推理的培训功能,并整合了NVIDIA的完整AI软件堆栈。客户可以利用最新的NVIDIA性能优化解决方案,比较IVE评估方法和技术经验,以提高效率和绩效。该平台提供NVIDIA专家提供的灵活服务截止日期选项和全面服务,以帮助客户加速其AI项目。