AI性能提升2-3倍!搭载 NVIDIA A10 GPU的阿里云gn7i服务器开启邀测
作者:互联网
近日,阿里云异构计算宣布gn7i云服务器开放邀测。gn7i系列实例是阿里云异构计算产品线最新一代通用型加速产品,该实例采用最新的NVIDIA A10 GPU作为加速器,适用于人工智能推理、视频处理、3D可视化、云游戏和云桌面等场景。
相比上一代基于NVIDIA T4 GPU的gn6i系列实例,gn7i的性价比全面提升,为企业线上业务降本增效。gn7i提供更多的CPU核心,更高主频;GPU计算性能也相应提高了一倍以上,可支持更丰富的GPU计算场景。
Gn7i实例的单精度浮点计算能力是T4实例的385%,支持混合精度,提供优秀的计算能力,可广泛应用于互联网、安防、工业等行业的AI图像识别、语音识别、语义识别、行为识别等场景;还集成优秀的图形渲染能力,适用于设计、制造、建造设计等行业,以及云游戏运营商等;整合硬件加速编解码器,适用于互联网和广电行业视频编解码处理。
基于阿里云自研的神龙架构,gn7i系列实例将支持虚拟机(gn7i)、裸金属(ebmgn7i)和vGPU(vgn7i)形态;最高支持64Gbps VPC网络,即将支持eRDMA网络。丰富的形态让企业可以根据自身业务属性,选择最契合自身的实例。
云是获取AI算力最为便捷的方式,相较于自行购买服务器,用户可以按需要随时购买GPU实例资源,训练和推理任务结束时,自动释放或停止GPU实例资源,避免资源闲置。阿里云拥有亚洲最大的异构计算集群,加上秒级交付的弹性能力,为行业提供强大的AI算力。
针对人工智能场景,阿里云异构计算还提供了软硬一体性能优化方案,自研的神龙AI加速引擎(AIACC)是业界首个支持Tensorflow、PyTorch、MXNet、Caffe等主流开源框架的深度学习加速引擎,它针对训练场景和推理场景,结合阿里云的网络和异构计算架构作了优化,云上训练有2-14倍的性能提升,推理场景下性能提升2-6倍。
除了gn7i实例,阿里云异构计算去年还推出了基于A100的gn7实例,面向人工智能训练场景和高性能计算。丰富的实例家族,加上阿里云异构计算独有的cGPU容器技术、弹性加速计算实例(EAIS)与神龙AI加速引擎(AIACC)三大特色优势,一同组成阿里云异构计算产品家族,为用户提供灵活高效、性能超群的异构计算基础设施
标签:A10,异构计算,AI,邀测,阿里,实例,GPU,gn7i 来源: https://blog.csdn.net/weixin_46593167/article/details/119040260