AWS G4旨在减少GPU功率AI推论的成本

发布时间：2023-02-22 16:02:55 所属栏目：要闻来源：

导读：亚马逊 WebService(AWS)公共云看起来正在削弱主要竞争者，并引入了名为G4的新GPU（图形处理单元）EC2实例，该实例使用NVIDA V100 GPU。

AWS表示，新的G4实例旨在帮助加速机器学习推断和图形 - 密集型工作负载，这

亚马逊 WebService(AWS)公共云看起来正在削弱主要竞争者，并引入了名为G4的新GPU（图形处理单元）EC2实例，该实例使用NVIDA V100 GPU。

AWS表示，新的G4实例旨在帮助加速机器学习推断和图形 - 密集型工作负载，这两者都是计算要从额外的GPU加速度受益的任务。应用领域包括将元数据添加到图像，对象检测，推荐系统，自动语音识别和语言翻译。

AWS表示，G4实例可以用于训练人工智能（AI）算法，并为AI供电的应用运行推理引擎。它称GPU使其客户能够将机器学习培训从天到几小时减少，但AI中的实际成本正在运行AI算法。

“推论是实际占绝大多数机器学习的成本，”它说。“根据不同行业的客户，最佳机器学习推断可以代表客户运行机器学习负载平衡的工作负载的总体运营成本的可能性高达90％。”

G4dn.xlarge的按需定价，四个虚拟核心实例，一个GPU和16GB内存，从每小时0.526美元开始。八个虚拟核心实例，32GB的RAM，费用为0.752美元。

相比之下，Google的一个GPU V100实例，拥有16GB的内存，目前在Google“Pre-Havive GPU价格”使用模型下定价为0.74美元。同时，Microsoft的NC6S V3在Azure上有6个V100核心和112GB的内存成本$ 2.2807每小时按需。

在AWS公共云上使用G4进行机器学习，通过Amazon Sagemaker或AWS深度学习AMIS（亚马逊机器图像）支持。AWS表示，它支持机器学习框架，如Tensorflow，Tensorrt，MXNet，Pytorch，Caffe2，CNTK和Chainer。

该公司计划为G4实例提供对亚马逊弹性推断的支持，其中要求将推理的成本削减高达75％。％，以帮助客户更好地管理他们的数据。这一举措将有助于降低g4实例的运营成本，同时也将提高其在云计算市场的竞争力。

（编辑：聊城站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!