赛马会app下载官网

首页 » 赛马会在线网站 » 正文 »

e尊国际娱乐优惠-腾讯云:把GPU分开卖是黑科技吗?

2020-01-07 14:37:26 热度3280

e尊国际娱乐优惠-腾讯云:把GPU分开卖是黑科技吗?

e尊国际娱乐优惠,雷锋网ai开发者按,1999年,nvidia 公司发明了gpu(graphics processing unit,图形处理器),优异的图形处理表现让它艳惊四座。

近年来,gpu在大规模并行运算上的巨大优势,让其成为大数据、ai以及图形图像处理等场景下不可或缺的计算引擎。

然而,一直以来,囿于gpu切分难度较高,用户不论是购买gpu硬件,还是购买gpu云服务,都只能整块购买。这样有两个结果:

1. 使用门槛较高。gpu相对cpu价格较贵,一块超级计算类gpu价格更是高达好几万,个人开发者使用门槛较高。

2. 资源浪费。在算力需求较小的时候,一整块gpu卡无法满负荷运行,造成算力浪费。

今天,这种局面看起来被打破了,腾讯云正式对外发布基于 nvidia t4 的虚拟gpu(vgpu)计算产品gn7实例,可以为任意ai工作负载提供支持。

因此,用户可以在云上买到规格更小的gpu计算产品,可以降低用户使用gpu的成本并增加灵活度,对一些小规模算力场景的人工智能研发有非常大的帮助。

广泛适用不同ai场景

凭借强大的计算能力和弹性能力,gn7实例在海量数据处理和人工智能领域都具有广阔的应用价值。它既可以满足诸如搜索、大数据分析等需要对海量数据进行处理的业务场景,也可以作为深度学习训练和推理的系统平台。

gn7实例的虚拟化特性,也十分适合互联网业务中人工智能业务的批量部署以及云游戏,ar/vr在云端的应用。

目前,gn7实例已经在腾讯云自有的智能钛弹性模型服务(ti-ems)上实现了应用。该平台通过使用vgpu做小模型推理,帮助用户解决复杂模型部署和gpu利用成本效益等问题。

基于多精度支持,nvidia t4拥有可加速深度学习训练和推理、机器学习以及数据科学工作负载的 tensor core,以及丰富的平台堆栈,包括用于深度学习的cudnn、用于数据分析和机器学习的nvidia rapids、用于云工作站图形的nvidia quadro虚拟工作站和用于云游戏的nvidia游戏软件。结合用于gpu虚拟化的 vcomputeserver软件,腾讯云客户可以灵活选择在虚拟环境中运行gpu加速的工作负载,从而在提高安全性和利用率的同时降低成本。

进一步降低成本

gn7实例降低了gpu加速的初始投资成本,nvidia vcomputeserver软件通过对nvidia t4进行虚拟化,使多台虚拟机(vm)可以同时访问gpu或者使一台虚拟机可以访问多颗 gpu,从而实现性能的最大化。因此,腾讯云用户可以根据工作负载的需求灵活选择对应的gpu加速量。

比如在进行简单模型推理这一类低算力需求的应用时,用户无须再像以往必须使用单颗物理gpu,而是可以根据自身业务具体类型对gpu算力的需求,灵活选择匹配的vgpu资源,提升了计算资源的利用率,从而有效降低用户的使用成本,避免因配置不足或配置过度而产生成本。比如,通过使用1/2 vgpu实例规格,成本相对单卡实例降低了50%。

相比过往进程级别的虚拟化gpu,gn7的升级点在于其提供的设备级虚拟化vgpu是完全模拟出来一个gpu设备,在支持gpu硬件的绝大多数特性的同时,还能够做到操作系统级别的隔离,而且不同的用户使用也不用担心资源争抢的问题。

不过,关于虚拟化gpu的技术,ai开发者也采访了一位业内资深技术人士,该人士表示,这个vgpu技术其实并不难,华为、阿里也都有类似的。当然,腾讯云和nvidia的深度合作还是有一定卖点。

ai开发者获悉,下周在苏州举办的gtc大会上,腾讯云将会演示nvidia gpu加速的云服务,并介绍如何从云端部署ai工作负载。

博狗bodog在线

返回顶部