订阅
纠错
加入自媒体

高通Cloud AI 100、AMD EPYC™ 7003系列处理器和技嘉服务器解决方案 共同推动AI推理突破每秒千万亿次运算

2021-03-17 16:21
来源: 高通

AI无疑已经成为推动下一代用户体验的驱动力。无论是快速浏览喜爱的社交应用,还是基于数万次AI推理提供的在线购物推荐,几乎每一项移动终端体验都与AI密不可分。目前,这些平台每天承载着数百万的用户量,这又意味着什么呢?它们需要海量性能出众的高密度服务器,来提供满足上述平台持续运行所需的AI推理性能。

目前,通过与AMD最新的EPYC™ 7003系列处理器和技嘉科技的最新G292-Z43服务器解决方案相配合,高通技术公司正助力性能出众的机架式服务器满足高性能需求。上述企业在硬件技术专长领域的结合,带来了顶级性能并为现代化数据中心树立全新标杆。高通技术公司尖端的Cloud AI 100能够与技嘉服务器系统完美适配,这将推动众多出色的AI用例在高速数据分析、个性化推荐、智慧城市和5G通信等领域的普及。

技嘉G292-Z43服务器将支持两台AMD EPYCTM 7003系列处理器用于处理负载,以及多个高通Cloud AI 100 PCI-E卡用于支持需要密集计算的应用来支持AI推理。高通Cloud AI 100推理加速器支持高达400 TOPS的算力,还拥有突破性的性能功耗比,并且仅通过单个高通Cloud AI 100 PCI-E卡即可实现。试想一下,如果每台技嘉服务器最多可搭载16个高通Cloud AI 100 PCI-E推理卡,即可提供高达每秒6.4千万亿次运算(400 TOPS x 16,1 POPS等于1000 TOPS)。这是首次基于高通技术公司AI技术的解决方案突破每秒千万亿次运算(POPS)大关。更值得注意的是,每个服务器机柜可管理超过19个上述服务器单元,从而轻松实现超过100 POPS的算力,这充分体现了高通技术公司在AI领域的强劲实力。欲了解相关参数,请参考以下信息图。

更具体来看,单个算力为400 TOPS的HHHL(半高,半长)高通Cloud AI 100 PCI-E推理卡每秒可以支持19,000张图像进行Resnet50模型分类推理,相当于一台服务器机柜每秒可处理超过600万张图像。如此强大的AI性能有望在全球市场增强并规模化扩展AI体验。我们衷心感谢AMD和技嘉科技为实现这一惊人成就所付出的努力。

高通Cloud AI 100 PCI-E卡和搭载AMD EPYCTM 7003系列处理器的技嘉服务器即将面市,请参考文末产品图获取更多信息。


高通Cloud AI是高通技术公司和/或其子公司的产品。

AMD、AMD剪头标识、EPYC以及其他相关产品由Advanced Micro Devices注册。

声明: 本文系OFweek根据授权转载自其它媒体或授权刊载,目的在于信息传递,并不代表本站赞同其观点和对其真实性负责,如有新闻稿件和图片作品的内容、版权以及其它问题的,请联系我们。

发表评论

0条评论,0人参与

请输入评论内容...

请输入评论/评论长度6~500个字

您提交的评论过于频繁,请输入验证码继续

暂无评论

暂无评论

人工智能 猎头职位 更多
扫码关注公众号
OFweek人工智能网
获取更多精彩内容
文章纠错
x
*文字标题:
*纠错内容:
联系邮箱:
*验 证 码:

粤公网安备 44030502002758号