解读阿里AI芯片含光800:超强算力偏重AI推理

汇通网2019年9月25日消息,今天上午,一年一度的云栖大会在杭州盛大开幕,本届云栖大会共有来自全球超过八万嘉宾参与,规模再创历届之最。

在今天的主论坛开幕式上,阿里巴巴旗下的半导体公司平头哥发布了全新的硬件NPU芯片产品——含光800。据悉,在Rsenet 50 v1条件下,含光800的峰值性能可达78563 IPS,峰值能效达500 IPS/W。

00000

达摩院院长张建峰指出,含光800是全球最高性能AI推理芯片。比目前业界最好的AI芯片性能高4倍;能效比500 IPS/W,是第二名的3.3倍。在杭州城市大脑的业务测试中,1颗含光800的算力相当于10颗GPU。

目前,含光800已经通过阿里云对外输出AI算力。基于含光800的AI云服务今天已经正式上线,相比传统GPU算力,性价比提升100%。   

含光800服务器图

“这是阿里第一次用了自己的硬件架构,也是互联网公司第一个研发这种大芯片。”张建锋表示,这款芯片的设计和验证历时一年半,因此有充分的信心阿里能够成为软硬件一体、协同发展的公司。

含光222222

含光800是一款AI芯片,偏重推理。由于人工智能芯片的差异化设计主要体现在硬件架构和软件算法上,二者需要高度适配才能发挥芯片的最大价值。从目前来看,传统CPU、GPU在深度学习推理任务上并没有完全发挥硬件能力,例如GPU架构主要针对图像处理设计,其硬件结构、软件生态几乎固化,因此对AI任务很难有深度优化。

含光800定妆照

含光800性能的突破得益于软硬件的协同创新,芯片架构方面,含光800采用创新的架构,针对深度学习中使用的大量权重参数和张量数据,在支持稀疏压缩与量化处理的基础上,通过独特设计的数据访存与流水线处理技术,大大减低了I/O需求和数据的搬移。NPU同时深度优化了卷积,矩阵乘,向量计算和各种激活函数,通过高有效的硬件资源调度和全并行的数据流处理,把AI运算的性能和能效双双推向极致。

2222

算法方面,阿里巴巴达摩院机器智能实验室过去两年构建了完整的算法体系,涵盖语音智能、语言技术、机器视觉、决策智能等方向,并且取得多个世界领先水平的成果;硬件方面,阿里巴巴此前已在服务器、FPGA以及存储等领域拥有多年研发经验,此外,平头哥团队在体系结构、编译技术等领域拥有深厚的技术储备。

0 Shares:
发表评论

邮箱地址不会被公开。 必填项已用*标注

你可能也喜欢

陌陌这盘棋,缺个車

今天像微信、QQ那样的纯即时通讯社交产品,已经很难掀起什么波澜了,社交加短视频、加游戏、加音频、加直播的融合玩法,才是一条更有生…