9月25日的杭州云栖大会上,达摩院院长张建锋现场展示了这款全球最强的AI芯片——含光800。
不过在他看来,阿里巴巴还是全球芯片领域的一个新人。
玄铁和含光800是平头哥的万里长征第一步,我们还有很长的路要走。
含光800是什么?
含光为上古三大神剑之一,该剑含而不露,光而不耀,正如含光800带来的无形却强劲的算力。
在杭州城市大脑的业务测试中,1颗含光800的算力相当于10颗GPU。
据了解,在业界标准的ResNet-50测试中,含光800推理性能达到78563 IPS,比目前业界最好的AI芯片性能高4倍;能效比500 IPS/W,是第二名的3.3倍。
含光800性能的突破得益于软硬件的协同创新:硬件层面采用自研芯片架构,通过推理加速等技术有效解决芯片性能瓶颈问题;软件层面集成了达摩院先进算法,针对CNN及视觉类算法深度优化计算、存储密度,可实现大网络模型在一颗NPU上完成计算。
含光800已开始应用在阿里巴巴内部核心业务中。
例如,在城市大脑中实时处理杭州主城区交通视频,需要40颗传统GPU,延时为300ms,使用含光800仅需4颗,延时降至150ms。
拍立淘商品库每天新增10亿商品图片,使用传统GPU算力识别需要1小时,使用含光800后可缩减至5分钟。
含光800将通过阿里云对外输出AI算力。基于含光800的AI云服务当天正式上线,相比传统GPU算力,性价比提升100%。
阿里巴巴为什么做芯片?
芯片是计算力的核心,而计算力是所有互联网应用的基础。
阿里巴巴经济体横跨电商、金融、物流、云计算、大数据、全球化等场景,用户规模庞大,拥有丰富且高难度的计算场景、网络场景、机器学习场景,因此需要使用大量芯片。
为此,阿里于2017年正式成立达摩院,在芯片等关键领域做基础性技术的研究投入,为未来发展提供更多战略可能。
阿里方面表示,研发芯片可以降低阿里巴巴经济体整体计算的成本,还可以以云服务的方式交付,以更高的性能和更低的成本赋能更多的企业。
此外,阿里坚持做芯片,还可以让其与AI和云计算三位一体,形成协同发展:人工智能算法逐渐集成到芯片,集成算法的专用芯片为云服务提供了更强的性能,而云计算本身则加速了人工智能应用的大规模落地。
张建锋认为,这是万里长征第一步,而今后,阿里巴巴将成为一家软硬件一体化的协同发展科技公司。