高通发布7纳米专用AI芯片Cloud AI 100，性能碾压业界10倍

来源：venturebeat

【新智元导读】高通宣布了一款专用AI处理器Cloud AI 100，采用7nm工艺，性能比目前业界最先进的 AI 推理解决方案高出 10 倍以上。

昨天在旧金山举办的年度 Qualcomm AI Day 大会上，高通发布了三款面向智能手机、平板电脑和其他移动设备的新系统芯片。此外，更重磅的是，高通还宣布了一款专为边缘计算设计的新产品：Qualcomm Cloud AI 100。

高通 Cloud AI 100 采用 7nm 工艺，具有高度可扩展性、专为 AI 推理设计，将于 2020年正式推出产品，样片将在今年晚些时候推出。

虽然高通尚未公开芯片性能或架构方面的细节，但它声称，Cloud AI 100 的性能比目前业界最先进的 AI 推理解决方案高出 10 倍以上。

Cloud AI 100 集成了一系列开发工具，包括编译器、调试器、分析器、监视器、服务、芯片调试器和数字转换器。

此外，Cloud AI 100 还致力于支持领先的软件堆栈，包括 ONNX、Glow 和 XLA，以及各种机器学习框架，包括谷歌的 TensorFlow、Facebook 的 PyTorch、Keras、MXNet、百度的 PaddlePaddle 和微软的 Cognitive Toolkit。

高通估计 Cloud AI 100 的峰值性能能达到骁龙 855 和骁龙 820 的的 3 至 50 倍。

高通声称，与传统的现场可编程门阵列 (FPGA) 相比，Cloud AI 100 在推断任务方面的平均速度要快 10 倍左右。此外，以高性能芯片常用的一个性能指标 —— 每秒 tera 操作(TOPs) 来衡量的话，Cloud AI 100 的运算速度可以 “远远超过”100 TOPs。(相比之下，骁龙 855 最快只有约 7 TOPs。)

高通设想通过基于台积电 7nm 节点构建的 Qualcomm Cloud AI 100，为 5G 提供更低的延迟，并为云和边缘带来更高的性能和效率。

“FPGA 或 GPU 通常可以更有效地进行 AI 推理处理…… 因为 GPU 是更并行的，而 CPU是更串行的，并行芯片更适合 AI 处理。” 高通产品管理高级副总裁 Keith Kressin 解释说：“不过，GPU 更多的是为图形设计的，如果你从头开始设计一个芯片来加速 AI，可以得到显著的改进。从 CPU 到 FPGA 或 GPU 都有数量级的改进。但定制 AI 加速器能提供再一个数量级的改进。”

在高通进军云计算之前，其主要竞争对手华为发布了据称是业界性能最高的基于 Arm 的处理器 “鲲鹏 920”。在 SPECint(一个由 12 个程序组成的基准测试套件，用于测试整数性能) 中，该芯片的得分超过了 930 分，比行业基准高出近 25%，而功耗比 “行业现有厂商提供的” 低 30%。

华为不是高通唯一的对手。

今年 1 月在拉斯维加斯举行的消费电子展上，英特尔详细介绍了即将推出的 Nervana 神经网络处理器 (NNP-I)。据报道，该处理器的 AI 训练性能将达到竞争显卡的 10 倍。

谷歌去年推出了专用推理芯片 Edge TPU；阿里巴巴也在去年 12 月宣布，计划在今年下半年推出首款自主研发的 AI 推理芯片。

在 FPGA 方面，亚马逊最近推出了自己的 AI 云加速芯片 ——AWS Inferentia。

微软也在 Project Brainwave 中预报了一个类似的平台。

今年 3 月，Facebook 发布了用于 AI 推理的服务器芯片 Kings Canyon。

就在本月，英特尔宣布推出一系列芯片组 ——Agilex，针对人工智能和大数据工作负载进行了优化。

但高通对 Cloud AI 100 的性能优势颇有信心，认为它将在深度学习芯片组市场上占据优势，预计到 2025 年，该市场规模将达到 6630 万美元。

“很多人把网络硬件放在云端，就像一个内容传输网络，用于不同类型的处理，无论是云端游戏，还是人工智能处理。这是另一个关键趋势。高通有机会从终端用户的输入技术一路参与，一直到云端。”Kressin 说。

高通的另一个潜在优势是什么呢？生态系统的支持。去年 11 月，高通向一家专注于edge AI 和 on-device AI 的初创基金提供 1 亿美元，特别投入于自动驾驶汽车、机器人、计算机视觉和物联网领域。去年 5 月，高通与微软合作，为在其许多片上系统芯片中嵌入的 AI 加速器创建了一个 vision AI 开发工具包。

“就市场规模而言，推理正在成为芯片领域的一个相当大的市场，”Kressin 说：“随着时间的推移，我们预计推理的规模 —— 从 2018 年至 2025 年大约会增长 10 倍。我们非常有信心成为这一领域的领导者。”