【浙商半导体】一周观点：人工智能硬件（首篇）——从GPU到TPU

1.人工智能：下一个大风口Google本周宣布，正在研发基于人工智能的芯片TPU。再一次点燃市场对人工智能...

1. 人工智能：下一个大风口

Google本周宣布，正在研发基于人工智能的芯片TPU。再一次点燃市场对人工智能的热情。我们认为，人工智能将成为下一个大风口，首当其冲便是算法及硬件，从本周开始，我们也将持续关注人工智能及相关硬件。一起来关注产业变迁下的机会。

1.1. 人工智能

AI会成为未来的趋势吗？答案是会。人工智能，简单地说，就是用机器去实现目前必须借助人类智慧才能实现的任务。人工智能包括三个要素：算法，计算和数据。

对人工智能的实现来说，算法是核心，计算、数据是基础。在算法上来说，主要分为工程学法和模拟法。工程学方法是采用传统的编程技术，利用大量数据处理经验改进提升算法性能；模拟法则是模仿人类或其他生物所用的方法或者技能，提升算法性能，例如遗传算法和神经网络。而在计算能力来说，目前主要是使用GPU并行计算神经网络，而专门的神经网络芯片也在未来将会异军突起。

1.2. 人工智能应用领域

随着百度，Google,Facebook ，Microsoft等企业开始切入人工智能，人工智能可应用的领域非常广泛。2013年100多家组织开始研发深度学习与人工智能，到2015年，短短2年间，研发机构已经迅速激增到3409家。可以看到，未来人工智能的应用将呈几何级数的倍增。应用领域包括互联网，金融，娱乐，政府机关，制造业，汽车，游戏等。可观察到的应用有：语音识别，人脸识别，无人机，机器人，无人驾驶等。

从产业结构来讲，人工智能生态分为基础、技术、应用三层。应用层包括人工智能+各行业（领域），技术层包括算法、模型及应用开发，基础层包括数据资源和计算能力。

人工智能市场将保持高速增长，2020年全球人工智能市场规模约1190亿人民币，中国约为91亿。

1.3. GPU

GPU，又称显示核心、视觉处理器、显示芯片，是一种专门在个人电脑、工作站、游戏机和一些移动设备（如平板电脑、智能手机等）上图像运算工作的微处理器，与CPU类似，只不过GPU是专为执行复杂的数学和几何计算而设计的，这些计算是图形渲染所必需的。随着人工智能的发展，如今的GPU已经不再局限于3D图形处理了，GPU通用计算技术发展已经引起业界不少的关注，事实也证明在浮点运算、并行计算等部分计算方面，GPU可以提供数十倍乃至于上百倍于CPU的性能。

GPU的特点是有大量的核（多达几千个核）和大量的高速内存，最初被设计用于游戏，计算机图像处理等。GPU主要擅长做类似图像处理的并行计算，所谓的“粗粒度并行（coarse-grainparallelism）”。这个对于图像处理很适用，因为像素与像素之间相对独立，GPU提供大量的核，可以同时对很多像素进行并行处理。但这并不能带来延迟的提升（而仅仅是处理吞吐量的提升）。比如，当一个消息到达时，虽然GPU有很多的核，但只能有其中一个核被用来处理当前这个消息，而且GPU核通常被设计为支持与图像处理相关的运算，不如CPU通用。GPU主要适用于在数据层呈现很高的并行特性（data-parallelism）的应用，比如GPU比较适合用于类似蒙特卡罗模拟这样的并行运算。GPU的另外一个问题，是它的“确定性”不如FPGA,相对较容易产生计算错误。

CPU和GPU本身架构方式和运算目的不同导致了CPU和GPU之间的不同，主要不同点列举如下

正是因为GPU的特点特别适合于大规模并行运算，GPU在 “深度学习”领域发挥着巨大的作用，因为GPU可以平行处理大量琐碎信息。深度学习所依赖的是神经系统网络——与人类大脑神经高度相似的网络——而这种网络出现的目的，就是要在高速的状态下分析海量的数据。例如，如果你想要教会这种网络如何识别出猫的模样，你就要给它提供无数多的猫的图片。而这种工作，正是GPU芯片所擅长的事情。而且相比于CPU，GPU的另一大优势，就是它对能源的需求远远低于CPU。GPU擅长的是海量数据的快速处理。

1.4. TPU

TPU,即Google的张量处理器，名字来源于程序名。在7年前，Google就启动了这一研究。过去一年，Google已经在其数据中心的服务器内部署了“数千颗”TensorFlow处理器(TPU)。。据Google的工程师Norm Jouppi介绍，TPU是一款为机器学习而定制的芯片，经过了专门深度机器学习方面的训练，Google在一年多以前就开始应用这种处理器了，它有更高效能（每瓦计算能力），大致上，相对于现在的处理器有7年的领先优势,宽容度更高，每秒在芯片中可以挤出更多的操作时间，使用更复杂和强大的机器学习模型，将之更快的部署，用户也会更加迅速地更智能的结果。

根据我们的判断，TPU应该是Google专门为机器学习定制的ASIC,我们在后续的文章中还会继续对TPU做进一步的分析。