观察Intel is back背后，英特尔驱动数据中心创新与进化

申耀的科技观察

读懂科技，赢取未来！

客观地说，今天无论是产业变革还是技术迭代都在不断加速演进：一方面，整个产业正经历着从消费互联网到产业互联网的转变；另一方面，整个技术创新进程也经历着从基础设施云化到业务数字化，再到应用现代化的变革

这种前所未有的变化，无疑让千行百业的数字化转型走入了一个关键的十字路口如何让企业级用户获取更强的数智化能力，成为真正的数字原生企业，可以说是整个数据中心市场共同面对的全新机遇与挑战

在此背景下，英特尔2021架构日披露的信息就格外引人瞩目，因为它揭示了该公司在CPUGPU及IPU架构方面的重大变化与革新，提前预览了包括两款x86 CPU内核两款数据中心SoC两款独立GPU以及首个客户端多核性能混合架构在内的多款重量级产品与技术，全方位体现了英特尔在硬件软件架构和制程等方面的强劲实力也正因此，英特尔CEO帕特·基辛格在架构日上兴奋地说：Intel is back！新的故事才刚刚拉开序幕，而这些激动人心的基础创新，也必将为英特尔从现在到2025年乃至更远未来的产品注入全新的动力

毫无疑问，英特尔2021架构日上释放了这样一个信息，那就是面对算力需求增长越来越快的今天，英特尔正通过全方位多样化的技术创新，为整个市场提供更多差异化且能彼此互补和组合的产品选择，而在这背后，不仅是英特尔过去五十多年以来在计算市场保持高强度自我迭代和进化的真实写照，更是英特尔致力于驱动数据中心再创新的决心和信心的重要印证过去几年，英特尔一直致力于建立一个以数据为中心的高效架构，持续为用户提供领先且全面的产品组合与解决方案，而在2021架构日上公布的专为数据中心设计的下一代英特尔 至强 可扩展处理器Sapphire Rapids，无疑是它又一次重要的尝试，而且还是被寄望为为数据中心架构树立全新标准的尝试

在英特尔首席数据中心架构师Sailesh看来：Sapphire Rapids代表了业界在数据中心平台上的一大进步这是因为该处理器可在不断变化且需求日益严苛的数据中心使用中提供可观的计算性能，并对不同工作负载进行深入优化，以求在云微服务和AI等弹性计算模型上都能输出更优的性能

事实上，Sapphire Rapids之所以被称之为数据中心架构的新标准，可以从三个维度来做观察：

一是，在SoC架构方面，Sapphire Rapids的核心是一个分区块模块化的SoC架构，它采用英特尔的嵌入式多芯片互连桥接（EMIB）封装技术，在保持单晶片CPU接口优势的同时，兼具了显著的可扩展性在此基础上，Sapphire Rapids还提供了一个单一平衡的统一内存访问架构，让每个线程均可完全访问缓存内存和I/O等所有单元上的全部资源，由此实现整个SoC层面的一致的低时延和高横向带宽借助分区块模块化的SoC架构，处理器既能够不受架构的物理限制，也无需做艰难的妥协，就能够增加内核数量缓存内存和I/O，这对于为所有工作负载提供平衡的扩展和一致的性能来说，这个基础SoC架构至关重要，同时这也是实现数据中心弹性水平和更优数据中心利用率的关键英特尔数据中心首席工程师Nevine Nassif说

二是， Sapphire Rapids不仅将基于Intel 7制程来生产，同时还将采用英特尔全新的性能核微架构，由此可以在提高速度，实现更低时延和更优单线程应用性能方面突破此前的极限据Sailesh介绍，在为Sapphire Rapids这款处理器设计性能核微架构时，英特尔做了大量创新工作，包括借鉴了多代至强 处理器在大规模部署中的经验例如，数据中心工作负载中的大型代码体积，从根本上受到内核前端性能的限制为此英特尔完全重新设计了前端，以突破性能核面临的瓶颈问题；此外，英特尔还针对性能核做了多项改进，涵盖高速虚拟机迁移增强缓存和面向多租户场景的全新TLB QoS功能，同时还引入了自主精细化的电源管理，以在无抖动的情况下提高内核性能等等

三是，在加速器引擎方面，英特尔也为Sapphire Rapids增加了新的指令集架构和集成IP，通过内置加速器引擎，如英特尔 加速器接口架构指令集（AIA）英特尔 高级矩阵扩展（AMX）以及英特尔 数据流加速器（DSA）等，帮助客户提升一些特定且关键的应用负载的性能以最新加入的AMX为例，该引擎可为深度学习算法核心的Tensor处理提供大幅加速其可以在每个周期内进行2000次 INT8运算和1000次 BFP16运算，实现计算能力的大幅提升在早期的Sapphire Rapids芯片测试中，与使用英特尔 AVX-512 VNNI指令的相同微基准测试版本相比，使用新的英特尔AMX 指令集扩展优化的内部矩阵乘法微基准测试的运行速度提高了7倍以上，能够为AI工作负载中的训练和推理上提供显著的性能提升

除此之外，Sapphire Rapids还集成了先进的内存和下一代I/O，包括PCIe 5.0CXL 1.1DDR5和HBM技术，希望以此来推动行业技术更为全方位的转型由此可见，通过Soc架构的创新，性能核的改进以及引入更多的加速器引擎，将使得Sapphire Rapids能够为云数据中心网络和智能边缘中广泛的工作负载和部署模式提供开箱即用的性能，确实有望为未来数据中心架构的创新树立一个新的标准，或者说新的高度

我们知道，AI人工智能自动驾驶等技术，近年来引发了很高的市场关注度，成为当下科技领域和投资领域最为火热的话题，而这让GPU也越来越多地参与到计算中来，在AIHPC和高级分析等工作负载中开始发挥越来越重要的作用

如此关键的战场，英特尔自然不会缺席，在2021架构日中，基于Xe-HPC微架构，英特尔也展示了面向高性能计算和人工智能工作负载的新款GPUPonte Vecchio

英特尔Ponte Vecchio首席架构师Masooma Bhaiwala表示：保守地说，Ponte Vecchio是我在30年的芯片开发生涯中开发的最复杂的芯片实际上，我甚至不确定把它称为芯片是否准确，它包含了诸多芯片的集合，而我们把这些芯片称为单元，它们通过高带宽互连交织在一起，就像一个单晶片一样发挥作用的确如此，Ponte Vecchio这款GPU芯片采用了新的SoC架构新的IP架构，新的内存架构，新的IO架构，新的封装技术，新的供电技术，新的互连技术，新的信号完整性技术，新的可靠性方法，借助了全新的软件，以及新的验证方法英特尔更是把Ponte Vecchio的研发成功称之为一次制造奇迹

据Masooma Bhaiwala介绍，Ponte Vecchio芯片由几个以单元显示的复杂设计构成，包括计算单元Rambo单元Xe链路单元以及包含高速HBM内存的基础单元它们通过嵌入式多芯片互连桥接（EMIB）单元进行组合，而EMIB区块则可在这些单元之间实现功耗较低的高速连接此外，这些单元利用Foveros技术封装到一起，形成有源芯片的3D堆叠，提高功率和互连密度，同时高速MDFI互连则可让堆栈从1个扩展到2个如此复杂的设计背后，带来的当然是一款性能极为可观的GPU，在架构日上，英特尔也展示了早期的Ponte Vecchio芯片领先的性能数据显示，其A0芯片性能提供了高于45 TFLOPS的FP32吞吐量，高于5 TBps的内存结构带宽，以及高于2 TBps的连接带宽，在流行的AI基准测试中创造了推理和训练吞吐量的行业记录英特尔分享的一段演示视频就显示出，其ResNet推理性能超过43000张图像/秒，ResNet训练性能超过每秒3400张图像/秒，这两个性能数据完全称得上是行业领先根据英特尔的规划，Ponte Vecchio目前已走下生产线进行上电验证，并已开始向客户提供限量样品，同时英特尔预计于2022年面向HPC和AI市场发布Ponte Vecchio，相信Ponte Vecchio一定会给GPU市场带来巨大影响，同时也会助推AI和HPC在企业数智化的转型中，发挥更加重要的价值和作用

值得一提的是，在2021架构日上，英特尔还带来了基础设施处理器（IPU），它是一种可编程的网络设备，能够帮助云和通信服务供应商最大化地减少CPU在非关键负载，特别是基础设施服务上的开销，并充分释放整个云化基础设施的价值英特尔数据平台事业部首席技术官Guido Appenzeller形象比喻说：CPU和IPU之间的关系类似家和酒店的区别，在家里人们可以很方便地从客厅走到餐厅和厨房，但是在酒店则完全不同，酒店中客房餐厅和厨房是完全分开的，而目前云基础设施领域也呈现相同的发展趋势

Guido Appenzeller认为，采用IPU全新架构所带来的优势，主要体现在三个方面：第一，云服务商能够更加清晰地把基础设施功能和用户的工作负载分隔开来，使用户可以全面掌控CPU，提高整个架构的灵活性；第二，云服务商可以把基础设施任务从CPU转移到IPU上，这有助于最大化地利用CPU，也有助于公有云实现收入的最大化；第三，IPU允许云数据中心里存在无磁盘服务器架构，而借助IPU，用户也可以通过一个安全可编程稳定的解决方案更好地利用资源，使其能够平衡处理与存储而且更重要的是，用户也可以不再通过传统的模式配置超额的服务器资源，通过开箱即用的能力即可获得相应的资源，由此减少成本支出

也正因此，英特尔表示IPU将会成为未来数据中心架构的核心组件目前，IPU基本上使用两类架构：一类是基于ASIC的IPU；另一类是基于FPGA的IPU，而在这两类架构中，英特尔均有投入和布局其中，Mount Evans是英特尔首个ASIC IPU，这是英特尔与一家一流云服务提供商共同设计和开发的，它融合了多代FPGA SmartNIC的经验，能够提供超大规模部署能力，以及高性能网络和存储虚拟化的卸载，同时保持高度控制力此外，它还采用了业界一流的可编程数据包处理引擎，支持防火墙和虚拟路由等用例与此同时，Mount Evans也可使用现已普遍部署的DPDKSPDK等软件环境进行编程，并可采用英特尔Barefoot Switch部门开创的P4编程语言来配置管线等而Oaks Springs Canyon，则是基于FPGA的IPU，它会采用英特尔的Agilex FPGA 和英特尔 至强 D 处理器，这是一款可扩展开源软件和硬件的基础设施，可卸载Open Virtual Switch（OVS）等网络虚拟化功能以及NVMe over Fabric和 RoCE v2等存储功能，并提供硬化的加密模块它还配备有更安全和高速的2x 100Gb以太网网络接口，同时能够使用英特尔 开放式FPGA开发堆栈（英特尔 OFS）定制其解决方案不仅如此，英特尔还提供了N6000加速开发平台，代号为Arrow Creek，是一款专为搭载至强服务器设计的SmartNIC

对此，Guido Appenzelle也表示：每一类IPU都有自己的优势和劣势基于FPGA的IPU能够快速实施新协议，应对不断变化的要求或新协议；而ASIC IPU可以实现性能和效率的最大化，但两者实际上都不同于经典的SMART NIC，后者缺乏执行基础设施控制面的能力由于在不同类型的基础设施加速场景中，没有适用所有情况的方案，因此英特尔将继续投资于这两类IPU以及SMART NIC

总体来看，英特尔2021架构日，实际上是提前预览了众多的企业级或数据中心用产品和方案，但限于篇幅本文重点介绍了英特尔针对数据中心市场的CPUGPU和IPU，其实除了硬件之外，在软件架构和制程方面英特尔同样也做了大量的变革和创新正如帕特·基辛格最后强调：对英特尔而言，这是振奋人心的时刻我们的战略和执行都在加速，我们正为英特尔创新与技术领先的新时代描绘蓝图英特尔在软件芯片和平台方面的深度与广度，在封装和制程工艺方面的技术，以及在大规模制造上的实力，都赋予英特尔独特的位势，去抓住这一巨大的增长机遇

从这个角度来说，性能强劲以及适应多样化计算场景的产品和解决方案，正在成为整个数据中心市场发展的新趋势，而英特尔在此过程中依然在通过不断地迭代和进化，来全力驱动数据中心市场的再创新，相信英特尔这种不断坚持创新不断自我进化的价值观，一定会引领和驱动数据中心未来的演进，并在加速百行千业的数智化转型过程中，扮演更加关键的角色或发挥更为重要的作用申耀的科技观察，由科技与汽车跨界自媒体人申斯基创办，18年企业级科技媒体工作经验，长期专注企业数字化产业智能化ICT基础设施汽车科技内容的观察和思考

    关注 申耀的科技观察