进来学习！AI应用的硬件选择——FPGA、GPU与CPU

时间：2024-07-31 来源：网络搜集关于我们 0

现场可编程门阵列（FPGA）为人工智能（AI）应用带来了许多优势。图形处理器（GPU）和传统中央处理器（CPU）又有何区别呢？

人工智能的起源与发展预测

研究公司Statista预测，到2025年，全球人工智能市场规模将达到1260亿美元。到2030年，人工智能将占据中国国内生产总值的估计26.1%、北美国家的14.5%和阿联酋的13.6%。整体人工智能市场包括各种应用，包括自然语言处理（NLP）、机器人流程自动化、机器学习和机器视觉等。

人工智能（AI）的起源及其术语可以归功于由艾伦·纽厄尔（AllenNewell）、克利夫·肖（CliffShaw）和赫伯特·西蒙（HerbertSimon）在1956年创建的《逻辑理论家》（LogicTheorist）程序。《逻辑理论家》程序旨在模拟人类的问题解决能力，并由研究与发展（RAND）公司资助。《逻辑理论家》被认为是第一个人工智能程序，并于1956年在新罕布什尔州达特茅斯学院举办的《人工智能暑期研究项目》（DSRPAI）上进行了展示。尽管人工智能主要依赖于模拟人类思维的编程算法，但硬件同样是等式的重要组成部分。用于人工智能操作的三种主要硬件解决方案是现场可编程门阵列（FPGA）、图形处理器（GPU）和中央处理器（CPU）。每种选择都具有自己的优势，并有一些限制，我们将进一步探讨这些限制。 现场可编程门阵列（FPGA）现场可编程门阵列（FPGA）是具有可编程硬件结构的集成电路类型。这与GPU和CPU不同，因为FPGA处理器内部的功能电路并非硬刻录。这使得FPGA处理器可以根据需要进行编程和更新。这也赋予了设计者从零开始构建神经网络并将FPGA构建为最适合其需求的能力。FPGA的可重新编程、可重新配置的架构为不断变化的人工智能景观提供了关键优势，使设计者能够快速测试新的和更新的算法。这在加快上市时间和节省成本方面提供了强大的竞争优势，因为不需要开发和发布新的硬件。FPGA提供了速度、可编程性和灵活性的结合，通过减少应用特定集成电路（ASICs）开发中固有的成本和复杂性，实现了性能效率。

FPGA提供的主要优势包括：一、卓越的性能与降低延迟优势FPGA提供低延迟以及确定性延迟（DL）。DL作为模型将从初始状态或给定的起始条件持续产生相同的输出。DL提供了一个已知的响应时间，这对于许多具有严格截止时间的应用至关重要。这使得实时应用（如语音识别、视频流和动作识别）的执行速度更快。二、成本效益FPGA在制造后可以为不同的数据类型和功能重新编程，相比使用新硬件替换应用，这实实在在地创造了价值。通过将附加功能（如图像处理流水线）集成到同一芯片上，设计者可以通过仅使用FPGA而不仅仅是AI来降低成本并节省板卡空间。FPGA的长期产品生命周期可以为应用程序提供多年甚至几十年的增加效用。这种特性使其在工业、航空航天、国防、医疗和交通运输市场中的使用变得理想。三、能源效率FPGA使设计者能够根据应用程序需求微调硬件。利用诸如INT8量化之类的开发工具是优化诸如TensorFlow和PyTorch等机器学习框架的成功方法。INT8量化对于NVIDIA®TensorRT和Xilinx®DNNDK等硬件工具链也提供了有利的结果。这是因为INT8使用8位整数而不是浮点数，并且使用整数运算而不是浮点运算。正确利用INT8可以减少内存和计算需求，这可以将内存和带宽使用量缩减高达75%。在满足要求高的应用中功耗效率方面，这可能至关重要。

FPGA可以并行承载多个功能，甚至可以将芯片的部分分配给特定功能，极大地增强了操作和能源效率。FPGA的独特架构将小量分布式内存嵌入到结构中，使其更接近处理过程。这减少了延迟，并且更重要的是，与GPU设计相比，可以减少功耗。 图形处理器（GPU）图形处理器（GPU）最初是为生成计算机图形、虚拟现实训练环境和依赖于绘制几何对象、光照和颜色深度的高级计算的视频而开发的。由于GPU专为快速处理渲染视频和图形中使用的大量数据而设计，它们可以执行这些操作。它们强大的计算能力使其在机器学习和人工智能应用中备受欢迎。

GPU适用于并行处理，即在并行执行大量算术运算。这在需要重复执行的工作负载中提供了可观的加速。GPU的定价可能低于竞争解决方案，平均图形卡的生命周期为五年。在GPU上进行的人工智能确实存在局限性。与微芯片专为AI应用而设计的ASIC设计相比，GPU通常不会提供太多的性能。但GPU以大量的计算能力为代价，而这会导致能源效率和热量问题。热量可能会对应用程序造成耐久性问题，影响性能，并限制操作环境的类型。更新AI算法并添加新功能的能力也与FPGA处理器无法相提并论。 中央处理器CPU中央处理器（CPU）是许多设备中使用的标准处理器。与FPGA和GPU相比，CPU的架构具有为顺序串行处理优化的有限数量的核心。Arm®处理器可能是一个例外，因为它们采用了单指令多数据（SIMD）架构的强大实现，该架构允许同时操作多个数据点，但其性能仍不可与GPU或FPGA相提并论。

有限的核心数量降低了CPU处理器处理大量数据所需的并行处理能力，这是适当运行AI算法所必需的。FPGA和GPU的架构旨在具有处理多个任务的高度并行处理能力，可快速同时处理多个任务。FPGA和GPU处理器可以比CPU更快地执行AI算法。这意味着与CPU相比，在FPGA或GPU上运行的AI应用程序或神经网络将学习和反应几倍快。CPU确实提供了一些初始价格优势。当训练具有有限数据集的小型神经网络时，可以使用CPU，但这将牺牲时间。与基于FPGA或GPU的系统相比，基于CPU的系统运行速度要慢得多。CPU的另一个好处是能源消耗。与GPU配置相比，CPU将提供更好的能源效率。 微型机器学习（TinyML）被视为人工智能发展的下一个进化阶段，TinyML正经历着强劲增长。在FPGA、GPU和CPU处理器上运行的AI应用非常强大，但不能用于所有情景，如手机、无人机和可穿戴设备等。随着连接设备的广泛采用，需要进行本地数据分析，以减少对云完整功能的依赖。TinyML使得在微控制器上运行的边缘设备上实现低延迟、低功耗和低带宽的推断模型成为可能。

TinyML的优点包括：一、能源效率微控制器消耗的电力非常少，这在远程安装和移动设备中都有好处。二、低延迟通过在边缘本地处理数据，数据不需要传输到云端进行推断。这极大地降低了设备的延迟。三、隐私数据可以在本地存储，而不是在云服务器上。四、减少带宽减少对云端推断的依赖，最小化了带宽问题。使用MCU进行的TinyML的未来对于小型边缘设备和适度应用前景光明，而FPGA、GPU或CPU则不适合的情况。 总得来说AI的三个主要硬件选择是：FPGA、GPU和CPU。在速度和响应时间至关重要的AI应用中，FPGA和GPU在学习和反应时间方面提供了优势。虽然GPU具有处理AI和神经网络所需的大量数据的能力，但缺点包括能源效率、热量考虑（发热）、耐久性以及更新应用程序的能力和AI算法。