作为《2022年45家国产AI芯片厂商调研分析报告》的一部分，AspenCore分析师团队汇编整理了10款国产AI芯片和10款国际AI芯片，以展示全球AI芯片的最新技术发展。
对国产AI芯片厂商调研分析报告或其它Fabless行业分析报告感兴趣的读者，可以免费在线申请完整版PDF报告：Fabless100系列行业分析报告免费下载申请！
NVIDIA A100 Tensor Core GPU基于NVIDIA Ampere 架构，提供40GB和80GB两种配置。作为NVIDIA数据中心平台的引擎，A100的性能比上一代产品提升高达20倍，并可划分为七个GPU实例，以根据变化的需求进行动态调整。A100可针对 AI、数据分析和 HPC 应用场景，在不同规模下实现出色的加速，有效助力高性能弹性数据中心。
针对深度学习训练，A100 的 Tensor Core 借助 Tensor 浮点运算 (TF32) 精度，可提供比上一代 NVIDIA Volta 高 20 倍之多的性能，并且无需更改代码；若使用自动混合精度和 FP16，性能可进一步提升 2 倍。2048 个 A100 GPU 可在一分钟内大规模处理 BERT 之类的训练工作负载。对于具有庞大数据表的超大型模型（例如用于推荐系统的 DLRM），A100 80GB 可为每个节点提供高达 1.3 TB 的统一显存，而且速度比 A100 40GB 快高达 3 倍。
对于深度学习推理，A100能在从 FP32 到 INT4 的整个精度范围内进行加速。多实例 GPU (MIG) 技术允许多个网络同时基于单个 A100 运行，从而优化计算资源的利用率。在 A100 其他推理性能增益的基础之上，仅结构化稀疏支持一项就能带来高达两倍的性能提升。
英特尔发布的第二代神经拟态芯片Loihi 2面积为31mm，最多可封装100万个人工神经元，而上一代产品面积为60mm，支持13.1万个神经元。Loihi 2运行速度比上一代快10倍，资源密度提高了15倍，且能效更高。Loihi 2有128个神经拟态核心，相较于第一代，每个核心都有此前数量8倍的神经元和突触，这些神经元通过1.2亿个突触相互连接。
Loihi 2使用了更先进的制造工艺——英特尔第一个EUV工艺节点Intel 4，现在每个内核只需要原来所需空间的一半。同时，Loihi 2不仅能够通过二维连接网格进行芯片间的通信，还可以在三维尺度上进行通信，从而大大增加了能处理的神经元总数。每个芯片的嵌入式处理器数量从三个增加到六个，每个芯片的神经元数量增加了八倍。
Loihi 2神经拟态芯片利用尖峰神经网络（SNN，Spiking Neural Networks）可以非常有效地解决很多问题，但目前的困难在于，这种非常不同的编程类型需要以同样不同的方式思考算法开发。目前精通它的人大都来自理论神经生物学领域，Loihi 2仅面向研究领域会限制其市场销售范围。英特尔将Loihi 2与Lava开源软件框架结合起来，希望Loihi衍生品最终出现在更广泛的系统中，从充当嵌入式系统中的协处理器到数据中心的大型Loihi集群。
Google第四代AI芯片TPU v4速度达到了TPU v3的2.7倍，通过整合4096个TPU v4芯片成一个TPU v4 Pod，可以达到1 exaflop级的算力，相当于1000万台笔记本电脑之和，达到世界第一超算“富岳”的两倍。除了将这些系统用于自己的AI应用（例如搜索建议、语言翻译或语音助手）外，Google还将TPU基础设施以云服务的方式（付费）开放给Google Cloud用户。
第四代TPU提供的矩阵乘法TFLOP是TPU V3两倍以上，显着提高了内存带宽。TPU v4 pod的性能较TPU v3 pod提升了10倍，将主要以无碳能源运行，不仅计算更快，而且更加节能。
AWS自研的第二款定制机器学习芯片AWS Trainium专门针对深度学习训练工作负载进行了优化，包括图像分类、语义搜索、翻译、语音识别2022年全球AI芯片Top 10、自然语言处理和推荐引擎等，同时支持 TensorFlow、PyTorch 和 MXNet等。与标准AWS GPU实例相比，基于该芯片的EC2 TRN1实例吞吐量提高30%，可让模型推理成本降低45%。
ET-SoC-1的内核包括1088 个ET-Minion和4个ET-Maxion。ET-Minion是一个通用的 64 位有序内核，具有机器学习的专有扩展，包括对每个时钟周期高达256位浮点数的向量和张量运算。ET-Maxion 是该公司专有的高性能 64 位单线程内核，采用四发射乱序执行、分支预测和预取算法。
Graphcore第二代IPU芯片Colossus MK2 GC200 采用台积电的7nm工艺，架构与前代IPU相似，但核心数目增加到1472个（多出20%），其片内SRAM则增加到900MB（多出3倍）。在互联扩展性方面，相比前代增强了16倍。
Cerebras设计和制造的有史以来最大的芯片称为晶圆级引擎（Wafer Scale Engine，WSE），第二代芯片WSE-2采用台积电N7工艺，其面积为46225mm2，包含超过1.2万亿个晶体管，内置85万个内核针对深度学习进行了完全的优化。相比英伟达A100 GPU，WSE要大56倍以上，其片上内存高达40GB，内存带宽高达20 PB/秒，网络带宽高达220 PB/秒。
基于WSE-2的AI加速系统CS-2在保持其系统功耗不变（23 kW）的同时，极大增加了内存和结构带宽。CS-2单个系统的计算处理性能相当于几十上百个GPU，可以把完成最复杂的AI工作负载所需的时间从几个月减少到几分钟。
基于安霸CVflow架构和先进的5nm制程，CV52S单颗SoC拥有超低功耗，同时支持4K编码和强大的AI处理。该芯片采用双核1.6GHz Arm A76，拥有1MB L3缓存；超强ISP具有出色的宽动态、低光照、鱼眼矫正和旋转处理性能；内置隐私遮蔽功能，可以屏蔽部分拍摄场景；新增PCIe和USB 3.2接口可实现更复杂的多芯片安防系统设计；支持安全启动、OTP和Arm TrustZone等坚如磐石的硬件级数字安全技术，确保安防摄像机设备的信息安全；支持多路视频流输入，通过MIPI虚拟通道接口可接入多达14路摄像机；支持LPDDR4x/LPDDR5/LPDDR5x DRAM。
与上一代芯片相比，主打单目安防摄像机的CV52S系列芯片支持4K60fps视频录制，同时AI计算机视觉性能提高4倍，CPU性能提高2倍，内存带宽增加50%以上。神经网络（NN）性能方面的提升，使得边缘设备上也可以执行更多类的人工智能处理，而不需要上传云端。
基于Hailo-8的M.2模块是一个专门针对AI应用的加速器模块，可提供高达26TPOS的算力支持，适合边缘计算、机器学习、推理决策等应用场景。M.2 模块具有完整的 PCIe Gen-3.0 4 通道接口，可插入带 M.2 插座的现有边缘设备，以实时和低功耗深度神经网络推断，可对广泛的细分市场进行推断。
对国产AI芯片厂商调研分析报告或其它Fabless行业分析报告感兴趣的读者，可以免费在线申请完整版PDF报告：Fabless100系列行业分析报告免费下载申请！
官方微信
官方微博
