（原标题：一文读懂NPU）韩国三级
如果您但愿不错频频碰头，接待标星储藏哦~
起首：内容编译自extremetech，谢谢。
“NPU” 代表什么？它能作念什么？你需要了解的相关这项新兴技艺的信息。
在曩昔的一年里，对于神经处理单位（NPU）的征询越来越多。诚然 NPU 还是在智高东说念主机中出现几年了，但英特尔、AMD 以及最近的微软王人推出了配备 NPU 的撑合手 AI 的消耗级札记本电脑和个东说念主电脑。
NPU 与 AI PC 的策动观念密切策动，AMD、Apple、Intel 和 Qualcomm 等主要硬件制造商坐褥的芯片中越来越多地使用 NPU。自微软本年早些时候推出 Copilot+ AI PC 家具以来，NPU 运行越来越多地出咫尺札记本电脑中。
l NPU 起什么作用？
大乱交NPU 的作用是充任东说念主工智能的硬件加快器。硬件加快是使用专用硅片来处分特定任务，就像主厨将不同的任务寄予给副厨师，让他们一说念按期准备饭菜相同。NPU 不会取代您的 CPU 或 GPU；违犯，NPU 旨在补充 CPU 和 GPU 的上风，处理边际 AI 等职责负载，以便 CPU 和 GPU 不错为它们擅长的任务保留处理期间。
GPU 是有益为渲染图形而假想的硬件加快器，但具有满盈的底层活泼性，也绝顶合适 AI 或某些类型的科学盘算推算。长久以来，如果您有念念要处理的 AI 职责负载，您会但愿使用一个或多个高性能 [可能是 Nvidia？] GPU 进行实质的数字运算。一些公司正在戮力于于有益为 AI 构建专用硬件加快器，举例 Google 的 TPU，因为在“GPU”中带有“G”的附加图形功能在隧说念用于 AI 处理的卡中没灵验处。
l 职责量决定一切
硬件加快在不波及大批条目分支的重迭性任务中最为灵验，尤其是在数据量很大的情况下。举例，渲染 3D 图形需要盘算推算机处分合手续不停的无数粒子和多边形流。这是一项带宽密集型任务，但实质盘算推算（主若是）三角函数。盘算推算机图形学、物理和天文体盘算推算以及大型言语模子 (LLM)（如撑合手当代 AI 聊天机器东说念主的模子）是硬件加快的理念念职责负载的几个例子。
AI 职责负载有两种类型：张望和推理。张望险些悉数在 GPU 上进行。Nvidia 期骗其近二十年对 CUDA 的投资偏执在寂寞 GPU 中的教唆地位韩国三级，在这两个阛阓上占据主导地位，尽管 AMD 已远远过期于第二名。大规模张望在数据中心规模进行，当您与ChatGPT等基于云的劳动进行通讯时运行的推理职责负载亦然如斯。
NPU（以及与之贯串的 AI PC）的运行规模要小得多。它们不错补充您最心爱的 CPU 供应商的微处理器中的集成 GPU，为改日的 AI 职责负载提供格外的活泼性，况兼与恭候云霄比较，不错栽种性能。
l NPU 怎么职责？
一般来说，NPU 依靠高度并行的假想来快速实施重迭性任务。比较之下，CPU 是多面手。这种各别反应在 NPU 的逻辑和物理架构中。CPU 有一个或多个内核，不错走访少许分享内存缓存，而 NPU 有多个子单位，每个子单位王人有我方的袖珍缓存。NPU 适用于高隐约量和高度并行的职责负载，如神经收集和机器学习。
NPU、神经收集和神经步地系统（如英特尔的 Loihi 平台）王人具有一个共同的假想主见：模拟大脑信息处理的某些方面。
每家将 NPU 推向阛阓的建立制造商王人有其特定于其家具的微架构。大多数制造商还发布了与其 NPU 合作使用的软件开辟用具。举例，AMD 提供了 Ryzen AI 软件堆栈，而英特尔则不绝校正其正在进行的开源深度学习软件用具包 OpenVINO。
l NPU 和边际智能
大多数 NPU 王人装置在面向消耗者的建立中，举例札记本电脑和 PC。举例，高通的 Hexagon DSP 为其骁龙处理器添加了 NPU 加快功能，用于智高东说念主机、平板电脑、可衣服建立、高等驾驶接济系统和物联网。Apple 生态系统在 iPhone、iPad 和 iMac 的 A 系列和 M 系列芯片中使用了其神经引擎 NPU。此外，一些 PC 和札记本电脑被指定为 Copilot+，这意味着它们不错在板载 NPU 上运行 Microsoft 的 Copilot AI。然则，一些劳动器端或基于云的系统也使用 NPU。Google 的 Tensor Processing Units 是专为数据中心的高性能机器学习而假想的 NPU 加快器。
NPU 崛起的原因之一是边际智能的迫切性日益加多。在传感器收集、移动建立（如手机和札记本电脑）和物联网之间，数据整理的需求还是日益增长。与此同期，基于云的劳动受制于基础设施蔓延。土产货处理不一定非要在云霄实施任何操作。这可能在速率和安全性方面王人是一种上风。
你是否需要 NPU 这个问题险些是一个滚动小心力的话题。英特尔、AMD 和苹果等硅谷巨头还是投资了这项技艺。不管你是否有特定的 NPU 用途，下次你拼装或购买 PC 时，你聘任的芯片很有可能会配备 NPU。到 2026 年底，分析师瞻望100% 的好意思国企业 PC 购买王人将在芯片中镶嵌一个或多个 NPU。换句话说，毋庸挂念买不到带有 NPU 的系统。他们会主动找上门来的。
原文集结：https://www.extremetech.com/computing/what-is-an-npu
半导体宏构公众号保举
专注半导体领域更多原创内容
关怀大家半导体产业动向与趋势
*免责声明：本文由作家原创。著作内容系作家个东说念主不雅点，半导体行业不雅察转载仅为了传达一种不同的不雅点，不代表半导体行业不雅察对该不雅点赞同或撑合手，如果有任何异议，接待策动半导体行业不雅察。
今天是《半导体行业不雅察》为您分享的第3907内容，接待关怀。
『半导体第一垂直媒体』
及时 专科 原创 深度
公众号ID：icbank
心爱咱们的内容就点“在看”分享给小伙伴哦
韩国三级