DAV首页
数字音视工程网

微信公众号

数字音视工程网

手机DAV

null
null
null
卓华,
null
null
null
null
null
null

我的位置:

share

AI时代,秒懂不可不知的NPU,小白也OK

来源:亮钻科技        编辑:ZZZ    2024-06-03 10:16:22     加入收藏

NPU神经处理单元(N euralP rocessingU nit)作为一种新兴的硬件加速器,正在成为ARM主板配置中的新宠。

  在人工智能(AI)技术如火如荼的今天,NPU神经处理单元(N euralP rocessingU nit)作为一种新兴的硬件加速器,正在成为ARM主板配置中的新宠。与传统的CPU和GPU相比,NPU在处理AI任务上的效率更高,在现今ARM主板配置中也变得越来越重要。本文将带大家了解 NPU 的作用、必要性,以及国产芯片厂商是如何对它进行布局的。

 

  什么是NPU

  简而言之,NPU是专为AI和机器学习(ML)任务量身打造的硬件加速器。相较于传统的CPU和GPU,NPU针对深度学习算法所需的复杂计算进行了优化,能让自然语言处理、图像分析等AI任务更加高效地运行。

  通常,NPU会与CPU集成在一起。例如,RK3588,RK3588S和RK3568 CPU都已经集成了NPU。

  NPU / CPU / GPU的比较:

  随着语音识别、图像识别、人脸识别等AI应用的普及,NPU的优势将越发明显。它能够迅速、高效地处理和学习大量数据,并显著提升应用性能。一开始,NPU主要用于提升智能手机的相机功能、电池续航和安全性。但现在,它正在快速扩展到ARM主板以及更多物联网智能终端。

  举例来说,亮钻部分ARM主板和嵌入式主机就已经内置了NPU,例如:边缘智能主板D-3588和D-3568、智能物联网主板K-3588S、AI工业电脑主机VEC-3588、边缘计算主机KEC-3566和KEC-A311D等。

 

  什么场景需要配置NPU

  对于需要处理大量AI任务的场景,比如医疗影像分析、智能安防、智能制造、机器人等,它们需要处理大量复杂的人工智能、图像处理或高性能计算任务,NPU可以提升设备的性能和用户体验。

  简单来说,CPU、GPU和NPU都是运作的核心组件,而NPU能在AI任务方面大显身手,分担GPU和CPU的负担,让它们更专注于其他传统任务。在需要执行AI任务时,操作系统会评估系统资源,决定由NPU还是GPU来完成任务。

 

  国产芯片厂商深入布局

  目前,国产SoC厂商正在加大对NPU的投入,以丰富和提升SoC人工智能处理能力。NPU在SoC中的典型应用主要是机器视觉。

  例如,瑞芯微推出的新一代机器视觉方案RV1106及RV1103,在NPU、ISP、视频编码、音频处理等方面性能都有显著提升,能够在低待机功耗的同时提供出色的边缘AI算力。此外,瑞芯微的高性能芯片RV1126配备了2.0Tops的NPU,活体检测率高达98.48%。晶晨股份的A311D采用了高性能A73内核,并搭载了5Tops的高性能NPU,适用于各类中高端人工智能物联网设备。

 

  结语

  展望未来,NPU在AI任务的高效处理上,预示着计算技术的新纪元——更快、更直观、更符合我们的需求。随着AI技术的日益普及,未来对NPU的需求也将会进一步提升,相信NPU的大时代正在来临。

免责声明:本文来源于亮钻科技,本文仅代表作者个人观点,本站不作任何保证和承诺,若有任何疑问,请与本文作者联系或有侵权行为联系本站删除。
扫一扫关注数字音视工程网公众号

相关阅读related

评论comment

 
验证码:
您还能输入500