原文链接源于 Micro Controller Tips:https : //www.microcontrollertips.com/three-approaches-ai-design/

人工智能设计的三种方法

约翰·昆(John Koon)

人工智能(AI)及其应用是最热门的技术趋势之一。各行各业都在使用AI解决问题并提高生产率。例如,一所学校最近部署了虚拟电话助手(也称为会话代理),帮助学生回答该上什么课的问题。学生对答案感到满意,有些人完全不知道自己正在和机器人聊天。

除了教育之外,人工智能还可以应用于各个领域,包括供应链,运输,自然语言处理,医疗保健,工厂,安全,目标检测,图像处理,农业,娱乐等。音频/视频领域的AI也有显着差异。加利福尼亚的一家新兴公司Babblelab通过图形处理单元(GPU)硬件应用了AI来改善噪声消除效果,结果是显著的——你可以听出AI部署之前 之后 的区别。

设计AI产品

AI是AI算法和基于AI的硬件的集成。AI是计算密集型的,需要快速处理和访问内存。

“ AI可能需要芯片提供大量的计算能力。对于面部识别应用程序来说,每秒处理1到2帧是一回事,这很容易在MCU上完成。处理1024×1024的高清视频流完全是另一回事,处理器必须每秒处理50帧。”恩智浦半导体AI和机器学习技术总监Markus Levy评论道。

设计人工智能有三种不同的方法:

  • 使用一体式GPU模块
  • 采用AI芯片组的方法
  • 只需将AI加速器添加到您自己的主机处理器中


使用一体式GPU模块

NVIDIA CUDA-X AI计算机尺寸为70mm x 45mm,可产生472 GFLOPS的计算性能,可处理大多数AI或深度学习工作负载。该GPU机器基于G128核心,基于NVIDIA Maxwell架构的GPU和四核Arm A57,功耗为5瓦。

此外,它还支持16 GB eMMC 5.1闪存、千兆位以太网、视频、摄像头和HDMI显示。也许它最吸引人的功能是软件加速代码库,使开发工作更轻松。使用这种方法的开发人员可以使用Linux for Tegra将模块集成到自己的系统中。

图1:  NVIDIA CUDA-X AI  计算机尺寸为70mm x 45mm,可产生 472 GFLOPS的计算性能。图片:NVIDIA)


采用AI芯片组方法

开车时,并不是每个人都需要一辆肌肉车(muscle car)。同样,在AI设计中,有许多应用程序需要低成本、可扩展的AI芯片。这就是NXP的  i.MX 8M Nano  – Arm Cortex-A53,Cortex-M7的最佳选择。这种基于14LPC FinFET的芯片为许多工业和物联网应用带来了AI功能。用途包括智能家居和楼宇自动化、机器学习(即人脸识别和异常检测)、测试和测量、人机界面(HMI)、医疗诊断、医疗保健监控和其他医疗设备。

对于机器视觉应用,具有OpenGL ES 3.1和Vulkan支持的3D GPU可使用所有四个Cortex-A53内核启用带有OpenCL的图形UI或3D GPU,以加速机器学习。14 x 14、0.5mm封装支持6-8层板设计。可用的操作系统为Android、Linux和FreeRTOS。该设备的工作温度范围为-40ºC至105ºC。此外,软件库可用于AI特定的应用。

图2:恩智浦的 i.MX 8M Nano框图。图片:恩智浦)

只需将AI加速器添加到您自己的主机处理器中

Gyrfalcon Technology采用了一种不同的方法,该公司于2017年在加州成立,提供三种生产级人工智能加速器芯片,使用该公司专有的矩阵处理引擎,将处理与内存结合起来,增强主机处理器,以执行从边缘到云的音频和视频处理。Lightspeeur 2801S的尺寸为7mm x 7mm,在0.3W下可提供2.8 TOPS的输出功率,是Edge AI应用的理想选择。

还有Lightspeeur 2803S,其尺寸为9mm x 9mm,并针对高级边缘或数据中心应用进行了优化。它可用于单芯片设计,也可以配置为数据中心应用的多芯片配置。例如,在GAINBOARD 2803 PCIe卡上可以提供16个这样的芯片,以提供高达270 TOPS的功耗(28瓦)供服务器应用使用。此外,其Lightspeeur 2802M是首款结合磁阻随机存取存储器(MRAM)技术及其矩阵处理设计以形成MRAM AI引擎的AI加速器。它可以用于视频安全监控、自动驾驶汽车、机器人技术和其他AI应用。Gyrfalcon的方法可帮助开发人员在不更换主机处理器(CPU、GPU等)的情况下提高AI计算能力。

图3:Gyrfalcon Technology的 AI加速芯片无需更换主机处理器( GPU,CPU)即可提供 AI计算。图片:Gyrfalcon Technology)

结论

此处介绍的三种方法为AI设计提供了独特的解决方案。使用不到100美元的NVIDIA模块方法,开发人员可以将该单元集成到OEM系统中。恩智浦AI芯片的价格低于10美元,开发人员不仅具有更大的灵活性,而且还可以进行更多的PCB开发和布局工作。最后,Gyrfalcon加速器芯片解决方案意味着在现有的处理器设计中增加另一块芯片,对于已经采用传统设计的开发人员来说,它可以派上用场。现在,您可以选择了。