硅谷初创公司将开发卓越的节能AI芯片

Gyrfalcon Technology成立于2017年1月,致力于开发低成本,低功耗,高性能人工智能(AI)处理器。由资深硅谷企业家创立的Gyrfalcon的目标是“将云人工智能的功能扩展到具有更高性能和效率的本地设备。”

该公司的第一款AI芯片Lightspeeur 2801S神经处理器具有高性能和出色的能源效率(5.6 TOPS / Watt),与MCU和GPU相比,使AI Edge Computing和Datacenter Machine Learning的速度提高了几个数量级。该设备专注于边缘推理,Gyrfalcon认为这将占AI计算的大部分。培训仍将依靠云中的Nvidia。该设备是AI加速器,旨在用作主机CPU的协处理器。将来,该公司将考虑开发具有集成AI引擎和主机CPU的完整SoC。

Lightspeeur基于Gyrfalcon的APiM架构,该架构使用内存作为AI处理单元。这消除了其他架构中的大量数据移动,从而导致高功耗。该架构具有真正的片上并行性,原位计算功能,并消除了内存瓶颈。该设备具有大约28K并行计算核心,不需要外部存储器即可进行AI推理。

Lightspeeur支持神经网络,例如卷积神经网络(CNN),ResNet,RNN和LSTM。分布式内存块结构对CNN计算很友好,并且支持多层,每一层支持不同的大小。内置的模型压缩算法可实现快速,低功耗的CNN计算。它支持标准的开放框架,例如Caffe,TensorFlow和MXNet。

软件开发套件包括一站式设计,系统验证硬件,软件和工具。在撰写本文时,Gyrfalcon已将其软件移植到其SDK上,其功能包括快速图像识别,像素级图像分割,实时视频分析,语音识别和翻译以及手写汉字识别。

LightSpeeur 2801S于2017年9月19日从台积电交付,采用28纳米工艺制造。使用VGG型神经网络,完全运行142帧/秒(224 * 224 * 3)图片,在50MHz工作时钟下的功耗为0.3W。 VGG是牛津大学的CNN模型,具有很高的准确性。在逐帧运行32帧/秒(224 * 224 * 3)图片的运动视频识别的情况下,在50MHz或以下的工作时钟下,功耗为0.2-0.3W。

无论大小,无数公司都在开发AI处理器。 Gyrfalcon认为它至少有一年的领先优势,现在已经有硅。 LightSpeeur基于Yang博士30年来对神经网络的研究,并具有真正的数字神经网络电路。 Gyrfalcon认为,当今的许多竞争对手都只是模拟神经网络。

在云中,该设备可以在AI推理服务器中使用。 在Edge上,该设备可以启用AI供电的监视/摄像机,智能玩具/机器人,智能家居设备,AR / VR产品,语音/语音识别,自然语言处理等。 Gyrfalcon正在与国内AI机构,大学以及海外实体进行积极的讨论。 几家一级公司计划将Lightspeeur设计到应用程序中,包括服务器,手机,智能城市产品和监控摄像机。