原文源于 Stacey on IoT:https://staceyoniot.com/gyrfalcon-and-a-cluster-of-new-ai-chips-for-the-edge/

Gyrfalcon和一系列新的边缘AI芯片


Gyrfalcon边缘芯片使运行的神经网络更加节能。图片由 Gyrfalcon提供。

一股淘金热正在进行中,这次是在芯片中尝试优化人工智能。谷歌和苹果都为这项工作构建了定制的芯片,而众多初创公司都试图提供一种更有效的方式来在云和边缘运行AI工作负载。挑战在于,大多数试图运行或训练AI模型的芯片都在做大量的数学运算。

当涉及边缘设备时,无论是手机还是传感器,都存在电力供应不足的情况。因此,消费者最不需要的是大量新家用电子产品,它们需要游戏机的功耗。

这就是为什么我对一组针对边缘的AI芯片感兴趣。他们背后的公司正在尝试在模块上使用外部加速器,以加快任何AI算法所需的计算速度。如前所述,这类芯片初创公司通过在内存中而不是在处理器上来改变计算的工作方式。在这些初创公司中,Syntiant就是其中之一,我已经提到过这家公司,他在上个月筹集了2500万美元。

本周,我与其中的另一家初创公司 Gyrfalcon进行了交谈,该公司还使用内存处理来加速神经网络的计算。Gyrfalcon于今年在CES上发布了其首款芯片,并于本周刚刚推出了一个开发工具包,其中包括边缘处理器,连接和在该套件上运行的软件,这些软件可以采集数据并构建优化后的神经网络,以便在Gyrfalcon芯片上运行。

Gyrfalcon处理器和开发工具很有前途,但对于开发者来说,要想在Gyrfalcon芯片上获得最大的处理成本,他们必须使用针对硅片优化的专有框架。当您尝试消耗最后的毫瓦时,这样做并不少见,但这确实需要更多的工程工作。LG和三星正在使用现有的Gyrfalcon芯片。

由于Mythic和Syntiant还没有上市的芯片,因此很难对这些初创公司进行评估。但是很明显, 边缘的AI很热门。TIRIAS Research的首席分析师兼合伙人Jim McGregor表示,如果公司可以制造功耗极低但精度足够好的芯片,那么我们将拥有全新的设备和设备功能。

想象一下,一个传感器可以检测到玻璃破裂或有人摔倒的声音,甚至可以识别人脸。这些传感器很可能会运行高度特定的模型,而不是通用的模型,但它们仍将强大。正如我所说,这是一个热门领域,因此这些创业公司并不孤单。

其他公司则在嵌入在芯片中的加速器内部构建基于边缘的AI功能,而不是在主处理器旁边运行专用的加速器。还有其他一些公司正在开发可以实现基于边缘的分布式AI处理的软件。正如McGregor指出的那样,“达到目的的方法不止一种。”