原文链接源于 Pund-It:https//www.pund-it.com/blog/enabling-ai-from-the-edge-to-the-cloud-gyrfalcon-technologies-offers-new-ip-licensing-model /

从边缘到云实现AI:Gyrfalcon技术提供了新的IP许可模式

作者Charles King , Pund-IT Inc. 2019年4月24日

人工智能(AI)是IT行业内外的热门话题,经常引起热议。然而,许多人(尤其是专注于AI的供应商)指出,基于云的计算为支持AI框架(如Caffe,PyTorch和TensorFlow)以及相关机器学习流程提供了最佳模型。

但是实际上是这样吗?

Gyrfalcon Technology(GTI)认为,在网络的远端和单个设备中提供强大的AI对于许多应用程序和工作负载来说既可行又可取。实际上,该公司提供了可用于这些方案的大量AI推理加速器芯片,以及用于AI应用程序的基于云的服务器解决方案。

现在,GTI已授权其专有电路和知识产权(IP)用于片上系统(SoC)设计。因此,芯片供应商将能够利用GTI的创新来增强和定制自己的产品。

让我们仔细看看Gyrfalcon Technologies的最新发展。

云中的AI

为什么大多数AI解决方案都将重点放在基于云的方法和架构上?您可以将其称为“当您只有一台推土机时,一切看上去就像一堆土”的极端情况。事实是,直到最近,人工智能的成本仍远远超过了任何实际收益。随着新的创新,包括具有成本效益的技术(例如GPU和FGPA),这种情况发生了变化。

一些最吸引人的,雄心勃勃的AI项目和商业产品(如人类语言处理)是由云供应商和基础设施所有者(包括Amazon,Google和IBM)承担的,并得到了NVIDIA,Intel和芯片制造商的支持。他们拥有强大的计算能力和脑力,可以承担由边缘设备积累的数据传输到云数据中心的工作,比如智能电话对话和命令。

那里的数据用于训练和实现基于AI的服务,例如语言翻译和转录以及智能家居扬声器之类的产品。这种方法是否有问题?当然,数据隐私和安全是首要问题。AI供应商一致声称,他们对客户对隐私的担忧敏感,并拥有适当的工具和机制来确保数据的匿名和安全。但是,Facebook,Google和其他公司经常因数据处理不当或轻率维护客户数据而受到指责。

基于云的AI也可能会遇到延迟问题,尤其是在网络流量阻塞的情况下。当您要求Alexa推荐一家不错的餐厅时,这可能没什么大不了的,但是如果涉及到具有AI功能的自动驾驶汽车,那就更成问题了。还有明智地使用能源的问题。随着全球数据中心用电量的百分比持续上升,建立更多的IT设施来支持偶尔支持琐碎的服务似乎是浪费。

边缘的AI

Gyrfalcon Technologies认为,尽管基于云的AI扮演着重要角色,但并不是每个应用程序或用例都需要它。有些工作不需要推土机,而是需要一把铲子,甚至是一把花园用的铲子。为此,GTI提供了一系列AI推理加速器芯片,这些芯片通过运行GTI矩阵处理引擎(MPE)的超小型节能内核支持内存中的AI处理(APiM)。

因此,GTI的解决方案(例如其Lightspeeur 2801 AI加速器)可以在仅使用300mW功率的情况下提供2.8 TOPS的功率。这使其成为网络边缘设备(包括安全摄像机和家庭智能锁)的绝佳选择。设置后,芯片自适应训练功能使设备可以从周围环境中学习。例如,智能锁可能会使用到达和离开模式来识别房屋的居民。

在边缘实现AI意味着设备将能够自主执行许多功能,或者,如果需要云连接,则将能够极大地减少需要传输的数据量。这降低了AI实现的成本,复杂性和网络流量。

对于基于云的应用,GTI提供了Lightspeeur 2803 AI加速器,该加速器与GTI的GAINBOARD 2803 PCIe卡配合使用。例如,一张GAINBOARD卡使用28瓦的功率可达9.6 TOPS / Watt,可提供高达270 TOPS的功率,其效率比竞争对手的解决方案高约3倍。

最终分析

IT行业正确地关注创新技术和产品为消费者和企业提供的价值。这些解决方案通常来自具有数十年经验和数十亿美元年度研发资金的大型一级供应商。但通常,创新产品和方法是诸如Gyrfalcon Technologies之类的小型供应商的精明之作,并不为传统智慧所接受。

借助其内存中的AI处理(APiM)和矩阵处理引擎(MPE)技术,GTI使包括LG,富士通和三星在内的客户能够重新想象如何将人工智能整合到新的消费者和业务产品中。通过授权其Lightspeeur 2801和2803 AI加速器电路和知识产权(IP)用于片上系统(SoC)设计,GTI为现有和未来客户提供了显著的自主权,以决定AI如何为自己的组织和最终客户提供最佳服务。

©2019 Pund-IT,Inc.保留所有权利。