JANUX G31 AI 服务器

性价比优化的边缘AI推理服务器

产品概述

Janux GS31 AI推理服务器是为满足未来在边缘大规模部署机器学习应用程序(包括能耗,成本效益和服务器空间)的挑战而量身定制的。强大的服务器基础可加速和经济高效地扩展AI推理。

Janux GS31支持超低延迟的转码和多达128个1080p / 60Hz视频通道的视频分析,非常适合监视智能城市,基础设施,智能企业/工业视频监视应用,对象检测,识别和分类,深度学习推理 ,智能视觉分析等。

功能规格

Janux GS31的核心是CEx7 LX2160A COM Express type 7模块,利用了NXP的LX2160A 16核Arm Cortex A72处理器。该服务器包括4个Snowball模块,每个模块均配备8个NXP i.MX8M处理器,可解码32个Gyrfalcon Lightspeeur® SPR2803 AI加速器,从而使总的AI推理能力达到128个加速芯片。

核心技术

GAINBOARDTM 2803 使用100%专有和专利技术,高速加速CNN处理,且功耗小

GTI的矩阵处理引擎(MPE™)体系结构是一个多维处理阵列的物理矩阵的数字乘加(MAC)单元,可以进行一系列矩阵的卷积神经网络运算。引擎的可伸缩矩阵设计允许每个引擎直接与相邻引擎通信和交互,优化和加速数据流。

支持的网络

► ResNet
► MobileNet
► VGG

大规模模型​

灵活的片上模型处理能力使GAINBOARD™2803用于不同的配置。批量并行处理图像和视频,通过单个模型到芯片的配置,或更大和更复杂的模型,如ResNet-101或ResNet-152级联多个芯片。

开发和训练工具套件

GTI提供了在边缘和云部署上构建和部署人工智能解决方案的工具。

训练模型和开发强大的人工智能应用程序:

► 软件开发包
► 模型开发包
► 硬件集成包
► 应用程序套件