LACELLI™边缘推理服务器AI加速子系统

行业最佳性能功率比

产品简介

领先的AI性能,Gyrfalcon Lightspeeur®2803 AI Accelerator芯片提供低功耗,以及基于Arm®内核的多核处理器IC。 Gyrfalcon Accelerator芯片安装在M.2卡上,可以独立运行,也可以组合使用以在大型AI模型上。 每个子系统都通过PCIe接口连接到服务器。 每个AI模块提供67 TOPS和1,200 FPS,240 FPS / W, 功率仅5瓦。

高性能

67 - 2,144 TOPS

低成本

按规模定价

最佳峰值

240 FPS/Watt/ module

超低功率

5 Watts/module

服务器 - AI 加速器子系统

– 32 x AI 模组插槽和端口 

– 高性能 CPU 

– 双备份电源

– 双风扇

AI 模组

 – PCle 加速卡

– Gen2 x16 作为4 x 4 分叉通道

– 4 x Lightspeeur® 2803S 

大型模型

灵活的片上模型处理功能使Lacelli™Edge推理服务器AI加速子系统可以与不同的配置一起使用。通过单个模型到芯片配置或者更大,更复杂的模型(例如ResNet-101或ResNet-152多个芯片级联),来批量并行处理图像和视频。

目标应用领域

   图像识别 · 目标检测与追踪 · 自然语言处理 · 自然语言理解 · 商业智能 · 视觉分析

支持的AI模型以及对应性能

VGG – 2,914 FPS
ResNet – 20,480 FPS
MobileNet – 12,800 FPS

开发和训练工具套件

GTI提供了在边缘和云部署上构建和部署人工智能解决方案的工具。

训练模型和开发强大的人工智能应用程序:

► 软件开发包
► 模型开发包
► 硬件集成包
► 应用程序套件