紧凑列表
Ara-2 USB模块：面向生成式AI工作负载的eTOPS
Ara-2 USB模块提供40等效TOPS (eTOPS)，适用于高性能、高能效的AI推理。它支持实时AI工作负载，包括生成式AI、大语言模型(LLM)和视觉语言模型(VLM)，使计算和嵌入式系统能够同时运行多个模型而不会降低性能。该模块能够处理视觉和文本内容，为边缘AI部署提高生产效率和能力。
产品详情
框图
支持的器件
处理器和微控制器
独立神经处理单元
- ARA240: Ara-2独立NPU：赋能实时生成式AI
i.MX 8应用处理器
- i.MX8MPLUS: i.MX 8M Plus – Arm® Cortex®-A53，机器学习，视觉，多媒体和工业物联网
i.MX 9处理器
- i.MX95: i.MX 95应用处理器系列：支持功能安全的高性能平台，带eIQ® Neutron NPU
特性
AI模型框架
- TensorFlow
- PyTorch
- ONNX
支持的AI模型架构
- 卷积神经网络(CNN)
- Transformer模型
- 大语言模型(LLM)
- 多模态语言模型(MMLM)
- 视觉语言模型(VLM)
- 视觉语言动作(VLA)
性能
- 高达40 eTOPS*
信息安全
- 安全启动
- 信任根处理器
存储器(LPDDR4)
- 8GB或16GB (存储所有用户模型)
支持的操作系统(运行时)
- Linux
主机接口
- USB3 Gen 2 (10GB/s)
尺寸(宽x长)
- 30mmx80mm