用户手册 (1)
-
ARA2-M2-16G-GT Board User Manual[UM12420]
简介 (1)
-
加速在边缘端部署生成式AI和大语言模型[ARA240DNPUFS]
紧凑列表
Ara240 USB模块：面向生成式AI工作负载的eTOPS
Ara240 USB模块提供40等效TOPS (eTOPS)的算力，适用于高性能、高能效的AI推理。它支持实时AI工作负载，包括生成式AI、大语言模型(LLM)和视觉语言模型(VLM)，使计算平台和嵌入式系统能够同时运行多个模型而不会降低性能。该模块能够处理视觉和文本内容，提升边缘AI部署的生产效率与功能表现。
产品详情
框图
支持的器件
处理器和微控制器
独立神经处理单元
- ARA240: Ara240独立神经处理单元(DNPU)
i.MX 8应用处理器
- i.MX8MPLUS: i.MX 8M Plus – Arm® Cortex®-A53，机器学习，视觉，多媒体和工业物联网
i.MX 9处理器
- i.MX95: i.MX 95应用处理器系列：支持功能安全的高性能平台，带eIQ® Neutron NPU
特性
AI模型框架
- TensorFlow
- PyTorch
- ONNX
支持的AI模型架构
- 卷积神经网络(CNN)
- Transformer模型
- 大语言模型(LLM)
- 多模态语言模型(MMLM)
- 视觉语言模型(VLM)
- 视觉语言动作(VLA)
性能
- 高达40 eTOPS*
信息安全
- 安全启动
- 信任根处理器
存储器(LPDDR4)
- 8GB或16GB (存储所有用户模型)
支持的操作系统(运行时)
- Linux
主机接口
- USB3 Gen 2 (10GB/s)
尺寸(宽x长)
- 30mmx80mm
设计资源
培训
5 培训