Ara软件开发套件(SDK)能够简化在Ara240 DNPU和相关模块上开发与部署各类AI模型的流程。Ara SDK配备了可扩展的AI编译器，能够支持多样化且不断演进的模型架构，包括卷积神经网络、全连接神经网络、用于视觉任务的Transformer模型，以及大语言模型等复杂模型，同时还支持视觉语言模型、代码生成模型和函数调用(智能体)模型。该SDK提供高效的数据流优化、灵活的量化方法及对多种数据类型的支持，确保边缘AI应用实现高性能与低延迟。
| 版本和文档 | 说明 | 构建源代码 | 支持的平台/二进制文件 |
|---|---|---|---|
|
Ara2运行时包 |
入门指南——运行时SDK，用于在i.MX8MPLUS和i.MX95上通过Ara240 DNPU实现AI/ML加速。使用预编译的CNN模型进行基准测试的方法。 |
|
支持的平台： |
|
Ara2视觉示例 |
包含GStreamer管道的软件包，可在Ara240 DNPU上使用YOLOv8模型并行处理8路视频流 |
|
支持的平台： |
|
LLM Edge Studio |
基于Qt的启动器工具，用于在Ara240上运行单模态LLM |
|
支持的平台： |
|
VLM Edge Studio |
边缘侧多模态生成式AI——展示Ara240 在i.MX平台上结合VLM进行视频与图像分析的多模态功能的演示 |
|
支持的平台： |
|
eIQ AAF连接器 |
一种 服务组件，向客户端应用提供与OpenAI兼容的REST API接口，同时将请求代理到 Ara240 DNPU上本地托管的LLM/VLM后端 该连接器针对基于i.MX处理器和Ara DNPU的智能体AI框架(AAF)解决方案进行了优化 |
|
支持的平台： |
快速参考恩智浦 文档类别
3 文件
紧凑列表
4 硬件
