Ara软件开发套件(SDK)能够简化在Ara240 DNPU和相关模块上开发与部署各类AI模型的流程。Ara SDK配备了可扩展的AI编译器，能够支持多样化且不断演进的模型架构，包括卷积神经网络、全连接神经网络、用于视觉任务的Transformer模型，以及大语言模型等复杂模型，同时还支持视觉语言模型、代码生成模型和函数调用(智能体)模型。该SDK提供高效的数据流优化、灵活的量化方法并支持多种数据类型，确保边缘AI应用实现高性能与低延迟。
| 发布版本和文档 | 说明 | 构建源代码 | 支持的平台/二进制文件 |
|---|---|---|---|
| Ara软件开发套件(SDK) | 支持多芯片分片功能，适用于大语言模型，通过将模型拆分到多个设备上来改善TTFT。新增对Qwen3模型编译流程的支持。后续将提升准确性。仅兼容AraRT 3.0及更高版本 | 有关Ara SDK及Runtime已验证模型和支持的主机与硬件平台列表，请参阅RN00543《Ara SDK与AraRT发布版本说明》。 | |
| Ara2 Runtime软件包(AraRT) | 将命名更改为AraRT，并包含相应的目录结构变更；新增对x86主机的支持；最多可为两个设备启用多芯片分片支持；包含由固件控制的自动电源状态切换；新增额外错误处理；仅兼容使用Ara SDK 3.0及更高版本编译的模型。 | 如需了解功能列表，请参阅RN00543《Ara SDK与AraRT发布版本说明》>。 | |
| Optimum-Ara | Optimum Ara是Hugging Face Transformers与Optimum生态合作体系的扩展，新增对Ara240 DNPU的支持，可在边缘实现高性能AI推理。 |
|
|
| Ara2 Vision示例 | 该软件包内含GStreamer管道，可在Ara240 DNPU上使用目标检测模型并行处理8路视频流 。 |
| 本软件包所提供的功能现已纳入GoPoint应用中心，该中心已整合至i.MX Embedded Linux镜像版本6.18.20_2.0.0内 支持的平台： |
| LLM Edge Studio | 基于Qt的启动器，用于在Ara240上运行的单模态LLM。 |
| 本软件包所提供的功能现已纳入GoPoint应用中心，该中心已整合至i.MX Embedded Linux镜像版本6.18.20_2.0.0内 支持的平台： |
| VLM Edge Studio | 边缘多模态生成式AI演示 —— 在i.MX平台上通过VLM展示Ara240 的多模态能力，用于视频与图像分析。 |
| 本软件包所提供的功能现已纳入GoPoint应用中心，该中心已整合至i.MX Embedded Linux镜像版本6.18.20_2.0.0内 支持的平台： |
| eIQ AAF Connector | 一项服务 ，向客户端应用开放兼容OpenAI的REST API，同时将请求转发至在 Ara240 DNPU上本地托管的LLM/VLM后端。 该连接器已针对i.MX处理器及Ara DNPU上的智能体AI框架(AAF)解决方案进行了优化。 |
| 本软件包所提供的功能现已纳入i.MX Embedded Linux镜像版本6.18.20_2.0.0 支持的平台： |
| Smart Device Gateway | 服务接口，向客户端应用开放兼容OpenAI的REST API，同时将请求转发至在Ara240 DNPU上本地托管的LLM/VLM后端。 |
| 本软件包所提供的功能现已纳入i.MX Embedded Linux镜像版本6.18.20_2.0.0 支持的平台： |
| 发布版本与文档 | 说明 | 构建源代码 | 支持的平台/二进制文件 |
|---|---|---|---|
| Ara软件开发套件(SDK) | 该软件开发套件使用户能够对CNN、LLM和VLM进行量化和编译，以便在Ara240 DNPU上运行推理任务。 | 有关Ara SDK及Runtime已验证模型和支持的主机与硬件平台列表，请参阅RN00543《Ara SDK发布版本说明》。 | |
| Ara2 Runtime软件包 | 从这里开始——基于i.MX 8M PLUS和i.MX95的Ara240 DNPU，实现AI/ML加速的运行时SDK。用于对预编译CNN 模型进行基准测试。 |
| 本软件包所提供的功能现已纳入i.MX Embedded Linux镜像版本6.18.20_2.0.0 支持的平台： |
| Optimum-Ara | Optimum Ara是Hugging Face Transformers与Optimum生态合作体系的扩展，增加了对Ara240 DNPU的支持，可在边缘实现高性能AI推理。 | | |
| Ara2 Vision示例 | 该软件包内含GStreamer管道，可在Ara240 DNPU上使用目标检测模型并行处理8路视频流 。 |
| 本软件包所提供的功能现已纳入GoPoint应用中心，该中心已整合至i.MX Embedded Linux镜像版本6.18.20_2.0.0内 支持的平台： |
| LLM Edge Studio | 基于Qt的启动器，用于在Ara240上运行的单模态LLM。 |
| 本软件包所提供的功能现已纳入GoPoint应用中心，该中心已整合至i.MX Embedded Linux镜像版本6.18.20_2.0.0内 支持的平台： |
| VLM Edge Studio | 边缘多模态生成式AI演示 —— 在i.MX平台上通过VLM展示Ara240 的多模态能力，用于视频与图像分析。 |
| 本软件包所提供的功能现已纳入GoPoint应用中心，该中心已整合至i.MX Embedded Linux镜像版本6.18.20_2.0.0内 支持的平台： |
| eIQ AAF Connector | 一项服务 ，向客户端应用开放兼容OpenAI的REST API，同时将请求转发至在 Ara240 DNPU上本地托管的LLM/VLM后端。 该连接器已针对i.MX处理器及Ara DNPU上的智能体AI框架(AAF)解决方案进行了优化。 |
| 本软件包所提供的功能现已纳入i.MX Embedded Linux镜像版本6.18.20_2.0.0 支持的平台： |
| Smart Device Gateway | 服务接口，向客户端应用开放兼容OpenAI的REST API，同时将请求转发至在Ara240 DNPU上本地托管的LLM/VLM后端。 |
| 本软件包所提供的功能现已纳入i.MX Embedded Linux镜像版本6.18.20_2.0.0 支持的平台： |
快速参考恩智浦 文档类别
5 文件
紧凑列表
4 硬件
