Ara软件开发套件

ARA-SDK

Ara AI软件开发套件(SDK)简化了在Ara-1和Ara-2独立神经处理单元(DNPU)和模块上部署AI模型的流程。它配备一个可扩展的编译器，支持多种模型架构，包括卷积神经网络(CNN)、大语言模型(LLM)和视觉语言模型(VLM)。该SDK提供高效的数据流优化、灵活的量化方法及对多种数据类型的支持，确保边缘AI应用实现高性能与低延迟。

框图

选择框图:

机器学习部署流程

ARA-1-DNPU-BD

恩智浦应用处理器和Ara DNPU连接

ARA-1-DNPU-BD-2

Ara DNPU与应用处理器主机及驱动程序的集成

ARA-1-DNPU-BD-3
获取框图PDF

主要特性

  • 优化执行规划，为任意AI图自动确定高效的数据和计算流程
  • 可扩展的编译器，支持从CNN到复杂视觉转换器和大语言模型等各种模型
  • 可编程计算引擎能够轻松适应新的模型算子
  • 支持多种数据类型，可处理INT8 (Ara-1、Ara-2)、INT4和MSFP16 (仅Ara-2)
  • 软件定义张量分区和路由针对数据流进行了优化
  • 灵活的量化方法

支持的器件

  • ARA-2-DNPU: Ara-2独立NPU：赋能实时生成式AI
  • ARA-1-DNPU: Ara-1：用于优化边缘AI的独立NPU

设计资源

硬件

快速参考恩智浦 板类型.
筛选条件

支持

您需要什么帮助?

  • Narrow your search
搜索