边缘侧多模态生成式AI:覆盖从语言到视觉的可扩展AI

登录 访问此内容及其他网站特色功能

尚未建立帐户? Register now.

主要亮点

  • 通过将i.MX MPU与Ara240 DNPU相结合,可实现2至160eTOPS的生成式AI性能扩展,为从实时视觉AI到边缘大规模LLM的各类应用提供强大算力。
  • 通过灵活的边缘AI平台,在软硬件层面实现无缝扩展,无需依赖云端即可轻松完成从原型制作到量产的过渡。
  • 解锁实际多模态生成式AI用例,包括视频搜索、工业检查、预测性维护、物流优化和智能安防——所有处理均在数据生成的位置本地完成。

知识库

基于i.MX应用处理器与Ara DNPU的可扩展性

通过将高性能i.MX 95、通用型i.MX 8M Plus及强大的Ara240 DNPU相结合,恩智浦打造出一个灵活的边缘AI平台。该平台可从高效的视觉推理扩展至大规模多模态及生成式AI工作负载,从而在工业、物联网和汽车应用中实现高性能、低延迟且 保护隐私的智能处理。

多模态生成式AI智能——完全在边缘运行

本演示展示了视觉、语言与生成式AI模型如何在设备端协同工作,在无需依赖云端的情况下,提供实时分析、低延迟及保护隐私的智能。

为各类边缘场景提供安全的生成式AI——任意规模,始终安全

本演示通过在设备端完全运行具有320亿参数的LLM,展示了如何将敏感数据保留在本地,并在工业自动化、机器人、物流、医疗保健和智能基础设施等领域实现安全可信的生成式AI,避免云端暴露或数据泄露风险。

Let's Connect and Get You Started

Whether you have questions or want to explore more, we're here to help. Reach out to our team or create your account to access exclusive resources and updates.