大语言模型与eIQ® GenAI Flow解析

大语言模型(LLM)是生成式AI服务广泛采用的技术。这类服务基于深度学习模型，能够接受用户输入并生成高质量的输出。通过对现有模型进行微调，并结合检索增强生成(RAG)技术，可在降低资源消耗的同时，产生上下文感知结果。

恩智浦的eIQ GenAI Flow提供了一套将生成式AI引入边缘的工具，充分利用i.MX应用处理器中的eIQ Neutron NPU。eIQ GenAI Flow采用恩智浦优化和维护的先进的开源AI模型。

如需了解详情，请访问nxp.com/LLM

亮点

• 了解什么是大语言模型(LLM)、其面临的挑战，以及如何针对边缘应用对其进行优化。
• 学习检索增强生成(RAG)如何对LLM进行微调。
• 了解恩智浦的eIQ GenAI Flow如何借助i.MX应用处理器中的eIQ Neutron NPU，提供将实用的生成式AI部署到边缘所需的工具。

资源

• 人工智能和机器学习
• eIQ® AI软件开发环境