基于RAG与LLM的eIQ® GenAI Flow：赋能边缘对话式AI

eIQ® GenAI Flow是一款软件流程工具，用于在搭载i.MX应用处理器的边缘设备上部署对话式AI功能。

该流程工具整合了唤醒词检测、语音转文本、RAG、LLM及文本转语音合成等核心组件。其中，检索增强生成(RAG)技术可针对特定领域、设备或使用场景，有效扩展大语言模型(LLM)的知识库。

RAG不仅有助于约束大语言模型的行为、减轻“幻觉”，还能依据示例定制化响应。RAG从边缘设备存储的紧凑型知识库中检索相关上下文信息，并将其注入大语言模型的输入提示中。