
语音处理、音频工程与边缘AI如何助力开发人员打造更自然的可穿戴体验。
数十年来,获取信息始终离不开注视屏幕、输入搜索词、浏览应用或点击菜单。如今,对话式AI正在引入一种全新的交互模式,改变着我们与技术的交互方式。用户不再需要通过按键检索信息,而是可以通过语音提出问题;不再需要操作界面,而是可以通过自然对话完成交互。
智能眼镜正是这一演进趋势的具体体现之一。这类可穿戴设备融合了语音界面、边缘AI与可穿戴计算,让开发人员得以重新思考人与技术的交互方式,从而让信息获取更便捷,并减少对传统屏幕的依赖。
然而,打造这些体验远不止将麦克风连接至语言模型那般简单。开发人员必须应对语音处理、音频工程、AI、无线连接与低功耗系统设计等多方面的挑战,才能实现响应迅速且自然流畅的交互。
可穿戴设备引入了与传统嵌入式系统截然不同的设计限制。板上的每一毫米空间都至关重要,每一毫瓦功耗也同样重要。麦克风、扬声器、处理器、电池、天线与传感器均需在轻量化外形规格中争得一席之地,而该外形设计还需确保用户全天佩戴舒适。
与此同时,消费者期望也在持续演变。例如,用户期望语音交互能够快速响应,在嘈杂环境中准确理解语音,并输出清晰音频,同时保持足够的电池续航,以支持日常随身使用。要满足这些期望,开发人员必须将系统视为一个整体,而非孤立地考虑各项技术。
观看 “智能眼镜之声:将语音AI带入现实世界”,探索智能眼镜对话式AI背后的技术。
然而,对话式AI并非仅限于AI推理。整体体验取决于语音捕获、音频处理、AI、无线通信与播放能否作为一个完整系统协同运作。
人类对话模式为AI提供了可模仿的自然交流范式。
人们会自然地通过“是的”、“对”或“我明白”等简短语言提示回应对方。这些回应通常被称为“渠道返回”(back-channeling),有助于对话自然流畅地进行。
同样,人们也经常打断对方,以澄清观点或提出追问。支持这种被称为“插话”(barge-in)的行为,是打造直觉式而非交易式对话式AI体验的关键要素。
这些交互对延迟同样高度敏感。处理流程的每个阶段都会影响整体响应时间,包括麦克风捕获、音频处理(波束赋形)、AI推理、无线通信与播放。
尽管每个阶段可能仅引入微小延迟,但叠加后的整体效应会影响交互的自然感。
对开发人员而言,优化对话式AI意味着不应局限于单个算法,而需考虑端到端系统延迟。
与受控的实验室环境不同,智能眼镜的设计初衷是融入人们的生活和工作场景——繁忙的街道、机场、会议现场、办公室以及制造工厂。然而,在这些条件下准确捕获用户语音,带来了重大的工程挑战。
波束赋形使麦克风阵列能够聚焦于特定声源(例如佩戴者的语音),同时抑制干扰背景噪声。自适应波束赋形进一步扩展了这一能力,可动态适应其他说话人的声音,从而支持实时翻译或协作对话等应用场景。
回声消除和语音增强等其他技术有助于在音频进入语音识别引擎之前对其进行处理,从而支持在各种复杂的声学环境下实现可靠运行。
恩智浦Conversa Voice Suite将这些能力中的许多项整合到一个全面的语音处理软件平台上,助力实现免手动通信。它包含自适应多麦克风波束赋形、声学回声消除以及基于机器学习(ML)的降噪等技术,为开发人员提供所需的软件构建模块,以便为智能眼镜和其他支持语音的边缘设备打造稳健的语音体验。
语音识别性能远不止取决于AI模型本身。麦克风的放置、波束赋形、回声消除、降噪与系统延迟都会影响整体用户体验。
对话是双向交互,但准确捕获语音只是体验的一部分。向用户返回清晰易懂的音频回应同样重要。
要在最小化失真的同时保持音质稳定,需要精密的硬件设计结合先进的音频处理。因此,智能眼镜依赖于能够在极为严苛的机械约束下运行的微型扬声器。
恩智浦Essential Audio Processing (EAP)提供可配置的音频处理算法,旨在提升嵌入式系统的播放质量。扬声器均衡、低音增强、响度优化与动态处理等功能,可帮助开发人员针对紧凑型可穿戴设计的独特约束调优音频性能。
随着对话式AI应用从简单的语音指令演进到更连续的交互方式,这些考量变得越来越重要。
并非所有AI工作负载都需要在云端运行。相反,在边缘运行部分语音处理与AI推理有助于降低延迟,提高响应速度,并减少无线带宽需求。本地处理还可用于连接时断时续的场景,也可用于开发人员选择在设备上处理特定数据的场景。
对于可穿戴设备而言,高效的边缘处理在管理整体系统功耗方面发挥着重要作用。
i.MX RT700跨界MCU集成了数字信号处理器(DSP)能力、eIQ® Neutron神经处理单元(NPU)以及低功耗计算域,旨在支持持续运行应用的语音与音频工作负载。开发人员可将上述能力与波束赋形、回声消除、语音增强和嵌入式音频处理的软件构建模块相结合,从而获得一个面向语音边缘设计的集成基础。
开发人员不再需要分别应对硬件与软件挑战,而是日益受益于可优化完整对话流程的平台。
对话式AI是一项系统级挑战。语音捕获、音频处理、边缘AI、软件与硬件协同工作,共同塑造整体用户体验。
欢迎收看!在Apple Podcasts、Spotify或YouTube上观看由Laurent Pilati主讲的EdgeVerse Techcast,了解更多关于智能眼镜对话式AI的内容。
推动对话式AI发展,需要整个生态系统的协同合作。在增强现实世界博览会(AWE)主旨演讲中,恩智浦与来自谷歌的Brian Vogelsang同台,探讨了两家公司如何携手赋能Android XR的对话式AI体验。
在双方持续协作的推动下,恩智浦的Conversa Voice Suite与EAP Library相集成,以提升语音捕获与音频播放能力。这充分表明,软件创新与生态系统协作能够加速可穿戴AI应用的开发。
智能眼镜正在推动人机交互(HMI)新方式的形成。
随着对话式AI持续演进,开发人员能够设计出更自然、响应更迅速,并更好地融入日常活动的应用。要实现这些目标,开发人员需要在高度受限的可穿戴平台上,平衡性能、延迟、音频质量和能效。
尽管智能眼镜是一个极具吸引力的应用场景,但许多相同的设计思路也适用于其他支持语音的边缘设备,包括工业系统、医疗设备、消费电子可穿戴设备、机器人和智能家居产品。
随着这些应用持续演进,该领域的成功不仅取决于AI模型的进步,也取决于能否构建周密的系统架构,将语音处理、音频工程和边缘AI融为一体。
有意探索智能眼镜的对话式AI,或其他支持语音的新兴边缘设备技术?恩智浦提供一系列硬件、软件和开发资源,可帮助您加快评估与设计进程。了解详情:
无论您是在构建可穿戴设备、工业系统还是其他智能边缘应用,了解完整的语音和音频流程,都是打造更自然AI体验的基础。
Laurent Pilati现任恩智浦半导体AI软件工程经理,负责领导MCU、MPU和NPU平台的AI软件开发工作。他专注于嵌入式系统、边缘AI、机器学习、无线音频与信号处理,在语音、音频及智能边缘应用领域拥有丰富经验。Laurent还曾发表多篇研究论文,并持有多项音频处理与通信系统相关专利。
Nik Jedrzejewski现任恩智浦半导体可穿戴业务总监,负责制定下一代可穿戴设备战略,涵盖智能眼镜、可听戴设备与智能手表。他拥有超过25年半导体行业经验,专注于低功耗解决方案、边缘AI、连接技术、语音与音频技术。其职业背景涵盖硬件与软件开发、产品管理及无线战略,曾任职于摩托罗拉、SigmaTel和AMD等公司。