可打断对话式语音 AI - 1

可打断对话式语音 AI

插上支持 AEC 的麦克风阵列,即可在 RK3576、RK3588、Jetson Orin Nano 或 Orin NX 上运行支持实时打断的语音应用;语音使用 Qwen3-ASR + Matcha-TTS,对话模型可接云端,也可全本地运行。

中级30min语音 AI
voice-aibarge-inaecqwen3-asrmatcha-ttsrk3576rk3588Jetsonorinrk1828local-llm

这个方案能帮你做什么

把一台边缘设备变成真正能“听、想、说”的语音终端:插上支持硬件回声消除的麦克风阵列和音箱,设备就会持续收音、理解讲话并立即回复。用户在回复播放期间重新开口,当前声音会马上停下并进入新一轮对话,不必等它说完。

这不是只能按住按钮说一句话的网页 Demo。麦克风和音箱由设备上的常驻 agent 直接管理,适合机器人、服务台、展台、智能家居终端和自助设备长期运行。

核心价值

好处具体说明
自然打断播放回复时仍持续监听;检测到用户讲话后取消当前生成、清空播放队列并开启新一轮
可选开放词表唤醒词可要求先说任意简短中文或英文唤醒词;识别成功后播放短提示音
对话模型可插拔可以连接 Qwen API、其他 OpenAI 兼容接口,或切换到受支持的本地模型
四个平台共用一套体验RK3576、RK3588、Orin Nano、Orin NX 使用同一套双工协议和 agent 配置
音频数据可留在本地Qwen3-ASR 和 Matcha-TTS 都在设备上运行;全本地套餐连对话文本也不离开设备

适用场景

场景怎么用
服务台与展台访客直接提问;发现答非所问时可立刻打断重问
机器人语音入口把连续对话接到机器人动作或业务工具,不需要改变底层语音接口
智能家居终端在房间里远场说话,由 AEC 麦克风抑制音箱回声,避免设备被自己的回复误触发
产品原型先用云端模型快速验证,再迁移到 RK1828 或 Orin NX 本地模型

使用须知

核心硬件设备

设备说明必需
RK3576、RK3588、Orin Nano 或 Orin NX运行语音识别、语音合成和对话 agent✓ 必选其一
reSpeaker XVF3800 或同类 AEC 麦克风阵列输出已经做过回声消除的采集通道✓ 必选
USB 或 3.5mm 音箱播放回复✓ 必选
RK1828 / RM182X在 RK3588 上运行本地 Qwen3-4B仅 RK 本地套餐

AEC 与打断边界

  • 软件不会凭空替代声学回声消除。普通 USB 麦克风可能把音箱声音再次送入识别,造成误打断或自激循环。
  • reSpeaker XVF3800 的 2 通道和 6 通道固件会自动识别,并选择经过处理的通道;其他麦克风默认取第 1 个输入通道,部署后需要实测。
  • 不建议在播放期间把麦克风静音;这样虽然没有回声,却也无法打断。

可选唤醒词

部署时选择“唤醒词后响应”即可启用镜像内置的开放词表 sherpa-onnx 检测器, 输入任意简短中文或英文唤醒词,Agent 会在本地编译,并在检测成功后播放一声 短促的 880 Hz 提示音。“持续监听”仍是默认方式,保持原有免唤醒体验。

网络要求

  • 首次部署会下载镜像和模型产物,需要稳定网络并预留足够磁盘空间。
  • 云端套餐持续需要联网;全本地套餐在产物缓存完成后可以断网运行。
  • Qwen 云端默认使用北京地域 OpenAI 兼容地址;其他地域或供应商请替换接口地址和模型 ID。

方案对比

套餐对话模型支持设备适合谁
云端或兼容接口Qwen API 或任意 OpenAI 兼容模型RK3576 / RK3588 / Orin Nano / Orin NX最快获得完整对话体验
全本地对话RK1828 Qwen3-4B 或 Orin NX Qwen3.5-4BRK3588 + RK1828 / Orin NX 16GB隐私、离线和固定成本场景

技术组合

  • 语音识别:Qwen3-ASR
  • 语音合成:Matcha-TTS
  • 双工控制:单条持久连接、持续收音、播放队列取消和对话截断
  • 对话接口:OpenAI-compatible Chat Completions

使用说明

audio

必须使用能输出硬件 AEC/已处理采集通道的 USB 麦克风阵列;默认按已验证的 reSpeaker XVF3800 配置。

audio

一个连接到同一台设备的音箱,用于播放语音回复。

network

首次启动需要联网下载镜像和模型;云端套餐运行时仍需访问 API,本地套餐缓存完成后可离线运行。

部署方案

cloud_compute
recomputer_rk3576
recomputer_rk3588
recomputer_j30
recomputer_j40
cloud_mic
respeaker_xvf3800
联系我们
获取方案参考设计与产品选型支持。
下一步
可打断对话式语音 AI