本地语音服务

给你自己的应用用的本地语音服务:把音频发进去拿回文字,把文字发进去拿回语音。跑在 reComputer J40 / J30、reComputer RK3588 / RK3576 或 Pi 5 上,首次部署后可断网运行。

SenseCraft入门15min音频与声音智能AI Agent 就绪源码

可复用现场模板

产品要能听、能说,但音频不能发到云端语音接口。

  • 语音控制机器人——口令转成文字交给你的控制程序,回复再念出来。
  • 信息亭与服务终端——访客开口提问,直接听到回答。
  • 工业语音指令——操作员不碰屏幕就能触发动作。
  • 共用一台语音主机——局域网里多台设备把音频发给同一台边缘主机。

不适用:想要开箱即用的完整语音助手。本服务只负责听和说,对话逻辑或大模型需要你自己接。

如何实现

三样东西:音频来源、一台跑识别与合成的边缘主机、通过局域网调用它的你的应用。音频和文字都留在这台主机上。只有首次部署需要联网,用来下载镜像和模型。

音频来源

服务从你的程序接收音频,自己不占用麦克风。

  • 主机上的麦克风——你的程序采集后以流的方式送进来。
  • 其他设备的音频——机器人、信息亭或网页经局域网发过来。
  • 录好的文件——上传 WAV,拿回转写文字。

播放也由你的程序负责:服务返回音频流或 WAV 文件。如果要让用户能打断回复,需要带硬件回声消除的麦克风,做法见「对话式语音 AI」可部署方案。

实现什么效果

口径:客户端标记说完,到第一帧合成音频。链路里不含对话模型,也不含静音判定的等待。

用户能得到什么典型值设备
识别完成到第一帧合成语音(中英配置,不含 VAD 与对话模型)58 ms p50reComputer J40 系列(Orin NX 16GB)
识别错误率,同一配置CER 10.5% p50reComputer J40 系列(Orin NX 16GB)
识别完成到第一帧合成语音(Qwen3 多语种,不含 VAD 与对话模型)162 ms p50reComputer J40 系列(Orin NX 16GB)

同样口径下,reComputer RK3588 为 528 ms,reComputer RK3576 为 1020 ms。J40 上换用 Qwen3 识别,错误率降到 CER 5.3%。

实际产品还要加上轮次检测等待的静音时长,以及所接对话模型的响应时间。J30、J40、RK3588、RK3576 都能同时跑两路会话;Jetson 上两路同时合成时,合成速度跟不上实时。

能拿到什么数据

所有接口都由语音主机的 8621 端口提供。

接口送进去什么拿回什么
ws://<host>:8621/asr/stream16 位 PCM 音频陆续返回的识别文字,带是否结束的标记
POST http://<host>:8621/asrWAV 文件识别文字
POST http://<host>:8621/tts/streamJSON 格式的文字可直接播放的 PCM 音频流
POST http://<host>:8621/ttsJSON 格式的文字一个 WAV 文件
GET http://<host>:8621/health—识别与合成是否就绪

对接点在你的应用里。 把对话模型、规则引擎或机器人指令层放在识别结果和合成请求之间。

移植到你的业务系统

可复用的单元是「本地识别 + 本地合成,外面包一层固定的 HTTP 与 WebSocket 接口」。两者之间放什么由你决定。

层移植时你要做的
四类加速器上的识别与合成直接复用
8621 端口上的接口直接复用
语音配置、发音人与语速在设备设置里选
对话模型、规则或机器人指令你的产品就长在这里
麦克风采集、播放、打断在你的应用里做,或从「对话式语音 AI」起步

不适用的形态

  • 需要开箱即可打断回复的产品——用「对话式语音 AI」,它补上了回声消除采集与打断。
  • Qwen3 52 语种表之外的语言,以及 Pi 5 上中英文以外的语言。

如何部署

核对方案与产品清单,再照部署指南装。

怎么选主机

  • 要最低延迟,或要声音克隆 → reComputer J40 系列。说完到第一帧语音 58 ms。代价:档位最高,占 7.5 GB 磁盘。
  • 要用 Jetson,预算更低 → reComputer J30 系列。语音配置与 J40 相同。代价:需要 8 GB 版,且不能同时跑别的 GPU 任务。
  • 已经在用瑞芯微板卡 → reComputer RK3588,成本更低选 RK3576。代价:到第一帧语音分别为 528 ms 和 1020 ms。
  • 只要中英文,成本最低 → Pi 5(8GB),CPU 运行。代价:没有多语种配置。

部署前确认:能 SSH 登录主机,首次启动能联网,磁盘空间够所选配置使用。

现场设备选型清单与部署方案

根据现场条件选择参数,自动匹配推荐硬件套餐与安装指南;也可以让 AI 助手为你核算推荐或一键部署。

方案自助咨询与部署
部署方案

部署语音服务

通过 SSH 将流式语音识别 + 语音合成服务部署到边缘设备

2 步 · 约 15min

部署指南 →
边缘设备
recomputer_j40
recomputer_rk3576
recomputer_rk3588

常见问题

能,首次部署之后。首次启动会下载镜像和模型,之后识别和合成完全在主机上运行。

没有找到你要的答案?
联系我们
获取可部署方案与产品选型支持。
下一步