录音以 WAV 文件上传到主机,从上传到完成转写与说话人分离计时;音频来自 FLEURS(CC BY 4.0)与 AISHELL-1(Apache 2.0)公开数据集,核心模型采用阿里达摩院 SenseVoice-Small(中英日韩粤多语言)+ CAM++ 说话人分离。
1. 现场即时交互出稿(单工牌 30 秒对话)
| 录音场景与样本 | 音频时长 | 处理总耗时 | 说话人分离 | 选型机型 | 现场体验 |
|---|---|---|---|---|---|
| 中文两人服务对话(FLEURS) | 26.1 秒 | 1.21 秒 | 2 人 / 5 轮对话 | reComputer J40 系列(J4012) | 瞬时出稿,对话刚结束后台即见文字 |
| 中文两人长对话(FLEURS) | 30.5 秒 | 1.17 秒 | 2 人 / 4 轮对话 | reComputer J40 系列(J4012) | 175 倍超实时,文字上屏无感知延迟 |
| 中文两人对话(AISHELL-1) | 16.5 秒 | 1.25 秒 | 2 人 / 3 轮对话 | reComputer J30 系列(J3011) | 主流性价比配置,体验与 J40 基本一致 |
| 日语接客录音(FLEURS) | 34.0 秒 | 1.71 秒 | 2 段完整日文 | reComputer J40 系列(J4012) | 多语种快速解析,客诉秒级回溯 |
| 中文两人对话(FLEURS) | 30.5 秒 | 4.61 秒 | 2 人 / 4 轮对话 | reComputer RK3576 系列(8 GB) | 5 秒内出结果,适合非紧急咨询归档 |
2. 集中交班回传并发承载(10 枚工牌同时上传,含 10 分钟音频)
| 选型机型 | 推荐并发工牌数 | 10 枚工牌总转写耗时 | 最长排队等待延迟 | 调度可靠性机制 | 推荐业务场景 |
|---|---|---|---|---|---|
| reComputer J40 系列<br>(Orin NX 16GB) | 10 ~ 50 枚 | 约 3.5 秒 | < 3.5 秒(完全无感) | 超实时毫秒级队列消化:单上下文 CUDA Graph 锁保护,不爆显存、杜绝 429 报错,并发任务毫秒级出队 | 综合商超、连锁大店、政务大厅等大批量工牌晚间集中交班 |
| reComputer J30 系列<br>(Orin Nano 8GB) | 5 ~ 20 枚 | 约 4.1 秒 | < 4.1 秒(完全无感) | 同上,GPU 满载吞吐 29.5 QPS,显存仅占 486 MB,运行极其稳定 | 8~15 人标准门店、独立专卖店 |
| reComputer RK3588 系列<br>(RK3588 8GB) | 5 ~ 15 枚 | 约 14.5 秒 | 约 5.0 秒(3 并行流水线) | 多核心硬件真并发:3 个独立 NPU 核心各承载 1 个 Worker 真正并行处理 | 中型工作站、多工位分布式回传 |
| reComputer RK3576 系列<br>(RK3576 8GB) | 1 ~ 3 枚 | 约 46 秒 | 约 46 秒(单流按序) | 单 Worker 轻量运行:峰值内存仅 442 MB(W4A16 压缩模型),单路按顺序处理,建议错峰同步 | 独立诊室、心理咨询室、小微柜台(低成本单设备交替) |
多语言转写延迟测试、说话人分离准确率与 RK3576 资源占用,详见 工程 Wiki · 智能工牌私有化语音转写。