语音抓取机械臂(reBot B601-DM)

说一句 "Hey Jarvis, grab the water bottle",reBot B601-DM 机械臂用腕部深度相机找到物体、抓起并带回,约 11 秒。语音、语言模型、目标检测和抓取规划都跑在一台 reComputer J40(Orin NX 16GB)上,不调用云端接口。

SenseCraft高级60min音频与声音智能AI Agent 就绪

可复用现场模板

桌面机械臂,有人说出物体名字,它就把东西拿过来。

  • 展厅与展会——访客说出桌上某个物体,机械臂去取。
  • 机器人研发与教学——语音、视觉、抓取规划和臂控在一套能跑的系统里。
  • 取物递送原型——做辅助或服务型机械臂的起点。
  • 增加新物体——可识别的物体列表改配置即可,不用重新训练。

不适用:透明物体、宽于 0.100 m 夹爪开口的物体、杂乱料箱,以及需要承诺成功率的产线抓放。

如何实现

四样东西:reBot B601-DM 机械臂、装在手腕上的奥比中光 Gemini 2 深度相机、reSpeaker USB 麦克风加一只音箱,以及跑全部软件的 reComputer J40。它们都经 USB 接到 J40。首次启动下载完模型后,整套不再需要联网。

执行与输出

  • reBot B601-DM——六关节机械臂,力控平行夹爪最大开口 0.100 m,经 USB 串口连接。
  • 奥比中光 Gemini 2——装在手腕上的双目深度相机。必须接 USB 3.0 口,接 USB 2 深度数据会断流。

每台设备抓取前都要做一次手眼标定。 约 30 分钟:打印标定板,让机械臂在板上方扫约 16 个位姿,保存结果。标定前语音、检测和面板都能用,只是抓取指令不会让臂动。

实现什么效果

以下是部署指南给出的典型值,配置为 reComputer J40 + reBot B601-DM + 腕部 Gemini 2,已完成手眼标定。

用户能得到什么典型值设备
语音指令到物体带回约 11 秒reComputer J40 系列(Orin NX 16GB)
能抓的物体种类5 类——纸盒、不透明水杯、直立不透明瓶、香蕉、橙子reComputer J40 系列(Orin NX 16GB)

限制

  • 透明瓶子抓不了。 双目深度相机看不见透明塑料和水。
  • 宽于 0.100 m 的物体会被拒绝,并语音说明原因。
  • 物体放在臂前 25–30 cm、正前方或稍偏一侧效果最好。
  • 检测引擎加载失败时,会退回同一模型的较慢版本,检测结果不变。

能拿到什么数据

所有接口都由 J40 提供。

接口承载什么
http://<jetson-ip>:8776实时面板:腕部相机画面与机械臂状态
GET http://<jetson-ip>:8776/api/state机械臂位姿、夹爪状态和最近一次抓取结果,JSON
GET http://<jetson-ip>:8776/api/frame.jpg腕部相机最新彩色帧
GET http://<jetson-ip>:8775/observation机械臂 x / y / z 位置,以及夹爪是否夹着东西
http://<jetson-ip>:8000本地语言模型服务

其他系统读状态,不必自己驱动机械臂。 录制工具、数字孪生或产线监控可以在局域网里轮询观测接口。

移植到你的业务系统

可复用的单元是「唤醒词 → 本地识别 → 语言模型确定物体 → 腕部相机检测 → 规划并执行抓取 → 语音播报结果」。

层移植时你要做的
语音、唤醒词与本地语言模型直接复用
检测器的物体列表改配置,不用重新训练
盒形、圆柱、细长、圆球四类抓取路线形状相近的物体直接复用
手眼标定每台设备重做
机械臂驱动换成 reBot B601-DM 以外的臂时重写

不适用的形态

  • 透明或反光物体——深度相机看不见。
  • 料箱抓取与密集堆叠——设计假设物体在桌面上彼此分开。
  • 需要承诺节拍或成功率的场合——先在自己的物体和摆放上实测。

如何部署

核对方案与产品清单,再照部署指南装。

现场设备选型清单与部署方案

根据现场条件选择参数,自动匹配推荐硬件套餐与安装指南;也可以让 AI 助手为你核算推荐或一键部署。

方案自助咨询与部署
部署方案

Jetson 上的语音抓取

语音+LLM+机械臂一键部署到 Jetson Orin NX,现场标定后解锁抓取。

3 步 · 约 60min

部署指南 →
机械臂
rebot_arm_b601
麦克风
respeaker_flex
计算单元
recomputer_j40

常见问题

能,首次启动之后。首次启动下载约 8.5 GB 模型和 1.4 GB 镜像;之后语音、语言模型、检测和抓取都在 J40 上运行,不调用在线接口。

没有找到你要的答案?
联系我们
获取可部署方案与产品选型支持。
下一步