在 reComputer RK3576 或 RK3588 上部署 YOLO 11 目标检测,提供图片检测 REST API 和 MJPEG 实时视频流,支持 80 种 COCO 物体类别。
- 设备: reComputer RK3576 或 RK3588;实时视频检测需要 USB 摄像头(可选)。
- 软件: 设备已安装 Docker,可通过 SSH 访问。
- 模型: 部署时可选极速版、均衡版、精确版。
在 reComputer RK3576 或 RK3588 上部署 YOLO 11 目标检测,提供图片检测 REST API 和 MJPEG 实时视频流,支持 80 种 COCO 物体类别。
将目标检测容器部署到设备。
通过 SSH 部署到 RK3576。
yolo11n| 现象 | 处理 |
|---|---|
| SSH 连接失败 | 检查 IP 地址、用户名、密码 |
| 未检测到 NPU | 确认设备为 RK3576 且已加载 RKNPU 内核模块 |
| 未检测到摄像头 | 检查 USB 摄像头连接;没有摄像头时仍可用图片检测 API |
| 镜像拉取缓慢 | 检查网络,镜像约 1-2GB |
http://<设备IP>:8000/api/models/yolo11/predicthttp://<设备IP>:8000/api/video_feed(需要摄像头)确认检测服务正常工作。
上传一张图片测试目标检测。
| 现象 | 处理 |
|---|---|
| 没有检测结果 | 换一张包含人或车辆的图片 |
| 连接被拒绝 | 等 15-30 秒让服务启动 |
在 reComputer RK3576 上部署 DeepSeek-R1 大语言模型,提供本地运行的 OpenAI 兼容对话 API。
将大模型容器部署到 RK3576。
通过 SSH 部署到 RK3576。
1.5b-w4a16-latest| 现象 | 处理 |
|---|---|
| SSH 连接失败 | 检查 IP 地址、用户名、密码 |
| 未检测到 NPU | 确认设备为 RK3576 且已加载 RKNPU 内核模块 |
| 内存不足(7B 模型) | 7B 变体需要 8GB 以上内存,改用 1.5B 变体 |
| 镜像拉取缓慢 | 检查网络,镜像 1-4GB,取决于变体 |
对话 API:http://<设备IP>:8001/v1/chat/completions,可用任何 OpenAI 兼容客户端连接。
发送一条消息测试大模型。
| 现象 | 处理 |
|---|---|
| 连接被拒绝 | 等 30-60 秒让模型加载 |
| 超时 | 7B 模型加载较慢,最多等 2 分钟 |
| 空响应 | 执行 docker logs ai_lab_llm 查看原因 |
在 reComputer RK3576 上部署 Qwen2.5-VL 视觉语言模型,提供本地运行的 OpenAI 兼容视觉 API,支持图片描述和视觉问答。
将视觉语言模型容器部署到 RK3576。
通过 SSH 部署到 RK3576。
| 现象 | 处理 |
|---|---|
| SSH 连接失败 | 检查 IP 地址、用户名、密码 |
| 未检测到 NPU | 确认设备为 RK3576 且已加载 RKNPU 内核模块 |
| 内存不足 | 关闭其他服务释放内存,需要 8GB 以上 |
| 镜像拉取缓慢 | 检查网络,镜像约 3GB |
http://<设备IP>:8002/v1/chat/completionshttp://<设备IP>:8002/docs发送图片或文字测试视觉语言模型。
上传一张图片并提问。
| 现象 | 处理 |
|---|---|
| 连接被拒绝 | 等 60-120 秒让模型加载 |
| 超时 | 首次加载较慢,稍后重试 |