Jetson 一键部署 Z-Image-Turbo

在 Jetson Orin NX 上本地运行 Z-Image-Turbo(6B)——通过 HTTP API 实现文生图和图生图,完全离线。

SenseCraft中级15min端侧 AIAI Agent 就绪源码

可复用现场模板

图片不能出设备、现场没有稳定外网,但能接受一张图等一两分钟的地方。

  • 隐私敏感的出图流程——医疗、法律、企业内网里生成或改图,图片与提示词不离开设备。
  • 离线互动装置——自助拍照机、展厅艺术装置,按访客的描述出图,不依赖云服务。
  • 应用里加本地出图——网页、桌面工具或自动化流程调用 HTTP 接口,拿回 PNG。

不适用:需要实时出图或多人同时生成的场合;一张图 1–2 分钟,一次只处理一个请求。

如何实现

只要一台 Jetson 主机。模型和出图服务在一个 Docker 容器里,在局域网上开 HTTP 接口,你的应用发提示词或参考图,拿回生成的 PNG。

本地主机

60 亿参数的出图模型决定了主机要大显存模组。

主机模组说明
reComputer J40 系列(J4012)Orin NX 16GB上游出图时间在这块模组上给出
reComputer J50 系列AGX Orin 64GB同一套部署流程

主机需 JetPack 6、NVIDIA 容器运行时,并能 SSH 登录。

首次部署自动下载模型权重和所选分辨率的推理引擎,占用空间大,先确认磁盘。

  • 模型权重约 20GB,每个分辨率的推理引擎再占约 12GB。
  • 下载可续传:中断后重新部署,只补缺的文件;Hugging Face 不通时自动改走国内镜像。
  • 分辨率二选一:512px 或 384px,部署时选定。

实现什么效果

口径:从发出提示词到拿到 PNG 的整张图生成时间,4 步采样,单请求。

现场能得到什么典型值设备
512px 文生图约 100 秒reComputer J40 系列(J4012,Orin NX 16GB)
384px 文生图约 73 秒同上
同时处理的请求1 个,其余排队同上

图生图用参考图加提示词,按步数与改动强度耗时增加,一张在 1–2 分钟。HTTP 客户端超时建议设到 180 秒。

能拿到什么数据

部署完就靠这几个接口接数据。

接口内容说明
HTTP 8000 健康检查服务是否就绪就绪返回成功
HTTP 8000 JSON 出图文生图或图生图,返回模式、分辨率、耗时与图片地址适合程序调用
HTTP 8000 表单出图同上,参考图以文件上传适合直接传本地图片
HTTP 8000 图片文件生成的 PNG同时保存在设备的输出目录

接口只在局域网内提供,一次处理一个请求;客户端超时设短了会在出图完成前断开。

如何部署

核对方案与产品清单,再照部署指南装。

现场设备选型清单与部署方案

根据现场条件选择参数,自动匹配推荐硬件套餐与安装指南;也可以让 AI 助手为你核算推荐或一键部署。

方案自助咨询与部署
部署方案

部署图片生成服务

通过 SSH 将 Z-Image-Turbo API 部署到 Jetson Orin NX

2 步 · 约 15min

部署指南 →
Jetson 设备
recomputer_j40
recomputer_j50

常见问题

最低是 reComputer J40 系列里带 Orin NX 16GB 模组的型号,如 J4012;reComputer J50 系列(AGX Orin 64GB)也可以。主机需 JetPack 6,磁盘要放下约 20GB 权重和每个分辨率约 12GB 的推理引擎。

没有找到你要的答案?
联系我们
获取可部署方案与产品选型支持。
下一步