图片不能出设备、现场没有稳定外网,但能接受一张图等一两分钟的地方。
- 隐私敏感的出图流程——医疗、法律、企业内网里生成或改图,图片与提示词不离开设备。
- 离线互动装置——自助拍照机、展厅艺术装置,按访客的描述出图,不依赖云服务。
- 应用里加本地出图——网页、桌面工具或自动化流程调用 HTTP 接口,拿回 PNG。
不适用:需要实时出图或多人同时生成的场合;一张图 1–2 分钟,一次只处理一个请求。
在 Jetson Orin NX 上本地运行 Z-Image-Turbo(6B)——通过 HTTP API 实现文生图和图生图,完全离线。
图片不能出设备、现场没有稳定外网,但能接受一张图等一两分钟的地方。
不适用:需要实时出图或多人同时生成的场合;一张图 1–2 分钟,一次只处理一个请求。
只要一台 Jetson 主机。模型和出图服务在一个 Docker 容器里,在局域网上开 HTTP 接口,你的应用发提示词或参考图,拿回生成的 PNG。
60 亿参数的出图模型决定了主机要大显存模组。
| 主机 | 模组 | 说明 |
|---|---|---|
| reComputer J40 系列(J4012) | Orin NX 16GB | 上游出图时间在这块模组上给出 |
| reComputer J50 系列 | AGX Orin 64GB | 同一套部署流程 |
主机需 JetPack 6、NVIDIA 容器运行时,并能 SSH 登录。
首次部署自动下载模型权重和所选分辨率的推理引擎,占用空间大,先确认磁盘。
网页、桌面工具或自动化流程经局域网调用主机上的出图服务。服务一次处理一个请求,其余排队。
数据接口见下方「能拿到什么数据」。
口径:从发出提示词到拿到 PNG 的整张图生成时间,4 步采样,单请求。
| 现场能得到什么 | 典型值 | 设备 |
|---|---|---|
| 512px 文生图 | 约 100 秒 | reComputer J40 系列(J4012,Orin NX 16GB) |
| 384px 文生图 | 约 73 秒 | 同上 |
| 同时处理的请求 | 1 个,其余排队 | 同上 |
图生图用参考图加提示词,按步数与改动强度耗时增加,一张在 1–2 分钟。HTTP 客户端超时建议设到 180 秒。
部署完就靠这几个接口接数据。
| 接口 | 内容 | 说明 |
|---|---|---|
| HTTP 8000 健康检查 | 服务是否就绪 | 就绪返回成功 |
| HTTP 8000 JSON 出图 | 文生图或图生图,返回模式、分辨率、耗时与图片地址 | 适合程序调用 |
| HTTP 8000 表单出图 | 同上,参考图以文件上传 | 适合直接传本地图片 |
| HTTP 8000 图片文件 | 生成的 PNG | 同时保存在设备的输出目录 |
接口只在局域网内提供,一次处理一个请求;客户端超时设短了会在出图完成前断开。
最低是 reComputer J40 系列里带 Orin NX 16GB 模组的型号,如 J4012;reComputer J50 系列(AGX Orin 64GB)也可以。主机需 JetPack 6,磁盘要放下约 20GB 权重和每个分辨率约 12GB 的推理引擎。
在 Orin NX 16GB 上,4 步采样的 512px 文生图约 100 秒,384px 约 73 秒。图生图按步数和改动强度更久,一张在 1–2 分钟。
部署完成后完全离线运行;首次部署要联网下载权重与推理引擎。提示词、参考图和生成的图片都留在设备上,只在你的应用和设备之间传输。
服务一次只处理一个请求,其余排队,这是为了控制在 GPU 内存范围内。多人同时出图需要多台设备分担。
调用设备 8000 端口的 HTTP 接口:JSON 请求发提示词,或用表单上传参考图做图生图。返回里有耗时和图片地址,按地址取 PNG;客户端超时建议设到 180 秒。
部署脚本会在 Hugging Face 不通时自动改走国内镜像。下载中断后重新部署即可,未完成的分片会丢弃,只补缺失的文件。两者都不通时,可以手动把模型放到模型目录再部署。
分辨率在部署时从 512px 与 384px 中选,每换一个分辨率要多下载约 12GB 推理引擎。步数和图生图强度在每次请求里设置,步数越多越慢。
Z-Image-Turbo 权重保留其发布方的许可条款,部署代码在上游 GitHub 仓库按其许可使用。闭源商用前确认权重许可与生成内容的使用限制满足你的产品要求。