系统采用单容器轻量化架构部署,前端工作台提供 Web 交互与实时监控,后端集成 RKLLM 运行时与专用端侧模型。应用接收操作请求并限定在用户预设的候选白名单内进行向量与逻辑排序,通过标准 RESTful API(POST /api/decide)返回 JSON 排序结果。
把现场机器操作请求转化为排序后的命令,全部在端侧计算。
在 RK3576 与 RK3588 本地运行的设备命令工作台,把工控请求转化为排序后的命令选择,请求不离局域网。
产线控制台、输送设备、自动化工位等需要快速解析机器指令且网络受限的工控现场。

提供预设的安全动作集合,操作员输入自然语言请求,系统在候选范围内排序并输出速度与启停指令。

现场工人输入设备状态排查短句,本地模型匹配并返回对应 PLC 读取动作,无需人工翻查操作手册。

上层业务系统下发候选动作列表与指令意图,边缘主机快速过滤并排序,杜绝不受控的任意指令执行。
要求目标设备具备 RK3576 或 RK3588 芯片平台,预装 Docker 与 librknnrt.so 运行库。
边缘工控机采集操作请求,RK3588/RK3576 NPU 运行端侧排序模型完成打分,通过 HTTP POST 接口输出结构化结果。
系统采用单容器轻量化架构部署,前端工作台提供 Web 交互与实时监控,后端集成 RKLLM 运行时与专用端侧模型。应用接收操作请求并限定在用户预设的候选白名单内进行向量与逻辑排序,通过标准 RESTful API(POST /api/decide)返回 JSON 排序结果。
基于 RK3576 / RK3588 芯片平台(如 reComputer RK3588 系列与 LubanCat3),利用专用 NPU 加速硬件执行模型推理,无需独立独立显卡。
基于 RKLLM 1.3.1 运行时,RK3576 支持 2048-token 上下文,RK3588 支持 8192-token 上下文。仅在候选集合内排序,杜绝不可控指令幻觉。
对外暴露标准 HTTP 服务(端口 18768),提供 /api/health 存活检测与 /api/decide 命令决策接口,可无缝对接 SCADA、PLC 网关与看板。
容器拉起后,操作员在网页工作台中操作以及控制系统通过 API 对接的能力。
本地命令工作台的健康状态。
为用户请求排列候选机器命令。
{"prompt":"Choose the best machine command.","input_text":"Read current conveyor status.","options":[{"id":"status","label":"Read status"},{"id":"stop","label":"Stop"}]}首次下载固定版本产物需要网络;目标设备已有产物时可离线启动。
Kev 首次准备至少保留 3GB 可用空间;实测新鲜产物峰值约 1.94GB,并保留 1GB 余量。既有 RKNN 路径另行要求 4GB。