PixRestore – 香港理工大学与 OPPO 联合开源的图像修复模型

AI模型2小时前更新 老高
8 0

PixRestore 是一款由香港理工大学与 OPPO 研究院于 2026 年 8 月开源的像素空间统一图像修复模型,主要用于在一次前向推理中同时处理去雨、去噪、去模糊与去雨滴等多类退化,支持单步生成与 53.7M 的轻量参数规模,适用于老照片修复、手机端成像增强与监控画面清晰化等场景。

基础信息内容
产品定位像素空间统一图像修复模型
开发团队香港理工大学与 OPPO 研究院
发布时间2026 年 8 月 17 日
开源协议Apache-2.0,代码与权重开放
参数规模53.7M
推理步数单步推理(1 NFE)
推理延迟官方实测约 44 毫秒
任务覆盖统一处理 8 类退化
技术路线不依赖 VAE 的像素 DiT
训练配置8 张 A800,512 见方裁块
权重入口Hugging Face 与官方网盘
社区热度GitHub 约 140 stars
PixRestore项目主页截图

PixRestore 的核心能力

它的取舍与主流做法不同:不再把图像压进隐空间,而是直接在像素上做扩散,用一套轻量主干换掉大模型加 VAE 的组合。

绕开 VAE:直接在像素上做流匹配

主流统一修复方案多把文生图模型改造成修复器,图像先经 VAE 编码再解码,这一步会丢掉对修复敏感的细节。PixRestore 把条件输入 [y_lq; x_t] 拼成六通道,以 patch size 8 切块后在像素空间做流匹配,序列长度仍在可训练范围内,细节因此不经过压缩再还原的往返。

层路由:让可靠的特征进来,不可靠的层转去监督

视觉编码器取六层特征,模型用低质与高质图像的 DINO 相似度预测每层权重 p_l:权重高的层作为稠密条件注入 DiT 块,权重低的层则接受更强的高质特征监督,用来推动退化被去掉而不是被原样带过。这套加权同时构成了分层视觉监督,训练时不需要额外标注。

单步蒸馏:从多步采样压到一次前向

多步模型先用 25 万次迭代训练,再用 DINO 对抗目标微调 10 万次,蒸馏成一步生成器。官方给出的项目页口径是 53.7M 参数、1 次函数评估、44 毫秒延迟,这个量级让它能进手机侧或批量流水线,而不只是停留在实验环境。

一套权重覆盖多类退化

论文在公开基准上并列了去雨条纹、去噪、去模糊与去雨滴四类任务的逐项数值,八类任务的演示放在项目页的画廊里。对使用者来说,好处是不必按退化类型分别装一个模型;代价是某一类极端退化的专用模型仍可能更优,选型时应对着自己那类画面实测。

与桌面超分工具的分工

站内已有的 Upscayl 属开箱即用的桌面应用,装完选图就能放大;PixRestore 给的是权重与推理脚本,需要自己搭环境,但能嵌进批处理与训练流程,也能按具体退化类型继续微调。

PixRestore 与同类统一修复方案的对比

下表数值全部取自其官方论文的公开基准表,四款方案在同一套测试集上并列,带星号的为在原训练集上重训后的版本。

对比维度PixRestoreFoundIR-v2*PromptIR*Flux-IR*
去雨条纹 PSNR ↑32.2827.8528.4321.01
去噪 PSNR ↑34.8728.1735.4526.80
去模糊 PSNR ↑28.3224.9829.1022.15
去雨滴 PSNR ↑24.4820.8123.6817.80
去雨条纹 LPIPS ↓0.09020.17730.26590.4511
去噪 LPIPS ↓0.06240.28890.11040.3789

上表四列数值均取自 PixRestore 官方论文的公开基准表,评定口径为同一测试集。差别集中在三处:去雨条纹上,它同时拿到最高 PSNR 与最低 LPIPS,雨痕去除后残留最少;去噪上,PromptIR* 的 PSNR 反而略高,它的优势落在感知指标 LPIPS;去模糊上,PromptIR* 同样小胜,说明一步生成的路线在强退化下的保真仍有折损。要看整体均衡选第一列,只做去噪可另测后者。

如果需要的是能直接上手处理照片的成品工具,也可以看美图云修(面向摄影与电商的在线修图服务,批量处理人像与商品图),与 PixRestore 的差别在于它提供界面而不提供权重。

PixRestore 的应用场景与适用人群

要不要用它,取决于一段素材里同时出现几类退化。上表三列中,去噪与去模糊两列 PromptIR* 的 PSNR 仍略高,PixRestore 赢在去雨的 PSNR 与 LPIPS 双项、以及去噪的感知指标;三类退化叠在同一张图上时,这套权重省掉的是逐个换模型。实际落到三类活:

  • 老照片与手机成像增强:一次前向同时处理噪点、轻微模糊与压缩痕迹,适合批量过一遍历史图库。
  • 监控与行车记录清晰化:夜间画面同时存在噪点与运动模糊,单步推理的低延迟便于接进现有流水线。
  • 内容生产前置清理:素材进入排版前先统一去噪与去雨,减少后续人工修补。
  • 研究复现与蒸馏实验:仓库给出从零训练与一步蒸馏两段流程,便于在同一数据上对比路线差异。百度网盘 AI 修图 这类托管服务可作为效果参照。

适用人群:影像算法与端侧部署方向的工程团队、需要批量处理历史图库的内容团队,以及研究统一修复与扩散蒸馏的研究者。

PixRestore 的使用方法

官方给了两条路径:日常修图走命令行推理,要训练模型再进第二段流程。

命令行推理:单图与批量修复

  1. 准备环境:按仓库说明建 conda 环境(Python 3.10),再执行 pip install -r requirements.txt;多卡推理依赖 accelerate。
  2. 取权重:从 PixRestore 官方仓库 克隆代码,权重从 Hugging Face 的 VCLab-PolyU/PixRestore 或官方网盘下载;DINOv2 会在首次运行时自动拉取。
  3. 单图推理:执行 accelerate launch inference.py --config configs/train.yaml -i 输入图 -o 输出目录 --infer-steps 1 --cfg-scale 1.0,其中 --infer-steps 1 即为单步模式。
  4. 批量处理:把 -i 指向图片目录,或给一个包含 lq 与 gt 字段的 JSON 清单,逐条执行并保留对照。
  5. 离线机器:先克隆 facebookresearch/dinov2,再用 --dinov2-repository 与 --dinov2-checkpoint 指向本地副本,避免运行时联网。

训练与蒸馏:从零训练或一步蒸馏

  1. 进入训练(可选):准备 lq/gt 配对的 JSONL 清单,用 scripts/train.sh 执行标准训练,再用 train_gan.yaml 做一步蒸馏。

官方没有提供在线试用页面,权重与代码都需自行部署;仓库自带两个纯 CPU 自检脚本,可在正式训练前验证数据通路。

PixRestore 的项目地址

  • 项目主页(论文、对比样例与指标):https://csslc.github.io/pixrestore-page/
  • GitHub 主仓库(代码、训练与推理脚本):https://github.com/csslc/PixRestore
  • Hugging Face 模型库(权重与配置文件):https://huggingface.co/VCLab-PolyU/PixRestore
  • 技术论文(arXiv 2608.16793):https://arxiv.org/pdf/2608.16793

PixRestore 的价格与开源情况

PixRestore 的代码按 Apache-2.0 发布,模型权重托管在 Hugging Face 的 VCLab-PolyU/PixRestore 下,下载、修改与商用都不产生许可费用。

成本只落在算力上。推理单卡即可完成,44 毫秒的单步延迟意味着批量处理时瓶颈更多在读写而不在显存;训练按官方配置需要 8 张 A800、512 见方裁块、25 万次迭代再加 10 万次蒸馏,这部分才是真正需要预算的环节。

权重同时提供网盘镜像,适合网络受限的环境;如需按自有数据继续训练,训练脚本与配置文件都在仓库里,不额外收费。

PixRestore 的常见问题

PixRestore 和常见的图像超分工具差在哪?

超分只处理分辨率放大,PixRestore 面向的是去雨、去噪、去模糊、去雨滴等多类退化,一套权重覆盖 8 类任务;它给的是权重与脚本,需要自己部署,不是装完即用的客户端。

跑一次要多久、要多大显存?

官方项目页给出的单步推理延迟约 44 毫秒、参数 53.7M,单卡即可运行;论文未公布统一的显存下限,实测应按输入分辨率评估。

能商用吗?

代码与权重均按 Apache-2.0 分发,协议本身允许商用与再分发;训练数据来源与生成结果的版权仍需使用者自行判断,官方未对结果作额外承诺。

支持中文场景的图片吗?

模型未针对特定语种训练,修复对象是像素层面的退化,与画面文字语种无关;官方演示与基准以通用场景为主,中文字体边缘的还原效果需自行实测。

© 版权声明

相关文章