HandRefiner:解决AI图像生成中手部畸形的问题

93次阅读
没有评论

共计 870 个字符,预计需要花费 3 分钟才能阅读完成。

目前 Stable Diffusion 和 SDXL 在生成类手部的图像时常常出现问题,比如手指数量不对或者手形怪异。HandRefiner 提出一种方法,在不改变图片其他部分的情况下,修正那些形状不正常的手部图像。它采用条件修补方法来纠正畸形的手部,可以识别出手部的正确形状和手势,并将这些正确的信息重新应用到原始的错误手部图像上。

GitHub 地址:https://github.com/wenquanlu/HandRefiner

HandRefiner:解决 AI 图像生成中手部畸形的问题

HandRefiner 主要特点:

  • 精确性:HandRefiner 能够精确地识别和修正生成图像中的畸形手部,提供了一种有效的后处理解决方案。
  •  保持一致性:在修正手部的同时,它保持图像其他部分的一致性,不会影响图像的整体质量。
  • 利用合成数据:研究中发现了 ControlNet 中的一个相变现象,这使得 HandRefiner 能够有效地利用合成数据进行训练,而不会受到真实手和合成手之间域差异的影响。这意味着 HandRefiner 还能学习很多不同的手的样子,这样无论手有多怪,它都能找到合适的方式来修正。
  • 适用性:尽管 HandRefiner 主要针对手部图像,但其基本原理和技术可以适用于其他需要精细修正的图像生成任务。比如这种方法也可以用来修正其他部分,比如脚或者耳朵。

工作原理:

1、手部识别与重建:

  • 识别问题:首先,HandRefiner 识别出生成图像中形状不正常的手部。
  • 重建手部:使用手部网格重建模型,HandRefiner 根据人手应该有的样子重新画出一个正确的手。它能够重建出正确的手部形状和手势。这得益于模型基于正常手部的训练数据,即使是在畸形的手部图像中也能生成合理的重建结果。

2、条件修补:

  • 修补过程:HandRefiner 采用条件修补方法来处理识别出的问题手部。它生成一个深度图,这个深度图包含了关于手部形状和位置的重要信息。
  • 集成与修正:然后,这个深度图被用作指导,通过 ControlNet 集成到扩散模型中。HandRefiner 会把这个重新画好的手放回原来的画作中,替换掉那个画错的手,但其他部分不动,保持原画的风格和内容。
正文完
关注公众号获取最新教程
post-qrcode
 
AI小诸葛
版权声明:本站原创文章,由 AI小诸葛 2023-12-31发表,共计870字。
转载说明:除特殊说明外本站文章皆由原创发布,请勿转载。
评论(没有评论)
验证码