
HandRefiner
HandRefiner簡介
解決ai圖像生成中手部畸形的問題 目前的圖像生成模型,再生成圖像方面已經非常出色,但在生成人類手部的圖像時卻常常出現問題,比如手指數量不對或者手形怪異。
HandRefiner項目地址:https://github.com/wenquanlu/HandRefiner/
HandRefiner論文地址:https://huggingface.co/hr16/ControlNet-HandRefiner-pruned
HandRefiner模型下載:https://huggingface.co/hr16/ControlNet-HandRefiner-pruned
HandRefiner提出一種方法,在不改變圖片其他部分的情況下,修正那些形狀不正常的手部圖像。 它采用條件修補方法來糾正畸形的手部,可以識別出手部的正確形狀和手勢,并將這些正確的信息重新應用到原始的錯誤手部圖像上。
HandRefiner主要特點:
- 精確性:HandRefiner能夠精確地識別和修正生成圖像中的畸形手部,提供了一種有效的后處理解決方案。
- 保持一致性:在修正手部的同時,它保持圖像其他部分的一致性,不會影響圖像的整體質量。
- 利用合成數據:研究中發現了ControlNet中的一個相變現象,這使得HandRefiner能夠有效地利用合成數據進行訓練,而不會受到真實手和合成手之間域差異的影響。這意味著HandRefiner還能學習很多不同的手的樣子,這樣無論手有多怪,它都能找到合適的方式來修正。
- 適用性:盡管HandRefiner主要針對手部圖像,但其基本原理和技術可以適用于其他需要精細修正的圖像生成任務。比如這種方法也可以用來修正其他部分,比如腳或者耳朵。
HandRefiner工作原理:
1、手部識別與重建: 識別問題:首先,HandRefiner識別出生成圖像中形狀不正常的手部。重建手部:使用手部網格重建模型,HandRefiner根據人手應該有的樣子重新畫出一個正確的手。它能夠重建出正確的手部形狀和手勢。這得益于模型基于正常手部的訓練數據,即使是在畸形的手部圖像中也能生成合理的重建結果。
2、條件修補: 修補過程:HandRefiner采用條件修補方法來處理識別出的問題手部。它生成一個深度圖,這個深度圖包含了關于手部形狀和位置的重要信息。集成與修正:然后,這個深度圖被用作指導,通過ControlNet集成到擴散模型中。HandRefiner會把這個重新畫好的手放回原來的畫作中,替換掉那個畫錯的手,但其他部分不動,保持原畫的風格和內容。