ページの先頭へ戻る

「Pix2pix」でイラストを変化!10種の実験で分かったこと【Controlnet1.1検証】

最終更新:2023/04/22 03:42 │ AIイラスト | コメント(0)
pix2pix.png


こんにちは、スタジオ真榊です。前回の記事に引き続き、今夜もControlnet1.1の新モデル検証の続きをお届けしたいと思います。



今回検証するのは「Pix2pix」。前回はイラストの要素をばらばらにして再構成する「Shuffle」について研究しましたが、Pix2pixは再構成ではなく「変化」を扱う新技術です。Controlnetのアップデートに注意しながら、さっそく見ていきましょう。

目次
・元イラストを変化させられる「Pix2pix」
・代表的な指示プロンプト
・実験1:色を変える
・実験2:背景を変える
・実験3:表情を変える
・実験4:髪型を変える
・実験5:脱衣させる
・実験6:一部を置き換える
・実験7:時刻変化
・実験8:「put~on~」で着用させる
・実験9:タッチを変える
・実験10:複数の要素を同時に変更できる?
・終わりに

※今回の検証には一部、着衣状態の女の子を脱衣させる実験が含まれます。ご注意ください。


元イラストを変化させられる「Pix2pix」


Pix2pixは「ペア」になった画像を教師データとして大量学習させることで、AIに二つの画像の間の「関係性」を覚えさせ、ある入力画像を渡すと指示通りに変化させて出力させられるようにする技術のこと。例えば、赤いリンゴの絵と青いリンゴの絵をペアで学習したAIは「Aを青くしたものがB」という関係性を学びますので、「このイチゴを青くして」という要求に応えられるようになる・・・というわけです。

スクリーンショット 2023-04-22 034110

こちらの例では、「ひまわりをバラに取り替える」「空に花火を加える」「果物をケーキに置き換える」といった指示プロンプトによって、その通りに画像が変化していることが分かります。

「ある画像を入力して別の画像に変換する」という意味ではShuffleに似ていますが、Shuffleがあくまで元画像をピースとしてパズルをくみ上げる「再構成」のイメージなのに対して、Pix2pixはあるお題を任意の状態に「変化」させるイメージ。Shuffleと違って元イラストの色合いや要素を必ずしも継承しないので、入力画像と出力画像の雰囲気が似ないこともありますし、変化させる対象(上の例なら花や空、コートなど)を限定して置き換えることもできます。


関連記事

コメントの投稿













管理者にだけ表示を許可する