Controllable Neural Style Transfer for Dynamic Meshes
DisneyResearchHubが発表した研究では、3Dキャラクターの見た目を変えるための新しい技術について解説されています。
最近のアニメ映画では、リアルな表現から、個性的でユニークなデザインをサポートするスタイライズされた描写に変わってきています。そのために、「ニューラルスタイル転送(NST)」という技術を使って、2D画像を使って3Dキャラクターの見た目を変える方法が使われています。この研究では、今までのNSTの方法をいくつかの点で改良した新しい技術を紹介しています。
動画では3Dモデルに対して様々な画像模様に形状を変更している様子が確認できます。
今までの方法では、キャラクターの見た目を変えるときに細かい部分がぼやけてしまったり、変な模様が出てしまったりすることがありましたが、新しい方法では、「ニューラルネイバー」という工夫を使って、もっとはっきりとしたきれいな見た目にすることができます。これで、キャラクターが動いても変な模様が出ないようにする事が可能になりました。
キャラクターが大きく変形してもちゃんと形が整うようにするために、「ラプラス・ベルトラミ演算子」という特別な数学のルールを使いました。この方法でキャラクターの輪郭や細かい部分がしっかり見えるようになります。
また、新しい技術では、キャラクターの動きや向きに合わせて見た目を変えることができるようにしました。これによって、キャラクターが動いても一貫してきれいな見た目を保つことができます。最後に、見た目を変えるプロセスの中で、キャラクターの体積(大きさや形)が不自然にならないようにする工夫もしました。
これらの工夫のおかげで、3Dキャラクターの見た目をもっとユニークで高品質にすることができるようになりました。
これらの改善により、シミュレーションや3D資産に独自の見た目を提供できる高品質なメッシュスタイライズが可能になるとのことです。