未来の自分のためにだらだらと見かけたものをメモしていこうと思います。
研究まとめ系
- deeppomf/DeepLearningAnimePapers
- 2018年で更新が停止している?
- SerialLain3170/AwesomeAnimeResearch
タグ分類
- KichangKim/DeepDanbooru
- TensorFlow
- Danbooruから独自にダウンロードしたデータで学習?
- v3の配布モデルが性能が良いらしい(v4は軽量版)
- RF5/danbooru-pretrained
- プロジェクトページ
- PyTorch
- モデル配布あり
- タグ: Danbooru2018で頻出の6000タグ
- ResNet50
キャラクター分類
物体検知
- jerryli27/AniSeg
- 顔、目、口、体(figure)
- kosuke1701/AnimeCV
- 顔
- hysts/anime-face-detector
- 顔。顔の各特徴点検出も。
- PALM: the PALM Anime Locator Model
- 手の検知のためのデータセット・YOLOv3モデル
Semantic Segmentation
- jerryli27/AniSeg
- キャラクター
- pit-ray/Anime-Semantic-Segmentation-GAN
- プロジェクトページ(日本語)
- 背景、目、顔と首、髪、その他
zymk9/Yet-Another-Anime-Segmenter
- キャラクター
-
- DanbooRegion
- イラストを領域ごとに(自動?)分割するツールとそれによって作成されたデータセット
ランドマーク検出
- Indigo6/anime_face_landmark_detection
- 眉、目、鼻、口、顎
- hysts/anime-face-detector
- 顔の各特徴点検出。27特徴点。
ポーズ推定
高解像度化
- nagadomi/waifu2x
- 2倍への高解像度化とノイズ削減
- yu45020/Waifu2x
- 上記waifu2xのpytorch版
- SerialLain3170/KawaiiGenerator
- 高解像度化のツールが利用可能?
- TanakitInt/SRCNN-anime
- 詳細は未確認
フレーム補間
アニメのフレーム間を補間してFPSを上げる技術。
Inpainting
イラストを動かす系
- pkhungurn/talking-head-anime-2-demo
- 顔のイラストを入力すると、自動的に口、目、首を動かせるようにしてくれる。
創作支援系
イラスト生成
-
- 手描きの線画と色ヒントを入力に生成する
diva-eng/stylegan-waifu-generator
- StyleGANによるアニメキャラの顔画像生成
- 追記:事前学習モデルをまわすにはrosinality/stylegan2-pytorchをcloneしてパスを通す必要がありました。
- 以下は実際にこの事前学習モデルによって生成されたイラストです
- Extended StyleGAN2 Danbooru2019 by Aydao
- Danboor2019データセットによりStyleGAN2モデルを学習。モデルの大規模化や正則化を弱めるなどの工夫をしている
- https://www.gwern.net/Faces#extended-stylegan2-danbooru2019-aydao
- This Anime Does Not Existで利用されているモデル
カラー化 (Colorization)
- DwangoMediaVillage/Comicolorization
- 白黒の漫画に自動的に色を付ける Comicolorization を試せる実装。
- パネル検知なども行っている。
- ユーザーが与えたキャラクターの色付け例を参考に色を付けてくれる。
- 以下の図は現論文からの引用。一番左がユーザーが与える色付け例の参考画像。
線画着色 (Lineart Colorization)
- lllyasviel/style2paints
- Style2Paints
- orashi/AlacGAN
- yliess86/PaintsTorch2
- PaintsTorch2
- 論文: PaintsTorch: a User-Guided Anime Line Art Colorization Tool with Double Generator Conditional Adversarial Network (Y. Hati, CVMP 2019)
- データセット生成に関する記述
- 線画はExtended Difference of Gaussianを利用してカラーのイラストから生成。ハイパーパラメータは
- データセット生成に関する記述
- [論文: User-Guided Line Art Flat Filling with Split Filling Mechanism (L. Zhang, CVPR 2021)]
- 線画が与えられたときにflat color (色の下塗りというべきか?)を塗るタスクを解いている
ライティングの変更
- lllyasviel/PaintingLight
- イラスト中の光源の位置を変更する
スタイル変換
- venture-anime/cartoongan-pytorch
- CartoonGANを試せる実装
- 数種類のスタイルが用意されている?
- 以下の図は現論文からの引用。一番右がCartoonGANによる出力。
- SerialLain3170/KawaiiGenerator
- 参照キャラの髪の色などに合わせて入力画像を変換するツールが公開されている。
線画の補正
- bobbens/sketch_simplification
- 入力されたスケッチから綺麗な線画を生成する
白黒漫画化
実写のトゥーン化
実写の写真を入力として、絵画調に変換する。