画像認識コンペ
画像認識のコンペは、事前学習済みバックボーンの選択、データ拡張、学習パイプラインの作り込みで競います。
timm などの公開モデルを前提に、いかに速く強いベースラインを立てて育てるかが勝負どころです。ViT・CLIP・自己教師あり学習などの技術動向は 画像認識・視覚モデルの技術動向 を参照してください。
押さえどころ
- バックボーン選択には実証研究の知見が使える。NeurIPS 2023「Battle of the Backbones」ではタスク横断の評価で ImageNet-21k 教師あり学習の ConvNeXt が最上位、中規模パラメータでは CNN 優位、ViT は大規模化で伸びる傾向。分類で強いモデルは検出やセグメンテーションでも強い傾向がある
- 公開モデルは「重みは固定したまま処理方法を変える」カスタマイズや、torch.compile や AMP による高速化で飼い慣らす（野生のモデルを飼い慣らす）
- ベースラインを立ててから育てる進め方はイベント掲載の「画像コンペでのベースラインモデルの育て方」などの発表資料が参考になる
- 音声コンペもスペクトログラム化して画像モデルを適用することが多く、知見が流用できる（音声コンペ）
- 分類には timm が定番だが、物体検出・セグメンテーションでは MMDetection・OpenMMLab・Segmentation Models PyTorch など専用ライブラリが使われる。いずれも公開実装をタスクに合わせてどうカスタムするかが腕の見せどころになる
資料
入門・基礎
コンペの定跡
関連概念