Representation Matters: The Game of Chess Poses a Challenge to Vision Transformers

要約

タイトル：表現が重要：チェスのゲームはビジョン・トランスフォーマーにとっての課題となる

要約：
– トランスフォーマーは「AIのスイスアーミーナイフ」として評判が高いが、古典的なAIのベンチマークであるチェスのゲームをマスターするようにチャレンジする研究は存在しない。
– AlphaZero内でViT（ビジョン・トランスフォーマー）を単純に使用するだけでは、チェスのゲームをマスターすることはできない。
– MobileNetとNextViTの組み合わせを使用しても、ViTは遅すぎるため、チェスのゲームをマスターすることはできない。
– チェスのゲームをマスターするためには、単純な入力表現の変更と価値損失の変更が必要であり、これにより、AlphaZeroよりも最大で180 Eloポイントの向上が実現できる。

要約(オリジナル)

While transformers have gained the reputation as the ‘Swiss army knife of AI’, no one has challenged them to master the game of chess, one of the classical AI benchmarks. Simply using vision transformers (ViTs) within AlphaZero does not master the game of chess, mainly because ViTs are too slow. Even making them more efficient using a combination of MobileNet and NextViT does not beat what actually matters: a simple change of the input representation and value loss, resulting in a greater boost of up to 180 Elo points over AlphaZero.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI