要約
この論文では、ビジュアル トランスフォーマー スタイルのパッチ分類器とサッカード ローカル アテンションの新しい組み合わせを紹介します。
ラベル付けされたオブジェクトの重心までの正規化された距離を推定するようにネットワークがトレーニングされるクラス メンバーシップ確率エラーを最小化する最適化関数ではなく、オブジェクト モデルをトレーニングするための新しい最適化パラダイムも提示されます。
このアプローチは、ある程度の国際的不変性をモデルに直接構築し、勾配上昇による高速サッケード検索を可能にして、オブジェクトの重心を見つけます。
結果として得られるサッカード ビジュアル トランスフォーマーは、人間の顔で示されます。
要約(オリジナル)
This paper presents the novel combination of a visual transformer style patch classifier with saccaded local attention. A novel optimisation paradigm for training object models is also presented, rather than the optimisation function minimising class membership probability error the network is trained to estimate the normalised distance to the centroid of labelled objects. This approach builds a degree of transnational invariance directly into the model and allows fast saccaded search with gradient ascent to find object centroids. The resulting saccaded visual transformer is demonstrated on human faces.
arxiv情報
著者 | Willem. T. Pye,David. A. Sinclair |
発行日 | 2022-10-17 16:17:02+00:00 |
arxivサイト | arxiv_id(pdf) |
提供元, 利用サービス
arxiv.jp, Google