Getting aligned on representational alignment

要約

生物学的情報処理システムと人工情報処理システムは、分類、推論、計画、ナビゲーション、意思決定に使用できる表現を形成します。
これらの多様なシステムによって形成された表現がどの程度一致しているかをどのように測定できるでしょうか?
表現の類似性は同様の動作に変換されますか?
システムの表現を別のシステムの表現とよりよく一致させるために変更するにはどうすればよいでしょうか?
表現的整合性の研究に関するこれらの疑問は、認知科学、神経科学、機械学習における最も活発な研究分野の中心となっています。
たとえば、認知科学者は複数の個人の表象的配列を測定して共有の認知事前分布を特定し、神経科学者は複数の個人からの fMRI 応答をグループレベルの分析のために共有表象空間に配列し、ML 研究者は教師モデルからの知識を抽出して教師モデルから生徒モデルに抽出します。
アライメント。
残念ながら、表現的整合性に関心のある研究コミュニティ間の知識伝達は限られているため、ある分野での進歩が別の分野で独立して再発見されることになることがよくあります。
したがって、より優れたクロスフィールド通信は有利である。
これらの分野間のコミュニケーションを改善するために、私たちは表現の整合性を研究する研究者間の共通言語として機能する統一フレームワークを提案します。
私たちは 3 つの分野すべての文献を調査し、先行研究がこの枠組みにどのように適合するかを示します。
最後に、進歩がこれら 3 つの分野すべてに利益をもたらす可能性がある表現的調整における未解決の問題を提示します。
私たちは、私たちの取り組みが分野を超えたコラボレーションを促進し、情報処理システムを研究および開発するすべてのコミュニティの進歩を加速することができることを願っています。
これは研究報告書であることを承知しており、読者の皆様には将来の改訂についての提案をお寄せいただくことをお勧めします。

要約(オリジナル)

Biological and artificial information processing systems form representations that they can use to categorize, reason, plan, navigate, and make decisions. How can we measure the extent to which the representations formed by these diverse systems agree? Do similarities in representations then translate into similar behavior? How can a system’s representations be modified to better match those of another system? These questions pertaining to the study of representational alignment are at the heart of some of the most active research areas in cognitive science, neuroscience, and machine learning. For example, cognitive scientists measure the representational alignment of multiple individuals to identify shared cognitive priors, neuroscientists align fMRI responses from multiple individuals into a shared representational space for group-level analyses, and ML researchers distill knowledge from teacher models into student models by increasing their alignment. Unfortunately, there is limited knowledge transfer between research communities interested in representational alignment, so progress in one field often ends up being rediscovered independently in another. Thus, greater cross-field communication would be advantageous. To improve communication between these fields, we propose a unifying framework that can serve as a common language between researchers studying representational alignment. We survey the literature from all three fields and demonstrate how prior work fits into this framework. Finally, we lay out open problems in representational alignment where progress can benefit all three of these fields. We hope that our work can catalyze cross-disciplinary collaboration and accelerate progress for all communities studying and developing information processing systems. We note that this is a working paper and encourage readers to reach out with their suggestions for future revisions.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google