The Multilingual Alignment Prism: Aligning Global and Local Preferences to Reduce Harm

要約

「調整」の概念に関する主な懸念は、「何に対して調整するのか?」という暗黙の疑問です。
AI システムは世界中でますます使用されていますが、安全性の調整は均質な単一言語設定に焦点を当てていることがよくあります。
さらに、好みのトレーニングや安全対策は、西洋中心のデータセットによくある害に対して過剰適合することがよくあります。
ここでは、グローバルとローカルの両方の害を最小限に抑えながら、不均質な言語と文化的嗜好に対処し、最適化するという 2 つの目的のバランスを取る際の、さまざまな調整アプローチの実行可能性を検討します。
私たちは、地球規模の被害と局所的な被害を区別する人間による注釈付きのレッドチームプロンプトの最初のセットをさまざまな言語で収集しました。これは、地理や言語を超えて非定常な選好分布に直面した場合に、調整手法の信頼性を理解するための実験室として機能します。
この設定は、主に英国の危害軽減に焦点を当てたこれまでの文献ではほとんど取り上げられていませんが、世界中の AI システムとの現実世界の相互作用を捉えています。
私たちは、一般的なパフォーマンスの低下を最小限に抑えながら、6 つの言語にわたる最先端の調整技術の新たな前例を確立します。
私たちの研究は、言語を越えた転送と、世界の人々にサービスを提供するように設計された AI システムを保護するための新しい最適化アプローチに関する重要な洞察を提供します。

要約(オリジナル)

A key concern with the concept of ‘alignment’ is the implicit question of ‘alignment to what?’. AI systems are increasingly used across the world, yet safety alignment is often focused on homogeneous monolingual settings. Additionally, preference training and safety measures often overfit to harms common in Western-centric datasets. Here, we explore the viability of different alignment approaches when balancing dual objectives: addressing and optimizing for a non-homogeneous set of languages and cultural preferences while minimizing both global and local harms. We collect the first set of human annotated red-teaming prompts in different languages distinguishing between global and local harm, which serve as a laboratory for understanding the reliability of alignment techniques when faced with preference distributions that are non-stationary across geographies and languages. While this setting is seldom covered by the literature to date, which primarily centers on English harm mitigation, it captures real-world interactions with AI systems around the world. We establish a new precedent for state-of-the-art alignment techniques across 6 languages with minimal degradation in general performance. Our work provides important insights into cross-lingual transfer and novel optimization approaches to safeguard AI systems designed to serve global populations.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google