Towards ethical multimodal systems

要約

Art Rombach らによると、生成 AI システム (ChatGPT、DALL-E など) は私たちの生活のさまざまな分野に拡大しています。
[2021] メンタルヘルスへ ロブ・モリスとカリーム・クドゥス [2022]。
急速に増大する社会的影響は新たな機会をもたらしますが、同時に倫理的な懸念も引き起こします。
AI アライメントという新興分​​野は、AI システムに人間の価値観を反映させることを目的としています。
この論文は、テキストと画像の両方を含むマルチモーダル AI システムの倫理評価に焦点を当てています。これは、現在ほとんどの調整作業が言語モデルに焦点を当てているため、比較的研究が進んでいない領域です。
まず、倫理に関する人間のフィードバックからマルチモーダルな倫理データベースを作成します。
次に、このデータベースを使用して、システム応答の倫理性を自動的に評価するための、RoBERTa ラージ分類器や多層パーセプトロンなどのアルゴリズムを開発します。

要約(オリジナル)

Generative AI systems (ChatGPT, DALL-E, etc) are expanding into multiple areas of our lives, from art Rombach et al. [2021] to mental health Rob Morris and Kareem Kouddous [2022]; their rapidly growing societal impact opens new opportunities, but also raises ethical concerns. The emerging field of AI alignment aims to make AI systems reflect human values. This paper focuses on evaluating the ethics of multimodal AI systems involving both text and images – a relatively under-explored area, as most alignment work is currently focused on language models. We first create a multimodal ethical database from human feedback on ethicality. Then, using this database, we develop algorithms, including a RoBERTa-large classifier and a multilayer perceptron, to automatically assess the ethicality of system responses.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google