Neurosymbolic Value-Inspired AI (Why, What, and How)

要約

大規模言語モデル (LLM) の出現によって促進された人工知能 (AI) システムの急速な進歩により、さまざまな業界にわたって人的支援を提供するために AI が広く応用されるようになりました。
この傾向は、LLM ベースの AI システムが人間社会の一部として人間の間で機能し、人間の価値観を共有するという、ますます高まるニーズを中心とした重要な議論を引き起こしました。特に、これらのシステムが危険な状況 (ヘルスケア、自律走行など) に導入されている場合に顕著です。
運転など）。
この目的に向けて、神経象徴的な AI システムは、共通の価値観の明示的な表現を活用することで、価値観に基づく意思決定を促進するための、理解しやすく解釈可能なインターフェイスを可能にする可能性があるため、魅力的です。
この論文では、Khaneman の System 1/2 フレームワークの大幅な拡張を導入し、Value-Inspired AI (VAI) と呼ばれる神経象徴的な計算フレームワークを提案します。
これは、人間の価値のさまざまな側面を表現し統合することを目的とした、VAI システムの堅牢かつ実用的な実装に不可欠な重要なコンポーネントの概要を示しています。
最後に、この方向における現在の進歩についての洞察をさらに提供し、この分野の潜在的な将来の方向性を概説します。

要約(オリジナル)

The rapid progression of Artificial Intelligence (AI) systems, facilitated by the advent of Large Language Models (LLMs), has resulted in their widespread application to provide human assistance across diverse industries. This trend has sparked significant discourse centered around the ever-increasing need for LLM-based AI systems to function among humans as part of human society, sharing human values, especially as these systems are deployed in high-stakes settings (e.g., healthcare, autonomous driving, etc.). Towards this end, neurosymbolic AI systems are attractive due to their potential to enable easy-to-understand and interpretable interfaces for facilitating value-based decision-making, by leveraging explicit representations of shared values. In this paper, we introduce substantial extensions to Khaneman’s System one/two framework and propose a neurosymbolic computational framework called Value-Inspired AI (VAI). It outlines the crucial components essential for the robust and practical implementation of VAI systems, aiming to represent and integrate various dimensions of human values. Finally, we further offer insights into the current progress made in this direction and outline potential future directions for the field.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google