Trustworthy AI: Deciding What to Decide

要約

戦略的な意思決定に携わるとき、私たちは圧倒的な情報やデータに直面することがよくあります。
特定の証拠が互いに矛盾したり、逆説的になったりすると、状況はさらに複雑になる可能性があります。
主な課題は、意思決定に人工知能 (AI) システムを導入する際に、どの情報が信頼できるかをどのように判断するかということです。
この問題は、何を決定するか、または信頼できる AI を決定することとして知られています。
しかし、AI システム自体は不透明なブラックボックスであると考えられることがよくあります。
私たちは、表現空間、損失関数、オプティマイザーという AI の 3 つの重要なコンポーネントを含む Trustworthy AI (TAI) の新しいフレームワークを導入することで、この問題に対処する新しいアプローチを提案します。
各コンポーネントは 4 つの TAI プロパティと疎に結合されています。
全体として、フレームワークは 12 の TAI プロパティで構成されます。
私たちは、このフレームワークを使用して、定量的および定性的研究方法によって TAI 実験を実施し、意思決定の文脈における TAI 特性を満たすことを目指しています。
このフレームワークにより、テクノロジー分野におけるクレジット デフォルト スワップ (CDS) の戦略的投資決定を適用するために、特定のデータセットによってトレーニングされた最適な予測モデルを定式化できます。
最後に、TAI 研究の将来の方向性についての私たちの見解を示します。

要約(オリジナル)

When engaging in strategic decision-making, we are frequently confronted with overwhelming information and data. The situation can be further complicated when certain pieces of evidence contradict each other or become paradoxical. The primary challenge is how to determine which information can be trusted when we adopt Artificial Intelligence (AI) systems for decision-making. This issue is known as deciding what to decide or Trustworthy AI. However, the AI system itself is often considered an opaque black box. We propose a new approach to address this issue by introducing a novel framework of Trustworthy AI (TAI) encompassing three crucial components of AI: representation space, loss function, and optimizer. Each component is loosely coupled with four TAI properties. Altogether, the framework consists of twelve TAI properties. We aim to use this framework to conduct the TAI experiments by quantitive and qualitative research methods to satisfy TAI properties for the decision-making context. The framework allows us to formulate an optimal prediction model trained by the given dataset for applying the strategic investment decision of credit default swaps (CDS) in the technology sector. Finally, we provide our view of the future direction of TAI research

arxiv情報

提供元, 利用サービス

arxiv.jp, Google