Trust and ethical considerations in a multi-modal, explainable AI-driven chatbot tutoring system: The case of collaboratively solving Rubik’s Cube

要約

人工知能 (AI) は、生徒の学習パターンに関する大量のデータから洞察を明らかにする能力により、教育を変革する可能性を秘めています。
しかし、AI に対する倫理的および信頼性に関する懸念が提起されていますが、未解決です。
高校の AI 教育における主な倫理問題には、データ プライバシー、情報漏洩、暴言、公平性などが含まれます。
この論文では、高校生が AI と協力してルービック キューブを解くためのマルチモーダル コラボレーション プラットフォーム (ALLURE チャットボットと呼ばれる) における倫理的および信頼性の懸念に対処するために構築された技術コンポーネントについて説明します。
データ プライバシーでは、子供、保護者、教師のインフォームド コンセントが管理されるデータの中心となるようにしたいと考えています。
子どもが関与しているため、テキスト、音声、または視覚にかかわらず、言語はユーザーと AI の両方から受け入れられ、システムは相互作用を危険な状況から遠ざけることができます。
情報管理においては、システムが時間の経過とともに改善を学習しながら、あるグループから別のグループにユーザーに関する情報が漏洩しないようにしたいとも考えています。

要約(オリジナル)

Artificial intelligence (AI) has the potential to transform education with its power of uncovering insights from massive data about student learning patterns. However, ethical and trustworthy concerns of AI have been raised but are unsolved. Prominent ethical issues in high school AI education include data privacy, information leakage, abusive language, and fairness. This paper describes technological components that were built to address ethical and trustworthy concerns in a multi-modal collaborative platform (called ALLURE chatbot) for high school students to collaborate with AI to solve the Rubik’s cube. In data privacy, we want to ensure that the informed consent of children, parents, and teachers, is at the center of any data that is managed. Since children are involved, language, whether textual, audio, or visual, is acceptable both from users and AI and the system can steer interaction away from dangerous situations. In information management, we also want to ensure that the system, while learning to improve over time, does not leak information about users from one group to another.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google