The Responsible Development of Automated Student Feedback with Generative AI

要約

寄稿: この文書では、学生に自動フィードバックを提供する生成 AI ツールを実装する際の 4 つの重要な倫理的考慮事項を特定します。
背景: 生徒の学習をサポートするには、生徒に豊富なフィードバックを提供することが不可欠です。
生成 AI、特に大規模言語モデル (LLM) の最近の進歩により、再現可能でスケーラブルかつ即座に自動生成されたフィードバックを生徒に提供する機会が提供され、これまで希少で高価だった学習リソースが豊富になりました。
このようなアプローチは、人工知能 (AI) と自然言語処理 (NLP) の最近の進歩により、技術的な観点から実現可能です。
潜在的なプラス面は強力な動機ではありますが、そうすることで、これらのテクノロジーを適用する際に考慮しなければならないさまざまな潜在的な倫理問題が生じます。
意図された成果: この取り組みの目標は、AI システムを使用して日常的な評価とフィードバックのタスクを自動化できるようにすることであり、ロングテールの少数派のニーズが困難であるために無視される「多数派の専制」を導入することはありません。
自動化します。
アプリケーション設計: この文書では、AI と機械学習に使用されている既存の倫理フレームワークを、学生エンジニアに自動フィードバックを提供するという特定の課題に適用します。
このタスクは、自動フィードバック ツールが時間の経過とともにどのように進化し、使用されるかを考慮して、開発とメンテナンスの両方の観点から検討されます。
調査結果: この文書では、学生への自動フィードバックの実装に関する 4 つの主要な倫理的考慮事項、つまり参加、成長、学習への影響、および時間の経過に伴う進化を特定します。

要約(オリジナル)

Contribution: This paper identifies four critical ethical considerations for implementing generative AI tools to provide automated feedback to students. Background: Providing rich feedback to students is essential for supporting student learning. Recent advances in generative AI, particularly with large language models (LLMs), provide the opportunity to deliver repeatable, scalable and instant automatically generated feedback to students, making abundant a previously scarce and expensive learning resource. Such an approach is feasible from a technical perspective due to these recent advances in Artificial Intelligence (AI) and Natural Language Processing (NLP); while the potential upside is a strong motivator, doing so introduces a range of potential ethical issues that must be considered as we apply these technologies. Intended Outcomes: The goal of this work is to enable the use of AI systems to automate mundane assessment and feedback tasks, without introducing a ‘tyranny of the majority’, where the needs of minorities in the long tail are overlooked because they are difficult to automate. Application Design: This paper applies an extant ethical framework used for AI and machine learning to the specific challenge of providing automated feedback to student engineers. The task is considered from both a development and maintenance perspective, considering how automated feedback tools will evolve and be used over time. Findings: This paper identifies four key ethical considerations for the implementation of automated feedback for students: Participation, Development, Impact on Learning and Evolution over Time.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google