Harnessing LLMs in Curricular Design: Using GPT-4 to Support Authoring of Learning Objectives

要約

私たちは、人工知能に関する実践志向の大学コースのコンテキストで、高品質の学習目標 (LO) を自動的に生成する事前トレーニング済み生成トランスフォーマー (GPT-4) の機能を評価しました。
教育におけるこの新興テクノロジーの機会 (コンテンツ生成、説明など) とリスク (不正行為など) についての議論は激化していますが、コース設計と LO の作成をサポートするモデルの機能についてはこれまで研究されていませんでした。
。
LO は、学習者がコースに参加することで獲得することを目的とした知識とスキルを明確に示します。
LO が効果的であるためには、生徒が達成しようとしていることに焦点を当て、特定の認知プロセスに焦点を当て、測定可能でなければなりません。
したがって、高品質の LO を作成することは、困難で時間のかかる (つまり、費用のかかる) 作業となります。
AI プラクティショナー コースの概念モジュールおよびプロジェクト用に GPT-4 に提出された、慎重に作成されたプロンプト (高品質な LO オーサリングに関する詳細なガイドライン) に基づいて自動的に生成された 127 個の LO を評価しました。
私たちは、意図された高度さのレベルに関してブルーム分類の動作動詞で始まるなど、特定のベスト プラクティスに従っているかどうか、生成された LO を分析しました。
私たちの分析では、生成された LO が合理的で、適切に表現されており (例: 動作動詞で始まるなど)、概念的モジュール (下位レベル) とプロジェクトの異なる性質を考慮して、主にブルーム分類の適切なレベルで機能することが示されました (
より高いレベル）。
私たちの結果は、最先端の生成モデルを活用してカリキュラムやコース設計の取り組みをサポートしたいと考えているインストラクターやカリキュラム設計者に活用できます。

要約(オリジナル)

We evaluated the capability of a generative pre-trained transformer (GPT-4) to automatically generate high-quality learning objectives (LOs) in the context of a practically oriented university course on Artificial Intelligence. Discussions of opportunities (e.g., content generation, explanation) and risks (e.g., cheating) of this emerging technology in education have intensified, but to date there has not been a study of the models’ capabilities in supporting the course design and authoring of LOs. LOs articulate the knowledge and skills learners are intended to acquire by engaging with a course. To be effective, LOs must focus on what students are intended to achieve, focus on specific cognitive processes, and be measurable. Thus, authoring high-quality LOs is a challenging and time consuming (i.e., expensive) effort. We evaluated 127 LOs that were automatically generated based on a carefully crafted prompt (detailed guidelines on high-quality LOs authoring) submitted to GPT-4 for conceptual modules and projects of an AI Practitioner course. We analyzed the generated LOs if they follow certain best practices such as beginning with action verbs from Bloom’s taxonomy in regards to the level of sophistication intended. Our analysis showed that the generated LOs are sensible, properly expressed (e.g., starting with an action verb), and that they largely operate at the appropriate level of Bloom’s taxonomy, respecting the different nature of the conceptual modules (lower levels) and projects (higher levels). Our results can be leveraged by instructors and curricular designers wishing to take advantage of the state-of-the-art generative models to support their curricular and course design efforts.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google