Designing Novel Cognitive Diagnosis Models via Evolutionary Multi-Objective Neural Architecture Search

要約

認知診断は、現代のインテリジェント教育プラットフォームにおいて、その後の適応課題のための知識概念における生徒の習熟度を明らかにするために重要な役割を果たしています。
しかし、モデルの高い解釈可能性の要件により、手動で設計された既存の認知診断モデルは、現在のインテリジェント教育システムの需要を満たすにはアーキテクチャが単純すぎるため、人間の設計の偏りによって効果的な認知診断モデルの出現も制限されます。
本論文では、進化的多目的ニューラルアーキテクチャ探索(NAS)により新しい認知診断モデルを自動設計することを提案する。
具体的には、既存のモデルが 3 種類の入力を処理する一般的なモデルで表現できることを観察し、まず認知診断における NAS タスクの表現力豊かな検索空間を設計します。
次に、モデルのパフォーマンスと解釈可能性を最大化することで NAS タスクの探索空間を探索する多目的遺伝的プログラミング (MOGP) を提案します。
MOGP 設計では、最適化を容易にするために各アーキテクチャがツリー アーキテクチャに変換され、ツリーによってエンコードされます。また、子孫を効果的に生成するために、4 つのサブ遺伝的操作に基づいて調整された遺伝的操作が考案されています。
さらに、既存のモデルのバリアントから母集団の半分を進化させることで収束を加速する初期化戦略も提案されています。
2 つの現実世界のデータセットでの実験により、提案されたアプローチによって検索された認知診断モデルが既存のモデルよりも大幅に優れたパフォーマンスを示し、人間が設計したモデルと同等の優れた解釈可能性も保持していることが実証されました。

要約(オリジナル)

Cognitive diagnosis plays a vital role in modern intelligent education platforms to reveal students’ proficiency in knowledge concepts for subsequent adaptive tasks. However, due to the requirement of high model interpretability, existing manually designed cognitive diagnosis models hold too simple architectures to meet the demand of current intelligent education systems, where the bias of human design also limits the emergence of effective cognitive diagnosis models. In this paper, we propose to automatically design novel cognitive diagnosis models by evolutionary multi-objective neural architecture search (NAS). Specifically, we observe existing models can be represented by a general model handling three given types of inputs and thus first design an expressive search space for the NAS task in cognitive diagnosis. Then, we propose multi-objective genetic programming (MOGP) to explore the NAS task’s search space by maximizing model performance and interpretability. In the MOGP design, each architecture is transformed into a tree architecture and encoded by a tree for easy optimization, and a tailored genetic operation based on four sub-genetic operations is devised to generate offspring effectively. Besides, an initialization strategy is also suggested to accelerate the convergence by evolving half of the population from existing models’ variants. Experiments on two real-world datasets demonstrate that the cognitive diagnosis models searched by the proposed approach exhibit significantly better performance than existing models and also hold as good interpretability as human-designed models.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google