Potential Societal Biases of ChatGPT in Higher Education: A Scoping Review

要約

目的：CHATGPTなどの生成人工知能（GAI）モデルは、広範なデータセットでのトレーニングにより、社会的バイアスを継承または増幅する場合があります。
高等教育機関（HEI）の学生、教員、スタッフによるGAIの使用が増えているため、これらの技術に関連する倫理的問題と潜在的な偏見を調べることが緊急です。
設計/アプローチ/方法：このスコーピングレビューは、HEIのGAIに関連するバイアスが最近の学術出版物で研究および議論された方法を解明することを目的としています。
GAIが高等教育の分野で引き起こす可能性のある社会的偏見を分類しました。
私たちのレビューには、高等教育とバイアスでのGAIの使用に焦点を当てた4つの主要なデータベースにわたって英語、中国語、日本語で書かれた記事が含まれています。
調査結果：我々の調査結果は、AI分野のLLMに関するバイアスと差別に関する意味のある学術的議論があるが、高等教育に対処するほとんどの記事は表面的に問題に近づいていることを明らかにしています。
さまざまな状況下で特定のタイプのバイアスを特定する記事はほとんどなく、経験的研究が顕著に欠けています。
私たちのレビューのほとんどの論文は、主に医学と工学に関連する教育および研究分野に焦点を当てており、いくつかは英語教育に取り組んでいます。
しかし、人文科学と社会科学に関する議論はほとんどありません。
さらに、現在の談話の大部分は英語であり、主に英語圏のコンテキストに対処しています。
独創性/価値：私たちの知る限り、私たちの研究は、高等教育における潜在的な社会的偏見を要約した最初の研究です。
このレビューでは、GAIが教育環境で導入または増幅する可能性のある特定のバイアスを理解するためのより詳細な研究と経験的作業の必要性を強調し、高等教育におけるより倫理的なAIアプリケーションの開発を導きます。

要約(オリジナル)

Purpose:Generative Artificial Intelligence (GAI) models, such as ChatGPT, may inherit or amplify societal biases due to their training on extensive datasets. With the increasing usage of GAI by students, faculty, and staff in higher education institutions (HEIs), it is urgent to examine the ethical issues and potential biases associated with these technologies. Design/Approach/Methods:This scoping review aims to elucidate how biases related to GAI in HEIs have been researched and discussed in recent academic publications. We categorized the potential societal biases that GAI might cause in the field of higher education. Our review includes articles written in English, Chinese, and Japanese across four main databases, focusing on GAI usage in higher education and bias. Findings:Our findings reveal that while there is meaningful scholarly discussion around bias and discrimination concerning LLMs in the AI field, most articles addressing higher education approach the issue superficially. Few articles identify specific types of bias under different circumstances, and there is a notable lack of empirical research. Most papers in our review focus primarily on educational and research fields related to medicine and engineering, with some addressing English education. However, there is almost no discussion regarding the humanities and social sciences. Additionally, a significant portion of the current discourse is in English and primarily addresses English-speaking contexts. Originality/Value:To the best of our knowledge, our study is the first to summarize the potential societal biases in higher education. This review highlights the need for more in-depth studies and empirical work to understand the specific biases that GAI might introduce or amplify in educational settings, guiding the development of more ethical AI applications in higher education.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google