Leveraging Virtual Reality and AI Tutoring for Language Learning: A Case Study of a Virtual Campus Environment with OpenAI GPT Integration with Unity 3D

要約

この論文では、仮想現実環境と OpenAI の GPT API 呼び出しを使用した AI 対応個別指導システムの統合を使用することにより、多言語学習への新しいアプローチを紹介します。この場合、ヒンディー語が学習対象言語となります。
私たちは、Unity を使用して仮想キャンパス環境を持つシナリオを開発しました。これは、文化的および技術的な活動のほとんどが行われる大学の建物 11 階の詳細な表現に焦点を当てています。
私たちが作成したこの仮想環境内には、API を使用して呼び出された OpenAI の GPT モデルを搭載した AI 家庭教師があり、ユーザーと一緒に動き回ります。
GPT が言語翻訳を担当できるため、これによりヒンディー語での言語学習サポートが提供されました。
私たちのアプローチには主に、音声からテキストへの変換、テキストからテキストへの変換、およびテキストから音声への機能を利用して、インターネット上でのユーザーと AI 講師間のリアルタイムの対話を促進することが含まれます。
この研究は、VR テクノロジーと AI 個別指導を組み合わせて、没入型の言語学習体験を実現し、インタラクションを提供することを実証しています。

要約(オリジナル)

This paper presents a new approach to multiple language learning, with Hindi the language to be learnt in our case, by using the integration of virtual reality environments and AI enabled tutoring systems using OpenAIs GPT api calls. We have developed a scenario which has a virtual campus environment using Unity which focuses on a detailed representation of our universitys buildings 11th floor, where most of the cultural and technological activities take place. Within this virtual environment that we have created, we have an AI tutor powered by OpenAI’s GPT model which was called using an api which moves around with the user. This provided language learning support in Hindi, as GPT is able to take care of language translation. Our approach mainly involves utilising speech to text, text to text conversion and text to speech capabilities to facilitate real time interaction between users and the AI tutor in the presence of internet. This research demonstrates the use of combining VR technology with AI tutoring for immersive language learning experiences and provides interaction.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google