要約
大規模言語モデルの急速な進歩に伴い、ChatGPTのような人工知能（AI）モデルが人間社会で果たす役割はますます大きくなっている。しかし、人工知能モデルが人間社会に貢献するためには、まず人工知能モデルが示す人間らしい特性と実際の人間との類似点と相違点、さらには人工知能モデルが人間と対話する過程で示す文化的なステレオタイプやバイアスを十分に理解する必要がある。本研究では、まずChatGPTを84次元の心理的特徴で測定し、ほとんどの次元でChatGPTと人間の規範との間に違いがあること、また高次元の心理的表現においても違いがあることを明らかにしました。さらに、13次元の文化的価値観におけるChatGPTの測定を通して、ChatGPTの文化的価値観パターンが世界の様々な国・地域の文化的価値観パターンと異なることを明らかにしました。最後に、異なる国・地域の人間とのやりとりを含む8つの意思決定タスクにおけるChatGPTのパフォーマンスを分析した結果、ChatGPTはほとんどの意思決定タスクにおいて明確な文化的ステレオタイプを示し、第三者罰ゲームと最後通牒ゲームにおいて顕著な文化的バイアスを示すことが明らかになりました。この結果から、ChatGPTは人間と比較して、明確な心理的プロファイルと文化的価値志向性を示し、対人意思決定においても文化的バイアスやステレオタイプを示すことがわかった。今後の研究では、より効率的な異文化コミュニケーションを促進し、社会的格差を緩和するために、データベースの技術的な監視を強化し、アルゴリズムのトレーニング手順の透明性を高めることに重点を置くべきである。
要約(オリジナル)
Given the rapid advancement of large-scale language models, artificial intelligence (AI) models, like ChatGPT, are playing an increasingly prominent role in human society. However, to ensure that artificial intelligence models benefit human society, we must first fully understand the similarities and differences between the human-like characteristics exhibited by artificial intelligence models and real humans, as well as the cultural stereotypes and biases that artificial intelligence models may exhibit in the process of interacting with humans. This study first measured ChatGPT in 84 dimensions of psychological characteristics, revealing differences between ChatGPT and human norms in most dimensions as well as in high-dimensional psychological representations. Additionally, through the measurement of ChatGPT in 13 dimensions of cultural values, it was revealed that ChatGPT’s cultural value patterns are dissimilar to those of various countries/regions worldwide. Finally, an analysis of ChatGPT’s performance in eight decision-making tasks involving interactions with humans from different countries/regions revealed that ChatGPT exhibits clear cultural stereotypes in most decision-making tasks and shows significant cultural bias in third-party punishment and ultimatum games. The findings indicate that, compared to humans, ChatGPT exhibits a distinct psychological profile and cultural value orientation, and it also shows cultural biases and stereotypes in interpersonal decision-making. Future research endeavors should emphasize enhanced technical oversight and augmented transparency in the database and algorithmic training procedures to foster more efficient cross-cultural communication and mitigate social disparities.
arxiv情報
| 著者 | Hang Yuan,Zhongyue Che,Shao Li,Yue Zhang,Xiaomeng Hu,Siyang Luo |
| 発行日 | 2024-05-06 11:45:59+00:00 |
| arxivサイト | arxiv_id(pdf) |