Self-Disclosure to AI: The Paradox of Trust and Vulnerability in Human-Machine Interactions

要約

この論文では、Alexander Reben の BlabDroid プロジェクトからインスピレーションを得て、人間とマシンの相互作用における信頼と脆弱性のパラドックスを調査します。
このプロジェクトでは、人間と積極的に関わり、人間よりも効果的に個人的な考えや秘密を引き出すことに成功した、小さくて控えめなロボットが使用されました。
この現象は、たとえ最も単純な形であっても、信頼と自己開示が機械との相互作用においてどのように機能するかについて興味深い疑問を引き起こします。
私たちは、そのような出会いの背後にある心理的プロセスを分析することで、テクノロジーに対する信頼の変化を研究しています。
この分析では、社会浸透理論やコミュニケーション プライバシー管理理論などの理論を適用して、個人情報や秘密が機械や AI と共有される場合に認識されるセキュリティと暴露のリスクとのバランスを理解します。
さらに、ポストヒューマニズムや現象学などの哲学的観点を活用して、デジタル時代における信頼、プライバシー、脆弱性に関するより広範な問題に取り組んでいます。
私たちの最もプライベートな領域への AI の急速な導入により、私たちは倫理的責任を再考し、再定義することが求められています。

要約(オリジナル)

In this paper, we explore the paradox of trust and vulnerability in human-machine interactions, inspired by Alexander Reben’s BlabDroid project. This project used small, unassuming robots that actively engaged with people, successfully eliciting personal thoughts or secrets from individuals, often more effectively than human counterparts. This phenomenon raises intriguing questions about how trust and self-disclosure operate in interactions with machines, even in their simplest forms. We study the change of trust in technology through analyzing the psychological processes behind such encounters. The analysis applies theories like Social Penetration Theory and Communication Privacy Management Theory to understand the balance between perceived security and the risk of exposure when personal information and secrets are shared with machines or AI. Additionally, we draw on philosophical perspectives, such as posthumanism and phenomenology, to engage with broader questions about trust, privacy, and vulnerability in the digital age. Rapid incorporation of AI into our most private areas challenges us to rethink and redefine our ethical responsibilities.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google