Using a Cognitive Architecture to consider antiblackness in design and development of AI systems

要約

タイトル: AIシステムの設計と開発における差別を考慮するための認知アーキテクチャの利用
要約:
– AIシステムの設計や開発において、人種差別やアンチブラックネスがどのように影響するかを考慮するために、認知的モデリングを活用することができるか検討した。
– Cognitive architecture of ACT-R/{\Phi}と既存の知識グラフシステムであるConceptNetを使用して、認知的および社会文化的観点だけでなく、生理学的観点からこの問題に取り組んだ。
– AIシステムの設計や開発において、アンチブラックネスがどのように現れるかを認知的モデリングを通じて探求することで、ソフトウェアエンジニアリングの観点からのアプローチを提示した。さらに、アンチブラックネス、人間、計算心理モデリングの関係性を紹介し、社会文化的プロセスと知識構造を認知アーキテクチャや認知モデリングから排除することが、認知モデリングにおいて、虹色に目をつぶるアプローチを促進し、人間の振る舞いに常に存在する社会文化的文脈を隠すことになると主張した。

要約(オリジナル)

How might we use cognitive modeling to consider the ways in which antiblackness, and racism more broadly, impact the design and development of AI systems? We provide a discussion and an example towards an answer to this question. We use the ACT-R/{\Phi} cognitive architecture and an existing knowledge graph system, ConceptNet, to consider this question not only from a cognitive and sociocultural perspective, but also from a physiological perspective. In addition to using a cognitive modeling as a means to explore how antiblackness may manifest in the design and development of AI systems (particularly from a software engineering perspective), we also introduce connections between antiblackness, the Human, and computational cognitive modeling. We argue that the typical eschewing of sociocultural processes and knowledge structures in cognitive architectures and cognitive modeling implicitly furthers a colorblind approach to cognitive modeling and hides sociocultural context that is always present in human behavior and affects cognitive processes.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI