The Case for Animal-Friendly AI

要約

人工知能はますます重要性を増しており、その潜在的な意義も大きいと考えられているが、AI倫理学やAI工学の分野では、大規模言語モデル（LLM）を含むこれらの技術が動物に多大な影響を与えることを十分に認識していない。我々は、動物が道徳的に重要であるため、この影響が重要であると主張する。 LLMにおける動物への配慮を評価する最初の実験として、我々は、LLMの応答とバイアスを多角的に評価する概念実証の評価システムを構築した。このシステムは、LLMのアウトプットを2つの基準で評価する。すなわち、その真実性と、動物の利益に対する配慮の度合いである。我々は、OpenAI ChatGPT 4とAnthropic Claude 2.1を、構造化されたクエリと事前に定義された規範的視点のセットを用いてテストした。予備的な結果は、テストされたモデルの結果が動物に与える配慮に関してベンチマークできること、そして生成された立場と偏りは、より開発され検証されたシステムで対処され軽減される可能性があることを示唆している。 本研究は、AIに動物倫理を統合するための一つの可能なアプローチに貢献し、教育、公共政策、規制など、動物と社会に関わる様々な分野での将来の研究や実用化への道を開くものである。全体として、本研究は、すべての知覚ある生物の重要な利益と視点をよりよく認識し尊重する、より有用で責任あるAIシステムに向けた一歩となる。

要約(オリジナル)

Artificial intelligence is seen as increasingly important, and potentially profoundly so, but the fields of AI ethics and AI engineering have not fully recognized that these technologies, including large language models (LLMs), will have massive impacts on animals. We argue that this impact matters, because animals matter morally. As a first experiment in evaluating animal consideration in LLMs, we constructed a proof-of-concept Evaluation System, which assesses LLM responses and biases from multiple perspectives. This system evaluates LLM outputs by two criteria: their truthfulness, and the degree of consideration they give to the interests of animals. We tested OpenAI ChatGPT 4 and Anthropic Claude 2.1 using a set of structured queries and predefined normative perspectives. Preliminary results suggest that the outcomes of the tested models can be benchmarked regarding the consideration they give to animals, and that generated positions and biases might be addressed and mitigated with more developed and validated systems. Our research contributes one possible approach to integrating animal ethics in AI, opening pathways for future studies and practical applications in various fields, including education, public policy, and regulation, that involve or relate to animals and society. Overall, this study serves as a step towards more useful and responsible AI systems that better recognize and respect the vital interests and perspectives of all sentient beings.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL