Are Language Models More Like Libraries or Like Librarians? Bibliotechnism, the Novel Reference Problem, and the Attitudes of LLMs

要約

LLM はコピー機や印刷機のような文化テクノロジーであり、情報は送信できますが、新しいコンテンツを作成することはできませんか?
私たちがビブリオテクノロジーと呼ぶこのアイデアの課題は、LLM がまったく新しいテキストを生成することが多いことです。
私たちは、この挑戦​​に対して書誌技術を擁護することから始め、新しいテキストがどのように派生的な意味でのみ意味を持ち、この生成されたテキストの内容が重要な意味で人間の元のテキストの内容に依存するかを示します。
私たちは続けて、LLM が新しい名前を使用して新しいエンティティを参照する「新しい参照」を生成する例に端を発する、書誌技術に対する別の新しい挑戦を提示します。
このような例は、LLM が文化技術ではなく、限られた形式の主体性 (信念、欲望、意図) を持っている場合にスムーズに説明できるでしょう。
心の哲学における解釈主義によれば、システムが信念、欲望、意図を持っているのは、その動作がそのような状態を持っているという仮説によって十分に説明できる場合に限ります。
この見解に沿って、私たちは、新規の参考事例は、LLM が実際に信念、欲望、意図を持っており、したがって限られた形式の主体性を持っているという証拠を提供すると主張します。

要約(オリジナル)

Are LLMs cultural technologies like photocopiers or printing presses, which transmit information but cannot create new content? A challenge for this idea, which we call bibliotechnism, is that LLMs often do generate entirely novel text. We begin by defending bibliotechnism against this challenge, showing how novel text may be meaningful only in a derivative sense, so that the content of this generated text depends in an important sense on the content of original human text. We go on to present a different, novel challenge for bibliotechnism, stemming from examples in which LLMs generate ‘novel reference’, using novel names to refer to novel entities. Such examples could be smoothly explained if LLMs were not cultural technologies but possessed a limited form of agency (beliefs, desires, and intentions). According to interpretationism in the philosophy of mind, a system has beliefs, desires and intentions if and only if its behavior is well-explained by the hypothesis that it has such states. In line with this view, we argue that cases of novel reference provide evidence that LLMs do in fact have beliefs, desires, and intentions, and thus have a limited form of agency.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google