Are Language Models More Like Libraries or Like Librarians? Bibliotechnism, the Novel Reference Problem, and the Attitudes of LLMs

要約

LLMはコピー機や印刷機のような文化的テクノロジーであり、情報を伝達することはできても、新しいコンテンツを生み出すことはできないのだろうか？私たちがビブリオテクニズムと呼ぶこの考え方に対する挑戦は、LLMが斬新なテキストを生み出すということである。私たちはまずビブリオテクニズムの擁護から始め、新奇なテキストでさえ、人間が生成したオリジナルのテキストからその意味を受け継ぐ可能性があることを示す。次に、LLMが新しい実体を参照するために新しい名前を使い、新しい参照を生成する例から、ビブリオテクニズムが独立した課題に直面していることを論じる。このような例は、LLMが文化技術ではなく、信念、欲望、意図を持っていれば説明できる。心の哲学における解釈主義によれば、システムがそのような態度を持つのは、その行動がそうであるという仮説によってうまく説明できる場合に限られる。解釈主義者は、LLMは態度を持っており、したがって新規参照問題の単純な解決策を持っていると考えるかもしれない。しかし我々は、解釈主義が非常に単純な生物が態度を持つことと両立することを強調し、これらの態度が意識、感覚、知性を必要とすることを前提とする見解とは大きく異なることを強調する（これらの話題については我々は主張しない）。

要約(オリジナル)

Are LLMs cultural technologies like photocopiers or printing presses, which transmit information but cannot create new content? A challenge for this idea, which we call bibliotechnism, is that LLMs generate novel text. We begin with a defense of bibliotechnism, showing how even novel text may inherit its meaning from original human-generated text. We then argue that bibliotechnism faces an independent challenge from examples in which LLMs generate novel reference, using new names to refer to new entities. Such examples could be explained if LLMs were not cultural technologies but had beliefs, desires, and intentions. According to interpretationism in the philosophy of mind, a system has such attitudes if and only if its behavior is well explained by the hypothesis that it does. Interpretationists may hold that LLMs have attitudes, and thus have a simple solution to the novel reference problem. We emphasize, however, that interpretationism is compatible with very simple creatures having attitudes and differs sharply from views that presuppose these attitudes require consciousness, sentience, or intelligence (topics about which we make no claims).

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL