The Impact of Copyrighted Material on Large Language Models: A Norwegian Perspective

要約

言語モデルのトレーニングに著作権で保護された素材を使用すると、法的および倫理的に重大な問題が生じます。
この論文では、出版社が管理する著作権で保護されたコーパスがノルウェー語の生成大規模言語モデル (LLM) のパフォーマンスに及ぼす影響を実証的に評価するためのフレームワークとその結果を示します。
さまざまなタスクのセットで評価した場合、LLM のデータ混合物に書籍と新聞の両方を追加するとパフォーマンスが向上する傾向がある一方、フィクション作品を追加すると悪影響を与えるようであることがわかりました。
私たちの実験は、AI 開発に貢献する作品の著者に対する補償制度の創設に役立つ可能性があります。

要約(オリジナル)

The use of copyrighted materials in training language models raises critical legal and ethical questions. This paper presents a framework for and the results of empirically assessing the impact of publisher-controlled copyrighted corpora on the performance of generative large language models (LLMs) for Norwegian. When evaluated on a diverse set of tasks, we found that adding both books and newspapers to the data mixture of LLMs tend to improve their performance, while the addition of fiction works seems to be detrimental. Our experiments could inform the creation of a compensation scheme for authors whose works contribute to AI development.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google