IMGTB: A Framework for Machine-Generated Text Detection Benchmarking

要約

高品質のテキストを生成する大規模な言語モデルの時代では、有害な使用や単に注釈の目的による使用を避けるために、機械生成されたテキストを検出する方法を開発する必要があります。
ただし、そのように開発された手法を適切に評価し、比較することも重要です。
最近、この目的のためにいくつかのベンチマークが提案されています。
ただし、新しい検出方法が毎月登場し、わずかに異なる評価パイプラインを提供するため、最新の検出方法の統合はかなり困難です。
このペーパーでは、カスタム (新しい) メソッドと評価データセットを簡単に統合することで、機械生成テキスト検出メソッドのベンチマークを簡素化する IMGTB フレームワークを紹介します。
その構成可能性と柔軟性により、新しい検出方法の研究開発、特に既存の最先端の検出器との比較が容易になります。
このツールが提供するデフォルトの分析、メトリクス、視覚化のセットは、最先端の文献に記載されている機械生成テキスト検出ベンチマークの確立された手法に従っています。

要約(オリジナル)

In the era of large language models generating high quality texts, it is a necessity to develop methods for detection of machine-generated text to avoid harmful use or simply due to annotation purposes. It is, however, also important to properly evaluate and compare such developed methods. Recently, a few benchmarks have been proposed for this purpose; however, integration of newest detection methods is rather challenging, since new methods appear each month and provide slightly different evaluation pipelines. In this paper, we present the IMGTB framework, which simplifies the benchmarking of machine-generated text detection methods by easy integration of custom (new) methods and evaluation datasets. Its configurability and flexibility makes research and development of new detection methods easier, especially their comparison to the existing state-of-the-art detectors. The default set of analyses, metrics and visualizations offered by the tool follows the established practices of machine-generated text detection benchmarking found in state-of-the-art literature.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google