CRITIC: Large Language Models Can Self-Correct with Tool-Interactive Critiquing

要約

大規模言語モデル (LLM) の最近の発展は目覚ましいものがあります。
ただし、これらのモデルは、事実の幻覚、欠陥のあるコードの生成、攻撃的で有害なコンテンツの作成など、矛盾や問題のある動作を示すことがあります。
これらのモデルとは異なり、人間は通常、ファクトチェックに検索エンジンを使用したり、デバッグにコード インタープリターを使用したりするなど、外部ツールを利用して初期コンテンツをクロスチェックして調整します。
この観察に触発されて、私たちは CRITIC と呼ばれるフレームワークを導入しました。これにより、本質的に「ブラック ボックス」である LLM が、人間がツールを操作するのと同じような方法で、自身の出力を検証し、段階的に修正できるようになります。
より具体的には、最初の出力から始めて、CRITIC は適切なツールと対話してテキストの特定の側面を評価し、この検証プロセス中に得られたフィードバックに基づいて出力を修正します。
自由形式の質問応答、数学的プログラムの合成、および毒性の低減を含む包括的な評価により、CRITIC が LLM のパフォーマンスを一貫して向上させることが実証されました。
一方、私たちの研究は、LLM の継続的な自己改善を促進する上で外部フィードバックが極めて重要であることを強調しています。

要約(オリジナル)

Recent developments in large language models (LLMs) have been impressive. However, these models sometimes show inconsistencies and problematic behavior, such as hallucinating facts, generating flawed code, or creating offensive and toxic content. Unlike these models, humans typically utilize external tools to cross-check and refine their initial content, like using a search engine for fact-checking, or a code interpreter for debugging. Inspired by this observation, we introduce a framework called CRITIC that allows LLMs, which are essentially ‘black boxes’ to validate and progressively amend their own outputs in a manner similar to human interaction with tools. More specifically, starting with an initial output, CRITIC interacts with appropriate tools to evaluate certain aspects of the text, and then revises the output based on the feedback obtained during this validation process. Comprehensive evaluations involving free-form question answering, mathematical program synthesis, and toxicity reduction demonstrate that CRITIC consistently enhances the performance of LLMs. Meanwhile, our research highlights the crucial importance of external feedback in promoting the ongoing self-improvement of LLMs.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google