TaSL: Continual Dialog State Tracking via Task Skill Localization and Consolidation

要約

実用的な対話システムには、事前の知識を維持しながら、継続的にスキルを習得し、新しいタスクに適応する能力が必要です。
しかし、対話システムの重要な機能である継続的対話状態追跡 (DST) の現在の方法は、壊滅的な忘却の問題とタスク間の知識伝達に苦労しています。
我々は、記憶再生に依存せずに効果的な知識伝達を可能にする、タスクスキルのローカリゼーションと統合のための新しいフレームワークであるTaSLを紹介します。
TaSL は、新しいグループごとの手法を使用して、タスク固有の領域とタスク共有領域を正確に特定します。
さらに、きめ細かいスキル統合戦略により、双方向の知識伝達のために共有知識を更新しながら、タスク固有の知識が忘れられるのを防ぎます。
その結果、TaSL は、以前の知識を保持することと、新しいタスクに優れることとの間でバランスをとります。
さまざまなバックボーンに関する包括的な実験により、既存の最先端の手法と比較して TaSL のパフォーマンスが大幅に向上していることがわかります。
ソースコードは再現性を考慮して提供されています。

要約(オリジナル)

A practical dialogue system requires the capacity for ongoing skill acquisition and adaptability to new tasks while preserving prior knowledge. However, current methods for Continual Dialogue State Tracking (DST), a crucial function of dialogue systems, struggle with the catastrophic forgetting issue and knowledge transfer between tasks. We present TaSL, a novel framework for task skill localization and consolidation that enables effective knowledge transfer without relying on memory replay. TaSL uses a novel group-wise technique to pinpoint task-specific and task-shared areas. Additionally, a fine-grained skill consolidation strategy protects task-specific knowledge from being forgotten while updating shared knowledge for bi-directional knowledge transfer. As a result, TaSL strikes a balance between preserving previous knowledge and excelling at new tasks. Comprehensive experiments on various backbones highlight the significant performance improvements of TaSL over existing state-of-the-art methods. The source code is provided for reproducibility.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google