RV4Chatbot: Are Chatbots Allowed to Dream of Electric Sheep?

要約

チャットボットは、安全性が重要な考慮事項を含むさまざまなアプリケーション ドメインに不可欠になっています。
その結果、チャットボットが期待される安全な動作を一貫して遵守することを保証する方法が緊急に必要とされています。
このペーパーでは、チャットボットの動作の逸脱を監視するために設計されたランタイム検証フレームワークである RV4Chatbot を紹介します。
期待される動作を、ユーザーとチャットボット間の対話プロトコルとして形式化します。
RV4Chatbot の設計を紹介し、それをインスタンス化する 2 つの実装について説明します。Rasa フレームワークで作成されたチャットボットを監視するための RV4Rasa と、Dialogflow チャットボットを監視するための RV4Dialogflow です。
さらに、RV4Rasa と RV4Dialogflow の両方を使用してファクトリー オートメーション シナリオで実行された実験について詳しく説明します。

要約(オリジナル)

Chatbots have become integral to various application domains, including those with safety-critical considerations. As a result, there is a pressing need for methods that ensure chatbots consistently adhere to expected, safe behaviours. In this paper, we introduce RV4Chatbot, a Runtime Verification framework designed to monitor deviations in chatbot behaviour. We formalise expected behaviours as interaction protocols between the user and the chatbot. We present the RV4Chatbot design and describe two implementations that instantiate it: RV4Rasa, for monitoring chatbots created with the Rasa framework, and RV4Dialogflow, for monitoring Dialogflow chatbots. Additionally, we detail experiments conducted in a factory automation scenario using both RV4Rasa and RV4Dialogflow.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google