CoDefeater: Using LLMs To Find Defeaters in Assurance Cases

要約

保証ケースの構築は、セーフティ クリティカルなシステムが計画された環境で安全に動作することを実証するために広く使用されており、場合によっては必須のプロセスです。
エラーやエッジケースの欠落のリスクを軽減するために、敗北者（保証訴訟における主張に異議を唱える議論または証拠）の概念が導入されました。
敗北者は議論の弱点をタイムリーに検出し、さらなる調査とタイムリーな緩和を促すことができます。
ただし、敗北者の捕獲は専門家の判断、経験、創造性に依存しており、進化する要件と規制のため、繰り返し実行する必要があります。
この論文では、敗北者を見つけるために大規模言語モデル (LLM) を活用する自動化プロセスである CoDefeater を提案します。
2 つのシステムに関する初期結果は、LLM が既知および予期せぬ実行可能な無効者を効率的に見つけて、安全アナリストが保証ケースの完全性と信頼性を高めるのをサポートできることを示しています。

要約(オリジナル)

Constructing assurance cases is a widely used, and sometimes required, process toward demonstrating that safety-critical systems will operate safely in their planned environment. To mitigate the risk of errors and missing edge cases, the concept of defeaters – arguments or evidence that challenge claims in an assurance case – has been introduced. Defeaters can provide timely detection of weaknesses in the arguments, prompting further investigation and timely mitigations. However, capturing defeaters relies on expert judgment, experience, and creativity and must be done iteratively due to evolving requirements and regulations. This paper proposes CoDefeater, an automated process to leverage large language models (LLMs) for finding defeaters. Initial results on two systems show that LLMs can efficiently find known and unforeseen feasible defeaters to support safety analysts in enhancing the completeness and confidence of assurance cases.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google