On Large Language Models in Mission-Critical IT Governance: Are We Ready Yet?

要約

コンテクスト。
重要なインフラストラクチャのセキュリティは、コンピュータの出現以来差し迫った懸念事項であり、今日のサイバー戦争の時代ではさらに重要になっています。
国家安全保障に不可欠なミッションクリティカル システム (MCS) を保護するには、迅速かつ堅牢なガバナンスが必要ですが、最近の出来事により、これらの課題に対処することがますます困難になっていることが明らかになりました。
標的。
私たちは、リスク分析の強化における大規模言語モデルなどの生成 AI (GAI) の可能性を示す先行研究に基づいて、GAI を IT MCS のガバナンスに統合することに関する実務家の意見を探ることを目指しています。
私たちの目標は、研究者、実務者、政策立案者などの利害関係者に実用的な洞察と推奨事項を提供することです。
方法。
私たちは、MCS のコンテキストでセキュリティ ソリューションを開発および実装する実務者の実際の経験、懸念、期待を収集するために調査を設計しました。
結論と今後の取り組み。
私たちの調査結果は、MCS ガバナンスにおいて LLM を安全に使用するには、学際的な協力が必要であることを浮き彫りにしています。
研究者は規制指向のモデルの設計と説明責任に重点を置く必要があります。
実務家はデータ保護と透明性を重視する一方、政策立案者は倫理的で安全な LLM ベースの MCS ガバナンスを確保するために、世界的なベンチマークを備えた統合 AI フレームワークを確立する必要があります。

要約(オリジナル)

Context. The security of critical infrastructure has been a pressing concern since the advent of computers and has become even more critical in today’s era of cyber warfare. Protecting mission-critical systems (MCSs), essential for national security, requires swift and robust governance, yet recent events reveal the increasing difficulty of meeting these challenges. Aim. Building on prior research showcasing the potential of Generative AI (GAI), such as Large Language Models, in enhancing risk analysis, we aim to explore practitioners’ views on integrating GAI into the governance of IT MCSs. Our goal is to provide actionable insights and recommendations for stakeholders, including researchers, practitioners, and policymakers. Method. We designed a survey to collect practical experiences, concerns, and expectations of practitioners who develop and implement security solutions in the context of MCSs. Conclusions and Future Works. Our findings highlight that the safe use of LLMs in MCS governance requires interdisciplinary collaboration. Researchers should focus on designing regulation-oriented models and focus on accountability; practitioners emphasize data protection and transparency, while policymakers must establish a unified AI framework with global benchmarks to ensure ethical and secure LLMs-based MCS governance.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google