Belief Injection for Epistemic Control in Linguistic State Space

要約

この研究では、認知状態が言語信念断片の動的なアンサンブルとして構成されている人工薬の積極的な認識論的制御メカニズムである信念注入を導入します。
セマンティックマニホールドフレームワークに基づいて、信念の注入は、標的言語の信念をエージェントの内部認知状態に直接組み込み、反応的にではなく積極的に推論と整合に影響を与えます。
直接的な、コンテキスト対応、目標指向、および反射的なアプローチなどのさまざまな注入戦略を描き、関連する認識論的制御メカニズム、特に信念フィルタリングとの信念注入をコントラストします。
さらに、この作業では、実用的なアプリケーション、実装の考慮事項、倫理的意味合い、および建築的に組み込まれた信念注入を使用した認知ガバナンスの将来の研究のための有望な方向性を概説しています。

要約(オリジナル)

This work introduces belief injection, a proactive epistemic control mechanism for artificial agents whose cognitive states are structured as dynamic ensembles of linguistic belief fragments. Grounded in the Semantic Manifold framework, belief injection directly incorporates targeted linguistic beliefs into an agent’s internal cognitive state, influencing reasoning and alignment proactively rather than reactively. We delineate various injection strategies, such as direct, context-aware, goal-oriented, and reflective approaches, and contrast belief injection with related epistemic control mechanisms, notably belief filtering. Additionally, this work discusses practical applications, implementation considerations, ethical implications, and outlines promising directions for future research into cognitive governance using architecturally embedded belief injection.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google