Understanding accountability in algorithmic supply chains

要約

アルゴリズムの説明責任に関する学術および政策の提案は、多くの場合、アルゴリズム システムが「多数の手」によって作成されることを認識し、社会技術的文脈でアルゴリズム システムを理解しようとします。
しかし、アルゴリズム システムは、それらの間のデータ フローによって結び付けられた複数のアクターで構成されるサプライ チェーン内でも作成、展開、使用されることが増えています。
このような場合、システムを駆動して特定の結果を生み出すのは、生産、展開、使用、機能に貢献するさまざまな関係者のアルゴリズム サプライ チェーンの連携です。
私たちは、アルゴリズムの説明責任の議論では、サプライチェーンと、それがアルゴリズムシステムのガバナンスと説明責任にもたらす困難な影響を考慮する必要があると主張します。
その際、私たちはアルゴリズムのサプライチェーンを調査し、より広範な技術的および政治経済的文脈の中でそれらを位置づけ、アルゴリズムのガバナンスと説明責任（特に汎用AIサービスに関して）に関する将来の研究において理解されるべきいくつかの重要な特徴を特定します。
今後の方向性と注意が必要な分野を強調するために、サプライチェーンによって引き起こされるいくつかの影響についてさらに議論します。それは、関係者間でのシステムに対する責任の分散から生じる説明責任の割り当ての課題、説明責任の期間による限られた可視性、使用と責任のサービスモデル、およびクロスオーバーです。
国境のサプライチェーンと規制上の裁定取引

要約(オリジナル)

Academic and policy proposals on algorithmic accountability often seek to understand algorithmic systems in their socio-technical context, recognising that they are produced by ‘many hands’. Increasingly, however, algorithmic systems are also produced, deployed, and used within a supply chain comprising multiple actors tied together by flows of data between them. In such cases, it is the working together of an algorithmic supply chain of different actors who contribute to the production, deployment, use, and functionality that drives systems and produces particular outcomes. We argue that algorithmic accountability discussions must consider supply chains and the difficult implications they raise for the governance and accountability of algorithmic systems. In doing so, we explore algorithmic supply chains, locating them in their broader technical and political economic context and identifying some key features that should be understood in future work on algorithmic governance and accountability (particularly regarding general purpose AI services). To highlight ways forward and areas warranting attention, we further discuss some implications raised by supply chains: challenges for allocating accountability stemming from distributed responsibility for systems between actors, limited visibility due to the accountability horizon, service models of use and liability, and cross-border supply chains and regulatory arbitrage

arxiv情報

提供元, 利用サービス

arxiv.jp, Google