要約
私たちは、生成 AI Web アプリケーションを展開する分散型でプライバシーに配慮した方法である SocialGenPod を紹介します。
ユーザー データをアプリケーションやサービス プロバイダーに結び付けた集中型 Web およびデータ アーキテクチャとは異なり、分散型 Web 仕様である Solid を使用してユーザー データを生成 AI アプリケーションから分離する方法を示します。
ユーザーがさまざまな大規模言語モデルと会話できるようにするプロトタイプを使用して SocialGenPod をデモします。オプションで検索拡張生成を利用して、ユーザーが直接的または間接的にアクセスできるソリッド ポッドに保存されたプライベート ドキュメントに基づいた回答を生成します。
SocialGenPod は Solid アクセス制御メカニズムを利用して、ユーザーが自分の Pod に保存されているデータに誰がアクセスできるかを完全に制御できるようにします。
SocialGenPod は、すべてのユーザー データ (チャット履歴、アプリ構成、個人ドキュメントなど) をユーザーの個人ポッドに安全に保管します。
特定のモデルまたはアプリケーションプロバイダーから分離されています。
このアプローチにより、プライバシー制御が強化されるだけでなく、さまざまなサービスやアプリケーション間での移植性も実現します。
最後に、最先端のモデルの大規模なコンピューティング要件によってもたらされる、この分野の将来の研究で対処する必要がある課題について説明します。
私たちのプロトタイプはオープンソースであり、https://github.com/Vidminas/socialgenpod/ から入手できます。
要約(オリジナル)
We present SocialGenPod, a decentralised and privacy-friendly way of deploying generative AI Web applications. Unlike centralised Web and data architectures that keep user data tied to application and service providers, we show how one can use Solid — a decentralised Web specification — to decouple user data from generative AI applications. We demonstrate SocialGenPod using a prototype that allows users to converse with different Large Language Models, optionally leveraging Retrieval Augmented Generation to generate answers grounded in private documents stored in any Solid Pod that the user is allowed to access, directly or indirectly. SocialGenPod makes use of Solid access control mechanisms to give users full control of determining who has access to data stored in their Pods. SocialGenPod keeps all user data (chat history, app configuration, personal documents, etc) securely in the user’s personal Pod; separate from specific model or application providers. Besides better privacy controls, this approach also enables portability across different services and applications. Finally, we discuss challenges, posed by the large compute requirements of state-of-the-art models, that future research in this area should address. Our prototype is open-source and available at: https://github.com/Vidminas/socialgenpod/.
arxiv情報
著者 | Vidminas Vizgirda,Rui Zhao,Naman Goel |
発行日 | 2024-03-15 15:43:02+00:00 |
arxivサイト | arxiv_id(pdf) |
提供元, 利用サービス
arxiv.jp, Google