GPT in Sheep’s Clothing: The Risk of Customized GPTs

要約

2023 年 11 月、OpenAI は、ユーザーがモデルの動作をガイドする特定の命令と知識を使用して ChatGPT (GPT) のカスタム バージョンを作成できる新しいサービスを導入しました。
私たちは、GPT が悪意を持って使用され、ユーザーにプライバシーとセキュリティのリスクをもたらす可能性があるという事実への認識を高めることを目指しています。

要約(オリジナル)

In November 2023, OpenAI introduced a new service allowing users to create custom versions of ChatGPT (GPTs) by using specific instructions and knowledge to guide the model’s behavior. We aim to raise awareness of the fact that GPTs can be used maliciously, posing privacy and security risks to their users.

arxiv情報

著者 Sagiv Antebi,Noam Azulay,Edan Habler,Ben Ganon,Asaf Shabtai,Yuval Elovici
発行日 2024-01-17 09:27:13+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.AI, cs.CR パーマリンク