Generating Phishing Attacks using ChatGPT

要約

タイトル：ChatGPTを使用したフィッシング攻撃の生成

要約：

– ChatGPTは、人間らしい返答を生成し、文脈を理解する能力から、会話エージェント、コンテンツ作成、データ分析、研究、イノベーションのための人気のあるツールとなっています。
– しかし、その効果的で容易なアクセシビリティにより、ユーザーを危険にさらすフィッシング攻撃などの悪意あるコンテンツの生成のための主要な標的となります。
– この研究では、ChatGPTに提供できるいくつかの悪意のあるプロンプトを特定し、機能的なフィッシングウェブサイトを生成することができることを明らかにしています。
– 繰り返しのアプローチにより、これらのフィッシングウェブサイトを人気のブランドの模倣や、対フィッシングエンティティによって検出を回避するために知られているいくつかの逃避行動の真似を行うように設計することができました。
– これらの攻撃は、前もっての敵対的な攻撃（ジェイルブレイク）の必要なしに、バニラのChatGPTを使用して生成することができます。

要約(オリジナル)

The ability of ChatGPT to generate human-like responses and understand context has made it a popular tool for conversational agents, content creation, data analysis, and research and innovation. However, its effectiveness and ease of accessibility makes it a prime target for generating malicious content, such as phishing attacks, that can put users at risk. In this work, we identify several malicious prompts that can be provided to ChatGPT to generate functional phishing websites. Through an iterative approach, we find that these phishing websites can be made to imitate popular brands and emulate several evasive tactics that have been known to avoid detection by anti-phishing entities. These attacks can be generated using vanilla ChatGPT without the need of any prior adversarial exploits (jailbreaking).

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI