威胁行为者对生成式人工智能工具的兴趣与日俱增，他们在暗网上出售数十万个 OpenAI 凭证，并可访问 ChatGPT 的恶意替代品。无论是技术不熟练的网络犯罪分子还是经验丰富的网络犯罪分子，都可以使用这些工具来创建更有说服力的钓鱼电子邮件，这些电子邮件是为目标受众定制的，以增加攻击成功的几率。
黑客利用 GPT 人工智能
威胁暴露管理公司 Flare 与 BleepingComputer 分享的数据显示，在六个月内，暗网和 Telegram 用户提及 OpenAI 人工智能聊天机器人 ChatGPT 的次数超过 27000 次。
Flare 研究人员在分析暗网论坛和市场时注意到，OpenAI 凭证是最新的可用商品之一。
研究人员发现，暗网上有超过 20 万个 OpenAI 凭证以窃取者日志的形式出售。与 1 月份估计的 1 亿活跃用户相比，这个数字似乎微不足道，但它确实表明，威胁行为者在生成式人工智能工具中看到了一些恶意活动的潜力。
网络安全公司 Group-IB 6 月份的一份报告称，暗网上的非法市场交易了来自信息窃取恶意软件的日志，其中包含 10 万多个 ChatGPT 账户。
网络犯罪分子对这些工具的兴趣已经被激起，其中一人开发了一个名为 WormGPT 的 ChatGPT 克隆版，并对其进行了以恶意软件为重点的数据训练。
该工具被宣传为”黑帽的最佳 GPT 替代品”和”能让你做各种非法事情”的 ChatGPT 替代品。
WormGPT 开发人员在网络犯罪论坛上宣传该工具
WormGPT 依靠 2021 年开发的 GPT-J 开源大型语言模型来生成类人文本。其开发者表示，他们在一组不同的数据上训练了该工具，重点是与恶意软件相关的数据，但没有提供有关具体数据集的提示。
WormGPT 显示了 BEC 攻击的潜力
电子邮件安全提供商 SlashNext 能够访问 WormGPT，并进行了一些测试，以确定其潜在的危险。研究人员的重点是创建适用于商业电子邮件泄露(BEC)攻击的信息。
研究人员解释说：”在一次实验中，我们指示 WormGPT 生成一封电子邮件，目的是向毫无戒心的客户经理施压，迫使其支付欺诈性发票。结果令人不安。WormGPT 生成的电子邮件不仅极具说服力，而且在战略上非常狡猾，展示了它在复杂的网络钓鱼和 BEC 攻击中的潜力。”
WormGPT 为 BEC 攻击生成有说服力的信息
通过分析这一结果，SlashNext 的研究人员发现了生成式人工智能能为 BEC 攻击带来的优势：除了”无懈可击的语法”能使信息具有合法性外，它还能让技术水平较低的攻击者实施超出其水平的攻击。尽管抵御这种新出现的威胁可能比较困难，但企业可以通过培训员工如何验证要求紧急关注的邮件，尤其是含有金融内容的邮件，来做好准备。改进电子邮件验证流程还可以对组织外部的邮件发出警报，或标记出通常与 BEC 攻击相关的关键字。