作者：Eric Johansson，dlnews 编译：善欧巴，金色财经

　　自从OpenAI推出ChatGPT并颠覆创业生态系统以来的几个月里，该技术已被贴上对新闻业、编剧和国家安全的威胁。因此，欺诈者和网络犯罪分子利用大型语言模型从受害者那里盗取加密货币也就不足为奇了。尽管如此，当一个使用Tandem（一种语言共享应用程序，兼作约会平台）的人进行在线对话时，他还是遇到了这种情况。另一位健谈者很快说服他将聊天转移到WhatsApp。

　　无论预期的最终结果是什么，这个骗局都被一个冗长的文本搞砸了，该文本揭示了“作为‘我’的语言模型，我没有像人类那样的感觉或情感”，基本上是使用了高级聊天机器人，即使不是ChatGPT，也与它有着惊人的相似之处。这名潜在受害者感到震惊，联系了网络安全公司Sophos，该公司证实对犯罪分子利用新技术的担忧已经成为现实。

　　Sophos首席威胁研究员肖恩·加拉格尔（Sean Gallagher）在一份强调此案的报告中表示：“我们现在可以说，至少在杀猪盘诈骗案中，这种情况确实正在发生。”

　　杀猪盘是一种骗局，诈骗者试图诱骗受害者在一段时间内投资加密货币平台，承诺在兑现之前获得高额收益，从而鼓励受害者投入资金，最终导致他们遭受损失并感到羞耻。FBI估计，截至2022年，这类加密货币诈骗已经给受害者造成了超过25亿美元的损失。

　　然而，使用ChatGPT和类似工具将使犯罪分子“以比我们过去所见更糟糕的方式扩大规模”，加州检察官艾琳·韦斯特（Erin West）表示。她因成功追回数百万被盗加密货币而著名。这项技术将使犯罪分子能够更好地定制与受害者的对话，克服语言障碍，接触更多人并造成更大的破坏。她补充说：“ChatGPT的加入使得这种情况变得更加危险。”这一严肃警告是在有关网络犯罪分子利用类似工具快速编写恶意软件的报告之后发出的。

　　不是会不会发生的问题，而是何时会发生的问题

　　安全公司和执法部门对这一局势的发展感到不安，但我们与之交谈的人都并不感到意外。“这不是是否会发生的问题，而是何时会发生的问题，”网络安全公司SonicWall战略合作伙伴支持和集成副总裁Bobby Cornwell告诉DL News。

　　自从去年11月OpenAI推出ChatGPT以来，这些故事一直在酝酿。这些先进的聊天机器人经过大量数据的训练。它们利用包括书籍、代码、网站和文章在内的大型数据集，能够编写复杂的代码，甚至可以根据用户的提示进行对话。这对OpenAI来说是一个突破。截至一月份，其月活跃用户数已经达到了约1亿，成为历史上增长最快的应用程序之一。人们已经开始将它用于编写在线约会资料、恐怖故事，甚至生成视频脚本和调试代码等各种用途。包括谷歌和Meta在内的科技巨头们也在加快开发自己的对话式人工智能工具，如Bard和LLaMA。