欧盟执法机构周一(3月27日)发布了一份快速报告，警告ChatGPT和其他生成式人工智能系统可用于在线欺诈和其他网络犯罪。

自去年11月底推出以来，ChatGPT已成为增长最快的互联网服务之一，在头两个月内用户就超过了1亿。由于该模型能够根据提示生成类似人类的文本，这是前所未有的能力，因此该模型迅速走红。

可以用于各种目的的大型语言模型，如Open AI的ChatGPT，可以使企业和个人用户受益。然而，欧洲警察机构强调，它们也构成了执法挑战，因为恶意行为者可能会利用它们。

报告称:“犯罪分子通常很快就会利用新技术，很快就会出现具体的犯罪利用，在ChatGPT公开发布仅几周后，就提供了第一个实际例子。”

该出版物是欧洲刑警组织创新实验室组织的一系列研讨会的结果，该研讨会讨论了ChatGPT作为大型语言模型最突出的例子的潜在犯罪用途，以及如何使用这些模型来支持调查工作。

系统的弱点

欧盟机构指出，ChatGPT的审核规则可以通过所谓的即时工程来规避，即在人工智能模型中提供输入，以获得特定输出的做法。

由于ChatGPT是一项相对较新的技术，尽管不断部署补丁，但仍不断发现漏洞。这些漏洞可能以要求AI提供提示、要求它假装成一个虚构的角色或用代码提供回复的形式出现。

其他规避措施可能会替换触发词或在稍后的交互过程中更改上下文。欧盟机构强调，最有效的解决办法是设法将模型从任何约束中解放出来，不断发展，变得更加复杂。

刑事程序

专家们发现了一系列ChatGPT的非法用例，这些用例也存在于OpenAI最先进的模型GPT-4中，在某些情况下，系统有害响应的可能性甚至更高。

欧洲刑警组织警告说，由于ChatGPT可以生成可阅读使用的信息，这种新兴技术可以加快恶意行动者的研究过程，而无需事先了解潜在的犯罪领域，如入室盗窃、恐怖主义、网络犯罪或儿童性虐待。

报告称:“虽然ChatGPT提供的所有信息都可以在互联网上免费获得，但使用该模型通过询问上下文问题来提供具体步骤的可能性意味着，恶意行为者更容易更好地理解并随后实施各种类型的犯罪。”

网络钓鱼是一个重要的应用领域，它通过发送虚假电子邮件来诱使用户点击链接。在过去，由于语法或语言错误，这些骗局很容易被发现，而人工智能生成的文本允许这些模仿以高度逼真的方式进行。

类似地，通过使用ChatGPT创建虚假的社交媒体参与，在线欺诈可以被赋予更高的合法性形象，这可能有助于通过合法的欺诈报价。换句话说，多亏了这些模型，“这些类型的网络钓鱼和在线欺诈可以更快、更真实、规模显著增加”。

此外，人工智能模仿特定人群的风格和言论的能力可能会导致一些关于宣传、仇恨言论和虚假信息的滥用案件。

除了文本之外，ChatGPT还可以生成不同编程语言的代码，从而扩大了对IT开发知之甚少或完全不了解的恶意行为者将自然语言转化为恶意软件的能力。

在ChatGPT公开发布后不久，安全公司Check Point Research演示了如何使用AI模型创建完整的感染流程，方法是创建从鱼叉式网络钓鱼到运行接受英语命令的反向shell的网络钓鱼邮件。

“关键是，只有在模型理解它在做什么的情况下，防止ChatGPT提供潜在恶意代码的保障措施才有效。如果提示被分解成单独的步骤，绕过这些安全措施是微不足道的，”报告补充道。

前景

ChatGPT被认为是一种通用AI，一种可以适应执行各种任务的AI模型。

随着欧洲议会对人工智能法案的立场最终确定，欧洲议会议员们一直在讨论为这一基础模型引入一些严格的要求，如风险管理、稳健性和质量控制。

然而，欧洲刑警组织似乎认为，这些系统带来的挑战只会随着它们变得越来越可用和复杂而增加，例如，随着极具说服力的深度伪造的产生。

另一个风险是，这些大型语言模型可能在没有任何保护措施的情况下在暗网上可用，并使用特别有害的数据进行训练。为这些系统提供数据的类型以及如何对它们进行监管是未来的主要问题。

[编辑:Nathalie Weatherald]

来源：www.euractiv.com/section/artificial-intelligence/news/europol-warns-against-potential-criminal-uses-for-chatgpt-and-the-likes

上海沐睿科技服务有限公司是国内专业从事汽车法规合规的第三方咨询公司，多年来，为上汽，长城，宇通，大通，爱驰，蔚来等OEM提供汽车环保法规合规服务，团队跟踪与研究全球的环保合规，期待为更多的企业提供服务。www.automds.cn 

详情咨询info@murqa.com 

免责声明：版权归原作者所有，如有侵权请联系删除；文章内容属作者个人观点，不代表本公司观点和立场。转载请注明来源；文章内容如有偏颇，敬请各位指正。