黑客正在用生成式AI构建恶意软件

发布时间：2023-08-09 14:06:25 所属栏目：安全来源：

导读：根据联邦调查局的说法，随着越来越多的黑客开始使用像 ChatGPT 这种类型的生成性 AI 应用于 malicious code 的快速制作和网络罪行中，这项活动已经变得越来越容易了。

联邦调查局在与记者的电话会议上详细说明了这

根据联邦调查局的说法，随着越来越多的黑客开始使用像 ChatGPT 这种类型的生成性 AI 应用于 malicious code 的快速制作和网络罪行中，这项活动已经变得越来越容易了。

联邦调查局在与记者的电话会议上详细说明了这种担忧。并解释说，人工智能聊天机器人助长了各种违法活动：从诈骗者和欺诈者通过ChatGPT完善他们的技术到恐怖分子咨询如何发动更具破坏性的化学攻击工具，各种手段无所不包。

根据联邦调查局高级官员的说法，“我们预计，随着时间的推移，人工智能模型的采用和普及度的提高，这些趋势将增加明显。“他们表示：”违法者正使用人工智能来补充他们的常规犯罪活动，包括使用人工智能语音生成器冒充受信任的人，以欺骗被害者亲人或老人。“

这不是我们第一次看到黑客使用ChatGPT等工具并扭曲它们来创建危险的恶意软件。2023年2月，安全公司 Checkpoint 的研究人员发现，恶意行为者已经能够更改聊天机器人的 API，使其能够生成恶意软件代码，并使病毒创建让任何潜在的黑客都能触手可及。

ChatGPT 是安全威胁吗？

这方面的联邦调查局的立场与2023年五月圣诞节前采访的巴西的一些最具代表性的网络安全专家的态度可以说是截然不同。这些网络专家告诉我们，人工智能聊天机器人的威胁在很大程度上被夸大了，大多数黑客从更传统的数据泄漏和开源研究中发现了更易于攻击的代码漏洞。

例如，Bitdefender的技术解决方案总监Martin Zugec解释说，“大多数恶意软件编写新手不太可能具备绕过聊天机器人反恶意护栏所需的技能”。除此之外，Zugec解释说，“聊天机器人产生的恶意软件代码的质量往往很低。”

这为联邦调查局的说法提供了一个反驳，我们必须进一步观察以证实哪一方是正确的。随着ChatGPT制造商OpenAI停止使用自己的工具来检测聊天机器人产生的抄袭这一现象来看，其后果并不令人鼓舞。如果联邦调查局是对的，那么在与黑客及其对聊天机器人驱动的恶意软件的斗争中，我们可能会更加艰难。但是，这种情况不会发生。我们的工作人员正在努力解决这个问题。”他说。“我们将继续与我们的合作伙伴合作，确保他们不会受到影响。

（编辑：聊城站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!