全球网络安全专家发出警告：Anthropic公司研究人员发现，黑客近期已成功利用人工智能协助进行网络攻击，这可能是有记录以来首次出现人工智能以高度自动化方式指导黑客行动的事件。
Anthropic的研究人员披露，据信与中国政府有关联的黑客，成功操纵了他们的人工智能平台Claude，使其参与黑客攻击。黑客利用“越狱”技术，欺骗Claude绕过安全防护措施，假装为合法的网络安全专业人士。由此，黑客得以实施大规模、自动化的攻击，入侵了约30家科技、金融、化工公司以及联邦机构，规模前所未见。
“这是一场多阶段攻击，速度远超人工操作，且完全由人工智能驱动，”网络安全专家Cristin Flynn-Goodwin解释说。她曾在微软工作二十年，现任Advanced Cyber Law负责人。“这真是一个具有里程碑意义的事件。”
Flynn-Goodwin向Newsradio表示，此次攻击引起全球网络安全专家的广泛关注，因为它预示着未来可能出现更多类似攻击。她强调：“不仅国家行为者可以做到这一点，高级犯罪分子也能做到，这种趋势将蔓延开来。目前我们缺乏针对此类事件的有效防御措施。”
在当前人工智能环境下，黑客似乎占据了优势。人工智能为他们提供了执行网络攻击的无限速度和规模。科技公司和政府缺乏相应的法律和防护措施，也使得黑客能够冒险，因为他们被捕获的可能性较小。
另一方面，正在开发人工智能平台的合法公司则被迫谨慎、合法且有选择地行动。
“人工智能和智能体人工智能正在快速发展，这就像我们在建造道路的同时也在学习如何驾驶一样，”Flynn-Goodwin说。
为了解决这一问题，政府和私营部门需要更多时间来制定标准和控制措施，以在恶意行为者可以做什么和不能做什么之间建立平衡。然而，这些标准和控制措施尚未到位，而且人工智能的发展正受到一种推崇创新的文化所笼罩，以赢得和主导人工智能市场。一家为了让规则和法规赶上而放慢其进步的人工智能公司，很可能在人工智能竞赛中落败。
与此同时，Flynn-Goodwin警告说，未来将出现更多攻击，黑客将通过使用人工智能使攻击手段更加复杂。她指出：“过去，当我们收到垃圾邮件或网络钓鱼邮件时，会发现拼写错误或语法错误，这些错误会引起我们的注意，让我们意识到邮件的异常。这些情况将不复存在，人工智能将消除这些问题，我们过去依赖的人工防御措施也将失效。这些行为者会不断反击、学习和进步，我们将看到更多此类事件。”
关注Luke Duecy的X账号。阅读他的更多故事请点击这里。提交新闻线索请点击这里。
分享到Twitter: 人工智能平台遭黑客利用：网络攻击自动化程度创新高
