在花费了20多年的网络安全并帮助扩大网络安全公司的范围之后，我看到了攻击者以创造性的方式发展的方法。但是，凯文·曼迪亚（Kevin Mandia）对一年内大赦国际运作的电子攻击的预测不仅是愿望，而且数据表明我们已经在场。
数字不撒谎
上周，卡巴斯基（Kaspersky）从2024年发行了统计数据：全球有害计划的袭击超过30亿次，因为后卫每天平均有467,000个有害档案。特洛伊木马的发现每年增加了33％，移动财务威胁增加了一倍，在这里踢脚，不到一分钟的时间就会打破45％的密码。
但是文件夹不是整个故事。当人工智能成为武器时，威胁的本质主要转向。
它确实发生了。这是证据
Microsoft和Openai已经确认了民族国家中的许多我们在美国的演员已经在使用国际大赦国际进行电子攻击。我们谈论的是大玩家：俄罗斯的庞大熊使用LLMS收集有关卫星通信和雷达技术的情报信息。诸如台风台风之类的中国团体以多种语言创建社会工程内容，并在气味后进行高级活动。深红色的Sandstorm设计了伊朗狩猎的电子邮件，而祖母绿的研究表现和朝鲜核计划。
最焦虑是什么？卡巴斯基（Kaspersky）的研究人员现在找到了在公共仓库中举办的恶意人工智能模型。互联网情报犯罪分子使用狩猎内容，开发恶意软件并发起Deepfake的社会工程攻击。研究人员目睹了LLM的弱点，人工智能的供应链攻击以及研究人员所说的“ Shadow AI” – 未经授权的员工对泄漏敏感数据的人工智能工具的使用。
但这只是开始
我们现在看到的是帮助攻击者扩大操作范围，并将有害软件说明转化为以前从未有效的新语言和结构。如果国家 – 国家发展出非常新的用途，我们可能不会发现它为时已晚。
我们正朝着已建立的独立电子武器迈进，目的是在环境中推出。这些不是文字小子攻击，我们谈论的是人工智能代理人，他们可以进行调查，确定弱点并进行攻击，而无需任何人。
挑战超出了更快的攻击。这些独立的系统在合法的基础设施和民事目标之间不能可靠，安全研究人员称之为“歧视原则”。当人工智能武器针对电力网络时，它无法定义军事通讯与邻近医院之间的差异。
我们现在需要全球规则
这要求与核武器条约类似的全球治理和协议。目前，主要有一个国际框架来控制人工智能的武器。我们已经开发了三个级别的独立武器系统：具有人类监测的拟人化系统，具有共享特定目标的半独立目标，完全独立的系统，这些系统是独立选择和包括目标的完全独立的系统。
令人恐惧的部分？这些系统中的许多可以被绑架。没有什么比不可替代的自治系统更像，非政府参与者的危险正在通过竞争攻击来控制。
抗火灾
有许多网络安全公司正在采用新方法来防御这些攻击。采用来自Dropzone AI等公司的AI SOC分析师，他们能够以100％的警报来实现调查，以解决当今安全运营的巨大差距。或像Natoma这样的公司，该公司在机构中识别，监视，保护和统治人工智能代理的解决方案。
关键是用大火或在这种情况下以人工智能击败大赦国际。
下一代的社会（安全中心）结合了人工智能的自动化与人类经验，以捍卫当前和未来的电子攻击状况。这些系统可以快速分析机器的攻击模式，自动通过多个载体链接威胁，并比任何可以运行的人类团队更快地响应事故。他们没有取代人类分析师 – 他们通过我们需要的功能来增强他们。
风险不能更高
与以前的网络发展不同的原因是质量损失的可能性。针对关键基础设施，医院，能源网络和运输系统的独立电子武器可能会在前所未有的规模上造成物质损害。我们不再只谈论违规行为；我们正在谈论的人工智能系统实际上会危害生命。
准备窗口快速关闭。当您认为犯罪组织已经在使用较不受控制的人工智能模型进行改进的人工智能攻击工具时，曼德里亚（Mandria）的时间表看起来很乐观，而不是专注于OpenAI或人类学安全的模型。
底线
现在，通过人工智能代理人不仅将安全团队增加了，现在还在于此。大赦国际将不会取代我们国家的捍卫者；他们的合作伙伴将在全周内的防守组织和我们的伟大国家全天候。这些系统可以全天候监视威胁，处理大量威胁情报，并再次响应数百万的攻击。
但是，除非我们立即开始构建，否则这种合作伙伴模式不起作用。每天，我们都会延迟给对手更多时间发展独立的进攻能力，而我们的防御能力仍然在很大程度上取决于人类。
问题不是在线电子攻击是否会出现，我们是否有同样的大赦国际的防御能力。坦率地说，比赛正在进行中，我们已经在我们身后。
道格拉斯·盖泰（Douglas Gotai）花费了20多年的时间来限制包括卡巴斯基（Kaspersky），普威（Pwnie）Express和Sophos在内的网络安全公司，并且作为网络安全投资者，有助于创业公司实现市场领导。如今，Dog是Cutic Squared中的创始人和最大的人工智能员工，该机构AI营销机构通过使用人工智能材料的策略来帮助网络安全和国防公司实现类别的快速增长和统治。
