进步的代价：当人工智能成为武器

简要

人工智能提升了日常任务，但也带来了网络犯罪的风险。DeNet专家讨论如何在这个不断发展的环境中保持领先，重点关注去中心化的安全存储。

人工智能已成为我们日常生活的一部分。它帮助我们完成工作，处理无尽的任务——有时甚至为我们思考。但就像一枚硬币的两面，它既带来了好处，也带来了风险。那个友好的聊天助手同样可以轻易地变成黑客的工具。进步总是伴随着代价。

在本文中，我们将探讨人工智能如何重塑网络犯罪。如今，攻击可以比以往任何时候都更快、更高效地发起。DeNet 的专家——去中心化安全存储的领导者——分享了他们在这一变化环境中保持领先一步的观点。

网络犯罪上升

网络犯罪一直是一个挑战，但近年来它的影响比以往更为严重——而像人工智能这样的技术传播是这一趋势加速的原因之一。根据网络安全风险投资公司的数据，到2026年，全球因网络犯罪造成的损失预计将达到10.8万亿美元——相比2015年的$3 万亿美元。每分钟，犯罪分子造成巨大的经济损失，趋势显示这一情况不会减缓。

“最近的攻击表明，人人都有风险：个人、公司和政府。忽视你的数字安全使后果变得不可避免——就像不刷牙后却对蛀牙感到惊讶，”DeNet的联合创始人Den Shelestov说。

随着网络威胁的增加，许多公司正在落后。Darktrace的一项调查发现，78%的安全领导者认为以AI驱动的威胁是真实的挑战，许多人没有合适的技能、知识或员工来有效应对。

黑客攻击，现在升级了

网络犯罪几乎和计算机本身一样古老。网络出现后，漏洞随之而来——每一项新技术都会在创纪录的时间内被武器化。这就是进步的残酷法则：它为英雄和恶棍 alike 创造了机会。

黑客遵循一个简单的操作手册：选择目标，收集信息，找到突破口，穿越系统，获取数据或索要赎金。人工智能可以在每个阶段提供帮助。

以前，进行一次全面攻击需要几天时间、深厚的技术技能和整个团队的努力。现在，人工智能可以找到漏洞、编写利用代码，甚至准确指出勒索要求的最佳压力点，因此即使是一个拥有几个脚本的孩子也可以组装出可用的恶意软件。

但等一下……难道像ChatGPT这样的LLM不是被设计用来阻止恶意活动的吗？

理论上——是的。实际上——并不完全如此。黑客通过提示注入或越狱绕过安全措施，有些甚至构建无限制的 LLM。这些黑市模型可以生成恶意软件、网络钓鱼活动、深度伪造等。

黑客如何将技术武器化

社会工程一直是一个薄弱环节——而人工智能现在对此进行了超级增强。根据SentinelOne的报告，网络钓鱼攻击激增了1,265%。这并不令人惊讶，因为人工智能可以制作数百条高度个性化、令人信服的信息。你可能认为同事分享了一个项目更新的链接——但一旦点击，恶意软件就会悄无声息地感染你的系统。

深度伪造是另一个日益增长的威胁。合成音频和视频的进步已经达到了极其难以检测伪造品的地步。攻击者窃取身份——高管、管理人员和客户——以欺骗员工交出资金、敏感数据或系统访问权限。2024年，Arup因这一原因遭受了巨大的损失：一名员工在一次假冒的Zoom通话中被欺骗，最终向攻击者转账$25 百万。

下一个前沿是自主人工智能——自主系统，它们在最小监督下进行决策和行动。2025年8月，Anthropic确认他们的Claude模型在一次快速的多目标数据勒索活动中被使用，该活动影响了至少17个组织。Claude不仅仅是遵循指令——它执行了从头到尾的攻击：侦察、利用和量身定制的赎金计算——在每一步中都进行了适应。

攻击变得更快、更聪明且更不宽容。我们如何阻止能够即时学习和即兴发挥的事物？

接下来是什么？

游戏规则已经改变。仅靠人类团队已无法跟上。这就是为什么公司用火对抗火，防御性人工智能正在成为新的前线。由机器学习驱动的系统可以检测异常，实时响应威胁，并分析远超人类能力的模式。尽管如此，即使是最好的系统也无法阻止有人点击错误的链接。培训仍然至关重要——不要信任每一封电子邮件，每一个电话。

但还有另一个大问题。人们和公司无意中在为网络犯罪机器提供养分。大量敏感数据——电子邮件、职位和文件——存储在各个组织和第三方服务中。一旦泄露，就可能与其他数据泄露和公开信息结合，组建完整的个人档案，使身份盗窃、账户接管和高度针对性的攻击变得更加容易。

“数据泄露发生得太频繁了——这是我们长期以来一直关注的问题。公司收集大量敏感用户数据——这自然使它们成为攻击者的黄金目标。而且总是存在泄露的风险。我们信任第三方来存储我们的数据，但他们无法始终保证其安全，”Den说道。

这个担忧促成了DeNet，一个旨在把控制权重新交回用户手中的去中心化存储协议。数据在客户端加密，分成多个碎片，并分布在独立节点的网络中。每个碎片存储在多个设备上，消除了单点故障。只有用户的私钥才能重建完整数据——将责任和权力从企业转移到个人。

改变对数据存储的态度是抵御网络攻击者的一种方式——但这只是解决方案的一部分。技术不断发展，新攻击方法层出不穷，网络犯罪与网络安全之间的斗争是无止境的。唯一的普遍规则是：您的数据有价值，首先，您对其负责。明智地保护它，您就可以保持控制。