GPT-4惨遭黑客利用！勒索软件20分钟加密100GB数据，竟被ta阻止了

238 0 0

文章摘要

在大模型落地应用的元年2024年，网络黑客已经开始利用大模型如ChatGPT等来完善和改进他们的网络攻击。黑客利用大模型生成网络钓鱼邮件和代码，研究卫星通信和雷达成像技术，识别防御问题专家和组织，探查公开漏洞，完成脚本任务，起草网络钓鱼邮件等。尽管OpenAI在检测出这些黑客账号后立即将他们停止，但在此之前，他们已经利用GPT-4进行了大量的攻击行为。OpenAI承认，他们无法完全提前阻止黑客将ChatGPT用于网络攻击活动。

在这个背景下，国内一家同时深耕安全和AI的公司360出手了。360用安全大模型给出的答案，让全行业看到了未来「AI安全攻防战」的精彩之处。360安全大模型智能化解读后发现，在两台计算机上，短时间内发生了大量可疑的文档重命名操作。涉及财务报表.XLS.lockbit和员工名单.XLS.lockbit等敏感文件。LOCKBIT号称世界上加密最快的勒索软件。据360云端安全大脑情报显示，该病毒20分钟即可完成100GB数据的加密。这就意味着，如果不快速处置，2个小时后，将可能有一条生产线面临瘫痪。千钧一发之际，360安全大模型赋能下的本地安全大脑立即推荐了一套AI智能化勒索告警处置预案。自动提取：钓鱼邮件特征，可疑IP，威胁样本和漏洞信息，列入黑名单，封禁、查杀、隔离。处置预案执行的同时，本次攻击背后的疑云也被360本地安全大脑一一解开。

360安全大模型3.0，开辟垂类大模型训练全新战法。在大模型落地应用过程中，各行各业的专有数据是产生价值的关键，这几乎已经成为了共识。360安全大模型3.0的数据优势，主要体现在两个方面：1. 360拥有海量的安全语料精度更高，质量更高，训出来的大模型水平也会更高。高质量的安全语料需要广泛的数据来源和长期的积累。这是360近20年来积累的核心资产。2. 360有很多专业数据，比如拥有海量的EDR、NDR事件数据。而且这些数据并不那么容易训练，需要清洗语料，特别是要调整结构、修改推理环节等比较底层的技术才能真正体现出这些专业数据的价值。

360提出的「小切口，大纵深」，希望从安全行业难点的小场景做切入，做深做透，深度融合安全能力。小切口的意思是将一个复杂的任务场景分解成很多小场景，其中有一部分是过去的方法能解决的。而大模型，应该去聚焦解决那些传统方法无法解决的难题部分。把一个个小场景都逐一解决了，合在一起就能达成更大更复杂的任务目标。大纵深，就是在小切口基础上做深做透，深度融合大模型和安全的能力。

真正将大模型的能力在安全领域落地，360安全大模型3.0核心变化最主要体现在「类脑分区协同（CoE）」的独特构架上。360安全大模型3.0打造的类脑能力体系，能够调动各功能中枢协同工作，共同支撑安全大模型实现专家级安全能力。这本质上是参考大脑的功能，因为人类大脑的功能是分区的，而且这些多功能区是协同工作的。360借鉴大脑的功能分区结构，搭建了类脑分区协同的CoE框架，作为360安全大模型的核心框架。

360安全大模型还会进一步迭代升级，而下一步规划主要分为两个部分，一是扩充场景，二是不断深耕模型。进一步愿景是，360安全大模型可以直接应用到垂直模型之上，扩充更多的场景。其次，模型能力高低与「基座模型」有着直接的关系，360也将不断深耕安全大模型，同时向通用模型的一些通用能力发力。