Sophos发布一份关於网路安全业界如何利用 GPT-3 (即众所周知的 ChatGPT 架构背後的语言模型) 当作辅助来协助击败攻击者的最新研究。最新报告「适用於你我的 GPT：在网路防御中使用 AI 语言处理」详细介绍了 Sophos X-Ops 开发的几个专案，他们使用 GPT-3 的大型语言模型简化在安全软体的资料集中搜寻恶意活动，更准确地过滤垃圾邮件，并加快了对「就地取材」(LOLBin) 攻击的分析。

Sophos 首席威胁研究员 Sean Gallagher 表示：「自从 OpenAI 在去年 11 月推出 ChatGPT 以来，安全社群关注重点都是在这项新技术是否会带来潜在的风险。人工智慧能否帮助潜在的攻击者编写恶意软体，或是帮网路犯罪分子写出更具说服力的网路钓鱼电子邮件？或许是吧，但是 Sophos 长期以来一直将 AI 视为防御人员的盟友，而不是敌人，我们将 AI 视为 Sophos 的基础技术，就连 GPT-3 也不例外。安全社群不仅应该注意潜在风险，还应该关心 GPT-3 带来的无穷机会。」

Sophos X-Ops 研究人员，包括 SophosAI 首席资料科学家 Younghoo Lee 等，一直致力於三个原型专案，用於展示将 GPT-3 当作网路安全防御人员助手的潜力。这三者都使用一种称为「小样本学习」的技术，只用少量资料样本来训练 AI 模型，减少必须收集大量预分类资料的需要。

Sophos 使用少样本学习方法测试的第一个应用是自然语言查询介面，用於筛选安全软体遥测中的恶意活动，特别是在 Sophos 旗下端点侦测和回应产品中测试了这个模型。透过这个介面，防御人员可以使用基本的英文命令过滤遥测数据，而无需了解 SQL 或资料库的底层结构。

接下来，Sophos 使用 ChatGPT 测试了一个新的垃圾邮件筛选器，并发现与其他用於垃圾邮件筛选的机器学习模型相比，使用 GPT-3 的筛选器明显更准确。最後，Sophos 研究人员开发了一个程式来简化对 LOLBins 命令列进行逆向工程的程序。这种逆向工程是出了名的困难，但对於理解 LOLBins 的行为以及在未来如何阻止此类攻击非常重要。

Gallagher 补充说：「安全营运中心越来越关注的问题之一是传入的『杂讯』太多。需要整理的通知和侦测结果太多，但许多公司却都只有有限的资源。我们已经证明，透过 GPT-3 之类的技术，我们可以简化某些劳力密集型的程序，将宝贵的时间归还给防御人员。我们已经将上述一些原型整合到我们的产品中，并且在 GitHub 上为那些有兴趣在自己的分析环境中测试 GPT-3 的人提供了我们的研究成果。未来，我们相信 GPT-3 很可能成为安全专家的标准??驾驶。」