探索ChatGPT与网络安全的交错边界

云安全联盟大中华区发布报告《ChatGPT的安全影响》(以下简称报告),报告旨在概述ChatGPT在网络安全行业中的影响,而不深入探讨人工智能的细节。我们将探讨对理解ChatGPT能力至关重要的关键概念和领域,以及对企业的潜在影响。在我们研究这些影响的同时,考虑区分ChatGPT的合法和恶意使用的挑战至关重要,例如区分营销电子邮件、公司通信和网络钓鱼邮件,或者识别待修复漏洞和黑客入口点。

文末附报告获取方式

ChatGPT作为基于生成式预训练模型(GPT)的聊天机器人,其核心技术是自然语言处理(NLP)。随着NLP技术的不断发展,ChatGPT的智能程度也在飞速提高。最初的ChatGPT只能回答一些简单的问题,但现在它已经可以根据用户的偏好提供更加个性化的建议和服务。

ChatGPT通过自然语言处理技术理解用户的输入,并根据用户的需求提供相应的服务和建议。ChatGPT在生产(例如智能客服、电子商务、医疗保健等)和生活中的广泛应用,将极大地改善体验,提升效率。

作为在线服务类的AI应用,ChatGPT在提高用户体验方面有很大的优势,但是它也会对网络安全产生深远的影响。特别是2023年1月,一篇新闻报道指出,使用ChatGPT可以自动化的构建可以绕过安全检测的恶意程序,引发了关于网络安全的广泛担忧。

一般而言,ChatGPT作为AI的一种用例或者说场景,其和网络安全领域有如下四个维度的交互:

第一个维度“AI用于攻击”

“AI用于攻击”,分析了攻击者(恶意行为者)可以如何利用ChatGPT增强其“武器库”。特别是,针对网络攻击链的各个环节,特别是“侦查”和“漏洞利用”两个环节,ChatGPT都可以起到非常大的作用。

在侦查阶段的目标识别上,AI模型基于其掌握的海量信息,可以让用户(甚至是恶意行为者)迅速收集目标的各项相关信息。例如,人工收集某企业的人员名单和组织架构可能非常耗时耗力,而ChatGPT可以以较小的代价做到这一点。白皮书中的“3.3 侦查”章节给出了“创建一个堪萨斯州的银行清单及其高管名录”的案例。

在侦查阶段的“寻找漏洞”环节,AI模型也可以增强攻击者的知识库(比如nmap扫描的端口类型、常见服务、其管理页面等),使攻击更有效。

第二个维度“AI用于安全(防御)”

“AI用于安全(防御)”,是指防御者也可以将AI作为防御手段,从广度和深度两个维度,提升防御的质量和效率。

ChatGPT可以通过自然语言处理技术识别恶意信息,并及时向用户发出警报,从而帮助用户避免受到网络攻击。此外,ChatGPT还可以通过机器学习技术不断学习和优化自身的安全防御能力,提高其对网络安全的保护能力。

ChatGPT可以在网络防御中常见的安全漏洞识别、安全配置脚本自动化处理、安全工具集成等场景发挥作用。白皮书中提供了ChatGPT在上述多种场景中的用例,例如下图中的自动生成脚本:

此外,ChatGPT还可以用于网络安全培训和教育。ChatGPT可以通过自然语言处理技术向用户提供网络安全知识和技能,帮助用户提高网络安全意识和能力,从而减少网络安全风险。

第三个维度“AI的防御”

“AI的防御”,是指AI模型本身的安全。主要是指提供方需要从正向设计AI模型的安全性。ChatGPT的开发者OpenAI并未公开发布论文或者白皮书,详述ChatGPT的防御机制,特别是模型安全、算法安全等维度。但是,作为互联网服务,其互联网基础设施的安全问题,例如连接和会话安全、API安全、用户的身份认证和传输加密等,均不容忽视。

第四个维度“AI被攻击”

“AI被攻击”,是指AI作为被攻击的目标对象。这个维度和“AI的防御”类似,只是从攻击和防御的不同视角。由于ChatGPT可以通过自然语言处理技术理解用户的输入,黑客可以通过发送恶意提示信息来攻击ChatGPT,从而窃取用户的敏感信息,这种攻击方式一般被称为“提示注入攻击”。因此,ChatGPT的开发者需要采取一系列的安全措施来保护ChatGPT的安全。

对于企业等各类组织而言,在ChatGPT的引入和使用的过程中,传统的信息安全的风险也很重要。涉及企业商业秘密、个人识别信息的数据,不应该输入到ChatGPT;需要实施身份认证、访问控制和审计等多种措施,防止数据的非授权访问等。采取上述策略,“……可确保企业安全、负责任地使用ChatGPT等AI驱动工具,也能最大限度地发挥这些技术的潜在价值。”

最后,截至目前为止,在通用人工智能(AGI)时代之前,AI提供的各项服务,诸如ChatGPT等,仍然是一个有用的“助手”或者“工具”,掌握在谁的手中很重要。在网络安全领域,恶意行为者掌握了工具,可以大大的提升侦查、漏洞利用的效率;防御者也同样可以利用ChatGPT的技术优势,提高网络安全防御能力和网络安全教育水平。

ChatGPT并非是洪水猛兽,也无需谈虎色变,让我们每个网络安全的从业者,深入的理解它,掌握它,在业务中有效运用它,在攻防对抗中不断增强个体和组织的实力,构筑网络空间的安全和数据的有效保护,充分利用的能力。

来源:国际云安全联盟CSA

上一篇:【匠歆出品】“The 4th AutoCS 2023智能汽车信息安全大会”于上海明捷万丽酒店圆满落幕

下一篇:因网络安全管理不当,这家信贷公司被罚超3000万元