在当今数字化浪潮汹涌澎湃的时代，人工智能（AI）与网络安全已然深度交融，二者相互作用所塑造的发展态势正深刻重塑着我们的信息安全格局。《人工智能网络安全现状（2024）》这份报告恰似一盏明灯，为我们全面而深入地洞察这一复杂且多变的领域提供了极具价值的行业指引。
加入知识星球 查看原文（中英文双版本）
人工智能驱动的网络威胁
对于网络安全从业者来说，紧跟最新的威胁动态并非易事，犹如试图解开复杂的戈尔迪之结。在未知威胁席卷信息技术领域之前成功阻拦它们，难度之大可想而知。近期人工智能领域的显著进展，犹如催化剂般加剧了这场网络安全战争的严峻局面。在这一背景下，安全领导者肩负着寻找有效策略、平衡竞争态势的重任，必须与时俱进，根据攻击手段的复杂性同步提升防御措施。
1. 威胁蔓延与形态演变
报告明确指出，AI 驱动的网络威胁正以前所未有的迅猛速度四处蔓延。多达 74% 的受访组织已深切感受到此类威胁所带来的显著影响，而高达 89% 的组织更是预计在可预见的未来，仍将持续遭受其困扰。这些威胁在数量层面呈现出急剧增长的态势，其复杂程度与多样性亦攀升至全新的高度。自 ChatGPT 问世以来，基于电子邮件的攻击以及新型社会工程攻击数量显著增加，然而这不过是 AI 驱动的网络威胁之冰山一角。未来，我们极有可能遭遇更为复杂且隐蔽的攻击形式，诸如高度个性化的网络钓鱼活动，恶意代码与多阶段攻击的自动化生成，深度伪造（deepfakes）技术引发的信任危机，破解 CAPTCHA 的 AI 技术，以及生成式 AI 用于开源情报收集等。
2. 地区差异与潜在风险
在地区层面，亚太地区的组织对 AI 驱动威胁的感知尤为敏锐，高达 84% 的受访者声称已受到影响，这或许与其在全球数字经济体系中占据的重要地位以及活跃的网络活动息息相关。相较而言，拉丁美洲的组织受影响比例相对较低，为 71%，但这绝不意味着可以放松警惕，毕竟威胁形势瞬息万变。值得注意的是，AI 驱动的威胁不仅源自外部攻击，内部风险亦不容小觑，例如 “影子人工智能” 现象，即员工未经组织许可擅自使用公开可用的 AI 工具，极有可能导致敏感信息泄露，从而给组织埋下潜在的安全隐患。
此外，人工智能的发展已然加速了某些类型攻击的发起速度与规模。各类人工智能技术使得攻击者能够自动化生成独特的恶意软件脚本和多阶段载荷。生成式人工智能更是能够创建大量极具个性化且极具说服力的钓鱼攻击内容。同时，人工智能还能够持续改变与恶意软件文件相关的签名和哈希值，致使传统的基于威胁情报的检测工具（此类工具依赖已知威胁属性来识别恶意内容）难以跟上变化的节奏。
人工智能在网络安全防御中的作用
1. 防御能力提升的普遍共识
在网络安全防御领域，业界普遍达成共识：AI 驱动的安全解决方案是应对日益复杂网络威胁的关键。多达 95% 的网络安全专业人士坚信，此类解决方案将显著增强组织的防御能力，特别是在威胁检测、预防、响应和恢复等关键环节。凭借其强大的数据处理能力，AI 技术能以惊人的速度分析海量数据，迅速识别潜在威胁，从而有效提升安全团队的应对效能，为组织的数字资产构筑坚实的防护壁垒。
2. 威胁检测的首要诉求与困境
人工智能的发展不仅重塑了威胁格局，也促使解决方案模式发生了深刻变革，这一点已被防御者广泛认知。目前，威胁检测无疑是信息安全领域最为迫切的需求。在相关调查中，最常见的回应是希望通过人工智能提升整体威胁检测能力，略多于一半（57%）的受访者将其视为首要需求。这充分表明，安全专家们期望人工智能能够在海量快速流动的事件和信号中，迅速解析经过验证的威胁信息，这对一线安全分析师而言，无疑是一大福音。
与此同时，识别可利用的漏洞同样受到重视（50% 的受访者提及）。借助人工智能持续监测暴露的攻击面，及时发现风险和高影响漏洞，从而强化漏洞管理，防御者可以在网络安全防御中占据有利地位。如果能够成功阻止威胁入侵网络，人工智能将对事件发生率和违规风险产生显著的下游影响。
3. 重点领域的影响与趋势
据统计，防御性人工智能可能在云安全（61%）、数据安全（50%）和网络安全（46%）等领域产生深远影响。受访者在选择时更倾向于广泛的领域而非特定技术，尤其聚焦于那些正在蓬勃发展的领域。对于绝大多数组织而言，云技术代表着未来的发展方向，而云技术的应用对数据和网络产生的影响相互交织。这三个领域在业务运营中的重要性与日俱增，其影响力渗透至各个层面。
相关威胁研究显示，在各类漏洞中，最为常见的观察模式涉及多个横向移动步骤，且通常以云解决方案和软件即服务（SaaS）解决方案作为初始切入点。随着企业对 SaaS 应用程序和云平台的依赖程度不断加深，攻击面持续扩大，这一趋势极有可能延续下去。攻击者必将继续将云环境作为主要目标，企图通过账户接管获取对特权账户的未经授权访问权限。一旦得手，他们便可肆意开展各种恶意活动，如数据窃取或发起网络钓鱼活动。
4. 解决方案效能对比与信心差异
在对不同类型安全解决方案的信心方面，调查结果显示出明显的差异。略多于一半的调查参与者（51%）对传统网络安全解决方案检测和阻止人工智能驱动攻击的能力持有一定信心，然而另一半人则对此信心不足。仅有 15% 的人对传统解决方案的有效性表现出极度自信。从某种程度而言，这反映出当前网络安全防御的现实困境。人工智能对电子邮件威胁形势产生了巨大冲击，资源充足的威胁组织如今正利用人工智能生成的脚本逃避基于签名的检测机制。随着此类技术日益普及，即便是技术水平相对较低的攻击者亦将有能力运用它们，最终这些技术可能会演变为所有网络犯罪分子的标准操作流程。
人工智能驱动的威胁并非单一类型，而是涵盖了众多不同的攻击形式，从运用生成式人工智能创建电子邮件和定制恶意软件，到更为先进的侦察技术等。这些不同类型的威胁各具独特的运作模式，每一种都需要针对性的防御性人工智能技术加以应对。
人工智能技术在网络安全中的应用类型与特点
1. 各类 AI 技术的独特优势与局限：不同类型的 AI 技术在网络安全领域具有不同的应用场景和效果。监督式机器学习在基于已知攻击模式的威胁检测方面应用广泛，但对于新型未知威胁的应对能力有限。生成式 AI 和大语言模型（LLMs）在自然语言处理、信息提取和任务自动化等方面表现出色，如创建事件摘要、模拟网络钓鱼攻击等，但容易受到 “幻觉” 和提示注入攻击的影响，其安全性仍有待提高。无监督机器学习则能够从原始数据中持续学习，识别异常行为模式，为应对未知威胁提供有力支持，但可能产生较高的误报率，需要与其他技术相结合以提高准确性。
2. 技术应用的实际效果与差距：在实际网络安全应用中，各种 AI 技术的表现与预期存在一定差距。例如，虽然生成式 AI 在某些特定任务中发挥了作用，但其在威胁检测和主动攻击面管理中的实际效果并不理想，仅靠生成式 AI 无法有效应对复杂多变的网络威胁。此外，由于安全专业人员对 AI 技术的理解不足，可能导致在选择和配置 AI 解决方案时无法充分发挥其优势，甚至可能因误判而选择不适合的技术，从而影响整体防御效果。
组织应对人工智能网络安全挑战的策略与建议
1. 技术层面的策略选择：组织应根据自身需求和风险状况，合理选择和应用多种类型的 AI 技术，构建多层次、多维度的防御体系。例如，结合监督式机器学习、无监督机器学习和生成式 AI 等技术的优势，实现对已知和未知威胁的全面检测与防御。同时，加强对 AI 模型的训练和优化，提高其准确性和稳定性，降低误报率，确保 AI 技术在实际应用中能够发挥最大效能。
2. 管理与协作层面的措施建议：在管理与协作层面，安全团队与组织管理层之间应建立更为紧密的沟通与协作机制，确保双方对 AI 驱动的威胁和解决方案均有清晰且全面的认知。管理层应充分认识到网络安全问题的严重性，提供充足的资源支持，包括适时增加网络安全预算、扩充专业人员队伍等。此外，组织内部应强化安全管理措施，规范员工对 AI 工具的使用行为，有效防范 “影子人工智能” 带来的潜在安全隐患。同时，积极投身于行业协作，广泛共享威胁情报和最佳实践经验，携手共同应对 AI 网络安全挑战。
综上所述，人工智能网络安全领域正处于快速发展与深刻变革的浪潮之中，组织必须深刻洞悉 AI 驱动的威胁所蕴含的严重性和复杂性，积极主动地采取切实有效的应对策略。通过持续提升安全团队的技术能力、优化安全解决方案的集成、强化内部管理与协作以及大力推动行业间的知识共享，我们方能在人工智能时代构筑起坚不可摧的网络安全防线，切实确保数字世界的安全与稳定。在这充满挑战与机遇的领域中，持续不断的学习、勇于创新和紧密合作将是我们通向成功的关键路径。
