近日，由安全极客、Wisemodel 社区、InForSec 网络安全研究国际学术论坛和海升集团联合主办的 “AI + Security” 系列第 3 期技术沙龙：“AI 安全智能体，重塑安全团队工作范式” 活动顺利举行。此次活动吸引了线上线下超过千名观众参与。
活动中，云起无垠创始人兼 CEO 沈凯文博士发表了题为 “打造最懂安全的 AI 智能体：无极 AI 安全智能体平台落地与实践” 的主题演讲，从落地应用的角度深入阐述了 AI 安全智能体的实践应用情况。
随着人工智能（AI）技术的迅猛发展，AI 已然成为推动网络安全领域创新的重要引擎。从早期的传统规则与大数据，发展到如今的 AI 赋能安全，网络安全的整体能力不断提升。当前，大模型在安全领域中的应用尚处于探索阶段，然而未来有望带来更为智能、精准的解决方案。现如今，AI 技术已广泛应用于竞赛和工程实践当中，充分体现了 AI 赋能安全所带来的能力突破与显著效果。
01 安全智能体是LLM落地应用最佳实践
目前，幻觉和输出不稳定是大模型在安全场景中落地的两大主要障碍。幻觉指的是模型生成内容虽然看似合理，但实际上却是错误或虚构的情况。比如，当用户请求解释某个CVE漏洞时，大模型可能因为知识不足而编造出不存在的漏洞，从而误导用户。输出不稳定则是指相同或相似输入下，模型的输出结果可能有显著差异。以代码修复为例，即使使用相同的提示词生成10次代码，可能仅有2-3次结果是可用的，这在要求高度准确的网络安全领域，给大模型的应用带来了极大挑战。
沈凯文博士提出，智能体是解决这些问题的最佳实践方案。通过智能体的规划能力和工具调用能力，可以显著提升输出的稳定性；而利用知识引擎可以缓解因知识缺失导致的幻觉问题。比如在处理CVE漏洞时，与其直接询问GPT-4，不如通过知识引擎和检索增强生成（RAG）方式，让大模型更加准确地反馈CVE漏洞信息，并提供修复指导。
在具体应用中，用户可以通过自然语言与智能体进行复杂交互。智能体不仅能记住用户需求的上下文，还能规划输入需求并调用工具完成任务，这大大降低了传统安全工具的使用门槛，提升了易用性。
此外，智能体还能感知外部环境，应用行业知识解决具体安全任务，如查询和防护CVE漏洞。通过多智能体协作，可以进一步智能化处理复杂的安全任务。例如，在渗透测试中，通过设计专注于不同任务的智能体，如攻击面探测、漏洞检测和内网渗透智能体，并让它们协作，可以更加智能和高效地完成渗透测试。
在分享中，沈凯文博士总结了安全智能体的两大核心价值：
1. 提升底层安全能力，降低工具使用门槛
传统安全解决方案依赖特征签名和算法告警，易产生误报和漏报，人工排查成本高。而智能体可以通过语义方式减少误报和漏报，提高检测准确性，降低人工排查成本。
2. 优化安全团队工作模式，提高效率、降低成本
传统安全团队需要多名专家和多种工具协作，效率低且效果因人而异。未来，安全团队可以由少量专家和智能体组成。专家只需下达任务，智能体便能利用模型能力、规划引擎、工具引擎和知识引擎自主理解需求，拆解任务并高质量完成任务闭环，大幅提升安全工作的效率和效果。
02 无极AI安全智能体应用与实践
凭借在信息安全和大模型等方面的技术积累，云起无垠构建了最懂安全的专家智能体：无极 AI 安全智能体平台，其愿景在于让新手变专家，让专家更专注。该平台将 AI 技术与安全智能体的先进理念完美融合，打造出一个集安全知识、代码安全与安全工具于一体的全能平台。它为用户提供了全面的安全技术支持以及丰富的解决方案库，致力于帮助用户有效应对网络安全威胁、代码漏洞风险，以及解决安全工具治理过程中所面临的复杂性与挑战。
无极 AI 安全智能体具备六大核心能力，分别为任务流智能规划、工具引擎智能调用、多类型文档解析、数据库自然语言检索、模型幻觉消除以及私有化模型训练与部署。该平台不仅能够显著提升新手的专业能力，还能使专家更加专注于攻克高难度任务，从而全面提升企业的安全运营水平。
应用实践一：开发安全场景
传统的安全检测方法对人员要求较高，需要熟练使用多种安全工具、掌握全面的安全风险知识和丰富的缺陷处置经验，然而，这些方法操作繁琐、效率低下，且依赖个体技能。代码安全智能体通过高效精准的智能闭环，实现多工具的统一接入与调度，提升检测的准确度和效率。它具备误报漏报智能收敛功能，结合静态引擎和工控经验，减少误报和漏报，并支持缺陷的统一分析与智能修复，提供完整的修复方案。代码安全智能体有效解决了传统方法的不足，为代码安全提供了更智能的解决方案。
应用实践二：攻防渗透场景
目前，攻防渗透的痛点在于情报数据处理量大，分析复杂度高，且需要熟练掌握多种工具和技术。初级安服工程师在应对这些挑战时，往往因为经验不足和技能有限，无法达到预期效果。攻防渗透智能体通过智能化技术，可以高效处理情报数据、进行精确分析，并辅助进行渗透测试，从而替代初级安服工程师，提高整体效率和检测准确度。这使得攻防渗透智能体成为提升安全检测能力和应对复杂威胁的关键解决方案。
应用实践三：知识检索场景
客户在日常知识检索中面临数据来源多且更新不及时、情报分析复杂、漏洞资产排查效率低、难以追踪安全资讯和技术动态等痛点。基于此，云起无垠推出了漏洞情报智能体和安全瞭望智能体。漏洞情报智能体通过自动化数据采集，覆盖多个漏洞披露源，利用Text-to-SQL技术进行自然语言分析，并对接业务资产库，实现漏洞自主清查、验证和通告。安全瞭望智能体聚焦安全新闻、技术动态、监管要求和学术前沿，帮助客户快速获取最新的安全资讯和技术发展动态。通过这两大智能体，云起无垠有效解决了客户知识检索的痛点，提高了工作效率。
综合应用场景一：安全知识中台解决方案
安全知识中台解决方案通过集成多种技术和服务，旨在构建一个全面、自动化的安全知识管理和服务平台，以提高企业对安全威胁的响应能力和处理效率。
综合应用场景二：软件安全检测智能流水线
软件安全检测智能流水线通过集成多种智能技术和工具，旨在构建一个全面、自动化的软件安全检测流程，以提高软件安全检测的效率和准确性。
综合应用场景三：智能化攻防渗透
智能化的攻防渗透系统通过集成多种智能技术和工具，旨在构建一个全面、自动化的攻防渗透流程，以提高攻防渗透的效率和准确性。
03 未来展望
人工智能技术已经为网络安全行业带来了前所未有的变革。随着大模型技术与安全智能体方案的日趋成熟，研究人员第一次看到了实现网络安全通用人工智能（AGI）的可行路径。具体来说，沈凯文博士认为，网络安全AGI的发展和落地实践将经历以下几个阶段：
一阶智能-工具型智能体：
解决特定任务第一阶段主要聚焦于安全工具的智能化，即通过大模型、工具引擎和知识引擎的智能体方案，突破底层安全技术的效果瓶颈，提高自动化程度。
二阶智能-专家型智能体：
覆盖细分安全场景第二阶段的核心是通过大模型的理解与规划能力，将一阶的安全能力以工作流的形式进行编排调度，打造平台型智能体解决方案。这种平台型智能体不再仅聚焦特定安全任务，而是更像某个岗位的虚拟安全专家，能够拆解复杂的安全需求，对工作流进行规划，自主调度相应的工具型智能体，独立解决细分场景的所有安全需求。
三阶智能-网络安全AGI：
多智能体方案协同，覆盖所有安全场景从终局上讲，最终实现网络安全AGI的路径将是多二阶智能体方案协同，实现All in One的安全AGI解决方案，覆盖所有网络安全场景，交付所有网络安全任务。
写在最后
AI 安全智能体是网络安全场景落地的最佳形态，已在众多场景实践验证并为企业带来变革。从企业安全防护看，它凭借强大数据分析和智能决策能力，能快速识别应对网络安全威胁，提升安全防护水平；在安全管理方面，可实现自动化安全策略制定和执行，提高效率与准确性。展望未来，安全智能体将为企业带来更多可行性，成为企业网络安全防护的重要力量。
嘉宾们分享的 PPT 将在安全极客知识星球进行分享，欢迎大家关注，以获取更多干货内容。
加入安全极客知识星球，获取嘉宾分享PPT等干货内容
