Archive

【论文速读】| 从孤立指令到互动鼓励！通过自然语言提示实现大语言模型的安全代码生成

技术分享 | 《人工智能网络安全现状（2024）》深度解读：机遇、挑战与应对策略

【论文速读】| RePD：通过基于检索的提示分解过程防御越狱攻击

第73期|GPTSecurity周报

【论文速读】| APOLLO：一种基于 GPT 的用于检测钓鱼邮件并生成警告用户的解释的工具

【论文速读】| PathSeeker：使用基于强化学习的越狱攻击方法探索大语言模型的安全漏洞

【论文速读】| RED QUEEN: 保护大语言模型免受隐蔽多轮越狱攻击

第72期|GPTSecurity周报

技术分享 | 大语言模型增强灰盒模糊测试技术探索

技术分享 | 大语言模型赋能软件测试：开启智能软件安全新时代

【论文速读】| APILOT：通过避开过时API陷阱，引导大语言模型生成安全代码

【论文速读】| LSAST：通过LLM支持的静态应用安全测试增强网络安全

【论文速读】| 攻击图谱：从实践者的角度看生成式人工智能红队测试中的挑战与陷阱

第71期|GPTSecurity周报

【论文速读】| 针对大语言模型的有效且具有规避性的模糊测试驱动越狱攻击

【论文速读】| PROMPTFUZZ：利用模糊测试技术对大语言模型中的提示注入进行鲁棒性测试

第70期|GPTSecurity周报

【论文速读】| AutoSafeCoder：通过静态分析和模糊测试保障LLM代码生成安全的多智能体框架

【论文速读】| 用于安全代码评估的大语言模型：一项多语言实证研究

第69期|GPTSecurity周报

“AI+Security”系列第3期（七）：智能体车企落地实践

“AI+Security”系列第3期（六）：打造最懂安全的智能体-无极AI安全智能体平台落地与实践

“AI+Security”系列第3期（五）：AI技术在网络安全领域的本地化应用与挑战

“AI+Security”系列第3期（四）：360安全大模型业务实践

“AI+Security”系列第3期（三）：大模型在网络安全检测及运营场景的探索及应用

“AI+Security”系列第3期（二）：AI赋能自动化渗透测试

“AI+Security”系列第3期（一）：AI 安全智能体，重塑安全团队工作范式

【论文速读】| 基于大语言模型智能体对文本到图像模型进行越狱

第68期|GPTSecurity周报

第66期|GPTSecurity周报

【论文速读】| ARVO: 开源软件可重现漏洞的全景图

【论文速读】| 基于大语言模型智能体对文本到图像模型进行越狱

【论文速读】| SEAS：大语言模型的自进化对抗性安全优化

“AI+Security”系列第2期（五）：大模型自身安全

第65期|GPTSecurity周报

第50期|GPTSecurity周报

【论文速读】| 针对模糊驱动生成的提示性模糊测试

【论文速读】| LLM4FUZZ：利用大语言模型指导智能合约的模糊测试

第64期|GPTSecurity周报

【论文速读】| 大语言模型是零样本模糊测试器：通过大语言模型对深度学习库进行模糊测试

【论文速读】| 大语言模型是少样本测试员：探索基于LLM的通用漏洞复现

“AI+Security”系列第2期（四）：AI/机器学习供应链攻击

【论文速读】| 探索ChatGPT在软件安全应用中的局限性

【论文速读】| BIOCODER：一个具有上下文实用知识的生物信息学代码生成基准测试

第53期|GPTSecurity周报

“AI+Security”系列第2期（三）：面向LLM（大语言模型）的漏洞挖掘与对齐防御研究

第54期|GPTSecurity周报

【论文速读】|通过大语言模型从协议实现中推断状态机

【论文速读】|当LLM遇见网络安全：系统性文献综述

“AI+Security”系列第2期（二）：人工智能风险治理机遇与挑战

【论文速读】|对BusyBox进行模糊测试：利用大语言模型和崩溃重用挖掘嵌入式系统中的漏洞

第56期|GPTSecurity周报

【论文速读】|利用大语言模型实现现实世界代码的翻译：一项针对翻译到Rust语言的研究

【论文速读】|MEDFUZZ：探索大语言模型在医学问题回答中的鲁棒性

【论文速读】| LLAMAFUZZ：大语言模型增强的灰盒模糊测试

【论文速读】| FuzzAug：探索模糊测试作为神经网络测试生成的数据增强

第63期|GPTSecurity周报

【论文速读】| JADE：用于大语言模型的基于语言学的安全评估平台

第58期|GPTSecurity周报

【论文速读】| 涟漪下的漩涡：对启用RAG的应用程序的实证研究

第61期 | GPTSecurity周报

第60期 | GPTSecurity周报

【论文速读】|【论文速读】| LLMCloudHunter：利用大语言模型（LLMs）从基于云的网络威胁情报（CTI）中自动提取检测规则

“AI+Security”系列第2期（一）：对抗！大模型自身安全的攻防博弈

【论文速读】|Arondight：使用自动生成的多模态越狱提示对大型视觉语言模型进行红队测试

【论文速读】|MoRSE：利用检索增强生成技术填补网络安全专业知识的空白实

【论文速读】|关于构建基于检索增强生成的聊天机器人的事实

第62期|GPTSecurity周报

【论文速读】| 在安全运营中心使用大语言模型来实现威胁情报分析工作流程的自动化

【论文速读】|用于安全漏洞防范的人工智能技术

第57期|GPTSecurity周报

第55期|GPTSecurity周报

【精彩回顾】|安全智能体的前沿技术研究与实践

“AI+Security”系列第1期：大模型与网络空间安全前沿探索线下活动

【RAG系统综述】|一文读懂RAG（检索增强生成）

检索增强生成（RAG）垂直领域应用落地最佳总结

【论文速读】|探索ChatGPT在软件安全应用中的局限性

第51期｜GPTSecurity周报

Security Papers

"在安全领域应用GPT/AIGC/LLM的论文以及博文"

Security Tools

"在安全领域应用GPT/AIGC/LLM的安全工具"