资源介绍
视频数量：12个
总时长：1小时40分
课程介绍：
大语言模型与API渗透测试实战训练营
想象一下，你所在的公司刚上线了一套基于大语言模型的智能客服系统，运行看起来一切正常。直到某天，安全团队紧急通报——有用户通过聊天窗口注入了一段恶意指令，让系统把后台数据库的客户清单原样吐了出来。你可能觉得这像是电影情节，但在当下的AI安全领域，这已经是每天都在发生的真实事件。
这门课不打算教你写几个绕过聊天机器人的花哨prompt，然后截图发社交媒体。如果你正负责一个大模型应用的真实生产环境，你需要明白一件事：模型已经不再是"会说话的玩具"，它成了智能体系统的核心组件，能调用数据库、操作企业平台、以毫秒级速度做出业务决策。这意味着传统的"别让AI说脏话"式防御思路已经彻底过时。
整个课程围绕一百个实验展开，核心理念是从一个脆弱的本地API一步步加固成一座坚不可摧的AI堡垒。课程时长一小时四十分钟，密度极高——12个讲解视频配合一百个动手实验，覆盖真实生产环境里的每一层防御。
一、基础与环境搭建
课程不从理论开始，而是让你动手搭建一个经过授权的本地大模型安全靶场：用Docker Compose拉起最小化的FastAPI网关，接上本地模拟的大模型适配器，故意写一个存在漏洞的聊天端点。这套环境就是后续所有实验的演武场，安全研究的可控性从此有了具体的落点。
二、攻击面与威胁建模
第二个模块教你用安全工程师的视角审视刚写出来的东西：画出大模型应用的数据流转图，对照OWASP LLM风险清单逐项核对，把MITRE ATLAS的攻击技战术映射到靶场接口，最后产出一份能直接跟团队对齐的威胁模型文档。
三、提示词注入与输出处理
第三个模块处理最常见的攻击类型。你会动手测试直接注入与间接注入（通过检索文档投毒）、Markdown和HTML输出中的不安全处理、PII信息泄露；写代码强制模型输出结构化JSON，在日志中加入PII脱敏，测试模型拒答的一致性。
四、API安全与身份授权
第四个模块把大模型当作普通API来加固：API Key认证、缺失凭证路径测试、JWT验证、租户隔离、限流设计、审计ID追踪、授权失败信息标准化。这部分对Web安全背景的人很亲切，对纯AI背景的工程师则是一次重要的能力补齐。
五、RAG与向量数据库治理
第五个模块针对当下最主流的RAG架构：搭建本地文档摄入管道，部署本地向量库，测试元数据过滤的租户隔离，模拟检索投毒，添加检索来源白名单，验证数据删除与保留策略，重点解决"知识库被污染"这个越来越常见的风险。
六、智能体系统与MCP
第六个模块进入智能体安全前沿：构建安全的工具注册中心，添加工具Schema校验，强制最小权限调用，对中等风险动作设置人工审批，模拟工具投毒，审查Model Context Protocol的安全性，设计沙箱化工具执行环境，测试智能体记忆污染。
七、自动化红队与模糊测试
第七个模块用工具替代手工：安装garak配置目标计划，安装PyRIT做受控AI风险测试，编写自定义Prompt模糊测试工具，搭建评分体系，建立回归语料库，把这些全部接入CI兼容的安全测试流水线。
八、平台安全与供应链
第八个模块视角提升到平台层：用Trivy扫镜像，用Syft生成SBOM，用Grype扫描SBOM，用Cosign做镜像签名，参考SLSA制定构建控制，用kind部署本地Kubernetes，用Kyverno或Gatekeeper执行集群策略，用SPIFFE/SPIRE设计工作负载身份。
九、可观测性与韧性控制
第九个模块关注运维侧：添加结构化安全日志，设计OpenTelemetry追踪链路，定义大模型安全运营指标，构建成本滥用测试用例，编写安全事件告警规则和应急预案，验证模型网关故障时的韧性，进行本地混沌测试，检验证据备份与恢复流程。
十、主权部署与综合演练
第十个模块是收官：设计完全独立的本地推理架构，添加入站出站控制，构建合规证据矩阵，打包可复现的研究证据，添加防篡改校验和，制定去中心化的证据共享方案，运行完整上线安全闸门，做一次董事会级别的风险简报演练。
这门课适合谁？安全工程师中想切入AI应用安全方向的人；AI工程师中意识到产品需要过安全审计的人；负责大模型产品上线但不知道怎么跟安全团队对话的产品经理和技术负责人；正在准备AI安全相关认证或面试的人。如果只想找几个有趣的越狱prompt玩玩，这门课并不适合你。
学完之后你能带走什么？一个你自己亲手搭建、亲手攻破、亲手修复的完整大模型应用安全体系；一百份可复现的实验记录作为团队安全基线；一套能直接接入CI的安全测试流水线；以及面对真实AI安全事件时知道从何处排查的工程直觉。这门课不会发一张漂亮的证书，但会给一套真正能在生产环境扛住压力的防御能力。