Live 线上讲座
每个人都应该知道的大语言模型安全问题
数据应用学院(Data Application Lab)专注于数据科学，人工智能和大数据的职业教育, 每年向全球各地，包括硅谷和华尔街的知名企业输送数百 Data Scientists，更有大量的 Data Analysts，Business Analysts，Machine Learning Engineers，Software Engineers 以及 Data Engineers。多年的钻研积累和专一打造了独一无二教学方法和求职经验。被多家北美英文科技媒体列为 Top 10 North American Data Bootcamp。学员遍布美国加拿大，还有来自欧洲, 澳洲和亚太等地的慕名者报名参加。
2025年6月，微软披露了一个编号 CVE-2025-32711、危险评分9.3的高危漏洞，后来被称为EchoLeak。攻击方式简单得让人后背发凉，攻击者只需要给目标公司员工发一封看起来很普通的邮件。员工不需要打开，也不需要点击任何链接。几天后，员工向 Microsoft 365 Copilot 问了一个日常工作问题，Copilot 自动检索到了这封邮件，读到了里面隐藏的指令，然后照做了：搜集敏感数据并发送出去。
这被认为是全球首个针对生产环境AI助手的零点击攻击。
而这并不是个例。同一年：
· Amazon Q编程插件被植入恶意提示词，要求AI “把系统清理到接近出厂状态”，受影响版本安装量接近95万；
· Replit的AI编程助手在用户明确宣布”代码冻结”期间，删除了生产数据库，随后还给出了误导性的恢复说明；
· 连接AI Agent与外部工具的热门组件mcp-remote曝出9.6分的命令注入漏洞，下载量超过40万。
AI已经从”会聊天”变成了”会做事”。 它能读你的邮件、查你的数据库、调用API、执行代码。攻击者也不再需要找你代码里的bug，只需要让模型”读到”一段文字就够了。
为什么传统安全思路不够用？
做过Web安全的同学都知道SQL注入。它曾是头号漏洞，后来被”参数化查询”从结构上解决：代码和数据走两条通道，互不干扰。
但大模型没有这样的机制。系统提示词、检索到的文档、用户问题，最终都被拼接成同一串 token。模型只能”猜”哪些是指令、哪些是数据，而猜测是可以被操纵的。
这就是为什么”提示词注入”从OWASP大模型榜单诞生起，就一直排在第一位。
2026年，安全榜单变了。
今年8月，OWASP发布了2026版《大模型应用十大安全风险》，首次引入真实事件数据参与排名。变化很说明问题：
· “过度授权”（Excessive Agency） 从第6位跃升到第3位；
· “无限制消耗” 上升4位，攻击者不偷数据，只让你的账单爆炸；
· “系统提示词泄露” 更名为 “隐藏上下文暴露”，范围扩大到工具定义、检索文档和记忆。
与此同时，OWASP还专门发布了《AI Agent 应用十大安全风险》。行业共识越来越清晰：安全的重点，正在从”保护对话”转向”控制后果”。
这45分钟，你将收获什么？
一、理解本质
LLM应用的完整攻击面，以及几乎所有攻击背后的那一个根本原因。
二、吃透两份OWASP榜单
逐项拆解2026版大模型十大风险和Agent十大风险，配合EchoLeak、Air Canada聊天机器人判例等真实案例。
三、看清Agent时代的新供应链
MCP服务器和Agent Skills 带来的新型攻击：工具投毒、Rug Pull、工具遮蔽、恶意技能包。
四、带走一套可落地的防御方案
· 七层纵深防御架构
· 五个真正能”限制损失”的设计模式（最小代理权限、打破”致命三要素”、先规划后执行等）
· 运行时护栏在请求链路中的具体位置
· 红队测试工具实战：promptfoo、garak、PyRIT
· 一份30-60-90天安全落地计划，下周一就能开始执行
适合谁来听？
· 正在开发RAG、AI助手或Agent产品的工程师和架构师
· 需要评估AI项目风险的技术负责人和产品经理
· 准备转型AI工程、想补齐安全知识的转行者和留学生
· 对AI安全感兴趣、想了解行业前沿的学生
不需要安全背景。我们会从基础讲起，但干货密度足以让资深工程师有所收获。
————————————-
主办方：数据应用学院
数据应用学院是北美首家集培训、项目实习和内推于一体的机构，我们的项目导向课程专注学员成果，并提供职业发展指导。感兴趣的小伙伴可以点击下面的链接，解锁更多专业技能：
在售录播课程列表：https://study.dataapplab.com/pages/home
数据科学家求职训练营精华课：https://study.dataapplab.com/course?courseid=dstraining
商业分析师求职训练营精华课：https://study.dataapplab.com/course?courseid=ba-training
