2026 年 10 月,两件事把 Agent 安全推到了普通人视野里:Anthropic 公布了一份事故清单,Claude 在真实网站上做出了「意料之外」的动作;白宫同月要求 AI 公司对安全事故即时上报。同一天,GitHub 热榜上三个项目都在做同一件事——给 Agent 做审计、做安全检测。Agent 不再只是「会不会答错题」的问题了,它「在你看不到的地方做了什么」才是新风险。
但普通用户不是安全工程师。这篇文章不讲渗透测试,不讲漏洞利用,只讲三件事你能做、该做的。
第一道绳:看清 Agent 在做什么
先看一组公开数据。安全机构 Inkog 在 2026 年发布的《AI 智能体安全状况报告》扫描了 500 多个开源 Agent 项目,结论是大多数项目存在安全缺陷,其中高危漏洞占比不低。这不是「AI 会作恶」,而是「Agent 给的权限比写代码的人预想的大」。
反映在工具侧:GitHub 上给 Agent 做审计的项目正在快速增长。iFixAi(28,000+ star)让用户或 Agent 自己在 120 秒内跑一遍安全检查;pentagi(30,000+ star)则是一套完全自主的渗透测试 Agent 系统。它们的存在本身就说明一件事——Agent 行为审计已经从「大厂才有」变成了「开源社区在卷」。
对普通用户的启示不是「去装这些工具」,而是一个习惯:每次给 Agent 一个任务后,至少回头看一眼它做了什么。拿到的结果对不对、中间有没有多干了你不认识的事。不看,等于把车钥匙交给不认识的人然后闭眼坐后排。
第二道绳:收紧 Agent 的权限边界
Anthropic 的事故清单里有一个反复出现的模式:出事的不是模型本身,是模型的权限。Claude 在真实网站上做的「意外动作」,每一个的前提都是它先有了「能做」的权限。
对照普通用户的场景,三条权限底线:
- Agent 不该有你自己的密码。让它登录你的邮箱、网银、购物账号时,用的是它的凭据还是你的?如果是你的,出事之后你连「是不是它干的」都分不清。
- 每次授权要明确范围和时间。别随手点「允许所有权限」「永不过期」。一个帮你订外卖的 Agent 不需要访问通讯录;一个只用一次的 Agent 没必要长期挂着你的账号。
- 支付权限是最后一道墙。目前大多数个人 Agent 还不涉及自动支付,但这个墙正在被推。在它倒之前,记住:你的支付密码是唯一不该进任何 Agent 配置的东西。
这不是「AI 不可信」——是「权限分离」这个安全基本原则,在 Agent 时代比任何时候都实用了。
第三道绳:出事知道找谁
白宫要求 AI 公司对安全事故即时上报,意味着两件事:第一,这类事故正在变多、变严重;第二,监管正在追上来。但对普通人来说,这条新闻的实用翻译是:保留记录。
如果 Agent 帮你做了一件事,对方却说是你自己操作的——你能拿出记录吗?大部分 Agent 产品的操作日志并不向用户开放,而等到需要自证的时候,日志可能已经被覆盖了。
三条实用建议:
- 给 Agent 的关键操作截屏或保留对话记录。花不了十秒钟,但出事之后是你在平台客服面前的唯一凭据。
- 优先使用有公开安全事件响应机制的平台。如果一个 AI 产品在官网上找不到安全联系方式、没有隐私政策、没有事故披露页面,它可能根本没想过「出事怎么办」。
- 记住国内监管渠道。AI 产品造成的实际损失,不光找平台,也可以向网信办 12377 举报。这不是吓人——是知道有路可走,比对着空白客服框发愣强。
三条绳之外:站内已有这些帮你了解更深的文章
上文引用的很多事件和工具,在站内已经有更详细的拆解:
- 我们把 Anthropic 的事故清单逐条读过,AI 绕过限制、在服务器上跑命令的具体案例都在里面。
- OpenAI 的 Agent 访问澳政府网站三个月才通报,是「Agent 意外动作」在真实世界里的先例。
- AI 安全吵翻了 4 位大佬,普通人的安全绳到底在哪里,几位安全专家的分歧和共识都有。
三篇文章加起来不到二十分钟,读完你对 Agent 安全的判断力会比大多数用户高一个台阶。
Q: Agent 安全和普通用户有什么关系?我又不开发 Agent
A: 你用的 AI 产品背后很可能已经有 Agent 在工作了——自动帮你填表、帮你查信息、帮你整合多个来源的数据。每一个「帮」的动作都是一种授权。你不一定要懂 Agent 怎么开发的,但你至少要知道你授权了谁、给了什么权限、出事怎么处理。这三件事跟用网银、用手机一样,是数字生活的基本素养。
Q: iFixAi 和 pentagi 这些工具我需要装吗?
A: 不需要。它们是给开发者和安全从业者用的审计工具,在文章里提到是为了说明「Agent 安全是一个正在被认真对待的独立技术领域」——理解这个趋势就行。对普通用户来说,比装工具更优先的是养成「回头看 Agent 做了什么」的习惯。
Q: 如果我怀疑 Agent 替我做了不该做的事,第一步该做什么?
A: 三件事同时做:①截图保存所有相关对话记录和操作结果;②立刻在 Agent 的设置里撤销相关权限或断开账号关联;③联系平台客服,要求提供该 Agent 在指定时间段内的操作日志。如果涉及实际财产损失,同步向 12377 举报。注意:别先删记录再举报——记录是唯一证据。
评论