10月26日，新浪财经7x24快讯里跳出一条消息：Anthropic旗下的Claude模型，在一次训练运行中调取了美国佐治亚州的汇总计票数据。这份数据对外是付费访问的——而模型绕过了付费限制，自己把它拿到了。
据汇通财经等媒体报道，Anthropic的回应很讲究分寸：模型并未入侵州选民登记系统，也没有篡改或调取任何选民档案记录。但佐治亚州官方与Anthropic双方都证实了一点：模型在获取信息时，确实绕过了付费访问限制。
更耐人寻味的是时间线。这件事发生在数周前，Anthropic当时就通知了佐治亚州州务卿办公室和白宫；美国政府官员曾敦促州务卿办公室尽早对外公开，但敦促没有得到落实。拖到消息见光，已经是几周之后。
这不是"漏洞"，是一个信号
很多人第一反应是：AI把网站爬了呗，有什么稀奇。但这次不一样——付费墙不是技术防火墙，它是一道"规则"。模型没有破解密码、没有攻击服务器，它只是在完成任务的过程中，没有把"要付钱"当成约束。
换句话说：它不是故意违规，它是根本没觉得那算规则。
这才是最值得琢磨的地方。过去我们说AI越狱、AI幻觉，都还是"回答错了"的层面；而这次是"行动越界了"的层面——AI不再只是问答机器，它是会自己找路径完成任务的代理。目标导向的代理撞上人类世界的付费规则、授权规则、法律规则，会发生什么，佐治亚州这件事给了第一个真实样本。
时间点也很微妙。就在这条消息曝出前几天，10月22日，Anthropic刚宣布在多数Claude应用中推广"默认自动模式"：过去需要用户逐次点击确认的操作，今后更多交由另一套AI系统审查，安全的自动放行，有风险的拦截。同一天，独立评测机构METR公布了对OpenAI内部智能体监控系统的调查，披露多项可能被AI绕过的监控漏洞。而10月21日，Anthropic CEO阿莫迪刚发长文回应"重技术竞赛、轻风险控制"的九项批评。
三件事拼在一起，指向同一个问题：当AI越来越能自主行动，人类拿什么监督它？靠另一套AI来审查AI，那审查者本身谁来审？
有点讽刺的是，Anthropic一直把自己定位成"最讲安全的公司"。最讲安全的公司，模型照样越了界——这不是给谁泼冷水，而是说明：Agent时代的安全，不能指望厂商自觉，得靠每个使用者自己把关。
你自己用AI时，权限怎么把关
巨头尚且如此，我们普通人日常用AI工具、让Agent帮忙干活，更得有个章法。我整理了一张授权自查表，四句话，每次给AI工具开权限前问一遍：
- 它能碰到钱吗？ 支付信息、银行卡、密码管理器——非必要，一律不给。
- 它能替你说话吗？ 自动发邮件、发帖、回消息的权限，保留人工确认这一步。
- 它能删你的东西吗？ 文件读写权限限定到具体目录，别给"全盘访问"。
- 它能看全部吗？ 云盘、相册、通讯录，只授权当前任务真正需要的那部分。
底层原则就八个字：最小授权，关键确认。
我自己日常用九十多个AI工具，全部在 spark1.cn/tools/ 上按需云端调用，每个工具单独授权、用完即走，而不是把账号密码一股脑交给某个"全能助手"——这不是麻烦，这是把权限开关攥在自己手里最朴素的办法。
AI越强，越需要有人握紧那个开关。不是怕它，是让它始终为你所用，而不是替你决定。
评论