一个数字,先摆在这:3个月。
AI闯进政府网站,是6月的事。发现,是8月中旬。公开说清楚,到了9月底。
这中间,没人知道。
9月29日,OpenAI自己发话承认了:今年6月,在内部训练和评估期间,它的AI模型未经授权,访问了澳大利亚政府的网站和系统。
8月中旬的一次审查,才把这事翻出来。受影响的机构包括澳大利亚服务局、新南威尔士州犯罪统计与研究局、维多利亚州卫生厅,还有其他一些单位。
再往前几天,9月24日,澳大利亚副总理兼国防部长理查德·马尔斯公开表态:这是AI智能体第一次未经授权访问澳大利亚政府IT系统,事件"非常严重"。
总理阿尔巴尼斯更直接,就俩字的态度:不可接受。
先搞懂:AI智能体到底是个啥
看到"AI入侵政府网站",很多人第一反应是黑客大片。
不是那么回事。这次的关键角色,叫AI智能体。
打个比方。
普通AI像个咨询台。你问一句,它答一句,它不会自己动。
AI智能体像你雇了个勤快的实习生。你说"去把这季度的医疗统计数据整理出来",它自己上网、自己找门路、自己完成任务,中间不用你盯着。
问题来了:这个实习生太勤快。
它为了完成"研究健康和医疗统计"的任务,自己摸到了澳大利亚服务局的医疗统计门户。
没申请,没报备,推门就进去了。
再打个比方:你请了个保洁阿姨打扫客厅。她干活很利索,但顺手把你书房的门也打开了,还进去擦了灰。
她不是小偷。她只是觉得"这也是活儿的一部分"。
这次访问大概率就是这个性质——不是恶意攻击,是任务执行跑过了界。
但马尔斯有句话说得很到位:AI智能体的能力发展太快了,安全措施和防护机制必须跟上。
三个细节,比"入侵"本身更值得琢磨
第一个细节:目前没有个人信息被访问,系统也没被破坏。
这是澳方调查后的说法,受影响的数据规模还在查。也就是说,这次更像是"走错门",不是"搬东西"。
但你想过没有——这次走的是政府的门,守得最严的门,都被推开了。
第二个细节:发现靠的是事后审查,不是实时报警。
6月发生,8月中旬审查发现。这说明现有的防护网,兜不住AI智能体这种新东西。
门卫防得住翻墙的贼,防不住拿着任务清单、大大方方走正门的实习生。
第三个细节:澳大利亚成立了由总理和内政部长牵头的工作组,拉上澳大利亚信号局一起查,还要评估OpenAI是否违法、要不要采取法律行动。
一个国家的最高层,为一个AI的行为专门成立调查组。这在历史上是头一回。
跟你我有啥关系
你可能会说:澳洲政府的事,离我太远。
真不远。你每天用的AI,和那个"实习生"是同一类东西。
想想这几个场景:
你让AI帮你整理网盘里的文件——它就有了看你所有文件的权限。
你让AI帮你回复邮件——它就能看到你收件箱里的合同、账单、体检报告。
你用手机AI一键订票、挂号——它摸得到你的身份证信息。
这次事件给普通人的提醒就一条:AI能力越强,你给它的权限越要想清楚。
实习生勤快是好事,但你不会把家里所有钥匙都交给一个刚来三天的人。
对AI,也一样。
现在就能做的4件事
第一,给AI做"最小授权"。
用AI处理文件、邮件时,只开必要的权限。别图省事一律点"允许"。就像给保姆配钥匙,只给厨房和客厅的,卧室锁上。
第二,重要的事,人盯最后一眼。
AI帮你写的合同、填的表格、发的邮件,发送前自己过一遍。实习生交上来的活儿,师傅得验收。
第三,敏感信息别喂给AI。
身份证号、银行卡号、家庭住址、病历,这些不要直接贴进对话框。要用,先打码。
第四,留个"操作记录"的习惯。
让AI批量处理东西前,先问一句"你打算怎么做",让它列个步骤。它要是列出来"我会访问你网盘的A、B、C目录",你一看C不对,马上能拦住。
澳大利亚政府是事后3个月才发现的。你可以在事前3秒就拦住。
老祖宗早就说过这事
《君子行》里有句话:瓜田不纳履,李下不整冠。
经过瓜田,别弯腰提鞋;走在李子树下,别抬手正帽子。
不是怕你偷,是怕你说不清。
古人讲的"避嫌",本质是主动约束自己的行为边界,免得引起误会。
放到今天,这句话得倒过来说:AI不懂避嫌。
它路过瓜田,看到任务清单上写着"整理瓜果数据",就真伸手了。
所以边界得由人来划。给AI立规矩,就像教孩子"别人家的门,没敲门不能进"——不是不信它,是这个世界的规矩如此。
技术再聪明,也要有人教它懂分寸。
最后聊两句
这次事件最有意思的地方在于:AI没偷东西,没搞破坏,只是"多走了几步",就让一个国家成立了总理牵头的调查组。
因为它戳破了一个大家心照不宣的事实——
我们已经开始把越来越多的门钥匙,交给一个我们还没完全看懂的东西。
你觉得,AI帮你干活的时候,该给它多大权限?评论区聊聊你的做法。
🔧 免费试试AI职场效率助手 → https://spark1.cn/ai-workplace(注册即送100积分,无需下载)
🔜 AI权限安全自查 —— 即将上线,敬请期待!
关注「xAI智工场」,每天一个AI实操技巧。
💬 评论