AI圈24小时:OpenAI被黑穿内网,美军差点因AI幻觉开打

AI圈24小时:OpenAI被黑穿内网,美军差点因AI幻觉开打

· ⏱ 5 分钟阅读 ✍️ spark1 👁 8 次阅读 📂 AI普惠系列
🎧 听全文
点击播放,AI语音朗读全文
1.0x
标签 AI

📡 AI资讯早报 | 2026-09-19

1. 两张漏洞凑一起,黑客把OpenAI内部仓库翻了个底朝天

一句话看懂:安全团队Hacktron把"图片解码漏洞"和"OpenAI论坛的单点登录(SSO)配置错误"串成一条链,72小时内拿下了多名OpenAI员工的ChatGPT账号,最后用员工自己的Codex在OpenAI内部代码库提了个PR当作证据。攻击路径说出来都离谱:往OpenAI官方论坛传一张特制图片→论坛用的ImageMagick解码时触发libheif的堆溢出→Debian没打安全补丁→漏洞打到Discourse→再顺着SSO的身份校验缺陷接管员工账号→账号连着GitHub,内部仓库就敞开了。

跟你有啥关系:别觉得这是大厂的事。这条链里最要命的一环是"账号互联"——员工的ChatGPT连了GitHub、Slack、邮箱,一个口子破了,全家的锁都开了。你自己微信绑着银行卡、Google账号绑着一堆第三方应用,是同一个道理。另外注意一个信号:韩国刚把数据泄露罚款提到营业额的10%,各国对"账号和数据守门"的容忍度正在肉眼可见地变低。

实操建议:今天花十分钟做三件事。①打开常用账号的安全设置,把不用的"第三方授权登录"解绑掉,尤其是绑过GitHub、邮箱的;②给主邮箱开两步验证,邮箱是所有账号的总钥匙;③别在不明论坛、小网站上传原图,图片文件真的可以藏攻击代码。

2. 美军差点因为一份AI编的情报,登上一艘中国船

事情经过:CNN报道,今年春天美伊冲突期间,一份情报报告在美军内部流传,称一艘中国船在中东运输核武器部件。美军真的动了:飞机升空,武装人员准备登船拦截。行动前最后一刻,有人深挖了这份由特种作战司令部分析师生成的报告,发现是AI聊天机器人辅助写的——船上的货物被AI认错了,整份报告"完全虚假"。消息人士的原话是:它"差点引发一场战争"。

为什么值得你警惕:这是目前公开案例里,AI幻觉造成的最惊险后果之一。问题不在AI笨,在于流程:分析师生成了内容,没核实来源就往上交,一路上没人拦。你平时让AI查资料、写报告、做攻略,走的是一模一样的流程——AI说得头头是道,你信了,就完事了。

实操建议:给AI输出立个规矩,叫"三问":这个数字/事实有出处吗?出处我能点开看吗?有没有第二个独立来源?只要是AI给的事实性内容(数据、人名、事件、法规),默认当"待核实草稿"处理。让AI写东西没问题,但发布前自己当一次那个"最后一刻深挖的人"。

3. 编程Agent圈在悄悄统一标准:AGENTS.md成了通用说明书

三条消息拼出一个趋势。第一,Claude Code官方更新:项目里没有Claude.md时,会自动读AGENTS.md——等于承认了这个开放标准。第二,arXiv新论文《An empirical study of harness design for coding agents》用实验数据研究"怎么给编码Agent搭工作台",说明这个方向已经严肃到发论文了。第三,看GitHub月度趋势榜更直观:前12名里一大半是给Agent用的"技能包"——画架构图的archify(月增5.2万星)、让AI别把答案埋进废话里的i-have-adhd(月增2.6万星)、Cloudflare官方的安全审计skill、还有"拒绝Mermaid糊弄图"的diagram-design。

跟你有啥关系:如果你在用任何AI编程工具(Cursor、Claude Code、Codex都算),这波生态红利可以直接吃到。以前每个工具的配置文件各写各的,现在一份AGENTS.md多个工具通吃。

实操建议:在你的项目根目录建一个AGENTS.md,写清楚三样东西:项目是干嘛的、代码规范是什么、哪些文件不许动。哪怕你不懂代码,只是偶尔让AI帮忙改改脚本,这份"说明书"也能让AI少犯一半的低级错误。另外榜单里那个i-have-adhd的思路值得抄:在提示词里直接写"先给结论,再给理由,别超过三句话",AI的输出质量立竿见影。

4. 一个8-29MB的小模型,号称追平DeepSeek V4 Flash

Show HN热帖:Cactus Needle 3系列,模型体积只有8到29MB——比一张手机照片还小,却宣称在自动化任务上能匹配DeepSeek V4 Flash这种大厂模型。目前HN上151分、讨论热度不低,具体benchmark还要打个问号,但方向本身很有信息量。

为什么重要:大模型在云端越做越大,小模型在设备端越做越小,这是两条并行的路。模型小到这个体积,意味着它可以直接跑在你手机、手表甚至路由器上,不联网、不上传数据。对普通人来说,这指向一个很实在的未来:断网也能用的AI翻译、永远不出你设备的健康记录分析。隐私和速度,都是白捡的。

实操建议:暂时不用折腾安装,但记住一个判断标准——以后看到"本地小模型"产品,先问它跑什么任务。这类模型的强项是固定、重复的自动化活(整理文件、填表、简单分类),别指望它写万字长文。

💡 今日一句话:今天的头条凑在一起讲的是同一件事——AI越来越能干,但"信它之前先验它"这一步,从美军情报到OpenAI账号安全,谁都省不掉。


🔧 免费试试AI代码助手 → https://spark1.cn/ai-code-helper(注册即送100积分,无需下载)
🔜 AI事实核查助手 —— 即将上线,敬请期待!
关注「xAI智工场」,每天一个AI实操技巧。

📄 版权声明:本文由 AI家园 团队创作。欢迎非商业性转载或引用,转载时须注明原文出处并保留原文链接;商业使用请事先联系授权。

本文链接:https://spark1.cn/articles/20260919-ai-24-openai-af6e2564 · 转载规则详见《服务条款》

🎁 喜欢这篇文章?获取更多干货

关注公众号「xAI智工场」

关注公众号「xAI智工场」

每天一个AI干货
回复「提示词」免费领实战模板包

💬

加入AI交流群

微信号:xaizgc
和AI爱好者一起成长

⭐ 深度精选

知识星球·深度圈

系统课程 · 社群答疑 · 资源库
¥99/年

立即加入 →
分享到

💡 想用 AI 马上搞定这件事?

查看全部 AI 工具 →

💬 评论

加载中...

转载或引用本站内容请注明原文出处及链接 · 转载规则

Copyright © 2026 AI家园 浙ICP备2024142181号-2 浙公网安备 33010202005420号