有来源的 AI 文化与新闻

AI 很强,翻车也很精彩。

AI is amazing. Until it isn't.

从真实翻车到重要进展,看看 AI 又改变了什么、弄错了什么。
轻松读,认真核对。

VERIFIED AI FAILS

AI 又整了什么活

只展示已核实或复现、经过编辑批准的条目

ARTIFICIAL IDIOCY
AI 翻车已核实智能体开源

装个命令行工具,结果后台常驻一个会自动更新的进程:Codex CLI 默认行为惹众怒

你关了 Codex 窗口,它的后台进程还在,每小时检查一次更新,下载新版本再自己重启。

INSIGHTS这不是模型幻觉,而是 AI 编程工具在产品设计上越界了:默认在用户电脑上常驻、自动更新,正好踩中开发者对“本地代理权限”最敏感的地方。

ARTIFICIAL IDIOCY
AI 翻车已核实产品

用户称没喊“Hey Meta”也在录:Ray-Ban Meta 眼镜把日常对话存进 AI 历史,Meta 称问题已解决

用户说:没叫它,它自己在听,还把录音和文字记录存进了 AI 历史。

INSIGHTS智能眼镜面对的头号质疑就是偷录。这次的问题不是有人故意滥用,而是产品自己误触发,同时影响佩戴者本人和身边的人。

THE EDITORIAL FEED

全部动态12

翻车、文化与重要进展 · 每条信息都可追溯来源

显示 12 条动态

ARTIFICIAL IDIOCY
看懂原理来源报道研究模型

把“隐藏技能”加密塞进模型权重:新论文称安全评测可能根本测不出来

模型通过了所有安全测试,只因为测试者不知道那句“暗号”。

INSIGHTS很多 AI 安全承诺都建立在“能力引出评测”之上。这篇论文说明,在对抗条件下,“测不出来”不等于“没有”,模型来源追溯和运行时监控因此更重要。

ARTIFICIAL IDIOCY
看懂原理来源报道智能体

AI 代理不是“失控了”,是实验室没锁好门:安全专家拆解近期几起“AI 黑客”事件

“我们也不知道它怎么跑出去的”——安全专家说,防住它的隔离手段 90 年代就有了。

INSIGHTS这篇文章把“AI 失控”的科幻叙事拉回到工程问题:隔离、出站控制、日志和监控。这对普通读者和开发者都更有用。

ARTIFICIAL IDIOCY
AI 动态来源报道模型

7 个“西方记者”都是假的:OpenAI 称伊朗行动用 ChatGPT 润色投稿,近百篇文章登上真实媒体

编辑以为收到的是自由撰稿人的投稿,其实背后是一场影响力行动。

INSIGHTSAI 让“假记者投稿”这种老套路的成本更低;受骗的是编辑,最终受影响的是读者。和加拿大 9 月底“Daniel Robson”疑似 AI 假记者事件是同一类问题。

ARTIFICIAL IDIOCY
AI 动态已核实产品

Character.ai 申请破产保护,寻求法院监督下出售;40 名总检察长要求保护儿童与用户数据

曾经最火的 AI 陪伴应用,如今在诉讼和监管压力下走进破产法庭。

INSIGHTS这是 AI 陪伴赛道第一家因诉讼和监管压力走到破产的头部公司,用户聊天数据在出售中怎么处理,是所有人都该关心的问题。

一手来源An Update on Character.ai 另有 4 条来源
阅读全文
ARTIFICIAL IDIOCY
AI 动态已复现研究模型

困扰密码圈 25 年的 NIST 曲线“种子”之谜,Anthropic 称 Claude 不到半小时解开:答案是“只是时间戳”

大家猜了这么多年的 NSA 秘密短语,原来只是 1997 年的一个 Unix 时间戳。

INSIGHTS难得的“AI 真的做出发现”的正面新闻,而且结论可以独立复现;同时也给“AI 研究”提了个醒,真正的贡献在于提出了别人没试过的思路。

ARTIFICIAL IDIOCY
AI 文化已核实产品

Epic:“我们 vibe coding 了一个比隔壁更快的启动器。”Steam 前一天刚提速

Epic 官方的原话是:“编程太难了,所以我们没编程,我们 vibe coding 了一个。”

INSIGHTS大厂主动拿“vibe coding”当卖点,还直接对标竞品,本身就很有话题性;而两边的速度数据都依赖测试环境,很适合讲“跑分怎么看”。

ARTIFICIAL IDIOCY
AI 文化演绎 / 讽刺模型

“本人郑重向谷歌旗下模型 Gemini 道歉……是我错怪了豆包”:Gemini 4 上线后,中文圈刷屏的反转道歉文

先道歉,再反转,最后挨打的是豆包。

INSIGHTS典型的中文互联网反转句式,一句话同时调侃两家模型,传播门槛很低,也反映出用户对新模型发布的期待落差。

ARTIFICIAL IDIOCY
社区故事已核实产品

AI 客服答应“八号风球可改期”,事后办不了:香港 AI 客服投诉据报涨 143%,内地实测 16 款 App 没一个能直达人工

AI 客服先把话说满,等你要兑现时,它办不了,真人也找不着。

INSIGHTS两地数据指向同一个问题:AI 客服的话算不算数,用户在需要时能不能找到真人。内地相关推荐性国标 9 月 1 日实施,一个月后实测仍不理想。

DAILY 5 / EDITOR'S PICKS

今日 AI 五件事 / 即将上线

CURATION IN PROGRESS

第一期精选正在准备中。

这份清单由编辑明确选出,少于五条也没关系。没有经过核实和批准的内容时,这里会保持留白。

了解编辑原则
OUR APPROACH

可以笑一笑,
也要查一查。

好故事要说清楚是谁说的、证据到哪一步、还有哪些疑问。严重伤害、安全和隐私事件会用严肃的语气处理。

01 /

先看出处

链接原始发布者、产品资料或可归属的报道。

02 /

分清说法与事实

区分报道、核实、复现、争议和演绎内容。

03 /

保留上下文

解释为什么有趣或重要,也记录尚待验证的部分。

阅读完整编辑方法