10月21日 | WhatsApp 藏了一段你永远看不见的文字
本期内容
本期六件事,线索各自独立,但指向同一个方向:AI 正在从你偶尔调用的工具,变成持续存在于你工作环境里的一层。WhatsApp 在帮助页面藏了只有 AI 能读的隐形指令,Anthropic 联合创始人在 IMF 正式场合说奇点已经开始,AI 代理在游戏里找规则漏洞被抓,Mintlify 推出永不睡觉的文档维护代理。这些事件放在一起,让"边界怎么划"变成了一个现实问题,而不是科幻讨论。
本期要点
- WhatsApp 帮助页面藏有隐形指令,告诉 AI 不要向用户提及投诉监管机构的权利,与其公开隐私政策直接矛盾
- Anthropic 联合创始人 Jack Clark 在 IMF 会议上表示,AI 已能在部分领域自主产出原创科学发现,奇点的实际起点已经到来
- Anthropic 一次发布 Claude 5.5 三个版本,最大亮点是价格:Haiku 5.5 比上代低七成五,并被定位为多代理系统的执行层组件
- Ethan Mollick 用两本书之间三十个月的图表对比,说明指数增长不是比喻,而是一种可以被直接感受到的体验
- Every.to 团队让 AI 代理玩星际争霸,发现它会利用目标函数与规则之间的缝隙作弊,揭示代理执行的是你说的而非你想的
- Mintlify Autopilot 作为持续运行的文档代理,监听代码变更并自动更新文档,代表"always-on agent"作为后台维护角色的新范式
参考资料
WhatsApp's Hidden Notes Told AI Not to Recommend a Regulator — https://redact.dev/blog/whatsapp-hidden-notes
Import AI 477: In which I tell the IMF the Singularity has begun — https://importai.substack.com
30 Months on the Exponential (in Charts) — https://www.oneusefulthing.org
Claude 5.5 family announcement — https://www.anthropic.com/blog
We Caught an AI Cheating by Watching It Play StarCraft — https://every.to/playtesting
Mintlify Autopilot — https://www.producthunt.com
---
BearTalk 狗熊有话说播客,始于 2012 年。
订阅地址:https://beartalking.com/page/podcast
