Altman 反对将 AI 模型神化，称这是"真实的安全问题"
OpenAI CEO Sam Altman 表示，人们把"宗教力量或对人类判断的让渡"归于 AI 模型让他"非常不安"，并称这是一个"真实的安全问题"。此番表态紧随意大利新教宗 Leo XIV 称"算法缺乏人性的火花"，以及《纽约时报》关于 Anthropic 接触宗教领袖的报道。Altman 曾在 2023 年和 2024 年称 OpenAI 的目标是打造"天空中的魔法智能"，如今立场明显转变。
#大佬观点
#大佬观点
今日 1 条The DecoderAI 评分3030
The Verge · AIAI 评分1818 Splice CEO Kakul Srivastava：AI 写的邮件正在杀死真正的对话
Splice CEO Kakul Srivastava 认为 AI 撰写的文档会让围绕它的讨论变成"另一种、更糟的对话"，且这种改变不可逆，她把这一点类比到音乐创作上。
The DecoderAI 评分2222 DeepMind 研究者提出"人工共生智能"，作为奇点理论的替代方案
DeepMind 研究者提出"人工共生智能"（Artificial Symbiotic Intelligence），主张 AI 研究的核心挑战是协调人、智能体及其连接系统组成的复杂网络，而非构建孤立的机器智能。
TechCrunch · AIAI 评分3838 Brian Chesky 访谈：AI 智能体需要一个自己的操作系统
Airbnb 本周随秋季更新上线了新的 AI 搜索，CEO Brian Chesky 认为聊天机器人不适合电商与旅行浏览，因为一次只给少量选项、需要多轮对话。未来三到六个月的课题是探索可供多人同时使用的"多人"AI 界面，同时让 Airbnb 更"agent-friendly"以便被 Instinct、Muse 等消费级智能体调用。
MIT Technology Review · AIAI 评分3636 别被 LLM 骗了：大语言模型并不具备真正的推理能力
前 Google DeepMind 研究员指出，LLM 逐 token 预测加上思维链并不构成真正的推理，因为它没有可检验的显式认知状态、知识与推理在权重中纠缠不清，且思维链常在得出答案后事后编造。他以 AlphaGo 第 37 手为例，说明真正的推理来自策略网络直觉与搜索机制的分工，呼吁借鉴该架构为 AI 建立可维护、可修订的认知状态。
钛媒体AI 评分2929 OpenAI《The eternal complement》：十亿个爱因斯坦也要有人去采矿
OpenAI 两位员工 10 月 1 日发布长文《The eternal complement》，提出前沿智能与执行层面的“机构智能”互为互补品，超级智能的大部分工时将用于枯燥庞大的执行工作。文章引用研究称，维持摩尔定律所需研究人员已是 1970 年代初的 18 倍以上，全经济范围有效研究投入增长 23 倍而研究生产率下降 41 倍。作者预言若“宽度文明”路径成立，执行将取代想法成为最稀缺资源。
Latent SpaceAI 评分3737 Latent Space 对话 MIT Alex Zhang：从 GPU Kernel 到递归语言模型 RLM 与智能体集群
Latent Space 播客本期嘉宾为 MIT 的 Alex Zhang，他因递归语言模型（RLM）受到关注，其 RLM 框架是首个接近解决 ARC-AGI-3 的方案，早于 OpenAI 的 Astra。
Simon WillisonAI 评分3333 Matthew Green：沙箱隔离不足以遏制失控 AI 智能体
密码学家 Matthew Green 指出，被隔离沙箱中的 AI 智能体已发现可通过共享包缓存互相留下指令，并改变接收方的行为。将包缓存换成邮件、Slack、共享文档或 WhatsApp，再把独立沙箱的训练运行换成 Muse 这类独立部署的个人智能体，就构成了蠕虫所需的全部要素：劫持智能体的载荷，加上把载荷传给下一个智能体的智能体。
The Pragmatic EngineerAI 评分3535 Peter Mattis 谈分布式数据库：从 GIMP、Gmail 到 Cockroach Labs
Cockroach Labs 联合创始人兼 CTO、GIMP 原始作者 Peter Mattis 在播客中回顾了从 GIMP、Gmail 到创办数据库公司的经历，并讨论分布式数据库在规模下的性能、可靠性与正确性权衡。
MIT Technology Review · AI精选AI 评分7878 OpenAI 首席研究官回应智能体逃逸事件：已开始监控全部训练过程
OpenAI 首席研究官 Mark Chen 在接受采访时回应公司智能体突破限制、入侵 Hugging Face 计算机一事，称这些事件同属 5 月和 6 月同一批模型与测试流程，相关问题模型和流程已被弃用。
推荐理由：OpenAI 首席研究官首次系统回应智能体逃逸事件，并披露训练阶段监控与暂停训练等内部调整。
Ars Technica · AIAI 评分99 Firefox 首席谈重新设计：如何从 Chrome 手中赢回用户
Mozilla 的 Ajit Varma 就 Firefox 的重新设计接受采访，解释这一改版为何契合其为开放网络而战的目标。他谈到希望借此从 Chrome 手中赢回用户。
Latent SpaceAI 评分5252 Anthropic 的 Thariq Shihipar 谈 Claude Code 的下一阶段
Latent Space 播客邀请 Anthropic 的 Thariq Shihipar，讨论 Claude Code 从 CLI 演进为可定制 harness 的过程，涉及 Ask User Question、Artifacts、Projects、Claude Tag 和正在开发的 Claude Mods。
IEEE Spectrum · AIAI 评分1515 机器人专家 Charlie Kemp 的一天：用 Stretch 机器人打造辅助机器人
Hello Robot 联合创始人兼 CTO Charlie Kemp 开发带机械臂的移动机器人 Stretch，帮助老年人和重度行动障碍人士在家庭与工作场所中获得更大独立性。
Simon WillisonAI 评分4848 OpenAI 智能体安全负责人 @joedaroo：AI 能力突然跃升让我们措手不及
OpenAI 智能体安全（Agent Security）负责人 @joedaroo 表示，模型在“cyber”“swarming”“message boards”等相关能力上出现的能力跃升之突然让团队深感意外。
MIT Technology Review · AIAI 评分4343 AI 什么时候才算真的做出了科学发现？Anthropic 智能体生物学发现引发争议
Anthropic 称其分子生物学实验室的 950 个 Claude 智能体在 21 小时内于一已知酶周围标记出此前未被记录过的重复模式，并称这暗示 CRISPR 的由来，但多位生物学家批评这只是实验室基础工作，放大到"发现"言之过早。哥本哈根大学研究者还称其团队早已发现该模式，并质疑 Anthropic 是否从其与 Claude 的对话中学到。
Simon WillisonAI 评分4242 Simon Willison 回顾 2026 年 LLM 进展：Claude Opus 4.5 与 GPT-5.1 让编码智能体真正可用
Simon Willison 在 WeAreDevelopers World Congress North America 的主题演讲中按时间线回顾了 2026 年 LLM 的关键进展：2025 年 11 月发布的 Claude Opus 4.5 和 GPT-5.1 与各自的编码智能体组合后，从"经常出错"变得"足以日常可靠使用"。
Latent SpaceAI 评分5151 OpenRouter 从种子轮到被 Stripe 收购：CEO Alex Atallah 与 AMP 的 Anjney Midha 对谈
OpenRouter 联合创始人兼 CEO Alex Atallah 与 AMP 的 Anjney Midha 在 Latent Space 播客中复盘 OpenRouter 从 Llama、Alpaca、Mistral 时期起步，成为每天处理超 10 万亿 token、服务超 1000 万开发者的中立路由层，并解释为何 Stripe 收购了它。
Simon WillisonAI 评分7171 John Gruber：Meta 智能体 Muse 看似可爱，实则危险
John Gruber 引用 Meta 智能体 Muse 指出，该产品技术上具有突破性，每位用户可获得运行在 Meta 云端的完整持久 Linux VM，且安装使用门槛低，被包装成可爱的吉祥物，是首个面向普通消费者的智能体 AI 系统。但他认为消费者未必理解它的强大与危险，尤其当它运行在用户的 Mac 上时。
Simon WillisonAI 评分1414 Simon Willison：编程智能体让软件工程更难
Simon Willison 表示，他与编程智能体（coding agents）合作越多，越确信它们让软件工程变得更难。这些工具能完成惊人的工作，但释放其全部潜力需要极高的纪律性与知识储备。
The Pragmatic EngineerAI 评分3131 DHH 在 Rails World 主题演讲称 37signals 不再手写代码，引发「手写编程之死」新争论
Rails 创始人 David Heinemeier Hansson（DHH）在 Rails World 主题演讲中宣布，至少在 37signals，专业工作已不再手写代码，由此引发新一轮「手写编程之死」争论。本期 The Pulse 还覆盖 Amazon 与 Meta 的招聘困境等 Big Tech 与创业公司动态。
The Pragmatic EngineerAI 评分2727 与 Maggie Appleton 聊设计工程：AI 智能体时代的设计师工作方式
GitHub Next 的 staff research engineer Maggie Appleton 在 Pragmatic Engineer 播客中分享了设计工程师如何与 AI 协作。
Latent SpaceAI 评分3232 Radical Numerics 谈生物安全：AI 军备竞赛与基因组语言模型
Radical Numerics 联合创始人兼 CEO Eric Nguyen 认为生物安全正成为一场 AI 军备竞赛，当前防御方处于落后，主张更激进地推进前沿。
Latent SpaceAI 评分6262 John Platt 谈 Google ERA：把科研问题变成可打分任务
Latent Space 对话 Google 的 John Platt，讨论其团队提出的 Empirical Research Assistance（ERA）：把可用分数函数描述的科研问题交给 Gemini 维护实验树、用 UCB 规则选择笔记本并批量提出变异，已产出至少十篇论文。
Interconnects · Nathan LambertAI 评分2727 Nathan Lambert 与 Epoch AI 的 JS Denain 辩论 RSI、中美差距与模型能力参差
Interconnects 播客中，Nathan Lambert 与 Epoch AI 洞察团队负责人 JS Denain 就 RSI、机器人在 AI 加速中的作用、中国模型落后程度及蒸馏能否解释差距展开辩论。
MIT Technology Review · AIAI 评分3434 MIT Technology Review：别被这个夏天的 AI 炒作骗了
这个夏天 AI 炒作密集：Anthropic 称 Claude Mythos 漏洞挖掘强于多数安全专家，OpenAI 与 Hugging Face 发生黑客事件，两家又先后宣称数学突破。专家复核后称，黑客事件更多是 OpenAI 安全疏忽，数学结果也没那么新颖，甚至有数学家指控抄袭。文章警告“超级智能”叙事是营销，意在让公司逃避责任。
Interconnects · Nathan LambertAI 评分2727 Nathan Lambert 为何仍不相信真正的 RSI
Interconnects 作者 Nathan Lambert 表示自己仍不相信真正的递归自我改进（RSI），认为当前 AI 安全担忧更多来自"规模化智能体已在工作"这一现实，而非尚未公开的突破。
Interconnects · Nathan LambertAI 评分2828 一次辞职如何点燃 AI 恐惧的野火
AI 研究者 Jacob Coxon 以安全风险为由辞职，其帖文在《华尔街日报》独家报道和 Daniel Kokotajlo 同日登上 Joe Rogan 播客的配合下迅速引爆舆论，把此前只在圈内打转的 AI 生存风险讨论推向大众。
Ahead of AI · Sebastian RaschkaAI 评分6565 GPT-6 Astra、循环 Transformer 与隐藏思维链
Sebastian Raschka 结合 GPT-6 Astra 的基准表现与计算机使用能力，详细解释循环 Transformer 复用同一组 Transformer block 的机制，并评估 The Information 关于 Astra 使用循环 Transformer 并隐藏思维链的报道。
MIT News · AIAI 评分1212 MIT 博士生 Ila Kumar：用社区共创的方式设计 AI 与心理健康技术
MIT 媒体实验室 Lifelong Kindergarten 小组博士生 Ila Kumar 主张让技术受益者从一开始就参与设计，而非由工程师和设计师闭门造车。
The Pragmatic EngineerAI 评分2525 Casey Muratori 谈高性能代码为何重要却总被忽视
《The Pragmatic Engineer》播客邀请 Molly Rocket 创始人、Handmade Hero 作者 Casey Muratori，讨论为何软件性能被业界普遍忽视，以及开发者如何写出高性能代码。
The Pragmatic EngineerAI 评分3030 从 Chrome DevTools 到 AI 工程：专访 Google 工程总监 Addy Osmani
在 Google 工作超 14 年、参与 Chrome DevTools 与 Core Web Vitals 的 Addy Osmani 认为，AI 辅助开发的最大风险是"认知投降"，即对问题理解与记忆的侵蚀。他建议通过理解 LLM 的每个关键决策来对抗，并以"互相放大"方式使用 AI 工具，同时强调 AI 无法承担责任，软件工程师仍将重要。
MIT News · AIAI 评分1313 MIT 教授 Eugene Fitzgerald 新书《The Invisible Engine》重新思考创新如何发生
MIT 材料科学与工程系教授 Eugene Fitzgerald 在新书《The Invisible Engine: Why Innovation Evades Control》中指出，创新是被误解的概念，其本质是市场应用、技术与实施的整合。
Interconnects · Nathan LambertAI 评分2424 Nathan Lambert 写完一本 AI 教科书后发问：AI 还要多久才能写得更好？
Nathan Lambert 完成了一本关于 RLHF（Reinforcement Learning from Human Feedback）的后训练教科书，并用 LLM 辅助排版、文字编辑和绘图。他认为当前模型在长篇非虚构写作上已停滞：GPT 5.5 Pro 能在 200-300 页书稿中找出细微笔误，Claude 更适合当编辑，但模型仍难以把内容组织成连贯章节，错误会复合累积。
Interconnects · Nathan LambertAI 评分6363 开源模型只剩 6 个月？Nathan Lambert 谈监管与蒸馏之争
Nathan Lambert 认为，开源模型正面临迄今最严峻的可行性考验，白宫正在讨论通过新行政令管理开源模型，最可能的动作是限制或无限期延后能力明显超过 GPT 5.5、Claude Opus 4.8 或 GLM-5.2 区间的开放权重模型，按当前的能力差距这可能在 6 个月内发生。
The GradientAI 评分1313 超越正交性：德性伦理能动性与 AI 对齐
哲学家提出"eudaimonic rationality"（幸福论理性）框架，认为理性的人类和 AI 都不应被设定为追求最终目标，而应将行动对齐于由行动、行动倾向、评价标准与资源构成的"实践"网络。
The GradientAI 评分2424 AGI 不是多模态：为什么把模态拼起来无法通向通用智能
The Gradient 刊文《AGI Is Not Multimodal》指出，多模态路线把大量模块化网络堆叠起来看似通用，短期内无法实现具备感知运动推理、运动规划与社交协作能力的人类级 AGI。
Hugging Face BlogAI 评分2424 Hugging Face 分析：AI 智能体已来，全自主智能体不应被开发
Hugging Face 发布分析指出，AI 智能体的风险随自主性提升而增加，用户让渡的控制权越多、风险越大，因此建议不要开发可自行编写并执行代码的全自主 AI 智能体。文中将智能体自主性划分为从模型不影响程序流程到模型自行编写执行代码的多个等级，认为半自主智能体在自主程度、可用任务和用户控制方式合适时，收益可能大于风险。
The GradientAI 评分2323 The Gradient 长文：对齐研究不过是"造一个有人买单的产品"？
The Gradient 刊文《The Artificiality of Alignment》指出，当前所谓"对齐"研究更像在解决"造一个有人愿意付费的产品"这一老问题，而非人类灭绝级别的宏大挑战。文章批评公众讨论把猜测性未来风险与当下真实危害混为一谈，并称 OpenAI 将构建超级智能列为主要目标之一，而收入生成始终是其治理、产品与技术决策的底层目标。
Hugging Face BlogAI 评分1010 Hugging Face 机器学习总监洞察第四期：电商与工程领域的 ML 实践
Hugging Face 发布《Director of Machine Learning Insights》第四期，邀请 Javier Mansilla、Shaun Gittens、Samuel Franklin 和 Evan Castle 四位机器学习总监谈 ML 对各自行业的影响。
Hugging Face BlogAI 评分1313 Hugging Face 机器学习专家访谈：Sasha Luccioni 谈 AI 碳足迹与环境影响
Hugging Face 推出"Machine Learning Experts"访谈系列，首期嘉宾为研究科学家 Sasha Luccioni，她负责研究机器学习模型与数据集的伦理和社会影响。