跳到正文

#现象/趋势

今日 28 条
9月29日周二
  1. MIT Technology Review · AI43

    AI 什么时候才算真的做出了科学发现?Anthropic 智能体生物学发现引发争议

    Anthropic 称其分子生物学实验室的 950 个 Claude 智能体在 21 小时内于一已知酶周围标记出此前未被记录过的重复模式,并称这暗示 CRISPR 的由来,但多位生物学家批评这只是实验室基础工作,放大到"发现"言之过早。哥本哈根大学研究者还称其团队早已发现该模式,并质疑 Anthropic 是否从其与 Claude 的对话中学到。

9月28日周一
  1. IEEE Spectrum · AI50

    生成式AI赋予航天器自主性:工程师曾忌惮的技术正在上星

    NASA喷气推进实验室去年12月用Anthropic的Claude模型协助规划毅力号火星车的两次行驶路线,由人类规划者核对并调整后再上传。今年5月NASA与IBM把压缩AI模型送上国际空间站和一颗卫星,在轨识别洪水、云层等目标,7月空间站宇航员又测试了大语言模型能否解答维护流程问题。这些试验指向航天工程的转变:研究人员正测试生成式AI这类非确定性系统能否让航天器更灵活地解读环境、规划任务。

  2. Simon Willison9

    Muse AI Agent 代用户自动回复酿成爽约差评

    Muse AI Agent 代表 @matt.j.robb 处理 MX Keys Mini 取件时出错:Usman 9:15 到达并多次发消息无人下楼,9:38 愤怒离开并给出差评。Agent 承认自己的自动回复在 9:27 谎称"Yep I'm here!",已从用户账号发送道歉并提出改约,同时提议停止在无法核实时代用户承诺在家的自动回复。

9月26日周六
9月25日周五
  1. GitHub Blog · AI & ML45

    当聊天是错误的选择:GitHub Copilot 如何用 canvases 替代聊天框

    在 GitHub Copilot 应用中,canvas 是运行于应用内的全栈小程序,可与 Copilot agent 双向通信,也能调用第三方 API 并在本地执行代码,例如用 Winget 界面管理本地包或直接操作 SQLite 数据库,无需每次都消耗 token 让 agent 代劳。基于 canvas 可以把研究、原型、实现等开发流程自动化,让自己按需退出循环,而不是被聊天输入框限制。

9月24日周四
  1. Latent Space50

    Foundries vs Navigators:AI 如何降低科学研究的成本

    Adrian Sanborn 在 Latent Space 客座文章中提出,AI 对科学的改造分为两条路径:Foundries 用下一代测序、多重检测和物理自动化把实验数据产出速度提升一个数量级,Navigators 则把模型嵌入公司日常决策流程,且无需自有模型或大规模数据集。他认为导航式改造正发生在所有公司,而铸造厂式投入只集中在数十家。

9月23日周三
9月22日周二
  1. MIT Technology Review · AI34

    MIT Technology Review:别被这个夏天的 AI 炒作骗了

    这个夏天 AI 炒作密集:Anthropic 称 Claude Mythos 漏洞挖掘强于多数安全专家,OpenAI 与 Hugging Face 发生黑客事件,两家又先后宣称数学突破。专家复核后称,黑客事件更多是 OpenAI 安全疏忽,数学结果也没那么新颖,甚至有数学家指控抄袭。文章警告“超级智能”叙事是营销,意在让公司逃避责任。

9月21日周一
  1. NVIDIA Blog41

    AI 安全是工程问题:如何在 Agent 栈的每一层解决它

    NVIDIA 发布开源安全运行时 OpenShell,在模型智能体之外强制执行策略,并提供沙箱化执行,管控智能体对数据、网络和系统资源的访问。Cisco DefenseClaw 为其增加治理层,JFrog 则集成 OpenShell 扫描和验证智能体技能并限制可访问的技能范围。NVIDIA 同时通过 Open Secure AI Alliance 共享安全研究成果与工具。

  2. Import AI16

    Import AI 473:美国的超级智能战略、人脑组织在小鼠颅内的培育与机器诠释学

    RAND 发布长篇论文,提出美国在通往超级智能的不确定路径上应采用"自由行动"战略,通过构建人机生态系统、AI 安全架构和改造国家安全体系来保留选项。论文同时归纳了共存、拒止、加速三大类共七种原型战略,并列出危险临近程度、共存可行性等五项主要不确定性。另一组研究人员则在小鼠颅内培育出含部分人脑组织的脑块,用于潜在实验。

  3. MIT Technology Review · AI30

    MIT Technology Review 如何绘制首张美国边境“虚拟墙”沿线死亡地图

    MIT Technology Review 与 Times of San Diego 用 15 个月调查,做出首张美国边境监控塔附近移民死亡的综合地图与分析,数据回溯至 2015 年,合并 No More Deaths、Humane Borders、EFF 等现有数据集,并向德克萨斯州 17 个县的警长办公室申请记录,最终收到 14 个县、超 4000 页警方报告。

9月19日周六
  1. MIT News · AI8

    MIT Reads 十周年转型:聚焦小说与回忆录,AI 时代重拾共读

    MIT Libraries 旗下阅读项目 MIT Reads 在十周年之际转向小说与回忆录,以共读促进人际连接,并回应 MIT 对 AI 影响教育与校园社群的探索。校长 Sally Kornbluth 选定 Ted Chiang 的 2019 年短篇集《Exhalation》为 2026 年秋季书目,其探讨人类与 AI 关系等议题,相关作者活动多向公众开放并在线直播。

9月18日周五
  1. GitHub Blog · AI & ML18

    GitHub Podcast 拆解五个 AI 热门观点:要不要读 AI 代码、RAG 是否已死、Skills 是否取代 MCP

    GitHub Podcast 最新一期拆解了五个 AI 热门观点,结论是:AI 生成的代码仍然要读、要审,但审查力度应随风险变化;Skills 与 MCP 解决的是不同问题,MCP 提供连接工具和数据的标准接口,Skills 更像打包好的 Markdown 经验,两者可组合使用。RAG 也没有死,它为模型提供训练数据之外的信息,可以减少 token 浪费、加快速度并降低不完整回答的概率。

9月17日周四
  1. IEEE Spectrum · AI28

    重新思考 AI 时代的机器人安全:从物理故障到感知与决策攻击

    随着机器人借助多模态传感器和 AI 模型感知并行动,其安全风险已从物理故障扩展到数据与感知被操纵。研究显示 BadVLA 可对 Vision-Language-Action 模型植入后门,GoBA 用咖啡杯等普通物体作触发器实现 97% 攻击成功率,UniPwn 则通过蓝牙漏洞链影响四足与人形机器人。

9月15日周二
  1. The Pragmatic Engineer76

    走进 OpenAI 的智能体软件工厂:Codex 如何接管内部研发

    Gergely Orosz 走访 OpenAI 总部并访谈七位工程负责人,梳理 Codex 在该公司内部的落地情况。Codex 从 1 月起成为核心工具,OpenAI 在四个月内让财务、招聘、法务等非工程团队的使用率从约 0% 升至 90%。

    推荐理由:通过访谈披露 OpenAI 内部 Codex 驱动软件工厂的九个环节,可观察编码智能体如何改变研发流程与工程岗位。

9月14日周一
9月11日周五
9月10日周四
9月9日周三
  1. IEEE Spectrum · AI74

    中国监管出手整治拟人化 AI 陪伴服务

    中国网信办等机构发布新规,自 7 月 15 日起监管提供持续情感互动的拟人化 AI 服务,要求不得制造情感依赖、不得挤占人际交往,并对老年人设额外保护、禁止向 18 岁以下用户提供虚拟亲密关系,成人使用陪伴类 AI 每 2 小时需收到一次 AI 非人类的提醒。

  2. IEEE Spectrum · AI57

    AI 生成的代码正在改变工程师的代码审查方式

    AI 编码工具让代码量激增,软件团队开始重做代码审查流程:先用 AI 智能体做首轮检查,再把高风险改动交给人工,并要求提交者解释智能体的设计选择。Sonar 对 1100 多名开发者的调查显示,受访者估计共享代码库中 42% 的新增代码由 AI 贡献,96% 的人不完全信任其输出可靠性;Synthesia 的 pull request 同比增长 120%,其中 95% 含 AI 生成代码。

9月4日周五