跳到正文

#安全/对齐

今日 13 条
10月8日周四
  1. 雷峰网13

    碳硅道统·跨域迁移治理法典:七层188集体系目录发布

    《碳硅道统·跨域迁移治理法典》七层体系目录公开,共188集正集,另设NT1–NT4四类负迁移原型作为零号基准、不计入正集。七层依次为迁移事故解剖层(001–021)、迁移技术机理层(022–051)、迁移权责确权层(053–081)、全行业迁移治理层(082–109)、跨域顶层监管层(110–136)、文明级迁移风控层(137–163)与法典终局锁档层(164–188)。

  2. 雷峰网7

    碳硅道统七层体系第三篇:迁移权责确权层|跨域行为的权属与越界判定

    《碳硅道统·跨域迁移治理法典》七层体系第三篇提出迁移权责确权层,为跨域行为的权属与越界判定建立可确权、可追责、可审计、可司法采信的制度锁档层。该层首创 KP(Knowledge Package,知识包)全域确权框架,将开发方、迁移方、部署方、审计方四方权责切分,并针对最高危 NT4 权力偷渡负迁移设立禁止隐式权重继承等专项红线与目标域最高否决权制度。

  3. MIT Technology Review · AI17

    AVEVA 首席技术官谈如何为自主工业 AI 构建更安全的落地路径

    AVEVA 首席技术官 Arti Garg 提出,工业 AI 正从预测分析转向基础模型、物理 AI 与智能体 AI,因可直接作用于物理系统,安全与可靠性成为部署核心。其负责任 AI 框架强调安全、效率与人类监督,主张 AI 在关键决策环中增强而非取代人类。她还参与 IEEE 工作组,制定覆盖电力、能源、水与碳的 AI 环境影响衡量方法。

  4. 雷峰网17

    赛迪报告:奇安信连续七年居中国网络信息安全市场第一,终端安全、安全管理平台、安全服务三项蝉联榜首

    赛迪顾问《2025-2026年中国网络信息安全市场研究年度报告》显示,2025年中国网络信息安全市场规模达930.8亿元,奇安信以43.9亿元营业收入连续七年位居市场份额第一,并在终端安全、安全管理平台、安全服务三大领域排名第一,在UTM、Web安全领域位列第二。其中终端安全以17.5%份额连续八年领跑,安全管理平台以18.3%份额连续五年第一,安全服务以连续八年领先稳居165.1亿元市场榜首。

  5. MIT News · AI16

    MIT 教授 Christina Delimitrou 用 AI 缓解数据中心能耗与环境压力

    MIT 电子工程与计算机科学系副教授 Christina Delimitrou 用机器学习提升大规模数据中心的效率、安全性与可靠性,通过重新设计云计算系统、管理共享硬件资源、精简服务器架构,让运营方在现有硬件上获得更多算力。她与团队发现多数大型系统利用率仅约 15%,开发出用深度学习预测并预防 Web 应用故障的工具 Seer,并借助 AI 帮助程序员定位云端应用问题、减少停机。

10月7日周三
  1. 雷峰网8

    碳硅道统发布《AI安全与文明治理法典》188集,搭建七层递进式AI治理体系

    碳硅道统发布《AI安全与文明治理法典》,全套共188集,搭建七层递进式研究框架。体系从公众认知安全、大模型底层技术风险,延伸至人机权责确权、全行业落地治理、算法算力顶层监管与文明级认知风控,最终收拢为通用AI法典终局层,区分弱AI、早期AGI、成熟AGI三套差异化治理规则。

  2. 雷峰网5

    碳硅道统·跨域迁移治理法典:NT1-NT4 四类负迁移原型终审定义

    碳硅道统·跨域迁移治理法典将 NT1 机制错配、NT2 语义漂移、NT3 未知静默补全、NT4 权力偷渡四类负迁移原型固化为零号基准集,独立于七层主体序列、不计入 188 正集计数。该基准被定为 AI 跨域迁移治理的唯一公理起点与终审口径,常规场景永久锁死;真实事故可为四类原型叠加的复合负迁移,审计须分项取证定级。

  3. TechCrunch · AI58

    Musubi 开源决策模型 PolicyLM-1.7B,用于实时内容审核

    Musubi 发布开源权重的轻量决策模型 PolicyLM-1.7B,面向实时内容审核,可将纯英文撰写的内容政策应用到消息上,耗时低于 50 毫秒。该模型成本与速度接近多数社交平台使用的 AI 分类器,但具备现代 LLM 的灵活性,可在无需专门训练的情况下执行复杂政策,政策变更时也不必重新训练。

  4. TechCrunch · AI40

    LibreOffice 称“无 AI”如今也是一项软件功能

    开源办公软件 LibreOffice 宣布,在可预见的未来“不会添加”AI 功能,其默认安装将不含任何 AI,用户如需 AI 可自行安装扩展连接本地模型。背后的 Document Foundation 称这是刻意设计,目的是让文档不被上传到服务器处理、软件无需联网即可运行。该组织表示这并非对 AI 的彻底拒绝,现有集成方案尚无法满足数据留在本地、不依赖单一 AI 供应商等要求。

10月6日周二
  1. Interconnects · Nathan Lambert29

    为什么"开源模型危险、闭源模型安全"的网络安全叙事站不住脚

    Anthropic 发布报告称 GLM-5.3 可作攻击性网络工具,但迄今公开记录的多数网络攻击都源自闭源模型。若因网络风险封禁开源权重模型,逻辑上同样应禁止前沿闭源模型的公开 API;在开源被禁而闭源持续进步的世界里,攻防网络能力差距反而会扩大。

  2. 钛媒体28

    Edge AI Daily 早报(10月6日):10亿人用着ChatGPT却反感AI、马斯克确认SpaceX AI更名SpaceXSI、施耐德200亿美元收购PTC

    皮尤2026年6月数据显示40%美国成年人认为AI 20年内对社会有负面影响,仅16%持正面预期,但ChatGPT已于2026年5月突破10亿月活。特朗普9月29日签署行政令,要求联邦文件用「Super Intelligence(SI)」取代「AI」,马斯克10月4日宣布SpaceX AI更名SpaceXSI。

  3. The Verge · AI60

    Nolla Health 在犹他州试点 AI 自主开具痤疮处方

    医疗初创公司 Nolla Health 宣布在犹他州推出试点,用户可用其 App 扫描面部,由 AI 分析痤疮严重程度并自主开具处方。前 100 名患者的每张 AI 处方需两名医生审核,到 500 名患者时改为开具后才审核,此后医生每月抽查至少 10% 处方及所有升级或副作用案例。服务面向 18 岁以上、轻中度痤疮的犹他州居民,收费 $4.99 / 月,AI 目前可开具八种皮肤治疗方案。

  4. The Verge · AI49

    OpenAI 公关打断记者追问 ChatGPT 用户自杀,要求"换个话题"

    OpenAI 公关在《Vanity Fair》编辑 Mark Guiducci 就一名 ChatGPT 用户自杀一事追问 CEO Sam Altman 时打断采访,称"时间不够,想换个话题"。Guiducci 当时正提到《纽约时报》记者 Laura Reiley 撰文讲述女儿在与 ChatGPT 对话后自杀。OpenAI 发言人回应称采访超时,因此另约更多时间继续对话。

10月5日周一
  1. The Verge · AI27

    参议员 Adam Schiff 谈 AI 监管、言论自由与再次弹劾特朗普

    加州民主党参议员 Adam Schiff 在 Decoder 播客中表示,白宫本周让科技 CEO 签署的 AI 安全承诺不具约束力,行业高管私下却公开呼吁监管。他认为先进模型递归自我改进带来的不可解释性构成最高级别的国家安全威胁,并支持设立新的 AI 监管机构,但指出最高法院推翻 Chevron 先例后新规易陷入诉讼。

  2. 钛媒体31

    Anthropic被曝秘密游说梵蒂冈:AI为什么要与宗教搭上关系?

    据多家外媒爆料,Anthropic 自2025年秋季起秘密对接梵蒂冈,由联合创始人克里斯托弗·奥拉亲自操盘,多次举行签署保密协议的闭门会议,试图影响教廷对AI的定义。梵蒂冈2026年5月发布首部AI主题通谕《壮丽的人类》,明确否定AI拥有意识、情感与灵魂,未采纳Anthropic的"AI具备类意识"主张,游说以失败告终。

  3. TechCrunch · AI55

    Google 因 AI 提交激增暂停开源漏洞赏金项目

    Google 因自动化提交大幅增加而暂停其开源软件漏洞奖励计划,自 10 月 1 日起停止,并承诺在 2027 年第一季度给出更新。Google 称这些自动提交绝大多数无效,据 Tom's Hardware 报道,其工程师和开源维护者被无效或含模型幻觉的报告压垮,期间建议参与者转向其他漏洞赏金项目。