MIT 校长:AI 时代仍需好奇心驱动的研究与伦理教育
MIT 校长 Sally Kornbluth 在《华盛顿邮报》活动上警告,缺乏联邦对好奇心驱动研究的支持可能让美国创新与人才管道枯竭。她表示 MIT 新课程在强化 STEM 基础的同时,重新重视道德、公民与伦理教育,并强调学生应把 AI 当作增强工具、学会写正确的提示词。她还提到 MIT 已衍生出超 3 万家公司,并推出面向父母收入低于 20 万美元学生的免学费项目。
MIT 校长 Sally Kornbluth 在《华盛顿邮报》活动上警告,缺乏联邦对好奇心驱动研究的支持可能让美国创新与人才管道枯竭。她表示 MIT 新课程在强化 STEM 基础的同时,重新重视道德、公民与伦理教育,并强调学生应把 AI 当作增强工具、学会写正确的提示词。她还提到 MIT 已衍生出超 3 万家公司,并推出面向父母收入低于 20 万美元学生的免学费项目。
Interconnects 与 Interconnected 联合发表评论文章,警告华盛顿近期的 AI 监管动作可能进一步波及甚至禁止开源 AI,认为这将是严重错误。
Google DeepMind 正与英国政府、Google Cloud、Faculty 及 Barnet、Dorset、Camden 地方规划部门联合开发基于 Gemini 的 AI 规划原型,目标将住户规划申请决策时间缩短 50%。
Google DeepMind 与新加坡政府达成国家级 AI 合作,在医疗、科研、教育和气候领域推出新项目。合作探索 AI 辅助临床的"三方诊疗"模式,并用 AlphaFold、Google Earth 加速东南亚疫情研究,另向 Philanthropy Asia Alliance 的健康联盟提供 700 万美元资助。
Google DeepMind 与印度政府机构及本地机构建立 National Partnerships for AI 合作,向印度研究者开放 AlphaGenome、AI Co-scientist、Earth AI 等前沿科学模型,并与 ANRF 合作推动 AI 在科研中的应用。
Google DeepMind 宣布与英国 AI Security Institute(AISI)签署新谅解备忘录,将合作从模型测试扩展到基础安全研究。双方将共享模型、数据与思路,围绕 AI 推理过程(CoT)监控、社会情感失准的经济与伦理影响以及 AI 对经济系统的冲击展开联合研究,并发布联合报告。
Hugging Face 于 3 月 14 日向白宫 OSTP 的 AI 行动计划 RFI 提交回应,主张开放 AI 系统与开放科学是提升性能、采用率和安全性的基础。
EU AI Act 已正式生效,可能适用于开源 AI 模型与系统,义务取决于模型类型和发布方式,多数情况下只需清晰文档、部署时披露模型信息并遵守现有版权与隐私规则。
Hugging Face 发布伦理与社会通讯 #5,回顾 2023 夏季在 E.U.、U.K.、U.S. 的 AI 监管参与,包括 CEO Clem 向美国国会作证、在美国参议院 AI Insight Forum 发言,以及对 E.U. AI Act 和 NTIA AI 问责制的建议。团队还发布 IDEFICS 多模态模型并对其开展偏见与危害测试,同时公开多项负责任生成式 AI 教程、论文与资源。
Hugging Face 与 Creative Commons、Eleuther AI、GitHub、LAION、Open Future 联合发布立场文件,针对 EU AI Act 最终阶段提出五项建议。
Hugging Face 于 6 月 12 日向美国商务部 NTIA 的 AI 问责政策意见征集提交回应,强调文档与透明度规范在推动 AI 问责中的作用。其建议问责机制应覆盖机器学习开发全流程、结合内部要求与外部访问透明,并吸纳开发者、多学科研究社区、倡导组织、政策制定者和记者等最广泛的参与者。
Hugging Face 更新了平台 Content Policy,并发布配套博客说明其制定理念。新政策将「同意」(consent)列为核心价值,重点关注用户所见内容以及人们身份与表达方式在平台上的呈现;同时禁止针对用户及 HF 员工的攻击性或骚扰性言论,鼓励在 Community Tab 中公开协作解决冲突。
Hugging Face 被法国数据保护机构 CNIL 选入其强化支持计划,该计划从 40 多个候选企业中挑出三家"具备强劲经济发展潜力"的公司,提供数据保护义务理解与落实方面的支持。Hugging Face 表示,其主办的 BigScience 大语言模型训练项目首次将隐私置于核心位置,近期与 ServiceNow 合办的 BigCode 项目也投入资源应对隐私风险并开发假名化工具。
Hugging Face 为 Diffusers 库发布了一套伦理框架,用于指导维护者处理社区贡献时的技术决策。该准则明确了透明、一致性、简洁、无障碍、可复现与责任等价值观,并列举了社区讨论区、"Not For All Eyes"标签、Stable Diffusion 偏见探索 Space、Safe Stable Diffusion、Hub 分阶段发布及 OpenRAILs 许可等安全机制。
Hugging Face 支持的 RAIL Initiative 推出 OpenRAIL 系列许可证,允许免版税访问、下游使用与再分发 AI 模型及其衍生物,同时嵌入针对特定关键场景的使用限制条款。该框架借鉴 BigScience、开源与 Creative Commons 模式,主张现有开源许可证(如 Apache 2.0)不适配机器学习模型的技术特性,无法约束模型的负责任使用。
Hugging Face 于 2022 年 6 月向美国白宫 OSTP 与 NSF 提交了对 NAIRR 中期报告的回应,支持其推进 AI 研究资源建设。其建议包括:任命技术与伦理专家担任顾问、采用 Model Cards 等模型与数据文档标准、通过 AutoTrain 等低代码工具让非技术专家也能训练模型,并为高滥用风险的开源研究建立监测与 Responsible AI Licenses 机制。