MIT 教授 Deb Roy 呼吁为 AI 生成的公共评论建立问责机制
MIT 媒体艺术与科学教授 Deb Roy 在《原子科学家公报》发表《谁为这些话负责?》一文,呼吁在 AI 参与公民对话时保留问责与"可追责性"。他援引 2017 年 FCC 收到超 2200 万条网络中立性公众评论、其中近 1800 万条被纽约州总检察长认定为造假的案例,指出大语言模型抹去了模板化文本这类"指纹",使审查者无法分辨真实意见。
MIT 媒体艺术与科学教授 Deb Roy 在《原子科学家公报》发表《谁为这些话负责?》一文,呼吁在 AI 参与公民对话时保留问责与"可追责性"。他援引 2017 年 FCC 收到超 2200 万条网络中立性公众评论、其中近 1800 万条被纽约州总检察长认定为造假的案例,指出大语言模型抹去了模板化文本这类"指纹",使审查者无法分辨真实意见。
MIT 统计与数据科学中心主任 Sasha Rakhlin 在一篇新文章中,围绕研究生科研与教育提出 AI 进入学术界后的关键问题。他指出验证速度决定各学科 AI 进展快慢,去年已有模型在国际数学奥林匹克达到金牌水平,一年后模型开始产出新研究成果。他建议院系重新界定学术贡献与署名责任,并建设共享 AI 科研基础设施、加大算力与安全数据系统投入。
MIT 统计与数据科学中心主任 Sasha Rakhlin 发表文章,讨论 AI 如何改变学术界,尤其是数学、统计、机器学习和工程领域的研究生科研与培养。他指出,去年有模型在国际数学奥林匹克达到金牌水平,一年后模型已能产出新研究结果,验证速度与可靠性是决定各学科 AI 进展快慢的关键。他建议院系重新思考学术贡献认定,并建设共享 AI 研究基础设施,以捕捉假设、干预、失败与解读等隐性知识。
Microsoft 的 Jennifer Neville 在 Microsoft Research Podcast 中与 Chad Atalla 对谈,讨论评估如何推动 AI 系统性能边界、模型超出传统基准测试时出现的"意外失败",以及数据为何值得细看。
MIT 媒体实验室 Lifelong Kindergarten 小组博士生 Ila Kumar 主张让技术受益者从一开始就参与设计,而非由工程师和设计师闭门造车。
MIT 材料科学与工程系教授 Eugene Fitzgerald 在新书《The Invisible Engine: Why Innovation Evades Control》中指出,创新是被误解的概念,其本质是市场应用、技术与实施的整合。
Hugging Face 发布分析指出,AI 智能体的风险随自主性提升而增加,用户让渡的控制权越多、风险越大,因此建议不要开发可自行编写并执行代码的全自主 AI 智能体。文中将智能体自主性划分为从模型不影响程序流程到模型自行编写执行代码的多个等级,认为半自主智能体在自主程度、可用任务和用户控制方式合适时,收益可能大于风险。
Hugging Face 发布《Director of Machine Learning Insights》第四期,邀请 Javier Mansilla、Shaun Gittens、Samuel Franklin 和 Evan Castle 四位机器学习总监谈 ML 对各自行业的影响。
Hugging Face 推出"Machine Learning Experts"访谈系列,首期嘉宾为研究科学家 Sasha Luccioni,她负责研究机器学习模型与数据集的伦理和社会影响。
Hugging Face 发布系列文章,邀请 BuzzFeed、Johnson & Johnson 等公司的机器学习总监分享 ML 行业落地见解。
Hugging Face 机器学习工程师 Lewis Tunstall 在播客中介绍了自己 2019 年与 Leandro von Werra 合著《NLP with Transformers》的经历,并分享了在 transformers 库中的工作:提供将 PyTorch 模型导出为 ONNX 格式的功能,用户只需一行代码即可完成转换,从而优化推理延迟与吞吐量。他还谈到大规模模型评估等话题。
前 Google 伦理 AI 团队创始人 Margaret Mitchell 已加入 Hugging Face,负责制定伦理 AI 研究协议、包容性招聘与文化建设。