文本嵌入能否完整编码原文？Jack Morris 介绍 vec2text 反演方法
Cornell Tech 博士生 Jack Morris 在 The Gradient 撰文介绍其论文 Text Embeddings Reveal As Much as Text（EMNLP 2023）中提出的 vec2text 方法。
#安全/对齐
#安全/对齐
今日 13 条The GradientAI 评分6969
Hugging Face BlogAI 评分3232 Hugging Face 详解 AI 水印：工具、技术与局限性
Hugging Face 发布 AI 水印入门指南，介绍在生成时嵌入和生成后添加两类水印方法，前者需访问模型但更稳健，后者可用于闭源模型。文中还介绍了 Glaze、Photoguard、Nightshade、Fawkes 等图像防护与投毒工具，以及按 C2PA 标准嵌入元数据的 Truepic。
Hugging Face BlogAI 评分3535 Hugging Face 与 Haize Labs 推出红队抵抗排行榜
Haize Labs 在 Hugging Face 团队支持下发布 Red Teaming Resistance Benchmark，用人类越狱提示词测试前沿模型的安全鲁棒性，得分是判定为 Safe 的提示词百分比。
Hugging Face Blog精选AI 评分6666 Hugging Face 发布开源大模型 Constitutional AI 端到端配方
Hugging Face 公开了一套用开源模型做 Constitutional AI 的端到端配方，覆盖自我批判、修订、SFT 与 DPO 全流程，并发布了 Anthropic constitution 与 Grok 风格两个版本的 CAI 数据集，以及基于 Mistral-7B 的 DPO/SFT 模型。
推荐理由：Hugging Face 公开了一套在开源模型上做 Constitutional AI 的完整配方，包括数据集、模型与集群推理工具，便于复现细粒度对齐。
Hugging Face BlogAI 评分3232 Hugging Face 推出幻觉排行榜，开放评估大语言模型幻觉问题
Hugging Face 发布 Hallucinations Leaderboard，用 NQ Open、TriviaQA、TruthfulQA、XSum、CNN/DM、RACE、SQuADv2、FEVER 等基准评估 LLM 的幻觉表现，分数归一化到 [0,1]。
Hugging Face BlogAI 评分3737 Hugging Face 推出 AI Secure LLM Safety 排行榜
Hugging Face 发布 LLM Safety Leaderboard，基于其排行榜模板，聚焦大语言模型的安全评测。该榜单依托 DecodingTrust 平台，覆盖毒性、刻板印象偏见、对抗鲁棒性、隐私、机器伦理与公平性等八项可信度维度，并为每个维度提供红队测试算法。
The GradientAI 评分2323 The Gradient 长文：对齐研究不过是"造一个有人买单的产品"？
The Gradient 刊文《The Artificiality of Alignment》指出，当前所谓"对齐"研究更像在解决"造一个有人愿意付费的产品"这一老问题，而非人类灭绝级别的宏大挑战。文章批评公众讨论把猜测性未来风险与当下真实危害混为一谈，并称 OpenAI 将构建超级智能列为主要目标之一，而收入生成始终是其治理、产品与技术决策的底层目标。
Hugging Face BlogAI 评分1616 Hugging Face 伦理与社会通讯 #5：Hugging Face 走进华盛顿与 2023 夏季随想
Hugging Face 发布伦理与社会通讯 #5，回顾 2023 夏季在 E.U.、U.K.、U.S. 的 AI 监管参与，包括 CEO Clem 向美国国会作证、在美国参议院 AI Insight Forum 发言，以及对 E.U. AI Act 和 NTIA AI 问责制的建议。团队还发布 IDEFICS 多模态模型并对其开展偏见与危害测试，同时公开多项负责任生成式 AI 教程、论文与资源。
Hugging Face BlogAI 评分2222 Hugging Face 伦理与社会通讯第4期：文本到图像模型中的偏见
文本到图像（TTI）生成模型正大量上传至 Hugging Face Hub，其偏见来源多样。Hugging Face 梳理了训练数据（如 LAION-5B、MS-COCO、VQA v2.0）、预训练数据过滤、推理（CLIP 的年龄、性别、种族偏见）、模型潜在空间及事后过滤等偏见来源，并列举了 Stable Bias 等检测工具与红队评估方法。
Hugging Face BlogAI 评分2020 Hugging Face 就美国 NTIA 的 AI 问责政策提交回应意见
Hugging Face 于 6 月 12 日向美国商务部 NTIA 的 AI 问责政策意见征集提交回应，强调文档与透明度规范在推动 AI 问责中的作用。其建议问责机制应覆盖机器学习开发全流程、结合内部要求与外部访问透明，并吸纳开发者、多学科研究社区、倡导组织、政策制定者和记者等最广泛的参与者。
Hugging Face BlogAI 评分2929 Hugging Face 发布 Ethics and Society Newsletter #3：探讨开放 ML 的伦理与保障机制
Hugging Face 发布 Ethics and Society Newsletter #3，阐述其在开放 ML 中兼顾伦理的立场，并推出 6 类伦理标签（Rigorous、Consentful、Socially Conscious、Sustainable、Inclusive、Inquisitive）和社区举报功能，用于标记违规的模型、数据集或 Space。
Hugging Face BlogAI 评分3030 Hugging Face 解读大语言模型的红队测试（Red-Teaming）
Hugging Face 发文解读大语言模型的红队测试（Red-Teaming）：通过构造自然语言提示词诱导 LLM 暴露有害输出，并对模型进行修正，与人类难以理解的对抗攻击不同。文章指出人类或 LM 均可充当红队，对经 RLHF 或 SFT 对齐的模型需用角色扮演等方式越狱；Tay、Sydney 是缺乏红队评估的真实教训，Meta、Anthropic、AI2 已开源相关数据集。
Hugging Face BlogAI 评分3434 对话式 AI 智能体如何变得有用？解析 RLHF、IFT、CoT 等关键技术
Hugging Face 梳理了让对话式 AI 智能体真正有用的关键技术，包括 RLHF、IFT、SFT、CoT 与红队测试，并对比了 LaMDA、BlenderBot 3、Sparrow、ChatGPT/InstructGPT 与 Anthropic Assistant 的架构、训练数据与评估标准。
Hugging Face BlogAI 评分3434 Hugging Face 谈机器学习中的偏见：伦理与社会通讯第 2 期
Hugging Face 伦理与社会团队发布通讯第 2 期，讨论机器学习偏见的成因与应对。文章指出偏见是复杂的社会技术问题，单靠技术干预难以解决，需要在整个 ML 开发流程中保持警惕。团队还整理了数据集与模型等工具，供社区在开发各阶段分析并缓解偏见。
Hugging Face BlogAI 评分4242 Hugging Face 在 Evaluate 库中加入语言模型偏见指标
Hugging Face 为 Evaluate 库新增偏见指标与测量方法，可评估 GPT-2、BLOOM 等因果语言模型的偏见。流程分两步：用 🤗 Datasets 上的预定义提示词提示模型，再用 Evaluate 的指标评估生成文本，示例覆盖毒性、语言极性和伤害性三类任务，其中毒性指标调用 R4 Target 模型作仇恨言论分类器。
Hugging Face BlogAI 评分1515 Hugging Face 推出 Ethics and Society 通讯，首期谈 AI 伦理落地
Hugging Face 发布首期 Ethics and Society 通讯，计划按季节在春分、秋分、夏至、冬至发布，由公司内部跨团队开放小组撰写，聚焦 AI 伦理如何落地。该通讯以协作、责任、透明为出发点，强调不设独立伦理团队，而是全公司共担责任。Hugging Face 本周还上线了模型和 Space 仓库的“flag”功能，用于上报伦理与法律问题。
Hugging Face BlogAI 评分4242 OpenRAIL：面向开放且负责任 AI 的许可框架
Hugging Face 支持的 RAIL Initiative 推出 OpenRAIL 系列许可证，允许免版税访问、下游使用与再分发 AI 模型及其衍生物，同时嵌入针对特定关键场景的使用限制条款。该框架借鉴 BigScience、开源与 Creative Commons 模式，主张现有开源许可证（如 Apache 2.0）不适配机器学习模型的技术特性，无法约束模型的负责任使用。
Hugging Face BlogAI 评分1616 Hugging Face 多模态团队发布伦理章程，将伦理原则置于研究生命周期核心
Hugging Face 多模态学习团队发布了一份项目伦理章程，将伦理原则正式纳入机器学习研究生命周期的起点，并明确了内容政策与项目价值观。章程列出了需要防范的用例，包括生成虚假信息、生成个人可识别信息以及在医疗、法律、金融、移民等高风险领域的不谨慎使用。团队同时提出透明、开放可复现、公平、自我批判和尊重他人工作等价值观，并指出这些价值观之间有时会相互冲突，需逐案权衡风险与收益。
Hugging Face BlogAI 评分1313 Hugging Face 机器学习专家访谈：Sasha Luccioni 谈 AI 碳足迹与环境影响
Hugging Face 推出"Machine Learning Experts"访谈系列，首期嘉宾为研究科学家 Sasha Luccioni，她负责研究机器学习模型与数据集的伦理和社会影响。
Hugging Face BlogAI 评分2020 Hugging Face 对话 Margaret Mitchell：从 Seeing AI 到伦理 AI 的转变
前 Google 伦理 AI 团队创始人 Margaret Mitchell 已加入 Hugging Face，负责制定伦理 AI 研究协议、包容性招聘与文化建设。