用 Sentence Transformers 训练和微调嵌入模型
Hugging Face 发布博客,介绍如何用 Sentence Transformers 训练和微调嵌入模型,也可从零训练新模型。训练流程涵盖数据集、损失函数、训练参数、评估器和 Trainer 五个组件,数据可来自 HF Hub 或本地 CSV、JSON、Parquet、Arrow、SQL;数据集列顺序须与所选损失函数匹配,且 "label" 或 "score" 列用于提供标签。
Hugging Face 发布博客,介绍如何用 Sentence Transformers 训练和微调嵌入模型,也可从零训练新模型。训练流程涵盖数据集、损失函数、训练参数、评估器和 Trainer 五个组件,数据可来自 HF Hub 或本地 CSV、JSON、Parquet、Arrow、SQL;数据集列顺序须与所选损失函数匹配,且 "label" 或 "score" 列用于提供标签。
Hugging Face 与 LangChain 联合发布合作包 langchain_huggingface,可通过 pip install langchain-huggingface 安装。
Intel 展示了基于 OPEA(Open Platform for Enterprise AI)的企业级 RAG 方案,使用 LangChain 的 rag-redis 模板、BAAI/bge-base-en-v1.5 嵌入模型与 Redis 向量数据库,嵌入模型跑在 Intel Granite Rapids CPU 上、LLM 跑在 Gaudi 2 加速器上。
Hugging Face 提出嵌入量化方案:二值量化把 float32 嵌入压成 1-bit,内存与磁盘占用降低 32 倍、检索速度最高提升 32 倍,配合 float32 查询重打分的 rescore 步骤可保留约 96% 的检索性能,不做重打分则约 92.5%。标量(int8)量化可将嵌入维度精度降至 8 位。团队还演示了 4100 万条 Wikipedia 文本的真实检索场景。
Hugging Face 发布博客,展示如何用 Optimum Intel 与 fastRAG 在基于 Xeon 的 CPU 上加速嵌入模型,并将其集成进现有 RAG 流水线。
Cornell Tech 博士生 Jack Morris 在 The Gradient 撰文介绍其论文 Text Embeddings Reveal As Much as Text(EMNLP 2023)中提出的 vec2text 方法。
Hugging Face 发文介绍如何用 Text Embeddings Inference(TEI)将开源嵌入模型部署到 HF Mirror Inference Endpoints,并支持大规模批量请求。
HF Mirror 专家加速计划帮助 Witty Works 将包容性写作助手的非包容性词汇分类器从 BERT 词嵌入切换到 Sentence Transformers 句嵌入,并采用 SetFit 少样本微调,每个词仅需 15-20 条标注句子即可达到可用效果,省去大规模标注成本。
Hugging Face 发布 Embeddings 入门教程,演示如何用 Sentence Transformers 库和 HF Mirror Inference API 搭建 FAQ 语义搜索引擎。
Hugging Face Hub 集成 Sentence Transformers,随 v2 版本上线 90 多个预训练模型,覆盖 100 多种语言,可在 Hub 中直接加载使用。Hub 新增 feature-extraction 与句相似度两个 widget,并提供 Inference API 供程序化调用,模型可通过 save_to_hub 一键分享并自动生成 model card。
Hugging Face Transformers 与 Ray 集成,用于 RAG 的上下文文档检索,单次检索调用相比 torch.distributed 实现提速 2 倍,并提升了 RAG 分布式微调的可扩展性。