用 Amazon Bedrock AgentCore 生成演示文稿
AWS 发布方案,用 Amazon Bedrock AgentCore 搭建 AI 智能体自动生成 PowerPoint 演示文稿,内部测试中不到 90 秒即可完成。
AWS 发布方案,用 Amazon Bedrock AgentCore 搭建 AI 智能体自动生成 PowerPoint 演示文稿,内部测试中不到 90 秒即可完成。
Orca Security 与 AWS 合作在 Amazon Bedrock 上构建了 Discovery AI,将自然语言问题转换为 Sonar 查询,支持 900+ 云模型和 18 种操作符,可处理每天数千次查询、15 秒响应。
Google DeepMind 发布 EmbeddingGemma 2,把文本、图像、音频、视频统一映射到同一嵌入空间,基于 Gemma 4 架构,参数 740M,采用 Apache 2.0 许可,面向端侧推理。
推荐理由:官方给出参数量、模块化设计与存储压缩细节,读者可据此判断端侧多模态检索的落地成本。
Amazon Quick 和 Amazon Bedrock Knowledge Bases 采用实时 ACL 校验,在查询时直接向 Google Drive、SharePoint 等权威源验证权限,叠加在原有的预检索过滤之上。
Qlik 用 Amazon Bedrock 打造 Qlik Answers,让员工用自然语言提问并获得带来源的可信回答,检索层由 Amazon OpenSearch Service 支撑,模型访问层经自建 LLM gateway 接入 Bedrock 的对话、流式、嵌入与重排能力,并用 Bedrock Guardrails 做内容过滤与接地校验。
AWS 官方博客介绍如何在 Amazon Bedrock AgentCore 运行时的 OpenClaw 开源智能体系统上构建具备长期记忆的上下文感知助手,以园艺助手 Sprout 为例,全部组件部署在一个 CloudFormation 模板中。
亚马逊展示如何为航司应用加入语音旅行管家:基于 Amazon Bedrock AgentCore 托管智能体、Nova 2.5 Sonic 实现实时语音、Bedrock Knowledge Bases 支撑政策问答,通过 MCP 与 AgentCore Gateway 打通后端,可查行程、改座位、更新餐食偏好并转接人工客服。
Amazon Bedrock Managed Knowledge Bases 新增智能体检索,通过 AgenticRetrieveStream API 将复杂问题拆成子查询、循环判断证据是否充分并按需重搜,与单次混合搜索的 Retrieve API 形成两条路径。
在 Amazon SageMaker AI 上用多轮强化学习(MTRL)微调 Qwen3.6-27B 搜索智能体,训练数据来自 FRAMES、BRIGHT 和含 50 万+合成企业文档的 Enterprise RAG 数据集。
AWS 提出 Adjudicated Query 模式,让业务用户在 Amazon Quick 聊天界面提问,判定由确定性规则引擎完成,并生成"完整性回执"确保合规加违规加模糊加不可读等于已扫描。
Amazon Bedrock Knowledge Bases 可通过 AgenticRetrieveStream API 用自然语言查询理赔文档并返回带引用的答案。
针对 RAG 在数百份合同上做汇总统计会算错的问题,AWS 给出了一套合同智能平台架构:AI 提取智能体(Claude Sonnet 系列)从 PDF 中抽取 8 个关键字段并附置信度。
GitHub Podcast 最新一期拆解了五个 AI 热门观点,结论是:AI 生成的代码仍然要读、要审,但审查力度应随风险变化;Skills 与 MCP 解决的是不同问题,MCP 提供连接工具和数据的标准接口,Skills 更像打包好的 Markdown 经验,两者可组合使用。RAG 也没有死,它为模型提供训练数据之外的信息,可以减少 token 浪费、加快速度并降低不完整回答的概率。
Meta 工程团队构建了一个面向合规领域的 AI 智能体,作为领域"第二专家"沉淀机构知识。系统将知识架构与推理层分离,通过自改进闭环把专家反馈编译为经过回归测试的更新,无需重训练模型,并将 200+ 文件按 Position、Taxonomy、Routing、Gateway 等类型组织成严格分类体系。
Sentence Transformers v6.0 新增第四种模型类型 MultiVectorEncoder,用于 ColBERT 式后期交互检索,并提供完整训练方案。作者用单张 RTX 3090 训练 14.5 小时得到 mLateOn-medical,在平均 941 token 的医学检索评测上超过其能找到的所有通用检索模型,截断文档最多会损失 0.24 NDCG@10。
Papers with Code 的混合搜索系统同时使用 PostgreSQL 全文检索、pgvector 稠密向量和 RRF 融合排序,目前维护超过 11 万篇来自 arXiv 与 Daily Papers 的论文嵌入向量。
Sentence Transformers v6.0 新增第四种模型类型 MultiVectorEncoder,用于 ColBERT 式晚交互检索,PyLate、Stanford-NLP ColBERT 以及 colpali-engine 视觉文档检索检查点均可通过同一套 API 加载。
推荐理由:原文给出多种 ColBERT 类检查点的统一加载方式,以及索引体积与检索收益之间的实测取舍,可据此决定是否替换现有稠密检索。
JetBrains 发布 Mellum2,一个从零训练、总参数 12B、每 token 仅激活 2.5B 的 MoE 模型,面向自然语言与代码任务,采用 Apache 2.0 许可证开源。官方称其推理速度比同规模模型快 2 倍以上,可用于路由、RAG、摘要、子智能体及私有化部署。模型已上线 Hugging Face,完整技术报告同步发布。
作者发布六款 Sentence Transformers CrossEncoder 重排模型(17m、32m、68m、150m、400m、1b),基于 Ettin ModernBERT 编码器,采用对 mixedbread-ai/mxbai-rerank-large-v2 打分的逐点 MSE 知识蒸馏训练。
PaddleOCR 3.5 支持通过设置 engine="transformers",让 PP-OCRv5、PaddleOCR-VL 1.5 等模型以 Hugging Face Transformers 作为推理后端运行,并可通过 engine_config 配置 dtype、设备与 attention 实现。
Hugging Face 发布 Granite Embedding Multilingual R2 两款 Apache 2.0 多语言嵌入模型,均基于 ModernBERT。
微调 Qwen/Qwen3-VL-Embedding-2B 做视觉文档检索(VDR),在作者评测数据上 NDCG@10 从基座的 0.888 提升到 0.947,超过其测试的所有现有 VDR 模型,包括体积达 4 倍的模型。
Hugging Face 发布 Sentence Transformers v5.4,可在同一套 API 下编码和比较文本、图像、音频与视频,用于视觉文档检索、跨模态搜索和多模态 RAG。
推荐理由:官方博客给出 Sentence Transformers v5.4 多模态嵌入与重排序的完整代码用法和模型清单,可直接照抄跑通流程。
NVIDIA 发布一套在单张 GPU 上不到一天完成领域嵌入模型微调的流程,基于 Llama-Nemotron-Embed-1B-v2,无需人工标注。流程用 nemotron-3-nano-30b-a3b 从领域文档生成合成问答数据、挖掘难负样本并做多跳展开,再用对比学习微调,实测 nDCG@10 与 Recall@10 均提升约 10%。
推荐理由:NVIDIA 给出了从合成数据、难负样本挖掘到 ONNX/TensorRT 部署的完整嵌入模型微调配方,附真实评测数字。
Hugging Face 发布 Retrieval Embedding Benchmark(RTEB)beta 版,用公开与私有数据集混合的方式评测嵌入模型的真实检索准确率。RTEB 覆盖 20 种语言及法律、医疗、代码、金融等领域,每个数据集至少 1k 文档和 50 queries,默认榜单指标为 NDCG@10,私有数据集由 MTEB 维护者评测。
Google 发布 EmbeddingGemma,一个面向端侧场景的多语言嵌入模型,308M 参数、2K 上下文窗口,支持 100 多种语言。该模型基于 Gemma3 骨干并改为双向注意力,量化后内存占用低于 200 MB,作者称其在 500M 参数以下的纯文本多语言嵌入模型中 MTEB 排名最高。
推荐理由:读者可以据此了解 308M 参数多语言嵌入模型在 MTEB 上的位置以及端侧 RAG 的落地路径。
Sentence Transformers 现已支持训练和微调稀疏嵌入模型,微调后的 sparse-encoder/example-inference-free-splade-distilbert-base-uncased-nq 成本低廉,尤其适合混合搜索和检索重排场景。
Cohere 现已作为 Inference Provider 接入 HF Hub,成为首个直接在 Hub 上分享并提供模型推理的模型厂商。
Hugging Face 发布教程,介绍如何用 Sentence Transformers 库微调 reranker(Cross Encoder)模型,覆盖数据集、损失函数、训练参数、评估器和 CrossEncoderTrainer 各组件。
Hugging Face 发布博客,拆解每天 10 亿次以上分类与嵌入推理的成本与延迟计算方法。作者用 Inference Endpoints、HF Hub 库、Infinity 推理服务器和 k6 压测,在 nvidia-L4($0.8/hr)上跑出 10 亿次分类 $253.82、嵌入 $409.44,而 ColQwen2 视觉嵌入高达 $44,496.51。
Hugging Face 发布 vdr-2b-multi-v1 多语言嵌入模型,可将文档页面截图直接编码为稠密单向量,无需 OCR 或分块即可检索意、西、英、法、德五种语言的视觉文档。
Digital Green 与 CGIAR、Hugging Face 专家支持计划合作开发农业问答机器人 Farmer.chat,基于 RAG 和 GPT-4o 规划智能体回答农户提问,知识库涵盖近 46000 篇农业研究论文。过去一年该机器人已服务超 2 万名农户、处理逾 34 万次查询。为评估回答质量,团队搭建了 LLM-as-a-Judge 评测体系。
Hugging Face 团队展示如何借助 distilabel 为 Argilla 2.0 构建能理解技术文档的聊天机器人:先从 GitHub 文档生成合成数据集并微调领域专用嵌入模型,再用向量数据库存储和检索文档,最后将 Gradio 应用部署到 HF Spaces,并把交互记录存入 Argilla 持续评估改进。
Banque des Territoires(CDC 集团)、Polyconseil 与 HF Mirror 合作,为 EduRénov 校园生态改造计划搭建基于 RAG 的主权数据方案,项目第一阶段已完成。
Hugging Face 的 HF Mirror Embedding Container for Amazon SageMaker 正式可用(GA),AWS 客户可在 SageMaker 上部署嵌入模型以构建 RAG 等生成式 AI 应用。
Hugging Face 发布博客,介绍如何用 Sentence Transformers 训练和微调嵌入模型,也可从零训练新模型。训练流程涵盖数据集、损失函数、训练参数、评估器和 Trainer 五个组件,数据可来自 HF Hub 或本地 CSV、JSON、Parquet、Arrow、SQL;数据集列顺序须与所选损失函数匹配,且 "label" 或 "score" 列用于提供标签。
Hugging Face 与 LangChain 联合发布合作包 langchain_huggingface,可通过 pip install langchain-huggingface 安装。
Intel 展示了基于 OPEA(Open Platform for Enterprise AI)的企业级 RAG 方案,使用 LangChain 的 rag-redis 模板、BAAI/bge-base-en-v1.5 嵌入模型与 Redis 向量数据库,嵌入模型跑在 Intel Granite Rapids CPU 上、LLM 跑在 Gaudi 2 加速器上。
Hugging Face 提出嵌入量化方案:二值量化把 float32 嵌入压成 1-bit,内存与磁盘占用降低 32 倍、检索速度最高提升 32 倍,配合 float32 查询重打分的 rescore 步骤可保留约 96% 的检索性能,不做重打分则约 92.5%。标量(int8)量化可将嵌入维度精度降至 8 位。团队还演示了 4100 万条 Wikipedia 文本的真实检索场景。
Hugging Face 发布博客,展示如何用 Optimum Intel 与 fastRAG 在基于 Xeon 的 CPU 上加速嵌入模型,并将其集成进现有 RAG 流水线。