Amazon SageMaker HyperPod 管理与治理最佳实践
针对多团队共享一个 Amazon SageMaker HyperPod 集群时的治理难题,AWS 给出组织、项目、集群、工作负载四层控制模型。其中项目只是协作边界而非运行时安全边界,集群与稀缺加速器容量应集中在单一 capacity account 中管理。
针对多团队共享一个 Amazon SageMaker HyperPod 集群时的治理难题,AWS 给出组织、项目、集群、工作负载四层控制模型。其中项目只是协作边界而非运行时安全边界,集群与稀缺加速器容量应集中在单一 capacity account 中管理。
NVIDIA 介绍 Green Contexts,用于控制同一进程内多个独立 GPU 组件之间的资源共享,例如延迟敏感算子与吞吐型后台 kernel、数据预处理与模型推理等场景。单个 GPU 上多阶段工作流并存时,资源分配一直难以精细控制。
Simon Willison 让 Claude Opus 5.5 设计简单的文本音乐格式并构建可播放的 artifact,要求达到《猴岛小英雄》原版配乐水准,结果意外地更贴近猴岛主题且质量相当不错。他推测文本模型作曲能力可能像近几个月出现的 3D 图形能力一样是新增技能,但是否为全新能力仍需用其他新旧模型做实验确认。
亚马逊云科技展示如何用 Amazon Bedrock AgentCore Evaluations 评估多智能体供应链系统,内置评估器覆盖有用性、任务完成和指令遵循,自定义评估器可检查约束满足、路线可行性、SQL 正确性和解释质量。
Amazon Quick 控制台不提供从 Admin 或 Author 直接降级到 Reader 的路径,update-user API 也会报错拒绝。针对 Quick Identity 用户,可通过手动删除重建,或用 AWS CLI 按 Admin > Author > Restricted Reader > Reader 顺序逐级降级;Pro 用户中间步骤沿用旧角色即可完成降级。
Amazon Bedrock Managed Knowledge Bases 新增智能体检索,通过 AgenticRetrieveStream API 将复杂问题拆成子查询、循环判断证据是否充分并按需重搜,与单次混合搜索的 Retrieve API 形成两条路径。
哈佛物理学家 Matthew Schwartz 在 Anthropic 的客座文章中介绍开源工具 BootLoops,它作为 harness 支持 AI 模型进行精确科学计算,源代码已在 GitHub 上发布。
在 Amazon SageMaker AI 上用多轮强化学习(MTRL)微调 Qwen3.6-27B 搜索智能体,训练数据来自 FRAMES、BRIGHT 和含 50 万+合成企业文档的 Enterprise RAG 数据集。
通过 Amazon Bedrock AgentCore 的 AgentCore Gateway,可将 Claude Desktop 连接到由 Amazon 网页索引支持的 Web Search,突破模型训练知识截止限制。
AWS 提出 Adjudicated Query 模式,让业务用户在 Amazon Quick 聊天界面提问,判定由确定性规则引擎完成,并生成"完整性回执"确保合规加违规加模糊加不可读等于已扫描。
GitHub 提出 AI 时代开发者应强化三项技能:学会指挥 AI 智能体而非只使用 AI、不要轻信 AI 的第一次答案、用 AI 节省的时间去解决更大的问题。GitHub Copilot 内置的 Rubber Duck agent 会用第二个模型对计划、代码和测试进行批判性审查。开发者仍需负责最终结果,包括定义问题、评审 AI 生成的代码并决定哪些可以发布。
OpenAI 发布 GPT-6 家族模型指南,面向初创团队讲解如何选择 GPT-6 模型、调节推理强度、优化提示词与技能、协调工具调用,并为生产环境准备工作流。
ServiceNow CoreAI 构建了 AutoSynthData,用目标模型的失败案例与更强教师模型的成功轨迹定位能力缺口,再生成并验证新的可执行任务用于后训练,课程随模型进步向剩余难点迁移。
AWS Professional Services 打造了四智能体模式,在 Amazon Bedrock AgentCore 上运行、通过 MCP 工具连接源与目标,把单应用 IaC 开发时间从 3 到 4 周压缩到几分钟。该模式与 AWS Transform、AWS DMS 并存,覆盖迁移发现、IaC 生成、治理报告与切换后 SRE 运维,基于 Strands Agents SDK 构建。
NVIDIA 发布 Do Inference Now (DIN) Deploy,一个开源 C++ 示例集合,将 ONNX Runtime 与 NVIDIA TensorRT RTX 执行提供程序结合,帮助开发者把模型 checkpoint 转到本地原生应用。该示例面向需要可移植模型格式、可靠运行时和跨目标系统加速的本地 AI 场景。
NVIDIA NeMo Agent Toolkit(NAT)通过自定义 MemoryEditor 接口接入 Amazon S3 Vectors,把它作为持久记忆后端,支持每个索引最多 20 亿向量、强写一致性和按 bucket/index 的 IAM 访问控制。
Simon Willison 的纯 Python WebAssembly 引擎 pwasm 发布 0.2a0。他让 Claude Opus 5.5 接手这个 1 月构建的项目,经 42 次提交后,现已支持几乎全部 WASM 规范,PyPI wheel 还打包了 MicroPython、QuickJS 和 Micro QuickJS 的可用 WASM 构建。
Amazon Payments 在 Amazon SageMaker AI 上用多目标上下文多臂老虎机(LinUCB)为产品获客漏斗做个性化,将申请开始、提交、审批三阶段分别建模并线性组合 UCB 分数以兼顾整条漏斗;七周在线 A/B 测试中,某一人群的最终漏斗转化率取得高个位数相对提升,另一人群未见改善。团队认为问题出在内容而非模型,并公开了可在合成数据上试用的代码仓库。
Amazon Bedrock AgentCore 可构建事件驱动的环境智能体(ambient agent),由 Amazon S3 事件通知、EventBridge、Lambda 等信号触发后在 AgentCore Runtime 上运行,需要时通过单个 ask_human 工具暂停并等待人工审批再继续。
AWS 为 Claude Platform on AWS(CPonAWS)给出多环境访问的完整实现方案:在组织内设专用 AI Services 账户持有订阅与 workspace,AWS 工作负载通过跨账户 SigV4 调用推理,开发者用绑定 workspace 的长期 API key,外部环境经 OIDC 联邦获取短期凭证。
uniopen 通过 Amazon SageMaker AI 对 Amazon Nova 2 Lite 做监督微调,并叠加提示词层面的输出优化,使其适配自身零售内容审核策略。
NVIDIA 针对沙特阿拉伯语方言微调 Nemotron 模型,以解决区域方言和本地录音条件在预训练数据中代表性不足、导致多语言模型在真实部署中表现欠佳的问题。基础模型可能识别现代标准阿拉伯语,却在沙特方言场景下失准,该工作同时给出向其他语言扩展的路径。
面向大规模个性化场景的生成式推荐系统(GR)把推荐重构为对用户行为的序列建模,用户的交互、上下文、候选物品和动作都被当作高基数事件流中的 token。NVIDIA 介绍如何用 Dynamo-Triton 部署 HSTU 生成式推荐模型。
Amazon Bedrock Knowledge Bases 可通过 AgenticRetrieveStream API 用自然语言查询理赔文档并返回带引用的答案。
雷峰网在 Claude Code 中用同一任务实测同日发布的 Qwen3.8-Flash 与 GLM-5.3-Flash,要求从零开发一个含前后端、数据持久化、CRUD、搜索与测试的个人工作台。
同一台两轴云台、同一句"满行程转一遍",GPT‑5.6 Sol、GPT‑6 Astra Pro 和 Claude Fable 5.1 都让机器转了起来,但对"完成"的理解完全不同:Sol 走完四个极限角,Astra 用 7 步十字动作配合连续三帧误差小于 3° 才标记 verified,Fable 5.1 做了 12 步并留下可复用脚本,却反馈可疑时仍打印扫描完成。
NVIDIA TensorRT Model Connect 是基于 NVIDIA TensorRT 构建的开源 C++ AI 模型参考实现集合,整个项目围绕编码智能体设计。项目采用并行工作、模型家族隔离、可回滚变更和 GPU 验证等做法,目标是让 NVIDIA 推理栈的性能更易于使用。
Amazon Quick 的提示词工程决定了其 AI 功能响应的准确性与可靠性,官方发布两部分系列的第一部分,聚焦适用于所有 Quick 组件的通用原则与可复用框架。
Amazon Quick 各组件对提示词的解析方式不同,官方博客按组件给出提示词写法:Quick Research 需明确目标、受众与关注点,并自行拆解子问题;Quick Flows 要写清时间、数据源与输出格式,复杂逻辑用编号步骤,并可通过对话迭代调整。
针对 RAG 在数百份合同上做汇总统计会算错的问题,AWS 给出了一套合同智能平台架构:AI 提取智能体(Claude Sonnet 系列)从 PDF 中抽取 8 个关键字段并附置信度。
Simon Willison 在 WeAreDevelopers World Congress North America 闭幕演讲中,用 Claude Opus 5.5 根据三张 kākāpō 鹦鹉照片生成了 HTML5 canvas 像素动画 Kākāpō Party,20 多只鹦鹉随音乐跳跃、点击可触发彩带和气球效果。
GitHub Copilot app 的 canvas(画布)是一种可自定义界面,用户和智能体共享同一状态,可用看板、清单或仪表盘等形式承载工作流。在 agent 会话中输入 /create-canvas 技能并用自然语言描述工作流、用户可执行的操作和智能体可执行的操作,无需写代码或做设计,界面会在右侧面板生成。
Simon Willison 发布 commit-rewriter 0.2,这是一款用于 git 提交记录改写的工具。原文未披露该版本的具体功能改动与新增特性。
NVIDIA 介绍面向生物基础模型的高效 MoE 训练方法,指出稠密 Transformer 中每个 token 都要过每一层,扩容会同时推高训练与推理算力;MoE 则用多个子网络(专家)替代,每个 token 只激活其中一小部分。
即便每块 GPU、网络链路和 pod 都显示健康,512-GPU 训练任务仍可能性能不达标或直接失败,原因可能是单块 GPU 变慢、链路在负载下降级,或配置悄悄把流量导向更慢的路径。运维者往往要到任务跑了几小时后才会发现问题。
GitHub Copilot 应用重建了 pull request 视图,用一个含 2,200 个文件、超 100 万行改动、400 多条行内评审评论的开源 PR 验证其性能。代码行沿用"绘制前高度已知"的确定性虚拟化几何,评论等动态块则改为可预估、惰性测量并以文件与行号锚定的独立几何,避免滚动跳变。
一篇用可交互示例讲解 shadow DOM 的教程,演示样式封装、继承、slot、part 以及 JavaScript 访问方式。内容说明 shadow root 如何创建带私有样式表的隔离 DOM 树,并与页面 DOM 以特定受控方式交互;文中提示词指向 Fable 5.1 Medium。
NVIDIA 发布 SWE-Serve,用于评估推理服务软件改动——AI 编程智能体的补丁能通过测试,却可能在服务器加载真实模型并处理请求时失败。该基准由 SGLang 团队参与开发,包含 53 个任务,检查系统能否通过公开接口返回正确结果。
NVIDIA 机密计算(CC)为 LLM 推理提供在可信环境中运行的路径,通过内存加密的机密虚拟机(CVM)和机密 GPU 处理个人、企业及受监管场景中的敏感信息与专有模型上下文。
NVIDIA 介绍如何借助 AI 智能体与 Isaac ROS 加速 ROS 2 节点:单有快速 CUDA kernel 并不足以让 ROS 2 graph 变快,消息在节点间传递时仍可能在 CPU 内存中序列化或拷贝,抵消感知与 AI 负载留在 GPU 上的收益。方案依托上游抽象与 NVIDIA 近期推出的 CUDA buffer 后端来消除这一瓶颈。