CUDA Green Contexts 支持显式划分 GPU 执行资源
NVIDIA 介绍 Green Contexts,可让应用选择一部分 GPU 执行资源,并将工作定向到这些资源。该机制已在 CUDA 12.4 Driver API 中提供,从 CUDA 13.1 起也可通过 Runtime API 使用,以应对同一进程内多个组件共享 GPU 的场景。
为什么值得关注:显式选择执行资源并定向工作,为同一进程内的 GPU 组件提供资源划分机制,影响开发者管理延迟敏感任务与后台工作负载的方式。
过去 72 小时扫描 14 个有效信源,从 35 条候选中筛出 5 条值得保留的信息。
NVIDIA 介绍 Green Contexts,可让应用选择一部分 GPU 执行资源,并将工作定向到这些资源。该机制已在 CUDA 12.4 Driver API 中提供,从 CUDA 13.1 起也可通过 Runtime API 使用,以应对同一进程内多个组件共享 GPU 的场景。
为什么值得关注:显式选择执行资源并定向工作,为同一进程内的 GPU 组件提供资源划分机制,影响开发者管理延迟敏感任务与后台工作负载的方式。
Latent Space 报道 Reflection 宣布 Beam,这是一个面向编码、代理和科学工作的文本 MoE 模型,总参数量为 501B、激活参数量为 23B,并从头训练。报道说 Apache 2.0 许可的完整权重预计本月发布,且提及其与其他模型的比较;当前材料未提供具体评测数据。
为什么值得关注:若完整权重按报道所述以 Apache 2.0 发布,团队可将其纳入开放权重模型的评估范围;但缺少具体评测数据,尚不足以据此判断相对表现。
Simon Willison 分享了 Scrimshaw Jukebox:他尝试让 Claude Opus 5.5 创作游戏音乐,并制作了可播放文本格式乐曲的工具示例。作者认为结果出乎意料,但也指出还需用其他新旧模型进行实验,才能判断这是否是近期出现的新能力。
为什么值得关注:单次创作示例无法区分模型能力变化与提示或样例的影响,作者提出的跨模型对照实验关系到是否能判断这项能力具有新颖性。
AWS 宣布可直接从 SageMaker Studio 管理运行在 SageMaker HyperPod EKS 集群上的 Spaces,操作包括创建、配置、启动、停止和打开。数据科学家与机器学习工程师可在浏览器中启动 JupyterLab 或 Code Editor,无需使用命令行工具。
为什么值得关注:把 Spaces 管理入口放进 Studio 浏览器界面,改变了用户访问 HyperPod 开发环境的操作路径,使其可从项目工作区直接启动环境。
AWS 博文介绍通过 SageMaker Unified Studio 管理 SageMaker HyperPod 集群的治理做法,涵盖基础设施边界、访问控制与共享容量分配。文章还按组织、项目、集群和工作负载等层次讨论集群管理,属于实践指南。
为什么值得关注:多团队共享集群时,访问权限和容量分配规则决定工作负载如何竞争资源,也影响组织追踪使用是否符合治理要求。