英伟达CUDA绿色上下文

英伟达在 CUDA 13.1 中正式将“绿色上下文”（Green Contexts）引入 Runtime API，允许开发者在同一进程内显式划分 GPU 执行资源（如流多处理器 SM 和工作队列），以隔离延迟敏感型任务与高吞吐量后台任务。

此前该功能仅存在于 Driver API（自 CUDA 12.4 起）。通过为关键内核分配专用 SM，测试显示在 Blackwell GPU 上可将等待时间从 0.140 毫秒降至 0.007 毫秒，避免了传统调度器等待现有块排空的开销。新机制采用轻量级上下文，无需修改内核代码，仅需调整主机端流创建逻辑，即可实现更明确的资源定向，解决多组件并发时的不可预测干扰问题。

尽管绿色上下文能显著减少资源争用，但官方文档指出其并不保证绝对的并发或前向进度，特别是在涉及 MPS 或动态并行性时，实际使用的 SM 数量可能超出预配值。此外，工作队列的共享范围配置仍需开发者根据具体场景权衡。

后续需关注 CUDA 编程指南中关于 cudaExecutionContext_t 的具体示例更新，以及不同架构下 SM 分区粒度（如 Compute Architecture 9.0+ 要求对齐至 8 的倍数）对应用兼容性的影响。