Bringing gVisor sandboxes to distributed Ray clusters

The reinforcement learning (RL) ecosystem is rapidly adopting Ray as the unified compute runtime for complex post-training workflows. Across Google Cloud, we see customers using Ray for workloads ranging from multimodal data pipelines to frontier RL.

The reinforcement learning (RL) ecosystem is rapidly adopting Ray as the unified compute runtime for complex post-training workflows. Across Google Cloud, we see customers using Ray for workloads ranging from multimodal data pipelines to frontier RL.

Sandboxes as Ray Primitives Ray has become a common runtime for orchestrating post-training workloads. Frameworks including veRL, NeMo-RL, SLIME, MILES, and SkyRL already use Ray to coordinate distributed trainers, inference engines, rollout workers, and other components.

When we designed Ray Sandboxing, an important goal was to make it fit naturally into the existing Ray programming model rather than introduce a separate abstraction for isolated execution. A sandbox has many of the same properties as other resources managed by Ray: it needs to be placed on a machine, assigned resources, created and destroyed, recovered from failures, and scaled with the surrounding workload. This led us to represent each high-level sandbox through a Ray Actor:

The Ray scheduler decides which node should run a sandbox and reserves the corresponding CPU and memory resources. The sandbox Actor manages its lifecycle, while gVisor provides the isolated execution environment on that node.

Starting in Ray 2.58, framework authors and researchers can manage sandboxed environments using the same Ray APIs and patterns they already use for the rest of their workload. For example:

code_block <ListValue: [StructValue([('code', 'import ray\r\nfrom ray.experimental import sandbox\r\n\r\nray.init()\r\n# Create a gVisor sandbox environment and return an actor handle for a proxy actor\r\nsb = sandbox.create(\r\n cpu=1.0,\r\n memory="512Mi",\r\n image="python:3.12-slim"\r\n)\r\n# Execute code inside the sandbox\r\nresult = ray.get(sb.exec.remote("python -c \'import sys; print(sys.version)\'"))\r\nprint(result.stdout)'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f8f2ea7f610>)])]>

In context

• Topic: Cloud y Arquitectura — Nube pública, híbrida, costos y decisiones de infraestructura.
• Source: Google Cloud Blog
• Published: 25/08/2026

Continue reading at the original source →

Excerpt published automatically by the site radar. The full text belongs to its publisher and is linked above.

Por qué importa

El discurso de la nube pasó de migrar todo a decidir qué va dónde. Esa madurez es buena señal, pero también hace más difícil la conversación: ya no hay una respuesta única, hay que argumentar caso por caso y muy poca gente tiene los números para hacerlo.

Lo que yo miro en estos anuncios es la portabilidad. Mientras más cómoda es una plataforma, más difícil suele ser salir de ella, y esa comodidad se paga en poder de negociación tres años después, justo cuando toca renovar y ya no hay alternativa creíble.

Lo que suele salir mal

Donde suele romperse es en las capacidades del equipo. La plataforma es nueva pero la gente aprendió sobre la marcha, sin tiempo y sin acompañamiento. Terminan replicando en la nube las mismas prácticas del centro de datos, con lo cual se pagan precios de nube por beneficios que nunca llegan.

Qué mirar

• Quién ve la factura y con qué detalle: sin dueño del gasto, el gasto crece solo.
• Dónde quedan físicamente los datos y qué exige la regulación local sobre eso.
• Qué pasa cuando el proveedor tiene una caída, porque la va a tener, y qué queda operando mientras tanto.

Cómo leo esta entrada

Yo lo leería pensando en la salida antes que en la entrada. No porque uno planee irse, sino porque la conversación de cómo saldría es la que revela cuánto se está amarrando. Si nadie en la mesa puede describir ese camino, la dependencia ya es mayor de lo que se cree.

La noticia original está publicada en otro idioma; acá se cita el extracto tal como lo entrega el medio y el comentario se escribe en español.