La carrera por desarrollar modelos de inteligencia artificial cada vez más potentes vuelve a elevar la escala de infraestructura necesaria para entrenarlos. OpenAI habría utilizado unas 100.000 GPUs para entrenar GPT-6 Astra, su nuevo modelo de IA, en el centro de datos Stargate ubicado en Abilene, Texas, Estados Unidos.
La magnitud de este despliegue permite dimensionar el crecimiento de los recursos informáticos necesarios para avanzar en sistemas de IA generativa. Según estimaciones difundidas sobre el proyecto, el costo operativo del entrenamiento de Astra se habría ubicado entre US$500 millones y US$1.000 millones.
El entrenamiento habría demandado entre 90 y 120 días, con un costo estimado de entre US$2,50 y US$3,50 por hora por cada procesador gráfico utilizado durante ese período.
GPT-6 Astra y una arquitectura orientada a los agentes de IA
Más allá de la cantidad de GPUs utilizada, uno de los principales cambios asociados a GPT-6 Astra está relacionado con la forma en que el modelo interactúa con herramientas externas.
El sistema fue diseñado para utilizar aplicaciones sin que los desarrolladores tengan que crear una interfaz de programación de aplicaciones, o API, específica para cada herramienta. En la práctica, sus agentes pueden interactuar con programas de una manera similar a un usuario humano.
Esta capacidad permite que Astra trabaje con navegadores web, hojas de cálculo y aplicaciones de escritorio, además de ejecutar secuencias de tareas complejas. Entre sus posibilidades se encuentran la generación de documentos completos, el diseño de presentaciones y la resolución de flujos de trabajo que requieren múltiples pasos.
La arquitectura también incorpora un enfoque nativo de múltiples agentes. Frente a una tarea compleja, un agente principal puede plantear una estrategia y coordinar subagentes independientes que trabajan sobre distintas alternativas y verifican los resultados en paralelo.
El objetivo es reducir los denominados “bucles de perdición”, situaciones en las que un sistema de IA queda atrapado repitiendo intentos sin alcanzar una solución. En este esquema, el modelo puede depurar código, detectar errores y modificar su estrategia cuando una determinada aproximación no funciona.
Sin embargo, utilizar una infraestructura de mayor escala no significa necesariamente liderar todas las pruebas de rendimiento. Según los datos proporcionados, Fable 5.1 de Anthropic supera a Astra en algunas evaluaciones técnicas, entre ellas SWE-bench Pro, Artificial Analysis Intelligence, Coding Agent y ProofBench v1.1, centrada en problemas matemáticos formales.
Nvidia prevé entrenamientos con 400.000 GPUs
La dimensión alcanzada por Astra podría ser apenas una etapa dentro de una expansión mucho mayor. Jensen Huang, CEO de Nvidia, felicitó a OpenAI por la puesta en marcha del modelo y anticipó que la próxima generación podría utilizar unas 400.000 GPUs de manera simultánea.
La cifra representa aproximadamente cuatro veces las 100.000 GPUs utilizadas para entrenar Astra y podría llevar al límite la capacidad del complejo Stargate en Texas.
Por el momento, esta previsión no establece una fecha para el comienzo del próximo entrenamiento ni especifica cuánto tiempo demandaría. Tampoco confirma que OpenAI vaya a utilizar exactamente la misma infraestructura que se tomó como referencia para calcular el consumo energético.
El enorme consumo energético de la próxima generación de IA
Una infraestructura de 400.000 GPUs basada en bastidores NVIDIA GB200 NVL72 podría requerir alrededor de 1,2 gigavatios (GW) de potencia eléctrica.
La estimación toma como referencia un consumo aproximado de 140 kW por bastidor. Con 400.000 GPUs, serían necesarios alrededor de 5.556 bastidores bajo esa configuración. Al incorporar un factor de eficiencia energética de 1,5, que contempla electricidad adicional para refrigeración y otros sistemas del centro de datos, la demanda total podría alcanzar los 1,2 GW.
La cifra es, de todos modos, una proyección hipotética y no una confirmación sobre la infraestructura definitiva que utilizará OpenAI.
GPT-6 Astra también tuvo problemas durante su lanzamiento
La escala tecnológica de Astra contrastó con las dificultades registradas durante su llegada al público. Poco después del lanzamiento, usuarios de pago de ChatGPT tuvieron problemas para acceder al nuevo modelo.
Ante las dificultades, Sam Altman, CEO de OpenAI, reconoció públicamente los inconvenientes y calificó el lanzamiento como “un desastre”. El ejecutivo aseguró que la compañía intentaría solucionar rápidamente los problemas surgidos durante la puesta en marcha.
El episodio muestra uno de los principales desafíos de esta nueva etapa de la IA: no solo se necesita una enorme capacidad de cómputo para entrenar modelos cada vez más sofisticados, sino también una infraestructura capaz de soportar su disponibilidad para millones de usuarios.
Mientras OpenAI avanza con GPT-6 Astra, la proyección de Nvidia plantea una pregunta todavía más relevante: cuánto crecerán las necesidades de procesamiento y energía cuando los próximos modelos de IA alcancen una escala de 400.000 GPUs.
Leer más
- GPT-6 Astra: OpenAI lanza su nueva IA y asegura que podría iniciar la era de la inteligencia artificial general
- OpenAI lanza GPT-6 Astra: la nueva IA que desafía a Anthropic y busca liderar el mercado
- La alarmante advertencia desde Anthropic: estiman más de 10% de riesgo de que la IA destruya a la humanidad
