Meta ha abierto las puertas, por escrito, de Prometheus, el superclúster de IA de escala gigavatio que tiene en New Albany, Ohio, y en el que entrena sus modelos Muse. Según su blog de ingeniería, ya reúne cientos de miles de GPU de NVIDIA repartidas en varios edificios que trabajan como una sola máquina, y el objetivo es llegar a un millón. El artículo, firmado por cuatro de sus ingenieros, cuenta también lo difícil que ha sido que algo así no se detenga cada pocos minutos.
Mark Zuckerberg anunció Prometheus en julio de 2025 como el primero de sus grandes clústeres: un gigavatio de capacidad que debía entrar en servicio en 2026 y que, para ir más rápido, se levantaba en parte en estructuras de despliegue rápido parecidas a carpas. Junto a él presentó Hyperion, en Luisiana, que podría crecer hasta 5 gigavatios. Desde entonces, Meta ha usado Prometheus para entrenar la familia Muse, incluido Muse Wonder, su modelo más capaz.
Lo llamativo es de dónde viene. Hace dos años, el sitio de New Albany era un centro de datos convencional, de los que sirven las páginas de Facebook e Instagram. Meta lo ha convertido en una fábrica de entrenamiento y da por terminada la primera fase.
Claves de Prometheus
- Varios edificios, una sola máquina. Cada edificio tiene su propia red, con hasta 20,736 GPU conectadas entre sí, y una red de agregación une los edificios aunque estén a entre 2 y más de 100 km de distancia. Hacen falta decenas de miles de switches y millones de transceptores, y cada GPU tiene una conexión de 800 gigabits por segundo hacia el resto.
- Tres generaciones de armarios. Prometheus empezó con los armarios Catalina, con 72 GPU GB200 de NVIDIA repartidas en dos racks, y ha sumado Clemente, con 72 GB300 en un solo rack. La próxima generación, San Miguel, usará las Vera Rubin de NVIDIA y consumirá más de 170 kW por armario, lo que consumen de media más de cien hogares estadounidenses.
- Repuestos dentro de cada armario. Con 72 GPU unidas, un solo fallo deja fuera de juego nueve veces más hardware que con los antiguos servidores de 8. Por eso cada armario trabaja con 64 GPU y guarda 8 de reserva, y Meta tiene además un 2 % de armarios extra. Un entrenamiento que usa 32,768 GPU ocupa en realidad 37,656.
- De mil cortes al día a casi ninguno. A mediados de 2025 llegaron a sufrir casi 1,000 interrupciones al día por cada 8,000 GPU, por fallos en las conexiones entre GPU, en la memoria o en la red. Tras un año de trabajo las han reducido un 99 %, y hoy pasan más de 54,000 horas de GPU de media entre una interrupción y la siguiente. El objetivo es bajar a 2 al día, unas 100,000 horas.
- Entrenar sin perder tiempo. Con Muse Wonder, más del 85 % del tiempo de las GPU se dedicó a avanzar en el entrenamiento, y más del 90 % en la fase de aprendizaje por refuerzo. Cuando una parte falla, un sistema la aísla mientras el resto sigue trabajando, en lugar de volver a empezar desde la última copia guardada.
- Un problema para la red eléctrica. Cuando miles de GPU empiezan o dejan de calcular a la vez, el consumo del clúster puede variar un 30 o 40 % y mover decenas de megavatios en segundos. Meta lo suaviza con baterías en cada armario y en toda la instalación, y con un sistema, Dynamo Dimmer, que baja poco a poco la potencia de las GPU para no tener que detener el entrenamiento.
- Refrigeración mixta. Parte de las GPU se enfrían con líquido directamente sobre los chips, en el edificio diseñado para IA, y otra parte con aire ayudado por líquido, en las estructuras de despliegue rápido. Los centros más nuevos usan circuitos cerrados de agua.
| Armario | GPU de NVIDIA | Memoria por GPU | Consumo |
|---|---|---|---|
| Catalina | 72 GB200, en dos racks | 192 GB | ~120 kW por pareja de racks |
| Clemente | 72 GB300, en un rack | 288 GB | ~135 kW por rack |
| San Miguel (próximo) | 72 Vera Rubin, en un rack | 288 GB de HBM4 | más de 170 kW por rack |
Por qué importa
La carrera de la IA se libra cada vez más en hormigón, cables y megavatios. Los laboratorios ya no compiten solo por tener los mejores modelos, sino por poder entrenarlos en máquinas de cientos de miles de chips sin que se paren. El artículo de Meta muestra la parte menos vistosa de esa carrera: que a esta escala lo normal es que algo falle constantemente, y que gran parte del trabajo consiste en que esos fallos no tiren por la borda días de cálculo.
También explica por qué el dinero sigue fluyendo hacia el hardware. Cada generación de NVIDIA consume más por armario y exige más refrigeración y más red, y el consumo de un clúster así obliga a negociar directamente con las compañías eléctricas: para Hyperion, Meta pagará la conexión completa a la red de Entergy en Luisiana. Es el mismo mercado en el que empresas como Tenstorrent, que acaba de recaudar $1,500 millones de USD, intentan colar alternativas a NVIDIA.
Prometheus todavía no está completo, y Meta no ha dicho cuánta potencia usa hoy ni cuántas GPU exactas tiene. Pero el plan está claro: llegar al millón de GPU en Ohio y aplicar lo aprendido en Hyperion, que será aún mayor. La próxima generación de modelos Muse saldrá de ahí.
Más fuentes: el anuncio de Prometheus y de Hyperion, en TechCrunch (julio de 2025). Portada: el centro de datos de Meta en Luleå (Suecia), foto de Christopher Down, licencia CC BY 4.0, Wikimedia Commons.
Fuente: Meta Engineering, «Inside Prometheus: Meta’s Journey to a Gigawatt-Scale Supercluster»