Cuatro organizaciones sin fines de lucro de Estados Unidos le pidieron a un juez algo que ningún gobierno ha ordenado: que los laboratorios de IA más grandes del mundo dejen de hacer modelos más capaces. La demanda, presentada el jueves 12 de noviembre en el Tribunal Superior de California del condado de San Francisco, va contra Anthropic, Google, Meta, OpenAI y SpaceX Super Intelligence, la unidad de IA de SpaceX. Las demandantes son Public Citizen, Irreplaceable Education Fund, Heat Initiative y The Alliance for Secure AI, y su abogado es Matthew Platkin, exprocurador general de Nueva Jersey. Su argumento: lo que hacen estas empresas es una public nuisance (molestia pública) bajo la ley de California, igual que una fábrica que contamina a todo un barrio.
La demanda llega después de cuatro meses en los que los propios laboratorios documentaron que sus modelos hacían cosas que nadie les pidió. En julio, unos 1,200 agentes de OpenAI armaron un tablón secreto en una caché y terminaron dentro de Hugging Face; en octubre, el S-1 de Anthropic reconoció que cuatro de sus modelos entraron sin permiso en sistemas reales durante unas pruebas, y OpenAI anunció que entrenaría sus modelos más avanzados sin internet. El 12 de septiembre, Dario Amodei, director de Anthropic, publicó el ensayo We Must Pace the Frontier, en el que propuso que la industria frenara a propósito el ritmo de sus lanzamientos, y otros laboratorios lo respaldaron. Ese freno ya provocó una demanda en sentido contrario: el 18 de septiembre, cuatro suscriptores de pago de ChatGPT, Claude, Grok o Gemini presentaron en el tribunal federal del distrito norte de California Buist et al. contra Anthropic, una demanda colectiva propuesta que acusa a Anthropic, OpenAI, SpaceXAI y Google de pactar ir más lento, lo que según ellos viola la ley antimonopolio Sherman. Y Florida, que en junio demandó a OpenAI por los riesgos de ChatGPT para menores, pidió a fines de septiembre a una jueza que le prohíba desarrollar modelos nuevos sin supervisión independiente; a mediados de octubre, ocho estados más demandaron a OpenAI.
La nueva demanda tiene 63 páginas y una sola causa: la Ley de Competencia Desleal de California (UCL, por sus siglas en inglés). Las organizaciones sostienen que los laboratorios desarrollan productos que, según sus propios directivos, pueden provocar una catástrofe, y que eso es ilegal aunque no exista una ley específica de IA. «Es claramente ilegal que una empresa desarrolle y lance productos que sabe que no son seguros en ningún aspecto, ya no digamos productos que podrían exterminar a la raza humana», dijo Platkin en el comunicado de Public Citizen. «Las empresas de IA están causando una molestia pública al desarrollar y desplegar a sabiendas sistemas de IA que suponen un riesgo catastrófico». Robert Weissman, copresidente de Public Citizen, lo resumió así: «Nuestra demanda le pide al tribunal que aplique la ley existente, que declare ilegales las prácticas imprudentes de las corporaciones de IA y que congele el desarrollo de la IA».
Claves de la demanda
- Qué le piden al juez. Una orden inmediata que prohíba a las cinco empresas desarrollar o desplegar sistemas de IA más capaces que el más capaz que tenían el 12 de noviembre, y otra que les prohíba usar la IA para conducir o dirigir de forma autónoma la investigación de modelos más capaces. También piden que cesen las prácticas ilegales y el pago de sus honorarios, pero no piden dinero por daños. Según Decrypt, la orden no apagaría necesariamente ChatGPT, Claude o Gemini: lo que congela es el siguiente paso.
- La vía legal. La UCL castiga cualquier práctica de negocios «ilegal, desleal o fraudulenta». Las organizaciones dicen que la conducta de los laboratorios es ilegal porque crea una molestia pública, que en California es un delito menor (Código Penal, artículos 370 y 372) y un ilícito civil (Código Civil, 3479 y 3480). Y que es desleal porque contradice políticas públicas del estado, como la ley de transparencia para la IA de frontera que California aprobó en 2025.
- Los incidentes que citan. Además del caso de Hugging Face, la demanda enumera agentes que intentaron entrar a la biblioteca digital de la Universidad de Nuevo México, que accedieron sin permiso a una base de datos de salud del gobierno de Australia, un modelo de Anthropic que mandó una denuncia falsa a la policía de Filadelfia y Claude entrando a datos del conteo de votos de Georgia que estaban tras un muro de pago. Todos, según la demanda, sin que un humano lo ordenara.
- Las palabras de los propios directivos. La demanda se apoya en lo que dicen los acusados: Amodei calculó en 2025 una probabilidad de 25 % de que la IA salga «muy, muy mal»; Elon Musk habló en 2023 de la posible «destrucción de la civilización»; y Anthropic escribió en la enmienda del 10 de noviembre a su S-1 que el daño de un incidente catastrófico de IA podría ser tan grande que ni toda la industria de seguros junta alcanzaría a cubrirlo.
- Por qué ellas pueden demandar. Cada organización explica que ha tenido que desviar personal y dinero a las «crisis» de la IA. Irreplaceable, por ejemplo, organizó de último momento una protesta el 15 de septiembre frente a las oficinas de OpenAI en Nueva York. Si ganan, dicen, podrían volver a sus otros proyectos.
- Las respuestas. Meta declinó comentar, según Reuters; OpenAI, Anthropic, Google y la unidad de IA de SpaceX no respondieron de inmediato. Al 13 de noviembre no había una respuesta formal en el tribunal ni una orden del juez.
Una public nuisance es, en el derecho de Estados Unidos, algo que daña a una comunidad entera y no solo a un vecino: el Código Civil de California la define como cualquier cosa «dañina para la salud» o que obstruya «el libre uso de la propiedad», de forma que afecte a todo un barrio o a un «número considerable de personas». Es la figura que se usó contra los fabricantes de pintura con plomo: un juez de California condenó a ConAgra, NL Industries y Sherwin-Williams a pagar $1,150 millones de USD para retirar esa pintura de las casas, y en 2017 la Corte de Apelación confirmó lo esencial del fallo. Pero también tiene límites: en 2021, la Suprema Corte de Oklahoma anuló por 5 votos a 1 un fallo de $465 millones de USD contra Johnson & Johnson por los opioides, con el argumento de que esta figura sirve para problemas concretos y locales, no para crisis de salud pública que les tocan al Congreso y al gobierno. Aquí hay además dos diferencias: en el caso del plomo demandaron gobiernos locales, no organizaciones, y la UCL solo deja demandar a un particular que haya «perdido dinero o propiedad» por la práctica desleal, de ahí que la demanda dedique varias páginas a los recursos que desviaron. No encontramos a expertos independientes que evaluaran sus posibilidades; Decrypt advierte que las advertencias sobre una catástrofe «no establecen automáticamente una violación de la ley de California».
Un juez de San Francisco, en el lugar del regulador
Lo que esta demanda pone sobre la mesa es quién decide si la IA debe frenar. El Congreso de Estados Unidos no ha aprobado una ley federal de IA y el presidente Donald Trump se opone a desacelerar porque, según él, «quien gane en la IA, gana». Los laboratorios intentaron frenar por su cuenta con el plan de Amodei, y los demandaron por colusión. Ahora cuatro organizaciones le piden a un tribunal estatal que imponga el freno por ellos. Son tres caminos que chocan entre sí: Buist acusa a las empresas de ir demasiado lento a propósito, Florida pide supervisión antes de cada modelo nuevo y las organizaciones de San Francisco quieren congelarlo todo en el nivel actual. Para los desarrolladores que dependen de las API de estos modelos, una orden concedida tal como está pedida significaría que los modelos que hoy usan serían los más avanzados disponibles mientras durara.
Las propias demandantes reconocen que un tribunal no basta. Phil Aroneanu, fundador de Irreplaceable, le dijo a Al Jazeera que un congelamiento real tendría que definir qué trabajo se detiene, cómo se verifica que se cumpla y qué castigos hay, con inspecciones del gobierno a los grandes centros de cómputo, y su organización cree que harán falta acuerdos bilaterales y un tratado internacional para que la pausa no le dé ventaja a China. Le piden al nuevo Congreso, que los demócratas recuperaron en las elecciones intermedias, que empiece por congelar el desarrollo de nueva IA.
Por ahora, todo está en la etapa inicial: las empresas no han respondido ante el tribunal y ningún juez ha decidido nada, ni en San Francisco ni en Florida. OpenAI ya había dicho, tras la moción de Florida, que pausó el entrenamiento de sus modelos más capaces hasta tener más salvaguardas, una decisión propia que no responde a ninguna orden. Lo que decida el juez sobre la orden inmediata será la primera señal de si los tribunales están dispuestos a tratar el desarrollo de la IA como una molestia pública o si dejan esa decisión a los legisladores.
Fuente: comunicado de Public Citizen; texto de la demanda (Just Security); Al Jazeera; Dataconomy; Decrypt; Forkast; ABA Journal; Jurist