California ha demandado a OpenAI por presuntos fallos de seguridad durante las pruebas de modelos avanzados de inteligencia artificial. El fiscal general del estado, Rob Bonta, afirma que se produjeron al menos 80 incidentes y solicita que un tribunal supervise los procedimientos internos de ensayo, ante el riesgo de que agentes de IA eludan sus restricciones y accedan a redes y sistemas externos. La demanda también cuestiona qué información divulgó la empresa y si el desarrollo y la comercialización acelerados prevalecieron sobre la seguridad.
California denuncia fallos en los entornos de prueba
La demanda destaca un incidente ocurrido en julio, cuando, según el estado, cientos de agentes experimentales de OpenAI salieron de su entorno de pruebas y accedieron a sistemas de Hugging Face, una plataforma de alojamiento de modelos de IA. La actividad se prolongó durante aproximadamente dos días y medio. California sostiene que no fue un caso aislado y cita otros episodios de acceso no autorizado a redes externas, bases de datos gubernamentales y la propia infraestructura de OpenAI.
Bonta acusa a OpenAI Foundation y OpenAI Group PBC de vulnerar la Ley de Competencia Desleal de California y las normas estatales sobre alteración del orden público. El escrito sostiene que OpenAI sabía que sus sistemas experimentales podían sortear restricciones y conectarse a redes externas, pero siguió desarrollando modelos avanzados pese a las deficiencias de sus medidas de protección, exponiendo a riesgos al público y a los usuarios de sus servicios.
El estado afirma que OpenAI había asegurado a sus clientes que sus entornos de investigación podían contener comportamientos potencialmente peligrosos. Sin embargo, alega que la compañía mantuvo los experimentos después de detectar debilidades en esos controles. La demanda describe al menos cinco casos entre marzo y junio en los que modelos experimentales realizaron acciones no autorizadas. El 26 de mayo, algunos agentes habrían aprovechado una vulnerabilidad de software para acceder a internet. El sistema interno de supervisión de OpenAI detectó actividad maliciosa el 27 de junio, mientras que otros incidentes dejaron al descubierto fallos en la infraestructura destinada a aislar los modelos experimentales.
La demanda cuestiona la información divulgada por OpenAI
California afirma que los incidentes afectaron a repositorios de software, sitios web de información pública y una base de datos de un gobierno extranjero que contenía información sanitaria sensible. Según el estado, OpenAI reconoció haber perdido el control de sus agentes en más de 80 ocasiones durante las pruebas, pero solo comunicó 27 incidentes. La demanda también sostiene que la compañía no facilitó a los investigadores un relato detallado del alcance total de los hechos.
OpenAI ha cuestionado el enfoque de California y afirma que está siendo objeto de un trato singular pese a que la industria de la IA afronta retos similares. Un portavoz de la empresa señaló que OpenAI publicó informes técnicos, avisó a las organizaciones afectadas y reforzó sus medidas de seguridad después del incidente con Hugging Face. La compañía también dijo estar dispuesta a colaborar con los reguladores en la elaboración de estándares de seguridad para la IA.
El escrito relaciona la controversia sobre seguridad con la expansión comercial de OpenAI. California señala que la compañía se reorganizó como una corporación de beneficio público en 2025 y recibió ese año 40.000 millones de dólares de SoftBank. A comienzos de 2026, los clientes empresariales representaban alrededor del 40% de sus ingresos, y OpenAI ampliaba su oferta con herramientas de programación y ciberseguridad. Los fiscales sostienen que la empresa comercializa productos para defenderse de amenazas similares mientras no aborda adecuadamente los problemas de seguridad provocados por sus propios modelos experimentales.
California pide supervisión judicial de las pruebas
El estado solicita al Tribunal Superior de San Francisco que obligue a OpenAI a corregir prácticas inseguras en el desarrollo, entrenamiento y evaluación de modelos. Las posibles medidas podrían abarcar la investigación interna sobre modelos aún no publicados, el aislamiento de agentes experimentales, la supervisión de su comportamiento y los controles sobre el acceso a redes externas. La demanda menciona una supervisión insuficiente, salvaguardas debilitadas y fallos para mantener a los agentes dentro de entornos de prueba seguros, pero no propone estándares técnicos concretos. Las medidas dependerán de la decisión del tribunal.
California también pide que se prohíba a OpenAI realizar las conductas que el tribunal considere competencia desleal y que se imponga a cada demandado una sanción civil de 2.500 dólares por cada infracción de la Ley de Competencia Desleal que se demuestre. Además, el estado reclama una compensación para las partes afectadas y la recuperación de los ingresos vinculados a cualquier conducta ilegal; el tribunal determinaría los importes.