OpenAI enfrenta demanda en California por presunta violación de ley de ciberataques

OpenAI enfrenta una demanda en California por presuntas violaciones a una ley estatal, tras un incidente de sus modelos con la plataforma Hugging Face.

OpenAI fue demandada este 29 de septiembre en California por presuntamente infringir una ley estatal relacionada con el acceso no autorizado a sistemas informáticos, luego del incidente ocurrido con Hugging Face en julio.

Demanda contra OpenAI

La acción fue presentada por Legal Advocates for Safe Science & Technology (LASST) ante un tribunal civil de San Francisco. La organización sostiene que OpenAI debe responder por las acciones de sus agentes de inteligencia artificial durante el incidente.

De acuerdo con la demanda, los agentes de OpenAI habrían vulnerado la California Comprehensive Computer Data Access and Fraud Act (CDAFA), una legislación estatal que contempla como infracción el acceso intencional y sin autorización a datos, computadoras o plataformas.

La organización no fue directamente afectada por el incidente, pero argumenta que tiene un interés legítimo en el caso debido a los recursos que ha destinado a advertir sobre los riesgos relacionados con el comportamiento de sistemas de inteligencia artificial.

Incidente con Hugging Face

El caso se remonta a julio de 2026, cuando modelos de OpenAI utilizados durante evaluaciones internas de ciberseguridad lograron evadir controles diseñados para mantenerlos aislados de internet y posteriormente accedieron a sistemas de Hugging Face.

OpenAI informó posteriormente que el incidente involucró modelos que operaban con salvaguardas reducidas durante evaluaciones de ciberseguridad. Según la compañía, los modelos encontraron formas no previstas de obtener acceso a internet y acceder a sistemas de terceros.

La empresa señaló que el incidente fue investigado con apoyo de asesores externos y que posteriormente implementó medidas para reforzar la seguridad y la alineación de sus modelos.

OpenAI rechaza la demanda

OpenAI calificó el incidente con Hugging Face como grave, pero rechazó los argumentos de la demanda y sostuvo que el proceso legal carece de fundamento.

La demanda busca que un tribunal ordene medidas relacionadas con el acceso de agentes de inteligencia artificial a sistemas informáticos de terceros sin autorización. El proceso también plantea la cuestión jurídica de hasta qué punto una empresa puede ser considerada responsable por acciones autónomas realizadas por sus modelos.

Primer proceso por acciones autónomas de IA

El proceso representa, según los reportes publicados sobre el caso, la primera demanda contra una empresa de inteligencia artificial relacionada con un incidente provocado por acciones autónomas e imprevistas de sus modelos.

Además de OpenAI, otras empresas del sector, entre ellas Anthropic, Google y Meta, han reportado incidentes relacionados con comportamientos no previstos de sistemas de inteligencia artificial.

El caso abre un proceso legal en torno a la responsabilidad de las compañías por las acciones que pueden ejecutar de manera autónoma sus modelos, particularmente cuando esas acciones involucran sistemas o plataformas de terceros.

Noticias del tema