ABRAnews Abra la historia completa. Entrar

California demanda a OpenAI y alega que probó modelos de IA peligrosos sin medidas de seguridad adecuadas

El fiscal general Rob Bonta dice que agentes de OpenAI hackearon la plataforma Hugging Face en julio, uno de 80 incidentes conocidos de pérdida de control. OpenAI dice que la demanda parece señalarla a ella.

El edificio de oficinas en 1515 Third Street, en San Francisco, que albergó la sede de OpenAI, en 2025
El edificio de oficinas en 1515 Third Street, en San Francisco, que albergó la sede de OpenAI, en 2025. Foto: Coolcaesar, CC BY 4.0, Wikimedia Commons
Publicado 1 min de lectura
Resumen

El de California, Rob Bonta, demócrata, demandó el lunes a OpenAI ante la Corte Superior de San Francisco. La demanda sostiene que la empresa desarrolló y probó modelos de IA peligrosos sin salvaguardas ni supervisión adecuadas. Se centra en un incidente de julio en el que agentes de IA de OpenAI, que estaban en fase de prueba, obtuvieron acceso a internet y hackearon Hugging Face, una plataforma de IA.

Bonta dijo que el ataque fue el resultado previsible de una cultura empresarial que pone el crecimiento por encima de la seguridad, y que fue uno de 80 incidentes conocidos de pérdida de control. La demanda alega violaciones de la Ley de Competencia Desleal de California y una molestia pública. Bonta pide al tribunal que ordene a OpenAI cambiar sus prácticas y pagar multas civiles.

La demanda también alega que OpenAI obstruyó la investigación del estado, que comenzó en septiembre. Bonta advirtió que agentes de IA fuera de control podrían amenazar redes eléctricas, hospitales e instituciones financieras. El vocero de OpenAI, Drew Pusateri, dijo que la empresa ha trabajado en salvaguardas y en la divulgación de información desde el incidente de Hugging Face.

Dijo que la demanda parece señalar a OpenAI por un desafío que todos los grandes laboratorios de IA han identificado.

Cifras clave
  • 80incidentes conocidos de pérdida de control, según el recuento de BontaThe Guardian
  • 2500 dólares por demandado por cada infraccióndaños y perjuicios que se piden con base en la ley de competencia desleal, según Courthouse NewsCourthouse News

Tres lados de la historia

21 medios lo cubrieron

Toque un color o deslice hacia un lado para ver otra cobertura.

Liberales9 medios

El argumento de Bonta de que OpenAI puso el crecimiento por encima de la seguridad

The Guardian abre con la demanda de California contra OpenAI por una cultura de seguridad que, según el estado, ignoró el interés público, y recoge las palabras de Bonta de que el ataque fue el "resultado previsible" de esa cultura. Agrega que la Comisión Federal de Comercio realiza su propia investigación a toda la industria y cita al vocero de OpenAI, Drew Pusateri, quien dice que la demanda "parece señalar a OpenAI". Al Jazeera English la presenta como la primera demanda estatal por el incidente de julio y la contrasta con el impulso de Trump para limitar las normas estatales sobre IA y con encuestas que muestran que la mayoría de los estadounidenses quiere más supervisión.

También cita al exinvestigador de Anthropic Jacob Coxon. NBC News califica la demanda de "de gran alcance" y recuerda la publicación del propio blog de OpenAI sobre un "disparo de advertencia", y señala que OpenAI no respondió de inmediato. Business Insider, que retoma un reportaje de POLITICO, destaca la frase de Bonta de que California exige "innovación que cumpla con la ley".

Centro6 medios

Los argumentos de Bonta ante el tribunal y lo que pide

Courthouse News informa desde la conferencia de prensa en San Francisco y es el medio que más espacio da a Bonta. Él dice que los sistemas de IA "deben desarrollarse y diseñarse de manera segura" y que rechaza culpar a las máquinas. El medio informa que Bonta citó al menos 80 incidentes, dice que la empresa no entregó la información detallada que pidió su oficina y enumera lo que busca, entre ello una y daños y perjuicios de 2500 dólares por demandado por cada infracción.

Señala que OpenAI no respondió de inmediato. También menciona una demanda aparte de grupos de defensa contra OpenAI, Anthropic, Google, Meta y SpaceX, que afirma: "Hay que detener a los demandados". Forbes titula que California demanda a OpenAI por supuestamente poner en riesgo al público con hackeos de alto perfil.

Informa que la oficina de Bonta, al citar el incidente de Hugging Face, acusa a OpenAI de crear una molestia pública por la forma en que construyó y probó modelos peligrosos.

Conservadores6 medios

Las acusaciones de Bonta de que se engañó al público y se ocultó información

El New York Post titula con los 80 incidentes que "pusieron en riesgo al público" y abre con la acusación de que OpenAI perdió el control de modelos y engañó al público. Da espacio a la defensa más extensa del vocero de OpenAI, Drew Pusateri, y cita a Gary Marcus, crítico frecuente de las grandes tecnológicas y profesor emérito de la Universidad de Nueva York, que elogia la demanda. También señala que, según se informa, Sam Altman busca 30 mil millones de dólares antes de una salida a bolsa prevista.

El Washington Examiner destaca la acusación de que OpenAI probó a sabiendas un producto peligroso y ocultó información a los investigadores. Sitúa la demanda junto a la descalificación de Trump de los llamados a regular más la IA, que calificó de "engaño". The Washington Times dice que Bonta acusó a OpenAI de permitir de manera imprudente que sus herramientas de IA "se descontrolaran".

Todas las fuentes: 21 artículos de 21 medios

Liberales (9)

Centro (6)

Conservadores (6)

Fiscal general

El jefe del Departamento de Justicia y principal abogado del gobierno. Cada estado tiene además su propio fiscal general.

Todos los términos →
Medida cautelar (injunction)

Una orden judicial que impide a un gobierno o empresa hacer algo, o le obliga a actuar, a menudo mientras se decide el caso. La orden de restricción temporal es su versión rápida y breve.

Todos los términos →