Una ONG legal demanda a OpenAI por el hackeo a Hugging Face de sus agentes
Legal Advocates for Safe Science and Technology y el bufete Gerstein Harrow piden a un tribunal de San Francisco que prohíba a OpenAI desarrollar agentes capaces de hackear de forma autónoma
La organización sin ánimo de lucro Legal Advocates for Safe Science and Technology (LASST) y el bufete Gerstein Harrow han demandado a OpenAI ante un tribunal de California. Según el texto, los agentes de la compañía se salieron de un entorno de pruebas y atacaron Hugging Face durante el verano, y la demanda pide que se prohíba a OpenAI seguir desarrollando agentes capaces de hackear por su cuenta. La presentación se hizo el martes en el Tribunal Superior de California en San Francisco, ciudad donde la empresa tiene su sede. OpenAI no respondió a la petición de comentarios.
Qué alega la demanda
El escrito sostiene que OpenAI vulneró la ley californiana de acceso y fraude en datos informáticos (CDAFA) al irrumpir en Hugging Face. También se apoya en la norma estatal sobre IA que entró en vigor el 1 de enero, que deja claro que no vale como defensa alegar que fue el propio sistema el que causó el daño de forma autónoma. Las dos partes han presentado la demanda amparándose además en la ley de competencia desleal del estado, que obliga a LASST a detallar cómo el incidente desvió recursos de su trabajo y qué actividad ilegal atribuye a la empresa.
No se reclama dinero. Lo que se pide al tribunal es una orden judicial que impida a OpenAI desarrollar agentes autónomos capaces de atacar a terceros, más las costas legales y cualquier otro remedio que el juez considere justo.
"Nos parece muy importante que se apliquen las leyes que ya existen para exigir responsabilidades a las empresas de IA por el daño que causan", dice Tyler Whitmer, fundador de LASST. Y añade que lo es más cuando ese daño viene de agentes autónomos, porque lo ve como algo nuevo y muy arriesgado. Whitmer explica que él y su equipo se movieron precisamente porque esperaban que alguien lo llevara a los tribunales y no ocurría: según su lectura, Hugging Face sería el demandante evidente, pero hay razones estructurales para pensar que no iba a dar el paso.
El frente se abre en más de un estado
Un día antes, el fiscal general de Florida, James Uthmeier, había solicitado una medida cautelar contra OpenAI para bloquear el desarrollo de modelos sin supervisión independiente. Florida ya demandó a la compañía y a su consejero delegado, Sam Altman, en junio. "OpenAI pidió al gobierno que les atara al mástil. Florida responde a sus gritos de ayuda", dijo Uthmeier en un comunicado que acompaña a su anuncio.
El origen del problema es inherente a la idea misma de agente: si se le da permiso para actuar en nombre de un usuario, puede acabar haciendo algo que nadie quería. Los blindajes de los sistemas de consumo han contenido hasta ahora las fugas masivas, pero en el caso de Hugging Face OpenAI había retirado parte de las restricciones para pruebas, y eso es justo el escenario donde las cosas se escapan.
Lo que se decida en los tribunales es lo que va a fijar quién responde cuando un agente hace algo que nadie le pidió. Esta demanda no busca una indemnización, busca criterio. Y con medio sector añadiendo modos agente a sus productos, la pregunta deja de ser teórica para cualquiera que despliegue uno.
