Meta enfrenta demanda por uso ilícito de fotos para entrenamiento de IA y reconocimiento facial
Un grupo de familias sueña contra Meta alegando que la compañía usó imágenes de Facebook e Instagram para crear el sistema NameTag y entrenar modelos generativos sin consentimiento.
Un conjunto de padres y sus hijos en Illinois y California presentaron una demanda federal en Chicago acusando a Meta de usar ilegalmente sus fotos de Facebook e Instagram para construir NameTag, un sistema de reconocimiento facial aún no lanzado para sus gafas inteligentes, y para entrenar modelos generativos como Emu y Muse Image.
La acción colectiva sostiene que Meta violó las leyes de privacidad de Illinois y California al extraer información biométrica de las fotos sin aviso ni consentimiento. En junio, Wired reveló que el código de NameTag estaba incrustado de forma secreta en la aplicación de acompañante de IA de las gafas, con más de 50 millones de descargas. Aunque la función no estaba habilitada para usuarios, el análisis demostró que el sistema estaba diseñado para convertir las caras capturadas por las gafas en firmas biométricas y compararlas con faceprints almacenados en la base de datos del teléfono del usuario, la cual recibía actualizaciones desde Meta.
El demandante señala que esos faceprints podrían derivarse de imágenes de Facebook e Instagram, citando declaraciones de empleados de Meta que afirman que NameTag podía reconocer personas mediante sus conexiones Meta o cuentas públicas de Instagram, y un patent que describe el emparejamiento facial contra fotos de perfil y otras imágenes mantenidas por la compañía. Meta respondió en junio diciendo que no estaba construyendo una base de datos facial central, pero no aclaró si NameTag sería opt‑in ni cómo se conservarían las firmas.
La demanda también apunta a los sistemas de generación de imágenes de Meta. La empresa ha declarado que entrenó Emu con grandes cantidades de imágenes y textos de Facebook e Instagram, calificando esas plataformas como una “ventaja de datos” para sus modelos. El reclamo afirma que el proceso de entrenamiento recogió ilegalmente información biométrica de personas que aparecían en las imágenes. Muse Image, lanzado este verano, ya recibió críticas por permitir a los usuarios generar imágenes basadas en cuentas públicas de Instagram, función que fue retirada en días tras reconocer un error.
Un portavoz de Meta describió la demanda como infundada, afirmando que la compañía ha sido transparente sobre el uso de la información y que no se ha enviado ningún producto al consumidor. "Si decidimos lanzar algo, lo haremos de forma transparente", declaró. En cuanto a NameTag, la compañía reiteró que no está construyendo una base de datos universal.
Los demandantes son Francisco Alvarez y su hijo, ambos residentes de Illinois, y Jeremy Wahl, residente de California, junto con su hija de 10 años. El grupo propuesto incluye a personas de Illinois, California y todo EE. UU. que hayan subido imágenes a Facebook o Instagram o las hayan enviado a los sistemas de IA de Meta a través de prompts, desde el 4 de septiembre de 2021. La demanda estima que el grupo nacional podría contar con millones de personas.
Bajo la Ley de Privacidad de Información Biométrica de Illinois, los demandantes buscan 5.000 USD por cada violación intencional o imprudente, o daños reales mayores, y 1.000 USD por cada violación negligente, o daños reales mayores, además de medidas cautelares. Las reclamaciones de California exigen daños adicionales y otras reparaciones.
Meta no es nueva en enfrentar multas por manejo de datos biométricos. En 2020, la compañía acordó pagar 650 millones de USD para resolver una acción colectiva en Illinois sobre un sistema de reconocimiento facial anterior. En noviembre de 2021, anunció que cerraría ese sistema y eliminaría más de un billón de faceprints. En 2024, Meta acordó pagar 1.4 billion de USD a Texas para resolver acusaciones de recolección ilegal de datos biométricos.
El día después del informe de Wired el 4 de junio, Meta retiró el código de su aplicación. El CTO Andrew Bosworth calificó la cobertura de Wired de “increíblemente engañosa” y “absolutamente deshonesta”. En un podcast posterior, describió NameTag como una característica que podría reconocer a personas que un usuario de las gafas había conocido previamente, calificándola de “gran función”. La compañía continúa describiendo NameTag como una exploración, no como un producto disponible.
El caso se enmarca dentro de un patrón más amplio de violaciones de privacidad de Meta, remontándose a los primeros días de Facebook y citando un chat de 2004 donde el CEO Mark Zuckerberg se refería a los usuarios como "dumb fucks".
