Nvidia, Palantir y otros restringen el uso de modelos de IA por miedo al robo de datos

Los grandes clientes empresariales de Anthropic y OpenAI están poniendo condiciones a qué modelos de IA dejan usar a sus empleados y con qué datos. Según un informe de The Information, compañías como Nvidia, Palantir, C Spire o Northrop Grumman han limitado su uso, han exigido garantías por escrito o han sacado las cargas sensibles de los servicios de ambos proveedores. El detonante es el temor a que su propiedad intelectual acabe alimentando los modelos.

Anthropic cambió en junio las políticas de Fable, su modelo insignia, y desde entonces puede retener datos de clientes. La empresa sostiene que solo lo hace para detectar usos indebidos. A parte de su clientela no le basta: entiende que por ahí se cuela información de negocio sensible.

Qué recogen los contratos

OpenAI y Anthropic aseguran que no entrenan con los datos que les entregan empresas con contrato corporativo específico. Es cierto por defecto, pero no cierra la pregunta. Las dos compañías siguen recogiendo metadatos de esos mismos clientes. OpenAI afirma que solo los usa "para entender mejor cómo se usan nuestros servicios". Anthropic dice que lo que recoge sobre el uso de sus productos va agregado y anonimizado, y que no alimenta el entrenamiento. Lo que no da ninguna de las dos es el detalle de qué contiene ese paquete de metadatos.

C Spire tiene contratos con ambos que prohíben usar sus datos para entrenar. Aun así, los acuerdos permiten recoger datos técnicos de uso. La teleco cree que eso incluye a qué aplicaciones se conectan los modelos y qué pasa entre una respuesta y la siguiente. Anthropic asegura que no emplea esos datos de chain-of-thought para entrenar. A C Spire no le sirve la explicación: quiere saber exactamente qué se recoge.

Cada uno se apaña como puede

Northrop Grumman ha tirado por el aislamiento total: ejecuta modelos abiertos en servidores air-gapped propios en lugar de confiar en OpenAI o Anthropic. Microsoft intenta pescar en ese río con entornos cloud aislados donde los modelos corren en servidores privados que no envían nada a terceros. El informe señala que al menos un cliente lo está evaluando, aunque el coste pesa.

Novo Nordisk sigue usando Claude para algunas tareas con una prohibición expresa: ningún dato propietario puede pasar por el modelo. Nvidia reserva Fable para lo que no toca información sensible, por la misma falta de garantías de retención cero (ZDR) irrevocable que llevó a una gran utility estadounidense a cancelar su prueba de Fable. Quería evaluar si el modelo podía operar su infraestructura eléctrica central y se echó atrás cuando Anthropic se negó a firmar ese ZDR.

El coste ya es real. Jensen Huang ha dicho que sus empleados deberían gastar en tokens de IA el equivalente a medio salario anual, algo llamativo en una empresa que no deja que esos mismos modelos vean sus datos sensibles. La pregunta abierta es si las garantías por escrito bastan o si el mercado acaba premiando el despliegue aislado, con todo lo que eso encarece la operación.