DetectifAI licencia a los fabricantes un SDK que detecta voces deepfake en el propio móvil
La startup de San Francisco diseña modelos compactos que verifican si una voz es sintética durante la llamada, sin enviar el audio a la nube, y ya mueve 100.000 llamadas al mes en India.
DetectifAI quiere que el propio teléfono avise cuando la voz que suena al otro lado de la línea es sintética. La startup de San Francisco vende a los fabricantes de móviles un SDK que analiza el audio durante la llamada sin mandarlo a la nube, y ya procesa más de 100.000 llamadas al mes para entidades financieras en India.
La idea viene de un caso familiar. A su fundadora, Tarini Padmanabhuni, le tocó de cerca: a su abuelo le llamaron imitando la voz de su hermano con un deepfake, le dijeron que lo tenían secuestrado y pagó un rescate. El hermano estaba en otro sitio y no sabía nada de lo que pasaba. «Lo que se me quedó no fue el dinero», dice Padmanabhuni, «fue que no tuviera forma de darse cuenta». Aquello ocurrió hace unos dos años.
El problema no es pequeño. Según el FBI, los estadounidenses perdieron cerca de 900 millones de dólares en estafas asistidas por IA el año pasado, un 24% más que en 2024, y los mayores de 60 años perdieron el doble que los de entre 50 y 59.
Modelos pequeños, en el dispositivo
No falta competencia: Reality Defender, Pindrop, Resemble AI, Azure AI Content Safety o Nuance, esta última también de Microsoft. El argumento de Padmanabhuni es que esos productos corren en servidores remotos, así que un fabricante de teléfonos no puede meterlos dentro del dispositivo y la persona objetivo del fraude se queda sin defensa. En lugar de encoger un modelo grande de nube hasta que quepa en un móvil, como hacen otros, DetectifAI dice diseñar modelos compactos desde el principio, pensados para ejecutarse dentro del sistema operativo. Lo que promete es un veredicto instantáneo sobre si una voz está generada por IA en llamadas, mensajes de voz y otros audios, sin que el audio salga del teléfono.
El negocio principal es licenciar ese SDK a fabricantes para que la detección venga de serie en el sistema operativo. Padmanabhuni lo compara con el papel que jugó AT&T en el lanzamiento del primer iPhone: la primera marca que lo integre tendrá ventaja sobre las demás. La segunda vía de ingresos es licenciar la tecnología a empresas y compañías antifraude.
Cobros con voz sintética en India
La compañía ya factura algo, según su fundadora, y mueve más de 100.000 llamadas al mes para instituciones financieras en India. Son llamadas que hacen agentes de voz con IA para cobros y seguimiento de documentación de préstamos, con detección de deepfake y verificación del hablante en cada una. Padmanabhuni no da nombres de clientes por acuerdos de confidencialidad.
Antes de esto, dice, empezó con machine learning a los 12 años y estudió sistemas ciberfísicos en el Manipal Institute of Technology, donde fue la jefa de equipo más joven de la división de coches sin conductor de Formula Student. Ha levantado una ronda semilla pequeña con el inversor Josh Constine y Manohar Kamath, de la consultora KM Growth, y compite en Startup Battlefield, el certamen de startups que se celebra del 13 al 15 de octubre en el centro de San Francisco. Todavía no hay ningún fabricante anunciado que vaya a llevar la detección de serie, y la compañía no ha enseñado una demo pública del SDK funcionando en un teléfono. Eso es lo que falta por ver.
