DetectifAI: una startup que lucha contra los falsos voces generados por IA
El incidente que cambió la vida de Tarini Padmanabhuni ocurrió hace poco más de dos años, cuando su abuelo recibió una llamada telefónica que lo dejó completamente confundido. La voz al otro lado de la línea afirmaba haber sido secuestrado y exigía un rescate para su liberación. Sin dudarlo, el abuelo pagó, solo para descubrir después que su hermano estaba en otro lugar, completamente ajeno a todo lo ocurrido. Resultó que la voz era un deepfake, una imitación generada por inteligencia artificial.
«Lo que realmente me impactó no fue el dinero», dice Padmanabhuni. «Fue que él no tenía forma de saber si era real o no.» Ese momento marcó el comienzo de una nueva misión: crear soluciones que protejan a las personas de este tipo de estafas cada vez más sofisticadas.
La empresa que fundó, DetectifAI, se basa en esta experiencia personal para combatir el creciente problema de los deepfakes de voz. Según datos del FBI, en 2024 los estadounidenses perdieron cerca de 900 millones de dólares en estafas impulsadas por IA, un aumento del 24% respecto al año anterior. Las personas mayores de 60 años fueron las más afectadas, perdiendo el doble que los adultos entre 50 y 59 años.
El mercado de detección de deepfakes está lleno de competencia. Empresas como Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety y Nuance (propiedad de Microsoft) ya ofrecen soluciones similares. Sin embargo, la mayoría de estas tecnologías operan en la nube, lo cual limita su integración directa en dispositivos móviles, dejando a los usuarios sin protección efectiva durante las llamadas.
DetectifAI propone una solución diferente. En lugar de intentar adaptar modelos grandes de IA al tamaño de los teléfonos, la compañía diseña modelos compactos desde cero, capaces de ejecutarse directamente dentro del sistema operativo del smartphone. Esto permite analizar en tiempo real si una voz es auténtica o generada por IA, sin necesidad de enviar datos a servidores externos.
La estrategia de comercialización de DetectifAI se centra inicialmente en fabricantes de teléfonos. La empresa licencia sus herramientas de software para que puedan integrarse como funciones nativas en los sistemas operativos. Padmanabhuni compara esta iniciativa con el rol clave de AT&T en el lanzamiento del primer iPhone, donde la exclusividad del proveedor de red diferenció al producto de la competencia.
El núcleo del producto es el SDK (Software Development Kit) de DetectifAI, un conjunto de herramientas que otras empresas pueden incorporar fácilmente en sus productos. Además de esta línea principal de ingresos, la startup espera generar ganancias adicionales mediante la licencia de su tecnología a empresas especializadas en prevención de fraude.
En la actualidad, DetectifAI ya tiene clientes reales. La empresa maneja más de 100,000 llamadas al mes para instituciones financieras en India, todas gestionadas por agentes de voz automatizados. Cada llamada pasa por un proceso de detección de deepfakes y verificación de identidad del hablante, garantizando así la seguridad de los procesos de cobranza y seguimiento de préstamos.
Padmanabhuni comenzó a trabajar en aprendizaje automático a los 12 años y posteriormente se especializó en sistemas cibernéticos físicos. Su trayectoria académica y profesional la ha preparado para liderar una empresa que enfrenta uno de los desafíos más urgentes de la era digital: proteger a los ciudadanos de las amenazas tecnológicas que amenazan su privacidad y seguridad financiera.
Con una visión clara y una solución innovadora, DetectifAI busca convertirse en un referente en la lucha contra las estafas de voz generadas por IA, ofreciendo a los fabricantes de dispositivos móviles una ventaja competitiva que puede marcar la diferencia en un mercado cada vez más exigente.
Traducción y adaptación por Tecnología 365.
Fuente original: TechCrunch