Expertos en ciberseguridad en Australia están desarrollando un chatbot que puede hacerse pasar por un humano y contestar a una llamada telefónica de un estafador o un televendedor de internet, por ejemplo, para hacerles perder el tiempo de los estafadores.

El proyecto comenzó después de que Kaafar (un profesor de la Universidad de Sidney) recibiera una llamada de spam y mantuviera al estafador al teléfono durante 40 minutos mientras entretenía a sus hijos durante la comida. Otros han hecho lo mismo, incluso gastándole bromas al que llama. Pero aunque puede ser divertido o gratificante darles su propia medicina a los estafadores, llevarlo a cabo lleva tiempo. Incluso yo mismo el otro día me estuve entreteniendo con un vendedor de Vodafone que quería que cambiase de compañía de Internet y de telefonía móvil. La verdad es que me pillaron aburrido y después de casi una hora charlando (mientras yo estaba terminando una revisión) le pedí que me dejase por escrito lo que habíamos “acordado”… y, al final, se aburrió de mí y me colgó.

El resultado es Apate, un chatbot llamado así en honor a la diosa griega del engaño. Básicamente, utiliza tecnología similar a ChatGPT y la combina con clonación de voz para crear un humano ficticio diseñado para mantener conversaciones largas y convincentes con un estafador. Los investigadores han estado entrenando a Apate con transcripciones de conversaciones de estafas del mundo real, incluyendo llamadas telefónicas, correos electrónicos y mensajes en redes sociales, para que el bot pueda generar respuestas parecidas a las de un humano cuando contesta una llamada de este tipo.

Según la universidad, el equipo ha estado probando Apate en llamadas telefónicas reales  a través de un prototipo que puede asumir una amplia gama de personalidades. Para provocar las llamadas, “hemos puesto estos números ‘sucios’ por toda internet, incluyéndolos en algunas aplicaciones de spam o publicándolos en páginas web, para que sea más probable que reciban llamadas de estafa”, dice Kaafar.

El objetivo es hacer que el chatbot sea lo suficientemente inteligente como para engañar a un estafador durante una conversación de 40 minutos. Actualmente, Apate solo mantiene la conversación durante unos 5 minutos. Pero Kaafar señala: “Descubrimos que los bots reaccionan muy bien ante algunas situaciones complicadas para las que no los entrenamos, con los estafadores pidiendo información para la que no preparamos a los bots, pero los bots se están adaptando y respondiendo de una manera muy creíble”.

El desarrollo de Apate también ocurre mientras los estafadores ya están aprovechando las tecnologías de inteligencia artificial, como la clonación de voz y los deepfakes, para llevar adelante sus propios engaños. Por lo tanto, en cierto sentido, Kaafar está explorando si las mismas técnicas pero en dirección contraria