Juan Ignacio Rouyet, catedrático de la Universidad Internacional de La Rioja (UNIR), se ha convertido en una voz autorizada en el campo de la inteligencia artificial, especialmente en lo que respecta a la clonación de voz. Su análisis del fenómeno y su preocupación por sus implicaciones son más relevantes que nunca en una era marcada por avances tecnológicos vertiginosos. Rouyet comparte sus opiniones sobre el peligro real de los ‘deepfakes’ de clonación de voz y cómo detectarlos, un tema que adquiere un matiz cada vez más urgente.
La clonación de voz, una técnica que se ha popularizado gracias a la inteligencia artificial, permite replicar la voz de una persona con una precisión sorprendente. Esta tecnología, que parece sacada de las películas de «Misión Imposible», donde el protagonista usa un cambiador de voz para suplantar identidades, se está convirtiendo en una herramienta cada vez más accesible y, por ende, en una amenaza potencialmente peligrosa.
Clonación de voz, estafas y engaños
Rouyet recuerda que la clonación de voz no siempre se utiliza con fines nobles. A diferencia de las misiones heroicas de Ethan Hunt, en la vida real, esta tecnología ha dado lugar a estafas y engaños. Un ejemplo claro es el caso de 2020, cuando el director de una sucursal de una empresa japonesa en Hong Kong fue engañado para transferir 35 millones de dólares a estafadores que imitaron la voz de su jefe a través de un deepfake de clonación de voz.
Tambièn pouedes leer: Equipo de Respuesta a Emergencias Cibernéticas del bloque para la UE le teme a los rusos
Este tipo de incidentes se ha vuelto más frecuente y preocupante, ya que la tecnología se ha hecho más accesible y fácil de usar. Según Rouyet, actualmente, con tan solo tres segundos de grabación, es posible clonar una voz. Esta capacidad se refleja en herramientas como VALL-E de Microsoft, que puede generar una voz clonada a partir de una muestra breve.
Vigilancia permanente
Aunque estas aplicaciones para la clonación de voz no se crearon con la intención de facilitar delitos, su mal uso es una realidad innegable. Rouyet advierte sobre la importancia de estar conscientes de los riesgos asociados a estas tecnologías y de cómo protegerse contra posibles fraudes. La vigilancia sobre qué datos recopilamos y compartimos, y un escepticismo saludable ante comunicaciones inesperadas o sospechosas, son claves en esta lucha.
Sin embargo, identificar un deepfake de voz no es tarea sencilla. Aunque existen aplicaciones de IA diseñadas para detectar clonaciones, no siempre están al alcance de todos. En su lugar, Rouyet sugiere verificar la autenticidad de una comunicación dudosa contactando directamente a la persona supuestamente implicada o confirmando la información a través de otros medios.
Tambièn pueedes leer: Rafael Lacava desde Shanghái aseguró que el modelo chino es el ejemplo a seguir
Problema legal y ético
El catedrático también señala un problema legal y ético emergente: el uso no autorizado de voces. Al igual que ocurrió con la controversia de Clearview AI y las imágenes tomadas de redes sociales sin consentimiento, cualquier voz publicada en línea podría ser susceptible de ser utilizada para entrenar IA o para clonaciones. Esto plantea serias preocupaciones sobre la privacidad y el consentimiento en la era digital.
Mientras la tecnología de clonación de voz abre un mundo de posibilidades en campos como el marketing y el entretenimiento, también presenta riesgos significativos. La concienciación, la educación y la regulación adecuada son fundamentales para navegar este nuevo panorama tecnológico, como destaca Rouyet. Es esencial recordar que, aunque la voz se pueda clonar, la identidad y la esencia de una persona son únicas e irreplicables.
