[08/06/2023] El último boletín de seguridad digital del FBI no dejará indiferente a nadie, tanto en sentido literal como figurado. Según la agencia federal de seguridad estadounidense, los delincuentes están utilizando imágenes generadas por IA para dar un nuevo giro al chantaje. Se les ha visto utilizar imágenes publicadas en las redes sociales y pasarlas por un generador de imágenes de IA para crear fotos de desnudos convincentes (pero totalmente falsas), y luego extorsionar a las víctimas a cambio de dinero o fotos reales, en una práctica que la agencia denomina sextorsión.
[Reciba lo último de CIO Perú suscribiéndose a nuestro newsletter semanal]
Este tipo de cosas no son exactamente nuevas: antes nada impedía a los malhechores utilizar los selfies de las redes sociales y Photoshop, y ya ha ocurrido en algunos casos aislados. El peligro viene de la facilidad de acceso a esta técnica creada por las nuevas herramientas de deepfake image de IA. Ahora los delincuentes no necesitan meses o años de experiencia en la manipulación convincente de imágenes, sólo necesitan unas cuantas fotos y el software adecuado. La oficina afirma que se han difundido imágenes explícitas falsas tanto de adultos como de niños en sitios pornográficos para acoso general, además de ser enviadas directamente a las víctimas para intentos de extorsión. El FBI ha observado un aumento de las denuncias de víctimas en los últimos meses.
Las herramientas de imágenes generadas por IA se han vuelto increíblemente fáciles de acceder para el público en el último año. Basta con ir a Bing para generar, por ejemplo, una foto de Marilyn Monroe en lederhosen. La mayoría de los generadores de imágenes de IA de uso público no permiten entrenarlos con un conjunto de fotos concretas, ni generar nada que roce la pornografía. Pero existen herramientas de software creadas por la comunidad que pueden ejecutarse en computadoras individuales (a menudo con la ayuda de un potente hardware de consumo) sin ninguna restricción de este tipo.
Las opciones para las víctimas son escasas y frustrantes. Según el informe del FBI (descubierto por BleepingComputer), se recomienda a los padres que vigilen de cerca la actividad en línea de sus hijos, y busquen periódicamente su información personal en lugares donde no debería estar. Un buen consejo es utilizar servicios de búsqueda inversa de imágenes como Google o TinEye para encontrar lugares donde sus fotos personales puedan haber sido publicadas sin su consentimiento.
Se aconseja a las víctimas que no paguen a los chantajistas ni se apacigüen con ellos (esto no garantiza la eliminación de las imágenes o videos de Internet) y que sigan las medidas de seguridad habituales en las redes sociales, como rechazar las solicitudes de amistad de desconocidos y utilizar cualquier configuración de privacidad disponible.
Basado en el artículo de Michael Crider (PCWorld) y editado por CIO Perú