El auge del deepfake: cómo la tecnología de la IA está impulsando un aumento preocupante de los engaños en línea

A medida que avanza la era digital, también lo hacen las formas en que las personas utilizan las nuevas tecnologías. Recientemente, el avance de la Inteligencia Artificial (IA) ha dado lugar a una preocupante arma en manos de los ciberdelincuentes: el deepfake. Esta técnica, respaldada por algoritmos como las Redes Generativas Antagónicas (GAN) o las Redes Generativas Adversariales (RGA), permite la creación de imágenes, vídeos o audios falsos que resultan sorprendentemente realistas, con el propósito de cometer estafas virtuales y engaños en línea.

Según datos del Foro Económico Mundial, el deepfake está experimentando un crecimiento anual del 900%. Estas cifras muestran cómo este ciberdelito se ha expandido en todo el mundo, no solo para cometer fraudes, chantajes, manipulaciones o dañar la reputación de individuos y empresas, sino también para fomentar la desinformación a través de ‘fake news’.

‘Esta tecnología basada en la IA se perfecciona cada vez más y se utiliza incluso para difundir información comprometida falsa, realizar estafas millonarias a empresas e incluso entorpecer campañas políticas. Nos encontramos ante una amenaza importante que puede tener un impacto significativo en la vida personal de un individuo o en el crecimiento de una marca. Es crucial estar alerta ante posibles vulnerabilidades. A medida que esta tecnología evoluciona, los deepfakes se vuelven más sofisticados y difíciles de detectar’, expresó Pablo Gagliardo, director general de Noventiq Argentina.

La capacidad de manipular rostros, voces y expresiones con una precisión sorprendente plantea serios desafíos a la hora de discernir entre lo auténtico y lo falso. Ante esta problemática, desde la empresa especialista comparten algunas estrategias para contrarrestar el deepfake.

1. Concientización y educación: La batalla contra el deepfake comienza con la concientización y la educación. Es fundamental que todos, desde el público en general hasta los profesionales y las empresas, comprendan qué es el deepfake, cómo funciona y cómo se puede reconocer en algunos casos.
2. Fortalecimiento de la autenticidad digital: Las plataformas tecnológicas deben invertir en tecnologías de autenticación robustas que permitan verificar la legitimidad de los contenidos compartidos en línea. Algoritmos de reconocimiento facial y de voz, así como marcas de agua digitales, pueden desempeñar un papel crucial en la protección de la integridad de los archivos multimedia.
3. Colaboración y cooperación: La lucha contra el deepfake requiere un esfuerzo conjunto de gobiernos, empresas tecnológicas, instituciones académicas y sociedad civil. Es necesario establecer alianzas sólidas para compartir conocimientos, recursos y mejores prácticas en la detección y mitigación de deepfakes. Además, la colaboración internacional es fundamental para abordar este desafío global y establecer estándares comunes que promuevan la integridad y la autenticidad en los medios digitales.
4. Legislación y regulación: Algunas ciudades, como California, ya han implementado leyes contra el uso malicioso del deepfake en aspectos pornográficos y políticos. Esto demuestra que los gobiernos deben trabajar en conjunto para establecer marcos legales que penalicen la producción y difusión de deepfakes con intención maliciosa.

‘Si bien en algunos casos es posible identificar un deepfake por movimientos bruscos, cambios de iluminación, parpadeos extraños o falta de sincronización labial, no debemos subestimar esta amenaza. Requiere un enfoque integral que abarque la educación, la tecnología, la legislación y la colaboración. Al implementar estrategias efectivas, podemos contrarrestar el avance del deepfake y proteger la integridad de la información en la era digital. Juntos, podemos salvaguardar nuestra sociedad y preservar la confianza en los medios que consumimos y compartimos’, concluyeron desde Noventiq.