La evolución de la tecnología no termina. Con la implementación de la IA, las formas de ver al mundo también han cambiado, debido a que surge diversos argumentos sobre su funcionamiento en la sociedad en campos como el trabajo empresarial, la música, pero, sobre todo, la identidad misma de un ser humano.
Hoy te queremos hablar sobre lo que se conoce como Deepfakes, una aplicación que está permitiendo, a cualquier persona en el mundo, manipular la imagen o la voz mediante la IA. Esto, en primer lugar, ya asusta. Y es que, a través de redes sociales, se han vuelto virales algunos videos que ya han sido suplantados con la voz de otros artistas.
Sin ir más lejos, el cantante de Trap, Eladio Carrión, fue uno de los primeros sorprendidos. ¿Alguna vez escuchaste la letra de una canción que se conoce como «Mi primera chamba… me acuerdo que de la chamba yo me enamoré […]»? Te la mostramos.
@funny.malandro MI PRIMERA CHAMBA X3 #miprimerachamba #humor #parati #JAJAJA #😂 ♬ sonido original – Ignacio Molina Mercado
Para darte aún más contexto, la canción sí existe, pero no esta frase, no es ni cerca. Se conoce que todo nació de la canción de Carrión bajo el título «La chamba llama»; luego, un usuario de TikTok que se hace llamar en su perfil como Bluegray, modificó la letra original del cantante que dice «Mi primer par de pesos» y colocó «Mi primera chamba». Gracias a la IA, sustituyó la voz original con la del artista y quedó este mínimo pedazo de letra que se ha hecho mundialmente famoso.
Pero este es solo el inicio, porque las Deepfakes ya no se encuentran solas. Los expertos en tecnología han descubierto el algoritmo que permite la recreación (en tiempo real) de rostros, movimientos y hasta voz de las personas, que pueden llegar a suplantar la identidad de una persona con un solo clic, o como dirían por ahí, con solo la imaginación.
Te podría interesar: La NASA detectó una intensa llamarada solar
¿Qué es la FSGAN?
Hay que comenzar describiendo qué significa cada una de sus siglas. El nombre real es ‘Face Swapping GAN’ o, como se conoce en español, ‘Red generativa antagónica «cambia caras»‘.
Este es un programa que permite tomar dos tipos de caminos de suplantación de identidad, a través de las Deepfakes con un formato de video. Por un lado, está la ‘face swapping’, con la que superpone el rostro de una persona sobre el cuerpo de otra.
Sin embargo, también existe una segunda opción conocida como ‘face reenactment’, con la que permite retomar la esfinge (la actitud de una persona) aplicándole los movimientos (incluyendo la de los labios).
Además, según han mencionado expertos en el tema, han dicho que la simplificación de este programa permite que cualquier persona (con conocimientos básicos) pueda realizar Deepfakes, ya que el trabajo más complicado se realiza automatizado.
TAUVOD, institución de educación superior e investigación más grande y completa de Israel, presentó un foro sobre el análisis de las FSGAN y cómo funciona este programa y los resultados que produce, desde la investigación, hasta el objetivo final que se consigue.
Por el momento, quizá, en diferentes partes del mundo, este tipo de tecnología asombre a muchas personas, pero continúan preocupando a otra cantidad que se pueden ver involucradas en situaciones comprometedoras, por personas inescrupulosas.
- Deepfakes: pornografía que nunca encontrarás
Uno de los temas vinculados es la generación de ‘nueva pornografía’, donde la suplantación de identidad (por parte de personas que quieren poner en mal la imagen de otra) lleva a tocar fibras sensibles sobre a quién corresponde el delito y los posibles vacíos legales en la IA.
En el año 2023, Wired realizó una investigación denominada ‘El porno Deepfakes está fuera de control’, busco revelar la cantidad de videos deepfakes que se están produciendo y distribuyendo, cifra que volvió a poner en tela de juicio la función de la IA.
La investigación arrojó que, hasta ese momento, se habían subido más de 244,625 videos en aproximadamente 35 portales web que permiten alojar esta clase de contenido. Además, dentro de los primeros 9 meses del 2023, se conoció que hubo más de 113,000 vídeos a los sitios web, una cantidad que refleja (en porcentajes) del 54% en comparación al 2022.
Sophie Maddocks, investigadora sobre derechos digitales y violencia sexual cibernética en la Universidad de Pensilvania, ha mencionado durante sus intervenciones, «esto es algo que se dirige a la gente común, a los estudiantes de secundaria y a los adultos cotidianos, se ha convertido en algo cotidiano».
«Haría una gran diferencia si pudiéramos hacer que estas tecnologías fueran más difíciles de acceder. No debería tomar dos segundos para incitar potencialmente a un delito sexual», afirmó.
Maddocks ha tenido su última intervención el pasado 1 de febrero de este año, para la WBAI Radio, con quien expuso el tema de «El auge de los desnudos generados por IA», donde denunció diversas agresiones de todo tipo.
La IA sigue avanzando, y aunque ahora se posean grandes virtudes que pueden generarse a través de ella, también genera discusiones que parece que necesitan un marco legal que controle algunas acciones.
Te podría interesar: La Tierra recibe energía de un satélite por primera vez
