Por: Gustavo Manrique Salas | [email protected]
Los avances tecnológicos están a la orden del día. La Inteligencia Artificial (IA) y el desarrollo de herramientas y aplicaciones cada vez más sofisticadas están generando un impacto sin precedentes en nuestra sociedad.
Entre las grandes preocupaciones para los próximos años están los deepfakes, que son videos o imágenes generados por computadora que parecen ser reales, pero en realidad son manipulaciones digitales. Estas herramientas tecnológicas han avanzado rápidamente en los últimos años, lo que ha generado una creciente ola de desinformación a través de redes sociales y medios audiovisuales.
Por un lado, los deepfakes pueden ser utilizados para crear videos divertidos o para mejorar la calidad de películas y videojuegos. Sin embargo, su uso más preocupante es el que se utiliza para engañar o manipular a la sociedad.
Crear un noticiero, con periodistas que parecen reales, en un estudio de televisión con el logo de una reconocida cadena internacional y comunicar noticias falsas para que la gente las crea es posible en un instante.
Esto puede tener graves consecuencias, ya que las personas pueden creer en información manipulada con intereses ocultos y tomar decisiones basadas en esa información falsa. Además, los deepfakes también pueden ser utilizados para crear propaganda política, para difamar a personas inocentes y generar profundos conflictos sociales.
En un artículo publicado por la experta Rocío García, se destaca que “los rostros generados sintéticamente no sólo son fotorrealistas, sino que son casi indistinguibles de los reales y se consideran más fiables”. Esto tiene una ventaja si queremos utilizarlo para fines como marketing o como el cine, pero también puede generar muchos problemas. Los investigadores concluyen que el punto de realismo de los deepfake hace que sean algo completamente peligroso de cara a desinformación y extorsiones.
Un estudio publicado en la revista Proceedings of the National Academy of Sciences de Estados Unidos utilizó rostros de hombres y mujeres recopilando 400 imágenes reales y 400 imágenes digitales para tres grupos de personas que tenían que distinguir entre ambas recibiendo información, sin recibir formación, etc.
Las conclusiones del estudio alertan del peligro de estas tecnologías, la predisposición de los usuarios para creer en imágenes falsas y la facilidad para crearlas.
Es importante que la sociedad tome medidas para combatir el uso malintencionado de los deepfakes. Esto puede incluir la creación de nuevas tecnologías para detectar los deepfakes, así como la educación de la sociedad sobre cómo detectar información falsa.
También es una exigencia que las empresas tecnológicas tomen medidas para limitar el uso malintencionado de los deepfakes en sus plataformas. Esto puede incluir la eliminación de videos falsos o la eliminación de cuentas que los difunden.
Los deepfakes van a tener un impacto negativo en la sociedad; es un riesgo inminente para los Estados, las corporaciones, los líderes sociales y los ciudadanos. Alerta roja.
***Las opiniones aquí expresadas son de exclusiva responsabilidad del autor, y pueden no coincidir con las del cuerpo editorial de esta revista o las de este gremio empresarial.
