Pornografía Deepfake: Meta Comenzará a Analizarla, Empezando por Taylor Swift
El gigante tecnológico Meta ha decidido abordar la problemática del porno deepfake. La Junta de Supervisión de la compañía comenzará por analizar dos casos emblemáticos.
En uno de estos casos, una celebridad estadounidense, cuyo nombre permanece en el anonimato, vio su imagen alterada para crear contenido explícito, el cual fue eliminado de Facebook después de ser marcado como inapropiado. Sin embargo, en el segundo caso, el deepfake de una celebridad india continuó circulando en Instagram a pesar de las denuncias de los usuarios. Este incidente pone de manifiesto uno de los desafíos que enfrentan las plataformas tecnológicas: el porno deepfake no consensuado.
Contenido relacionado: Opinión: ¿Son las Redes Sociales un Lugar de Riesgo para Niñxs y Adolescentes?
¿Un trato desigual en la moderación de Meta?
Julie Owono, que es parte de la Junta de Supervisión de Meta, dijo según Wired que persisten dificultades en el ejercicio de detectar este tipo de contenido: “La detección no es tan perfecta o eficiente como desearíamos”.
Además, existe la preocupación de un trato desigual en la moderación del contenido, especialmente entre diferentes regiones del mundo. La copresidenta de la Junta de Supervisión, Helle Thorning-Schmidt, enfatizó en la necesidad de una protección equitativa. “Sabemos que Meta es más rápido y eficaz a la hora de moderar contenido en algunos mercados e idiomas que en otros. Al tomar un caso de Estados Unidos y otro de India, queremos ver si Meta está protegiendo a todas las mujeres a nivel mundial de manera justa”, señaló.
Porno deepfake: qué dicen las investigaciones
En una investigación reciente, se encontraron deepfakes de más de 4 mil celebridades y en otro estudio, el hallazgo fue que en los casos de pornografía falsa no consensuada, las mujeres son las principales afectadas. Uno de los casos más recordados fue el de la cantante Taylor Swift, que se volvió viral en Facebook, Instagram y especialmente en X, donde una publicación obtuvo más de 45 millones de visitas.
Contenido relacionado: La Doble Moral de Threads: Palabras como ‘Marihuana’ y ‘Psicodélicos’ Levantan Alarmas, pero el Alcohol y el Tabaco No
Si bien no es noticia el hecho de que exista este tipo de pornografía, la novedad es que, después de que ha pasado una cantidad de tiempo considerable, de a poco se está pensando en la forma de legislar para finalmente atender esta cuestión. La Ley DEFIANCE, introducida por legisladores estadounidenses para abordar estas preocupaciones, permite a las víctimas denunciar este tipo de situaciones y es una de las pocas herramientas que existen para estas.
Dada la creciente disponibilidad de tecnología y la falta de legislación, una ley no es suficiente. Porque, en palabras de la congresista Alexandria Ocasio-Cortez: “Las víctimas de deepfakes pornográficos no consensuales han esperado demasiado para que la legislación federal responsabilice a los perpetradores”.
Más contenido de El Planteo:
¿Tienes ideas o comentarios? Puedes contactarnos en info@elplanteo.com
Síguenos en Instagram, Facebook y Twitter.
Todo el material compartido por ElPlanteo.com tiene fines únicamente periodísticos e informativos.
