Elon Musk, propietario y CEO de X, difundió en su cuenta de X un deepfake de la vicepresidenta Kamala Harris. Es una violación potencial de las políticas de la propia X sobre este tipo de contenido sintético.
Por qué es importante. Este incidente reaviva las preocupaciones sobre los deepfakes generados por IA y su potencial para difundir desinformación. Especialmente a medida en que se acercan las elecciones presidenciales de EEUU de 2024.
En perspectiva. Los deepfakes usan IA para crear audios o vídeos convincentes, aunque falsos, de personas reales. Representan una amenaza creciente para la confianza pública en la información, la propagación de bulos y la integridad electoral.
- En Xataka hablamos de esto en 2018 a cuento de un deepfake de Barack Obama, anticipando que en el futuro sería más fácil y rápido hacerlos, y que sus consecuencias para la desinformación serían importantes.
Los detalles:
- El vídeo sintético recrea la voz de Kamala Harris, pero poniendo palabras falsas en su boca.
- En él, Harris dice que Biden está senil, que son marionetas de las profundidades del Estado y que su elección ha sido "por diversidad".
- "Soy mujer y de color, así que si criticas algo de lo que digo, eres sexista y racista", añade el vídeo falso.
- Fue publicado originalmente como una parodia, pero Musk lo compartió sin ningún tipo de advertencia adjunta. Solo dijo un ambiguo "Esto es increíble 😂".
- Lleva más de 128 millones de reproducciones, y subiendo.
- Las imágenes que usa son las del anuncio real de la campaña de Harris.
Entre líneas. La política de uso de X prohíbe compartir material manipulado que pueda engañar o confundir a las personas, y atribuye a quien lo difunde toda la responsabilidad.
La publicación de Musk encaja en esta prohibición, pero sigue sin ser eliminada ni etiquetada.
Más contexto.
- Musk ha respaldado a Donald Trump para las elecciones de 2024.
- X permite "memes y sátira" siempre y cuando no lleven a confusión.
- La falsificación es lo bastante buena como para asumir que muchas personas lo tomarán como auténtico.
La cara B. Harris ha criticado en su campaña las "mentiras" y las "manipulaciones" de su rival Donald Trump, pero también de Elon Musk.
Ahora quedan las interrogantes sobre cómo se va a abordar el uso de IA para crear vídeos manipulados pero convincentes de forma masiva.
En resumen. A medida que las herramientas de IA son cada vez más rápidas, eficaces y accesibles, crece el potencial de las campañas de desinformación y de la interferencia electoral.
Antes o después habrá, presumiblemente, legislaciones mucho más severas contra la difusión de este tipo de material haciéndose pasar por real.
Imagen destacada | Xataka con Midjourney
Ver 32 comentarios
32 comentarios
jackues
Elon Musk compró Twitter para convertirlo en su patio de recreo. Pues eso está haciendo.
La aplicación no tiene imparcialidad alguna y más con las últimas filtraciones de "black list" de cuentas en función de orientación política.
elerradicador
El adalid de la "verdad" demostrando lo que realmente es, un déspota que se compro una red social para controlar el mensaje y manipular a su rebaño.
dani43321
"La falsificación es lo bastante buena como para asumir que muchas personas lo tomarán como auténtico."
El chiste se cuenta solo.
miked
Elon Musk hace tiempo que pasó de ser un empresario de éxito a un casposo de barra de bar de barrio marginal.
Sus tweets hay que tomárselos como exabruptos de una persona con serios problemas psiquiátricos sin tratar. Lástima que la gente le crea.
TOVI
A ver si termina de desaparecer esa plataforma de fakenews de una vez por todas.
ilota
"La falsificación es lo bastante buena como para asumir que muchas personas lo tomarán como auténtico."
Yo no puedo hacer nada por la comprensión lectora de algunos, lo reconozco y por ello tampoco pretendo dar lecciones, pero no darse cuenta de que el mensaje acaba con un emoji que deja bien a las claras que se trata de un meme (si Harris en verdad hubiese dicho eso dudo mucho que nadie se estuviese riendo) ... en fin.
depeche2001
Por dios, Twitter es de Elon Musk, puede hacer lo que quiera. Y lo hizo a propósito, progres....
labandadelbate
Con dejar de usar X solucionado, que tal si la UE le cierra el chirringuito en sus fronteras y le ponga una multa acorde a la infracción.
Pajarraco García
Todo esto empezó con aquello de "no se si será verdad, pero por si acaso lo comparto".
efdtlc
Basura everywhere. Aquí valdría la imagen de la m. de Lynx.