Los videos de IA de mujeres negras representadas como 'Bigfoot' se están volviendo virales

Una "villana Pie Grande" generada por IA , con uñas acrílicas y peluca rosa, se dirige directamente a su público imaginario con un iPhone. "Quizás tengamos que darnos a la fuga", dice. "Me buscan por una denuncia falsa sobre el padre de mi bebé". Este vídeo de IA, generado por Veo 3 de Google, ha acumulado más de un millón de visualizaciones en Instagram . Es solo una de las muchas publicaciones virales en Instagram y TikTok vistas por WIRED que representan a las mujeres negras como primates y perpetúan los clichés racistas mediante herramientas de vídeo de IA .

Veo 3 de Google fue todo un éxito entre el público online cuando se presentó en la conferencia de desarrolladores de la compañía en mayo. Generaciones surrealistas de personajes bíblicos y críptidos, como Pie Grande, que hacían vlogs al estilo de los influencers se extendieron rápidamente por las redes sociales. Los vlogs de Pie Grande generados por IA incluso fueron utilizados por Google como argumento de venta en anuncios que promocionaban la nueva función.

Con los "malos Pies Grandes", los creadores en línea están aprovechando una tendencia bastante inocua en redes sociales para deshumanizar a las mujeres negras. "Existe un precedente histórico que explica por qué esto resulta ofensivo. En los primeros tiempos de la esclavitud, se exageraba la representación de las personas negras en las ilustraciones para enfatizar sus características primarias", afirma Nicol Turner Lee , directora del Centro de Innovación Tecnológica de la Brookings Institution.

“Es repugnante y perturbador que estos tropos e imágenes raciales estén fácilmente disponibles para ser diseñados y distribuidos en plataformas en línea”, afirma Turner Lee.

Una de las cuentas de Instagram más populares que publica estos clips generados tiene cinco videos con más de un millón de visualizaciones, menos de un mes después de su primera publicación. Los videos de IA muestran a los híbridos de animal y mujer hablando inglés vernáculo afroamericano de forma caricaturesca, y a menudo se les muestra con un sombrero y amenazando con pelear con la gente. En un clip, la generación de IA, con acento rural, insinúa que sacó una botella de licor Hennessy que llevaba guardada en sus genitales.

Veo 3 puede crear todo lo que se ve en videos como este, desde la escenografía hasta el audio hablado y los propios personajes, con una sola instrucción. La biografía de la popular cuenta de Instagram incluye un enlace a un curso en línea de $15 donde puedes aprender a crear videos similares. En videos con títulos como "Veo 3 hace el trabajo pesado", tres profesores usan voz en off para guiar a los estudiantes en el proceso de usar la herramienta de video con IA para clips de Pie Grande y crear personajes consistentes. La dirección de correo electrónico que figuraba como administrador del curso en línea recibió mensajes devueltos cuando WIRED intentó contactar a los creadores.

Un portavoz de Meta, propietaria de Instagram, se negó a hacer comentarios al respecto. Tanto Google como TikTok reconocieron la solicitud de comentarios de WIRED, pero no emitieron una declaración antes de la publicación.

Nuestro análisis de redes sociales encontró cuentas imitadoras en Instagram y TikTok que republican los clips de "Bigfoot Baddie" o generan videos similares. Un republicado de un video en Instagram tiene un millón de visualizaciones en una página de memes centrada en IA. Otra cuenta de Instagram tiene otro video de "Bigfoot Baddie" con casi 3 millones de visualizaciones. No solo ocurre en Instagram; una cuenta de TikTok dedicada a contenido similar generado por IA actualmente tiene más de un millón de "me gusta". Estas cuentas no respondieron de inmediato a nuestra solicitud de comentarios.

“Si muero aquí, mejor que me resucite con una BBL”, dice una Pie Grande hembra generada por IA en otra cuenta, hablando a la cámara mientras esquiva bombas durante sus vacaciones en Israel. “Uno de los problemas con la IA generativa es que los creadores de herramientas de IA no pueden concebir todas las maneras en que las personas pueden ser horribles entre sí”, dice Meredith Broussard, profesora de la Universidad de Nueva York y autora deMore Than a Glitch , un libro sobre sesgos en la tecnología. “Por lo tanto, no pueden poner suficientes barreras. Es exactamente el mismo problema que hemos visto en las plataformas de redes sociales”.

Después de hacer clic en algunos de los videos de Pie Grande femenino, el feed de Reels de Instagram de nuestra cuenta de prueba pronto se llenó por el algoritmo con otros videos racistas, incluido una generación de IA de un hombre negro en un barco de pesca atrapando con entusiasmo un trozo de pollo frito y refiriéndose a un chimpancé como su hijo.

Si bien estos videos de IA son inquietantes, no son necesariamente sorprendentes. En 2023, mientras un video generado por IA de Will Smith comiendo espaguetis se hacía viral en redes sociales, el escritor senior de WIRED, Jason Parham, lo analizó como una forma de juglarismo. «Esta nueva era de juglarismo asumirá una forma camaleónica aún más astuta, adaptable e inmediata en su astucia, desde deepfakes humanísticos y manipulaciones de voz precisas hasta todo tipo de engaños digitales», escribió Parham en aquel momento.

Con esta última ola de herramientas de video generativo con IA, lideradas por Veo 3 de Google, producir videos fotorrealistas con IA nunca ha sido tan fácil. La facilidad para generar numerosos videos, sumada a la constante difusión de contenido basura de IA en las redes sociales, es parte de lo que ha popularizado a estos "malos Pies Grandes". Es probable que continúen las tendencias en redes sociales donde los creadores usan la IA para atacar a grupos minoritarios. "La IA no solo ha facilitado la manipulación de imágenes", afirma Turner Lee. "Sino que el propio algoritmo, y su ecología, también ha facilitado compartir o aumentar el consumo de este contenido".