Los videos falsos de famosos en YouTube están engañando a millones

Mark Wahlberg se endereza la corbata y sonríe al público cuando toma asiento en el programa de entrevistas diurno The View, antes de su esperada entrevista. Inmediatamente se siente desconcertado por la presentadora, Joy Behar. Hay algo que no encaja en sus modales. Sus ojos parecen sospechosos, incluso depredadores. Hay una sensación casi de uncanny valley (valle inquietante): su presencia resulta extrañamente inhumana. Sus instintos son correctos, por supuesto, y pronto se ve obligado a defenderse de un aluvión de insultos crueles que juegan con sus vulnerabilidades más profundas. Pero Wahlberg se mantiene firme. Mantiene la compostura mientras Behar le grita que se baje del escenario. «Me iré, pero no porque me eches. Me voy porque tengo demasiado respeto por mí mismo como para sentarme aquí y ser maltratado por alguien que ha olvidado qué es la decencia». El público se queda estupefacto, sobre todo los espectadores de YouTube, que no tardan en dedicarle palabras tranquilizadoras.

«Así se hace, Mark. Te queremos. The View debería estar fuera de la televisión. Espero que todos a los que insultan los demanden por millones y millones, hasta que no puedan ni pagar la producción», añade otro.

Es una escena que ha sido descrita como uno de los momentos más comentados de la historia de la televisión diurna. Salvo que Mark Wahlberg no ha sido invitado a The View desde 2015. ¿El giro inesperado? Nada de esto sucedió en la realidad, sino que transcurrió en un video de 25 minutos de duración, al estilo fan fiction, realizado con la magia de la inteligencia artificial para engañar potencialmente a 460,000 espectadores ávidos de drama. No es de extrañar, dado que la enorme cantidad de basura de IA que circula por la red ha alcanzado niveles insospechados, con clips tan realistas que hacen tropezar hasta al más ágil.

Pero quizá lo más sorprendente de este choque de titanes tan poco original es que nada de esto ocurre en el video. A pesar de la cinética confrontación de sus personajes, Mark Wahlberg Kicked Off The View After Fiery Showdown With Joy Behar (Mark Wahlberg fue expulsado de The View tras un acalorado enfrentamiento con Joy Behar) está completamente inmóvil, salvo por un filtro granulado añadido sobre una imagen fija. Entretiene al público simplemente con una voz en off de inteligencia artificial, que narra un guion escrito por un gran modelo de lenguaje (LLM) y cargado de clichés tan teatrales como «apretar el puño» y «temblar la mandíbula». Es barato, perezoso, la definición misma de basura, pero de algún modo el canal en el que se emite, Talk Show Gold, ha conseguido más de 88,000 suscriptores, muchos de los cuales expresan su total incredulidad cuando otros comentaristas les informan de que lo que están viendo son «noticias falsas».

«Estos videos son lo que podríamos llamar cheapfakes más que deepfakes, ya que están improvisados a partir de una variopinta selección de imágenes y videoclips reales, con una voz en off y subtítulos básicos de IA», explica Simon Clark, psicólogo cognitivo de la Universidad de Bristol especializado en desinformación generada por IA. Añade que, a primera vista, puede sorprendernos que la gente se deje engañar por algo tan poco sofisticado, pero en realidad hay factores psicológicos sólidos en juego. También explica que los clips suelen centrarse en técnicas retóricas que animan al público a abandonar las habilidades de pensamiento crítico apelando a la emoción.

Youtube se ha plagado de fan factions atroces

Una investigación de WIRED descubrió 120 canales de YouTube que empleaban tácticas similares. Con nombres engañosos como «Starfame», «Media Buzz» y «Celebrity Scoop», se camuflan junto a auténticos clips recopilatorios de programas como Jimmy Kimmel Live y Today With Jenna & Friends para ganar credibilidad. Las descripciones de sus canales dan la impresión de ser melodramáticas publicaciones sensacionalistas: algunas ocultan sus declaraciones de IA bajo muros de texto que destacan «los mejores momentos» o «los momentos más inolvidables, hilarantes e icónicos», mientras que otras las omiten por completo para darles más estilo.

El 15 de julio, YouTube actualizó sus políticas para reprimir los contenidos creados con IA generativa. El Centro de ayuda de la plataforma estipula que los contenidos susceptibles de ser monetizados deben cumplir los requisitos de YouTube de ser lo suficientemente «auténticos» y «originales», pero no se menciona directamente la IA generativa, sino que la política se limita a establecer que los contenidos monetizables deben «ser una creación original» y «no estar producidos en masa ni ser repetitivos». Otra política sobre «revelación del uso de contenido alterado o sintético» establece que los creadores deben informar cuando el contenido «hace que una persona real parezca decir o hacer algo que no hizo», «altera las imágenes de un evento o lugar real» o «genera una escena de aspecto realista que en realidad no ocurrió».

WIRED se puso en contacto con YouTube para pedir comentarios sobre los más de 100 canales de fan fiction de famosos generados por IA, así como aclaraciones sobre cómo se aplicarían las nuevas políticas. «Todo el contenido subido a YouTube debe cumplir con nuestras Directrices de la Comunidad, independientemente de cómo se genere. Si descubrimos que un contenido infringe una política, lo eliminamos», declaró Zayna Aston, directora de comunicaciones de YouTube EMEA. Aston también reiteró que los canales que emplean prácticas engañosas no están permitidos en la plataforma, incluidos los que utilizan metadatos, títulos y miniaturas engañosos.