La perspectiva de un referéndum sobre la soberanía de Alberta desencadenó una ola de historias de clickbait en sitios para compartir videos a principios de este año.
Pero en un desarrollo que un experto llama “preocupante”, las granjas de contenido que normalmente usan IA para narrar videos han ideado una manera de evitar la represión de dicho contenido: utilizando personas reales.
Con la proliferación de fácilmente disponibles inteligencia artificial herramientas, es probable que los usuarios de redes sociales se encuentren con “desechos de IA”: contenido engañoso, de baja calidad, producido en masa y que a menudo se considera spam.
Por ejemplo, un vídeo que atrajo más de un millón de visitas en TikTok el mes pasado afirmó audazmente en su título que “¡Alberta y Saskatchewan acaban de hacer OFICIALMENTE un ACUERDO DE SALIDA que CONMOCIONÓ a Canadá!”
La historia, que carecía de fuentes que fundamentaran el acuerdo de salida, fue entregada por un avatar de IA generado por Hola gen. La voz en off automatizada incluso pronunció mal la capital de Saskatchewan, Regina.
Sin embargo, algunos canales con titulares igualmente sensacionalistas han optado por un toque más humano con personas reales siguiendo guiones a veces plagados de errores y verdades a medias.
POLÍTICOS DE IA Y COMENTARIOS GUIADOS
The Canadian Press identificó tres canales con cientos de miles de visitas entre ellos que publicaban comentarios políticos canadienses engañosos utilizando presentadores que anunciaban sus servicios como locutores o presentadores.
El reportero canadiense, Zona Canadiense y El reportero de efectos Los canales de YouTube utilizaron miniaturas con imágenes generadas por IA del primer ministro Mark Carney, la primera ministra de Alberta, Danielle Smith y otros, para atraer clics.
The Canadian Reporter y Effect Reporter incluyeron contenido que se inclinaba tanto hacia la izquierda como hacia la derecha, con muchas publicaciones que exageraban los efectos de la guerra comercial de Canadá con los Estados Unidos.
Tanto Canadian Zone como Effect Reporter han estado en YouTube durante años, pero el contenido con presentadores reales parece haber aparecido por primera vez en agosto.
Había indicios de que algunos de los comentarios guionados se escribieron con la ayuda de herramientas de inteligencia artificial, incluidas palabras y frases repetitivas, falta de fuentes y errores fácticos.
Algunos errores eran obvios, como referirse al “gobierno de Trudeau” en un comunicado del 9 de agosto. Puesto de la zona canadiensetitulado “¡ÚLTIMA HORA! Canadá ESTALLA después de que las provincias occidentales lanzan un nuevo anuncio MASIVO de WEXIT”.
La publicación se publicó unos cinco meses después de que Justin Trudeau dimitiera como primer ministro.
El vídeo también menciona una conferencia de prensa celebrada un día antes por la primera ministra de Alberta, donde supuestamente esbozó un marco para la separación con “líderes de Saskatchewan” presentes.
Un itinerario de su oficina la tiene de vacaciones en ese momento y no se puede encontrar ningún evento en el Canal de YouTube de YourAlbertadonde se graban las conferencias de prensa oficiales.
Un 14 de octubre correo de The Canadian Reporter dijo: “Los datos de las encuestas muestran que más de la mitad de la población de Saskatchewan apoya la autonomía si Ottawa mantiene sus impuestos al carbono”.
El vídeo no ofrece fuentes para esta afirmación, pero una encuesta del Instituto Angus Reid en mayo encontró que el 34 por ciento de los encuestados apoyaba que Saskatchewan abandonara la Confederación.
Recibe noticias nacionales diarias
Reciba los principales titulares de noticias, políticos, económicos y de actualidad del día en su bandeja de entrada una vez al día.
El titular de la publicación mencionaba un acuerdo firmado de “Wexit”, pero no se discutió en el video y no hay acuerdos oficiales entre las provincias occidentales con respecto a la separación occidental.
EL TOQUE HUMANO
El reportero canadiense identificado su presentador como “reportero Andrew Wilson”, pero una búsqueda inversa de la foto del presentador condujo a un sitio web que anunciaba servicios de locución profesionales de una empresa con sede en Pensilvania. andres baldwin.
Las imágenes en el sitio web de locución coinciden con las utilizadas en el canal de YouTube, y una lista de servicios ofrecidos incluye “rendimiento ante la cámara” y “marca del canal” para YouTube.
Una búsqueda inversa de imágenes del presentador de la Zona Canadiense, a menudo identificado en el canal como “@gshoemakerr” o “Griffin”, condujo a una página que anunciaba servicios de locución de otro estadounidense, Griffin S., en Trabajo arribaun sitio web de servicios de conciertos.
Búsquedas posteriores condujeron a un perfil de trabajo de locución con su nombre completo, Griffin Shoemaker, y un pagina personal de youtube. El fondo de los vídeos publicados en su canal coincidía con los del canal Canadian Zone.
Utilizando el mismo método, The Canadian Press identificó a tres personas que parecen haber presentado el canal The Effect Reporter. Los perfiles en línea los describen como actores, narradores o locutores y sugieren que residen en Estados Unidos, Sudáfrica y Canadá.
La prensa canadiense buscó comentarios varias veces de las cinco personas que parecían ser los anfitriones.
Terran Rae Smithun actor y narrador que parece haber sido anfitrión de El reportero de efectos canal, dijo que no podía discutir detalles del canal. Baldwin inicialmente accedió a comentar por correo electrónico pero no respondió a las preguntas. Los otros tres no respondieron a las solicitudes de comentarios.
Comentarios Debajo de un video de Canadian Zone, aparentemente el primero en el que aparece Shoemaker, se insinúa una posible razón por la que los canales cambiaron a usar personas reales para enviar sus mensajes: “Es bueno ver tu cara; se siente menos clickbaity”, mientras que otro sugirió que obtendrían más suscripciones. De esta manera, la gente se está “cansando de toda la IA”.
ECOSISTEMA DE INFORMACIÓN ‘DISTÓPICO’
“Es realmente preocupante”, dijo Aengus Bridgman, director del Observatorio del ecosistema de medios y profesor asistente en la Escuela de Políticas Públicas Max Bell de la Universidad McGill.
“No creo que nadie pueda ver esto y decir: ‘Guau… queremos guiones generados por IA, hostigamiento partidista, leídos por actores’. Esta es una de las muchas características un tanto distópicas de nuestro ecosistema de información actual”.
Bridgman dijo que si bien las técnicas podrían ser explotadas por fuerzas políticas (y hay algunos actores estatales que crean contenido similar), cree que el objetivo principal de los videos de separación occidentales es generar dinero a través de clics.
El uso de locutores en vídeos de spam político de YouTube no es inaudito.
Una investigación realizada por el Laboratorio de Investigación Forense Digital del Atlantic Council y CNET sobre un colección de canales de youtube en 2020 descubrió que muchos utilizaban locutores para leer guiones extraídos de sitios web políticos marginales.
La aparición de las páginas de contenido canadiense alojadas por actores en agosto se produjo poco después de que YouTube cambiara su política para apuntar a las llamadas cuentas de IA.
El cambio de julio endureció las reglas que definen el contenido “auténtico”, prohibiendo la monetización de videos que la plataforma considera producidos en masa o repetitivos.
El reportero canadiense Tenía dos canales y uno con más de 60.000 suscriptores había sido eliminado por la plataforma a mediados de octubre.
Cuando se le contactó para hacer comentarios el 24 de octubre, un portavoz de YouTube confirmó que los canales Canadian Reporter, Canadian Zone y Effect Reporter fueron cancelados bajo sus políticas contra spam, prácticas engañosas y estafas.
Sin embargo, más tarde ese mes, el canal Canadian Reporter con 60.000 suscriptores volvió a estar en YouTube y continúa publicando videos sobre la separación occidental.
“Con 500 horas de video subidas cada minuto a YouTube, contamos con que los miembros de nuestra comunidad conozcan nuestras pautas comunitarias y marquen el contenido que creen que las viola”, dijo el portavoz por correo electrónico.
“Revisamos rápidamente todo el contenido marcado y, si encontramos que un video viola las pautas, lo eliminamos.
“También contamos con un equipo que se dedica a identificar y eliminar el spam de YouTube”.
Zone Media, el propietario de la cuenta de Canadian Zone, dijo en una publicación el año pasado en la plataforma X que YouTube había eliminado su canal con más de 100.000 suscriptores.
Según un versión archivada de ese canal, publicó muchas publicaciones alarmistas y prorrusas sobre el inminente colapso de Estados Unidos.
RESPUESTA DE LOS CANALES
En la descripción de su canal, The Canadian Reporter tenía una descargo de responsabilidad diciendo que los videos podrían explorar “información no verificada” y que “no deben interpretarse como hechos confirmados”.
La Zona Canadiense no hizo tal descargo de responsabilidad.
dijo se publicó “Comentario político estadounidense y canadiense” y era “orgullosamente conservador”. En un 27 de octubre publicar en X Sobre la terminación de Canadian Zone por parte de YouTube, Zone Media cuestionó el hallazgo de que producía spam y negó el uso de inteligencia artificial o automatización.
“Somos un equipo de red de medios legítimo que produce noticias estilo comentario cara a cámara utilizando sólo fuentes verificadas”, dijo.
The Canadian Press contactó tanto a The Canadian Reporter como a Canadian Zone a través de las direcciones de correo electrónico que figuran en las descripciones de sus canales. Effect Reporter no proporcionó información de contacto en la descripción de su canal.
No hubo respuesta de The Canadian Reporter, pero sí un portavoz de Zone Media Network. respondió por correo electrónico en nombre de la Zona Canadiense.
El portavoz, que se identificó como Jordan Ellis, dijo que los videos sobre la separación occidental fueron eliminados después de una “revisión de contenido de rutina” para “optimizar nuestra biblioteca de contenido y enfocarnos en temas más actuales y relevantes”.
Ellis también dijo que los videos fueron presentados como “comentarios, no como promoción”.
Los representantes del canal rechazaron una entrevista telefónica y no respondieron preguntas específicas sobre el contenido que distribuyen.
Para Bridgman, del Media Ecosystem Observatory, los videos representan una “intrusión creciente” de IA en nuestro entorno de información, y teme que las plataformas de redes sociales no saben cómo abordar la ola de contenido engañoso.
“Este es un mundo nuevo, todo el mundo está tratando de descubrirlo, pero la cantidad de contenido generado por IA que estamos empezando a ver en las redes sociales es realmente preocupante”, dijo.
“El humor y el entretenimiento tienen un valor enorme, pero usarlos en política para movilizar a la base contribuye aún más a este entorno en el que no está claro qué es verdad y qué no”.
