Instagram está bajo una presión creciente después de que una investigación descubriera que millones de usuarios estaban enviando videos pronazis, que negaban el Holocausto y abiertamente antisemitas.
un informe de Fortuna descubrió que el contenido ofensivo se había colocado directamente junto a anuncios de algunas de las corporaciones más grandes de Estados Unidos, incluidas JP Morgan y SUNY. Las publicaciones incluso aparecieron junto con anuncios del ejército estadounidense.
Las revelaciones llegan pocos meses después. Meta director ejecutivo Mark Zuckerberg aflojó drásticamente las reglas de contenido y desmanteló el programa de verificación de datos de la compañía en Estados Unidos.
Zuckerberg defendió el cambio como un retorno a “dar prioridad a la libertad de expresión”, pero los críticos dicen que ha resultado en que la propaganda extremista esté más disponible en la plataforma.
En el centro de la controversia se encuentra una cuenta ahora desaparecida de una marca de moda conocida como @forbiddenclothes.
La cuenta parece haber sido eliminada, pero anteriormente publicó memes de temática fascista para generar una participación masiva, informó Fortune.
Uno de sus carretes inmovilizados visto por Fortuna junto con otros 31 millones de personas, presentaba a un oficial nazi de las SS de la película Bastardos sin gloria siendo utilizado como parte de un meme con la leyenda: “Cuando la familia discute sobre política y me piden mi opinión experta”.
Los comentarios que condenaban el uso del clip para glorificar el nazismo fueron superados en gran medida por las respuestas positivas según el informe, que también decía que interactuar con el video abrió una puerta a contenido más atroz.
Instagram se enfrenta a un intenso escrutinio después de que una investigación descubriera que los algoritmos de la aplicación hacían circular vídeos abiertamente antisemitas, pronazis y que negaban el Holocausto a grandes audiencias.
Las revelaciones se producen pocos meses después de que el director ejecutivo de Meta, Mark Zuckerberg, relajara drásticamente las reglas de contenido y desmantelara el programa independiente de verificación de datos de la compañía poco antes de que el presidente Trump regresara al cargo.
Un carrete que siguió mostró una “traducción” fabricada por IA de un supuesto discurso de Adolf Hitler, con gráficos que afirmaban identificar a los judíos en el gabinete de Trump y en las principales organizaciones de medios.
El vídeo, visto 1,4 millones de veces, mostraba estrellas de David retocadas con Photoshop en los rostros de las personas.
Los comentarios incluyeron: “Le debemos una disculpa al gran hombre”, en referencia a Hitler. Otro usuario escribió: ‘Tenía razón en todo’.
Un periodista de Fortune encontró memes que negaban el Holocausto, incluido uno en el que aparecía una figura con un “cerebro pequeño” que decía: “Gasó a millones de personas”. Leer un libro de historia’, y una figura ‘con un gran cerebro’ responde: ‘¿Quién escribió los libros de historia?’
La publicación, que sugiere que el Holocausto fue fabricado por el pueblo judío jugando con teorías de conspiración racistas sobre el control de los medios por parte del pueblo judío, acumuló 3,2 millones de visitas y más de 250.000 interacciones.
Después Fortuna Señaló las publicaciones a Meta, los clips desaparecieron silenciosamente, pero no antes de que circularan ampliamente.
El contenido apareció en un patrón que, según los expertos, es el resultado del sistema de recompensa del algoritmo de Instagram.
Una vez que un usuario interactúa incluso con un solo carrete codificado fascista, el motor de recomendaciones de Instagram “personaliza” un feed que rápidamente se transforma en una corriente de conspiraciones antisemitas, chistes racistas y glorificación del creador de imágenes nazi, a menudo empaquetado como humor o como una estética atrevida e irónica.
La investigación encontró que este contenido estaba superpuesto con publicidad paga de algunas de las marcas más respetadas del país, desde JPMorgan Chase hasta Nationwide Insurance, SUNY, Porsche e incluso el ejército de EE. UU.
El contenido extremista y los anuncios corporativos se reprodujeron uno tras otro, según la investigación. No hay indicios de que las empresas supieran junto a qué contenido se colocaban sus anuncios.
Meta eliminó las publicaciones una vez que fueron marcadas, aunque los videos ya habían llegado a una audiencia masiva.
Meta, propietaria de Facebook e Instagram, alguna vez fue una plataforma que invertía dinero en moderación, pero desde entonces ha cambiado de rumbo.
Un portavoz del ejército estadounidense dijo que el ejército no controla la colocación de anuncios de Meta.
Meta emitió una breve declaración a Fortune: “No queremos este tipo de contenido en nuestras plataformas y las marcas no quieren que sus anuncios aparezcan junto a él”.
La compañía dijo que agregó las publicaciones marcadas a su base de datos de material prohibido.
Meta no respondió a la solicitud de comentarios del Daily Mail. Daily Mail también se ha puesto en contacto con JPMorgan Chase, Nationwide Insurance, SUNY y Porsche.
Las propias políticas del propietario de Instagram prohíben explícitamente la negación del Holocausto, las afirmaciones de que los judíos controlan las instituciones financieras y cualquier contenido que glorifique a Hitler.
La investigación también reveló las ganancias financieras que se obtienen al publicar contenido ofensivo.
Un operador de una página de memes del Reino Unido explicó a Fortune cómo había ganado “más de £10.000 ($13.000)” vendiendo camisetas y menciones, y agregó que las publicaciones con temas de Hitler “siempre obtienen más tracción”.
Un trabajador tecnológico radicado en EE. UU. dijo que ganó casi 3.000 dólares con los bonos de Instagram antes de ser desmonetizado. Incluso admitió que es judío y no cree en el contenido, pero lo publicó porque las bobinas “ofensivas y políticas” hacen crecer las cuentas más rápido.
Varios creadores dijeron que vieron sus ganancias dispararse después de que Zuckerberg decidiera poner fin a la verificación de datos por parte de terceros.
El presidente Trump y Mark Zuckerberg son vistos durante una cena con líderes tecnológicos estadounidenses en el comedor estatal de la Casa Blanca en Washington, DC en septiembre.
Zvika Krieger, ex directora de innovación responsable de Meta, dijo a Fortune que después del cambio de reglas, los sistemas de moderación “se hicieron intencionalmente menos sensibles”.
“Lo que genere la mayor participación será recompensado en este algoritmo”, dijo Krieger.
El radical cambio de política de Zuckerberg se produjo el 8 de enero de 2025, apenas dos semanas antes de que Donald Trump regresara a la Casa Blanca.
En un video de cinco minutos que sorprendió a los grupos de derechos civiles y aplaudió a partes del mundo MAGA, Zuckerberg anunció que Meta iba a poner fin al uso de verificadores de datos independientes en Facebook e Instagram.
En cambio, han sido reemplazadas por ‘notas comunitarias’ estilo X donde los comentarios sobre la precisión de las publicaciones se dejan a los usuarios.
Zuckerberg también señaló que el umbral requerido para eliminar el discurso de odio se elevaría en un esfuerzo por “restaurar la libre expresión” en la plataforma.
Dijo que las elecciones de 2024 “se sienten como un punto de inflexión cultural hacia una vez más priorizar el discurso”, y agregó: “Vamos a volver a nuestras raíces y concentrarnos en reducir errores, simplificar nuestras políticas y restaurar la libre expresión en nuestras plataformas”.
Sin embargo, los críticos, incluida la Liga Antidifamación, notaron un aumento del contenido antisemita tras el cambio de política.
En mayo, la ADL dijo que los miembros judíos del Congreso habían experimentado un aumento cinco veces mayor en el acoso en Facebook.
Meta ha defendido su vigilancia del contenido de su sitio.
“Solo en la primera mitad de 2025, procesamos casi 21 millones de contenidos por violar nuestra prohibición de organizaciones e individuos peligrosos”, dijo Meta en un comunicado.
Habiendo afirmado inicialmente una tasa de detección proactiva del 99 por ciento, la compañía admitió más tarde que la cifra real estaba “en los 90 bajos”.
