WASHINGTON — En una realidad paralela, la reina Isabel II salta sobre bollos de queso, Saddam Hussein armado salta a un ring de lucha libre y el Papa Juan Pablo II intenta andar en patineta.
Vídeos hiperrealistas de IA de celebridades muertas, creados con este tipo de aplicaciones
Sora, fácil de usar de OpenAI
– se difundió rápidamente en línea, generando un debate sobre una regulación similar de los muertos.
La aplicación OpenAI, lanzada en septiembre y ampliamente denominada máquina de deepfake, ha publicado una avalancha de vídeos de personajes históricos, incluidos Winston Churchill y celebridades como Michael Jackson y Elvis Presley.
En un clip de TikTok revisado por la AFP, la reina Isabel II, vestida con perlas y una tiara, llega a un combate de lucha en scooter, trepa una valla y salta sobre un luchador.
En un clip separado de Facebook, se ve a la difunta Reina admirando un hojaldre de queso “deliciosamente naranja” en el pasillo de un supermercado, mientras que otro la representa jugando al fútbol.
Pero no todos los vídeos, impulsados por el modelo Sora 2 de OpenAI, provocaron risas.
En octubre, OpenAI impidió a los usuarios crear videos de Martin Luther King Jr. después de la propiedad del ícono de los derechos civiles.
Se quejó de una representación irrespetuosa.
.
Algunos usuarios han creado vídeos del Dr. King haciendo ruidos de mono durante su celebrado discurso Tengo un sueño, mostrando cómo los usuarios pueden retratar figuras públicas a voluntad, haciéndoles decir o hacer cosas que nunca han hecho.
“Estamos entrando en el ‘valle inquietante'”, dice la profesora Constance de Saint Laurent de la Universidad de Maynooth en Irlanda, refiriéndose a un fenómeno en el que la interacción con objetos artificiales causa malestar al igual que los humanos.
“Si de repente empiezas a recibir vídeos de un familiar muerto, es doloroso”, dijo a la AFP. “Este (video) tiene consecuencias reales”.
En las últimas semanas, los hijos del fallecido actor Robin Williams, el comediante George Carlin y el activista Malcolm X han condenado el uso de Sora para crear vídeos sintéticos de su padre.
La hija de Robin Williams, Zelda Williams, suplicó recientemente en Instagram que “deje de enviarme videos de papá con IA”, calificando el contenido de “horrible”.
Un portavoz de OpenAI dijo a la AFP que, si bien existe un “fuerte interés por la libertad de expresión en la representación de personajes históricos”, el público debería tener el control final sobre sus réplicas de personajes y sus familias.
Para las figuras “recientemente fallecidas”, añadió, los representantes autorizados o los propietarios ahora pueden solicitar que su imagen no se utilice en Sora.
“A pesar de lo que OpenAI dice sobre las personas que quieren controlar su imagen, han lanzado una herramienta que hace exactamente lo contrario”, dijo a la AFP Hani Farid, cofundador de Getreal Security y profesor de la Universidad de California.
“Si bien han dejado de hacer (la mayoría de) los videos de MLK Jr., no impiden que los usuarios coopten las identidades de muchas otras celebridades”.
“Incluso si OpenAI tuviera algunas salvaguardas para proteger a MLK Jr., habría otro modelo de IA que no las tendría, por lo que este problema ciertamente empeoraría”, dijo el profesor Farid.
Este hecho se subraya más adelante.
El director de Hollywood Rob Reiner acusado de asesinato
en diciembreDesde la AFP, los verificadores de datos han descubierto clips generados por inteligencia artificial que utilizan su imagen y que circulan en línea.
Con la proliferación de herramientas avanzadas de inteligencia artificial, las vulnerabilidades ya no se limitan a las figuras públicas: incluso los nombres, imágenes y palabras de personas no famosas fallecidas pueden reutilizarse para manipulación sintética.
Los investigadores advierten que la proliferación desenfrenada de contenido sintético (ampliamente llamado AI slop) podría eventualmente alejar a los usuarios de las redes sociales.
“El problema de la desinformación en general no es tanto que la gente lo crea. Mucha gente no lo cree”, afirma el profesor St Laurent.
“La cuestión es que ven las noticias reales y ya no las creen. Y esto (Sora) va a aumentar enormemente”. AFP
