YouTube mostrará advertencias en los vídeos manipulados con IA

YouTube ha decidido fortalecer sus políticas contra la desinformación o el contenido engañoso propiciados por el uso de la inteligencia artificial. Es por ello que la plataforma exigirá que los creadores adviertan al público cuando suban vídeos que incluyan contenidos “sintéticos”; es decir, que hayan sido creados o manipulados utilizando herramientas como la IA generativa. Esto aplicará tanto a las publicaciones convencionales en formato largo, como a los Shorts.

La medida todavía no tiene fecha específica de implementación. Desde el blog oficial de YouTube explicaron que las nuevas alertas de contenido alterado comenzarán a introducirse en los próximos meses, de modo que recién se verían con mayor prominencia en 2024. La idea es trabajar con los youtubers para que estén al tanto de los nuevos requisitos y lineamientos.

Una vez que esta característica se ponga a disposición, los creadores tendrán que indicar durante el proceso de carga si un vídeo se ha manipulado con inteligencia artificial. YouTube luego mostrará dos tipos de advertencia en la publicación: una estará en la caja de descripción, y otra aparecerá directamente sobre el reproductor. En ambos casos, incluirá el siguiente mensaje: “Contenido alterado o sintético. El sonido o las imágenes se han alterado o generado digitalmente.

Vale aclarar, no obstante, que el alerta sobre el reproductor se limitará a contenidos sintéticos que se vinculen con temáticas sensibles y propensas a la desinformación. Por ejemplo, crisis de salud pública, conflictos armados en curso, eventos que involucren a funcionarios públicos o procesos electorales, entre otros.

“Exigiremos a los creadores que revelen cuándo han creado contenido alterado o sintético que sea realista, incluido el uso de herramientas de inteligencia artificial. Cuando los creadores suban contenido, tendremos nuevas opciones para que seleccionen para indicar que contiene material realista, pero alterado o sintético. Por ejemplo, podría ser un vídeo generado por IA que represente de manera realista un evento que nunca sucedió, o contenido que muestre a alguien diciendo o haciendo algo que en realidad no hizo”, indicaron desde la plataforma de Google.

Castigos por no respetar las normas de YouTube sobre el contenido alterado con IA

La iniciativa de YouTube es muy interesante y apunta a implementar una nueva capa de control sobre la divulgación de contenidos engañosos o directamente falsos. Aunque también es una realidad que, si su motivación principal es desinformar, es probable que ciertos creadores opten por no marcar sus vídeos como alterados, por más que sí lo sean. Es por ello que Google deberá contar con un sistema efectivo para hacer cumplir los nuevos lineamientos.

YouTube indica que si los creadores optan por no marcar sus vídeos manipulados como tales, quedarán expuestos a distintos castigos. Desde la eliminación del contenido en cuestión, hasta la suspensión del usuario del programa de socios (Partners) de la plataforma, entre otros. Eso sí, no se especifica si las sanciones entran en vigencia después de un número determinado de infracciones; solamente se dice que ocurrirá en caso de que el comportamiento ocurra de forma “consistente”.

También es importante mencionar que las nuevas advertencias de vídeos alterados con contenidos sintéticos no reemplazan a los lineamientos de la comunidad. Esto significa que YouTube podrá eliminar contenidos inapropiados manipulados con IA, por más que incluyan la advertencia en cuestión.

Por último, YouTube no se limitará a marcar los vídeos manipulados con software de terceros. Google es actualmente una de las principales empresas en el ámbito de la inteligencia artificial, y de a poco la está integrando en sus productos. Por ende, las advertencias también se mostrarán cuando los vídeos incorporen elementos creados con sus propias herramientas. Por ejemplo, con Dream Screen, una utilidad que permite generar imágenes y vídeos con IA para utilizarlos de fondo en los Shorts.