OpenAI, Meta y Microsoft frenarán contenido falso creado con IA

Una veintena de empresas tecnológicas anunciaron que trabajarán juntas este año para frenar el contenido engañoso generado por inteligencia artificial. El grupo, liderado por OpenAI, se ha propuesto, específicamente, luchar contra la desinformación durante las elecciones que se realizarán este 2024 en más de 50 países. Son comicios que involucran a casi la mitad de la población del planeta. 

El acuerdo se anunció este viernes, en el primer día de la Conferencia de Seguridad de Múnich. En la lista de participantes figuran tanto desarrolladores como varias plataformas de redes sociales. Entre ellas, Google, Amazon, Meta, Microsoft, OpenAI, X (Twitter) y TikTok.

El acuerdo voluntario reconoce que el rápido desarrollo de la inteligencia artificial estaba «creando nuevas oportunidades, así como desafíos para el proceso democrático». En este sentido, la difusión de contenido engañoso podría «poner en peligro la integridad de los procesos electorales».

Las empresas pondrán la lupa sobre las imágenes, audios y videos cada vez más realistas generados por las nuevas herramientas de inteligencia artificial. Es decir, cualquier contenido «que falsifique o altere engañosamente la apariencia, la voz o las acciones de candidatos políticos, funcionarios electorales y otras partes interesadas».

Estas tecnológicas, sin embargo, no se han comprometido a prohibir o eliminar los deepfakes. En su lugar, plantan algunos métodos para detectar y etiquetar este tipo de contenidos, cuando se cree o distribuya en sus plataformas. Por ejemplo, la implementación de marcas de agua o la opción de incrustar metadatos.

Un compromiso simbólico sobre la inteligencia artificial y las elecciones

«Creo que la utilidad de este acuerdo es la amplitud de las empresas que lo firman», dijo Nick Clegg, presidente de asuntos globales de Meta Platforms. «Todo el mundo reconoce que ninguna empresa de tecnología, ningún gobierno, ninguna organización de la sociedad civil es capaz de hacer frente por sí sola a la llegada de esta tecnología y su posible uso nefasto», agregó Clegg.

El acuerdo de estas empresas estipula que compartirán las mejores prácticas entre sí. Aseguran que brindarán «respuestas rápidas y proporcionadas» cuando contenido engañoso generado con inteligencia artificial comience a difundirse. Sin embargo, las empresas no especificaron más detalles sobre cómo cumplirían con estas premisas. Tampoco plantearon un cronograma de acciones.

Por esto, algunas organizaciones y activistas ya calificaron al acuerdo como vago y meramente simbólico. «El lenguaje no es tan fuerte como uno podría haber esperado», dijo Rachel Orey, directora del Proyecto Electoral del Centro de Política Bipartidista en Estados Unidos, a AP. «Es voluntario y estaremos atentos a si lo cumplen», agregó

Una de las votaciones previstas para este año son las presidenciales en Estados Unidos. Ya el año pasado, el Partido Republicano divulgó material generado por inteligencia artificial para atacar al presidente Joe Biden, candidato a la reelección. Y en enero pasado, votantes en New Hampshire recibieron una llamada automática con la voz de alguien que afirmaba ser Biden. En la comunicación falsa, se les pedía que no votaran en las elecciones primarias.

Ya varias de las empresas firmantes del acuerdo habían anunciado acciones por su cuenta para atender la contingencia por las elecciones. OpenAI, creadora de ChatGPT, anunció que prohibiría a los políticos utilizar sus herramientas para sus campañas. Y TikTok dijo esta semana que crearía centros electorales, que monitorearán sus publicaciones durante las próximas elecciones al Parlamento Europeo.