Exige Reino Unido a X proteger a los usuarios de imágenes sexualizadas generadas por su IA

Reuters

Periódico La Jornada
Martes 6 de enero de 2026, p. 6

Londres. Reino Unido ha exigido a la red social X, propiedad de Elon Musk, que explique cómo su chatbot de inteligencia artificial (IA) Grok pudo producir imágenes de personas sin ropa e imágenes sexualizadas de niños y si estaba incumpliendo su deber legal de proteger a los usuarios.

Grok declaró el viernes que fallos en las salvaguardias habían dado lugar a “imágenes de menores con poca ropa” en X y afirmó que estaba corrigiéndolos en forma urgente.

El regulador británico de los medios de comunicación, Ofcom, aseguró que estaba al tanto de las “serias preocupaciones” suscitadas por esta función.

“Nos hemos puesto en contacto urgentemente con X y xAI para saber qué medidas han tomado para cumplir con sus obligaciones legales de proteger a los usuarios en el Reino Unido”, señaló un portavoz.

Grok dijo el viernes: “xAI cuenta con salvaguardas, pero se están realizando mejoras para bloquear por completo este tipo de solicitudes”.

Crear o compartir imágenes íntimas no consentidas o material de abuso sexual infantil, incluidos los deepfakes sexuales creados por IA, es ilegal en Gran Bretaña.

Además, las plataformas tecnológicas tienen la obligación de tomar medidas para evitar que los usuarios británicos encuentren contenidos ilegales y retirarlos cuando tengan conocimiento de ellos.

La petición se produce después de que los ministros franceses denunciaran a X ante la fiscalía y los organismos reguladores por las perturbadoras imágenes, afirmando en un comunicado el viernes que el contenido “sexual y sexista” era “manifiestamente ilegal”.