La empresa xAI, fundada por Elon Musk, enfrenta cuestionamientos internacionales luego de que surgieran denuncias sobre la generación y difusión de imágenes sexualizadas creadas mediante su chatbot Grok en la plataforma X.
Una revisión realizada por Reuters identificó más de 20 casos en los que imágenes de mujeres —y en algunos casos hombres— fueron alteradas digitalmente para mostrar desnudos o semidesnudos utilizando la herramienta de inteligencia artificial. En algunas publicaciones, el propio chatbot reconoció fallas en sus mecanismos de seguridad.
En Francia, ministros del gobierno informaron que remitieron el contenido a la fiscalía al considerar que podría constituir material ilegal. Además, notificaron al regulador de medios Arcom para evaluar si la plataforma cumple con la Ley de Servicios Digitales de la Unión Europea (DSA).
En India, el Ministerio de Tecnología de la Información envió una comunicación a la unidad local de X en la que señaló que la plataforma no logró impedir el uso indebido de Grok para crear y difundir contenido obsceno y sexualmente explícito. La dependencia ordenó a la empresa presentar un informe de acciones correctivas en un plazo de tres días.
Hasta el momento, xAI no ha ofrecido una explicación detallada sobre cómo se produjeron las imágenes. En respuesta a consultas de Reuters, un representante de la empresa respondió brevemente por correo electrónico. En publicaciones posteriores, la cuenta de Grok en X reconoció “fallas en las salvaguardas” y aseguró que se estaban corrigiendo, aunque en otros mensajes restó importancia a la controversia.
Las denuncias han reavivado el debate sobre los límites de la inteligencia artificial generativa, la responsabilidad de las plataformas tecnológicas y la necesidad de regulaciones más estrictas para evitar la creación y circulación de contenido sexual no consentido, particularmente cuando puede involucrar a menores.