Grok, el chatbot de Elon Musk, enfrenta una reacción negativa de gobiernos de todo el mundo tras un reciente aumento en la generación de imágenes sexualizadas de mujeres y menores, generadas sin consentimiento por la herramienta de inteligencia artificial.
El martes, la principal autoridad de tecnología de Reino Unido exigió que X, la red social de Musk, tomara medidas urgentes, mientras que un legislador polaco la mencionó como una de las razones para promulgar leyes de seguridad digital.
La rama ejecutiva de la Unión Europea ha denunciado al chatbot, mientras que funcionarios y reguladores de Francia, India, Malasia y Brasil han condenado la plataforma y han exigido investigaciones.
La creciente alarma de naciones tan dispares señala el aterrador potencial de las aplicaciones de desnudamiento que utilizan inteligencia artificial para generar imágenes sexualmente explícitas y falsas.
Este es un vistazo más de cerca:
Generación de imágenes
El problema surgió tras el lanzamiento el año pasado de Grok Imagine, un generador de imágenes de IA que permite que los usuarios creen videos e imágenes escribiendo indicaciones de texto. Incluye un llamado “modo picante” que puede generar contenido para adultos.
El problema se intensificó a finales del mes pasado, cuando Grok, que se aloja en X, aparentemente comenzó a atender un gran número de solicitudes de usuarios para modificar imágenes publicadas por otros. Hasta el martes, los usuarios de Grok aún podían generar imágenes de mujeres utilizando solicitudes como “ponerla en un bikini transparente”.
El problema se amplifica porque Musk presenta su chatbot como una alternativa más atrevida a los rivales con más salvaguardias, y porque las imágenes de Grok son públicamente visibles y, por lo tanto, pueden difundirse fácilmente.
El grupo sin fines de lucro AI Forensics dijo en un informe que analizó 20.000 imágenes generadas por Grok entre el 25 de diciembre y el 1 de enero y encontró que el 2% representaba a una persona que parecía tener 18 años o menos, entre ellas, 30 de mujeres o niñas jóvenes o muy jóvenes, en bikinis o ropa transparente.
Respuesta de Elon Musk
xAI, la empresa de inteligencia artificial de Musk, respondió a una solicitud de comentarios con la respuesta automatizada, “Mentiras de los medios tradicionales”.
Sin embargo, X no negó la existencia del contenido problemático generado a través de Grok. Aun así, afirmó en una publicación en su cuenta de Seguridad que toma medidas contra el contenido ilegal, incluido el material de abuso sexual infantil, “eliminándolo, suspendiendo permanentemente cuentas y trabajando con gobiernos locales y fuerzas del orden según sea necesario”.
La plataforma también repitió un comentario de Musk, quien dijo: “Cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”.
Una creciente lista de países exige que Musk haga más para controlar el contenido explícito o abusivo.