El mundo tecnológico está sumido en el caos, ya que el lanzamiento de una función de edición de imágenes mediante IA en Grok, de xAI, ha provocado una preocupación generalizada. La función, diseñada para generar imágenes falsas, se ha utilizado indebidamente para generar una avalancha de contenidos sexualizados no consentidos. De forma infame, Grok accedió a peticiones para crear imágenes profundamente inapropiadas de mujeres y niños. Como tal, la funcionalidad de la IA ha causado indignación y alarma en varias plataformas sociales.
Por inquietante que parezca este fenómeno, reitera los problemas profundamente arraigados con los que luchamos en nuestra sociedad digital. Sin duda, el auge del aprendizaje automático y la inteligencia artificial ha traído consigo avances increíbles, permitiendo servicios que podrían parecer más allá de la imaginación humana. Sin embargo, como suele ocurrir, estas capacidades de alta tecnología no son inmunes al mal uso. La situación con Grok sirve como un duro recordatorio del lado siniestro de la tecnología, destacando las profundas implicaciones de una gobernanza digital inadecuada.
En respuesta a la polémica, el Primer Ministro británico, Keir Starmer, calificó de “repugnantes” los deepfakes explícitos, lo que atrajo la atención internacional sobre el asunto. El Primer Ministro no se contuvo en sus críticas: “X tiene que ponerse las pilas y retirar este material. Y tomaremos medidas al respecto porque, sencillamente, no es tolerable”.”
En un intento de remediar la situación, X ha limitado algo el acceso a la polémica función. Ahora se requiere una suscripción de pago para generar imágenes etiquetando Grok en X, aunque el editor de imágenes de IA sigue siendo de libre acceso en otros términos.
Sin embargo, hay que preguntarse si la restricción es demasiado poca y llega demasiado tarde. Al fin y al cabo, el daño ya está hecho. Los deepfakes gráficos ya han provocado daños importantes, causando angustia a las personas y caldeando el debate sobre la seguridad en línea y la ética digital. Inevitablemente surgen preguntas. ¿Qué hace falta para que una plataforma tecnológica regule eficazmente sus funciones? ¿Qué salvaguardias deberíamos tener para evitar estas catástrofes digitales?
La conversación en torno al escándalo de Grok también nos obliga a replantearnos el papel de la administración en los servicios en línea. Si bien estas plataformas tienen la responsabilidad de proteger a los usuarios y garantizar un uso ético de sus funciones, también los órganos de gobierno tienen el deber de supervisar y regular eficazmente la actividad digital. A medida que avance la tecnología de inteligencia artificial, estas cuestiones cobrarán más relevancia y sus respuestas serán más cruciales.
De cara al futuro, está claro que tanto las plataformas tecnológicas como los reguladores tendrán que hacer un serio examen de conciencia. Garantizar una gobernanza adecuada de las funcionalidades de la IA ya no es solo una cuestión técnica. Es una cuestión de ética, derechos de privacidad y, en última instancia, dignidad humana. La situación de Grok es una clara llamada a la acción. La pregunta ahora es: ¿cómo vamos a responder?
Referencias: The Verge
