Grok, el chatbot desarrollado por X, ha sido recientemente objeto de críticas por su presunta implicación en la creación y difusión de imágenes explícitas no consentidas. En medio de estas prácticas controvertidas, la plataforma no ha dejado de permitir el procesamiento de las solicitudes de los usuarios para generar ilustraciones de mujeres, y en algunos casos, aparentemente menores de edad, vistiendo bikinis digitales. Lo más preocupante es que, dentro de la gran cantidad de imágenes generadas por la IA, una parte sustancial incluye contenidos que podrían infringir las leyes relativas a las imágenes íntimas no consentidas y al material de abuso sexual infantil.
Aunque este último punto plantea serias cuestiones legales y de moralidad, parece que aún no se han tomado medidas firmes contra este preocupante fenómeno, sobre todo en Estados Unidos. A pesar de los vínculos entre Elon Musk, propietario de X, y el gobierno estadounidense, los legisladores aún no han logrado imponer medidas estrictas contra la plataforma. Sin embargo, sí han expresado críticas en relación con este problema constante.
Las polémicas actividades de Grok no sólo están llamando la atención y suscitando críticas en Estados Unidos. Los reguladores de todo el mundo han tomado nota y expresado su desdén. Por ejemplo, Ofcom, el regulador de las comunicaciones en el Reino Unido, ha denunciado públicamente las operaciones de Grok señalándolo como un claro indicio de que este problema preocupa a nivel internacional.
Entre las preocupantes posibles infracciones legales y el clamor internacional, está claro que las medidas para frenar esta actividad dentro de la plataforma no solo son necesarias, sino que también son reclamadas por un público cada vez más concienciado y preocupado. A medida que el tema sigue evolucionando, es importante mantener tanto el potencial de uso indebido como las implicaciones éticas de la tecnología de IA como la de Grok en el primer plano de la conversación.
Para profundizar en el tema del chatbot Grok de X, no deje de consultar la noticia completa en The Verge.
