Procedente de un entorno en el que la creatividad y la conexión humana son primordiales, la cineasta Valerie Veatch nunca pensó que le interesaría el mundo relativamente frío y lógico de la inteligencia artificial. Sin embargo, el lanzamiento en 2024 de Sora, un modelo de IA generativa de texto a vídeo de OpenAI, despertó su curiosidad. Veatch, como muchos otros, quedó fascinada por la compleja y novedosa tecnología, a pesar de no comprender del todo sus entresijos.
La aplicación de la IA al arte fue una novedad que llamó la atención del cineasta. Las nuevas comunidades en línea de artistas que utilizan la IA para crear y compartir obras de arte únicas atrajeron a Veatch como una polilla a la llama. La posibilidad de establecer conexiones significativas con artistas de ideas afines la atrajo al espacio de la IA, un ámbito que de otro modo se consideraría carente de tacto y emoción humanos.
Sin embargo, su entusiasmo fue rápidamente sustituido por conmoción y angustia. La tecnología, conocida por producir oleadas de contenidos innovadores, mostró un lado oscuro que la comunidad de la IA ignoró descaradamente. El modelo de IA, concebido como una herramienta de expresión creativa, empezó a producir imágenes manchadas de racismo y sexismo.
En su incipiente experiencia con la IA, Veatch se sintió profundamente perturbada al ser testigo de la indiferencia de la comunidad de la IA ante los prejuicios que emanaban de la máquina. Estos prejuicios, que desde hace tiempo son un problema social, parecían haberse filtrado sin esfuerzo en la programación de la IA, tiñendo de desigualdad el contenido que generaba. La flagrante ignorancia de sus colegas entusiastas respecto a estas cuestiones era aún más descorazonadora para Veatch.
Esta revelación no sólo puso de manifiesto las graves deficiencias de los modelos de IA, sino que también planteó cuestiones sobre la responsabilidad de la comunidad de IA a la hora de abordar estos sesgos. Las máquinas sólo muestran lo que se les da de comer; el racismo y el sexismo que prevalecen en las imágenes de IA no son más que un reflejo de los prejuicios que existen en los datos de entrenamiento que se les proporcionaron. Pero, ¿no deberían los creadores y usuarios de estos modelos ser más responsables de los contenidos que produce la IA?
El encuentro de Veatch con la IA y sus posteriores revelaciones arrojan luz sobre el lado más oscuro de los avances tecnológicos, que a menudo pasa desapercibido. Su historia subraya las consecuencias de tratar la tecnología como una fuerza objetiva, ignorando así su potencial para perpetuar los prejuicios humanos. Al final, la historia de Veatch subraya el compromiso necesario para garantizar la integridad de los contenidos producidos por IA y contrarrestar su propagación involuntaria de prejuicios sociales.
Artículo original disponible aquí.
