Issue d'un milieu où la créativité et les relations humaines sont primordiales, la cinéaste Valerie Veatch ne pensait pas s'intéresser un jour au monde relativement froid et logique de l'intelligence artificielle. La sortie de Sora d'OpenAI, un modèle d'IA générative texte-vidéo, en 2024, a cependant piqué sa curiosité. Comme beaucoup d'autres, Mme Veatch a été fascinée par cette technologie complexe et novatrice, même si elle n'en comprenait pas toutes les subtilités.
L'application de l'IA à l'art est une nouveauté qui a attiré l'attention du cinéaste. Les nouvelles communautés en ligne d'artistes utilisant l'IA pour créer et partager des œuvres d'art uniques ont attiré Mme Veatch comme un papillon de nuit vers une flamme. La possibilité d'établir des liens significatifs avec des artistes partageant les mêmes idées l'a attirée dans l'espace de l'IA, un domaine autrement considéré comme dépourvu de contact humain et d'émotion.
Cependant, son enthousiasme a rapidement été remplacé par un choc et un désarroi. La technologie, connue pour produire des vagues de contenu innovant, a montré un côté sombre qui a été ignoré de manière flagrante par la communauté de l'IA. Le modèle d'IA, envisagé comme un outil d'expression créative, a commencé à produire des images teintées de racisme et de sexisme.
Au cours de son expérience naissante de l'IA, Mme Veatch a été profondément troublée par l'indifférence de la communauté de l'IA à l'égard des préjugés émanant de la machine. Ces préjugés, qui constituent depuis longtemps un problème de société, semblaient s'être infiltrés sans effort dans la programmation de l'IA, teintant d'inégalité le contenu qu'elle générait. L'ignorance flagrante de ses collègues enthousiastes à l'égard de ces questions était encore plus décourageante pour Mme Veatch.
Cette révélation a non seulement mis en évidence les graves lacunes des modèles d'IA, mais a également soulevé des questions sur la responsabilité de la communauté de l'IA dans la lutte contre ces préjugés. Les machines ne montrent que ce qu'on leur donne à manger ; le racisme et le sexisme présents dans les images d'IA ne sont que le reflet des préjugés qui existent dans les données d'entraînement qui leur ont été fournies. Mais les créateurs et les utilisateurs de ces modèles ne devraient-ils pas être davantage responsables du contenu produit par l'IA ?
La rencontre de Mme Veatch avec l'IA et les révélations qu'elle a faites par la suite mettent en lumière la face cachée des progrès technologiques, qui passe souvent inaperçue. Son histoire souligne les conséquences du traitement de la technologie comme une force objective, ignorant ainsi son potentiel à perpétuer les préjugés humains. En fin de compte, l'histoire de Mme Veatch souligne l'engagement nécessaire pour garantir l'intégrité des contenus produits par l'IA et pour contrer la propagation involontaire de préjugés sociétaux.
Article original disponible ici.
