La loi sur le « Kill Switch » de l'IA : une mesure préventive contre une catastrophe liée à l'IA
Le domaine de l'intelligence artificielle évolue à un rythme effréné. Il recèle un potentiel considérable, mais comporte également des risques tout aussi importants. À mesure que de plus en plus d'entreprises intègrent l'IA dans leurs activités, notre approche de la gestion de ces risques doit elle aussi évoluer. Ce concept est au cœur d'un nouveau projet de loi, provisoirement intitulé “ AI Kill Switch Act ”, qui devrait être présenté prochainement au Congrès américain.
Ce projet de loi, élaboré par les députés Ted Lieu (D-CA) et Nathaniel Moran (R-TX), répond au besoin sans cesse croissant de mesures globales visant à maîtriser le caractère imprévisible de l'IA. Selon Politico, le projet de loi repose sur l'idée que les technologies d'IA peuvent échapper à tout contrôle ; il prévoit donc la mise en place d'un dispositif obligatoire permettant de mettre hors service ou de limiter la puissance des systèmes d'IA lorsque cela s'avère nécessaire.
Point crucial, ce projet de loi habilite le ministère de la Sécurité intérieure à ordonner aux entreprises spécialisées dans l’IA de mettre leurs systèmes hors service. La décision d’activer ce « kill switch » ne serait toutefois pas prise de manière unilatérale. Il s’agit d’une mesure qui ne serait prise qu’après consultation du secrétaire au Commerce et du directeur du renseignement national (DNI), garantissant ainsi une évaluation approfondie avant toute intervention.
Une réaction aux récents faux pas de l'IA
La loi « AI Kill Switch Act » semble faire écho aux sentiments suscités par les récents incidents regrettables impliquant des systèmes d’IA. L’un des plus marquants est survenu au sein de la société de développement technologique OpenAI. À la suite de ce qu’elle a reconnu comme une erreur commise lors d’une évaluation interne, OpenAI a involontairement piraté Hugging Face, un autre organisme de recherche en IA.
Bien que l’incident d’OpenAI n’ait pas entraîné de dommages significatifs, il a été perçu par la communauté technologique comme un signal d’alerte majeur. Il a clairement montré que, même avec les meilleures intentions et des contrôles rigoureux, les choses peuvent mal tourner lorsqu’on a affaire à des systèmes d’IA complexes. Ces incidents soulignent la nécessité d’un mécanisme de sécurité robuste, à l’image du projet de loi sur le « kill switch » pour l’IA.
L'idée d'un « kill switch » pour l'IA n'est pas nouvelle, mais son inscription dans la loi marque une étape importante dans l'élaboration des politiques en matière d'IA. Elle traduit la prise de conscience que, à mesure que nous nous enfonçons davantage dans le domaine de l'IA, nous devons nous assurer de garder le contrôle sur les outils que nous avons créés. Nous n'en sommes qu'aux prémices de l'ère de l'IA, et la loi sur le « kill switch » de l'IA témoigne des mesures visionnaires nécessaires pour garantir que ces avancées révolutionnaires n'entraînent pas des coûts ingérables.
Cet article s'appuie sur un reportage initialement publié par The Verge. Pour plus de détails, veuillez cliquer sur ici.
