Dyskusje na temat niekontrolowanego wykorzystania sztucznej inteligencji (AI) od dawna dominują w debacie technologicznej, a obecnie setki światowych przywódców i organizacji podjęło kluczowy krok w kierunku rozwiązania tego dylematu. W poniedziałek ponad 200 byłych głów państw, dyplomatów, laureatów Nagrody Nobla, specjalistów ds. AI, naukowców i innych osób połączyło siły, aby zaproponować międzynarodowe porozumienie w sprawie “czerwonych linii”, których AI nigdy nie powinna przekraczać. Wśród sugerowanych ograniczeń znajduje się zakaz podszywania się AI pod ludzi lub replikowania się.
Wraz z ponad 70 organizacjami zajmującymi się sztuczną inteligencją wybitne osobistości poparły inicjatywę ‘Global Call for AI Red Lines’. Inicjatywa ta wzywa rządy na całym świecie do uzgodnienia tych „czerwonych linii” dla sztucznej inteligencji przed końcem 2026 roku. Wśród znanych sygnatariuszy są Geoffrey Hinton, brytyjsko-kanadyjski informatyk; Wojciech Zaremba, współzałożyciel OpenAI; Jason Clinton, dyrektor ds. bezpieczeństwa informacji w Anthropic; oraz Ian Goodfellow, naukowiec w Google DeepMind.
Według Charbela-Raphaëla Segerie, dyrektora wykonawczego francuskiego Centrum Bezpieczeństwa Sztucznej Inteligencji (CeSIA), celem tej inicjatywy jest proaktywne przeciwdziałanie zagrożeniom związanym ze sztuczną inteligencją, a nie tylko reagowanie po wystąpieniu poważnego incydentu. Podkreślił on konieczność osiągnięcia porozumienia, stwierdzając: “Jeśli państwa nie potrafią jeszcze uzgodnić, co chcą zrobić ze sztuczną inteligencją, muszą przynajmniej uzgodnić, czego sztuczna inteligencja nigdy nie może robić”.”
Inicjatywa ta pojawia się tuż przed rozpoczęciem tygodnia spotkań wysokiego szczebla w ramach 80. sesji Zgromadzenia Ogólnego ONZ w Nowym Jorku. Inicjatywa została zapoczątkowana przez CeSIA, Future Society oraz Centrum Sztucznej Inteligencji Kompatybilnej z Człowiekiem Uniwersytetu Kalifornijskiego w Berkeley. Podczas zgromadzenia laureatka Pokojowej Nagrody Nobla Maria Ressa nawiązała do tej inicjatywy w swoim przemówieniu otwierającym, opowiadając się za globalną odpowiedzialnością w celu ograniczenia bezkarności wielkich firm technologicznych.
Chociaż istnieją już regionalne “czerwone linie” dotyczące wykorzystania sztucznej inteligencji, takie jak unijna ustawa o sztucznej inteligencji oraz porozumienie między Stanami Zjednoczonymi a Chinami, zgodnie z którym broń jądrowa powinna pozostawać pod kontrolą człowieka, nadal brakuje globalnego konsensusu. Niki Iliadis, dyrektor ds. globalnego zarządzania sztuczną inteligencją w The Future Society, argumentowała, że ostatecznie do ustanowienia, nadzorowania i egzekwowania tych czerwonych linii potrzebna jest niezależna instytucja globalna posiadająca uprawnienia wykonawcze. “Odpowiedzialność musi być czymś więcej niż dobrowolnym zobowiązaniem” – dodała.
Jednak wezwanie do ostrożności nie oznacza hamowania innowacji ani wzrostu gospodarczego, jak twierdzą niektórzy sceptycy. Stuart Russell, profesor informatyki na Uniwersytecie Kalifornijskim w Berkeley i czołowy badacz w dziedzinie sztucznej inteligencji, dostrzegł podobieństwa między rozwijającą się branżą sztucznej inteligencji a początkami energetyki jądrowej. Powiedział: “Mogą dostosować się do wymogów, nie tworząc AGI, dopóki nie dowiedzą się, jak zapewnić jej bezpieczeństwo, tak samo jak twórcy energii jądrowej nie budowali elektrowni jądrowych, dopóki nie mieli pojęcia, jak zapobiec ich eksplozji”.
Według Russella możemy wykorzystać potencjał sztucznej inteligencji do rozwoju gospodarczego bez dawania wolnej ręki zaawansowanej inteligencji ogólnej (AGI), nad którą nie mamy kontroli. “Ta rzekoma dychotomia – że jeśli chcesz uzyskać diagnozę medyczną, musisz zaakceptować niszczącą świat AGI – moim zdaniem to po prostu bzdura” – powiedział.
W erze zakłóconej i wzmocnionej przez sztuczną inteligencję, Global Call for AI Red Lines ma na celu wyznaczenie równowagi między ogromnym potencjałem technologii a nieodłącznym ryzykiem, wzywając do międzynarodowego konsensusu w sprawie ostrożnego korzystania ze sztucznej inteligencji. To wstępne wezwanie jest jednak tylko pierwszym krokiem w kierunku globalnego zarządzania sztuczną inteligencją. Zobaczymy, jak rządzący odpowiedzą na to wezwanie.
