W niepokojących okolicznościach wyszło na jaw, że Jesse Van Rootselaar, podejrzany o udział w masowej strzelaninie w Tumbler Ridge w Kolumbii Brytyjskiej, wysyłał wcześniej sygnały ostrzegawcze do pracowników OpenAI, firmy zajmującej się sztuczną inteligencją. Incydent ten ujawnia poważne luki w monitorowaniu sztucznej inteligencji i wywołuje dyskusje na temat jej potencjalnego wpływu na przemoc w świecie rzeczywistym oraz tego, w jaki sposób mogłaby ona zapobiegać takim tragediom.
Wiadomo, że Jesse komunikował się z popularnym chatbotem AI, ChatGPT, opracowanym przez OpenAI, na kilka miesięcy przed strzelaniną. Komunikacja ta obejmowała graficzne opisy przemocy z użyciem broni. Te niepokojące interakcje uruchomiły zautomatyzowany system recenzji chatbota, co skłoniło niektórych pracowników OpenAI do wyrażenia zaniepokojenia tymi brutalnymi opisami.
Co ciekawe, OpenAI ma zautomatyzowany system przeglądu, który oznacza podejrzane lub niepokojące interakcje, zapewniając, że ludzcy recenzenci dalej badają te interakcje. W przypadku Jesse wyszło na jaw, że jej posty rzeczywiście uruchomiły system. Zaalarmowani tym niektórzy pracownicy wzięli na siebie obowiązek zwrócenia się do liderów firmy z tymi obawami, obawiając się, że jej posty mogą być zwiastunem zbliżającej się przemocy w świecie rzeczywistym. Pracownicy ci, zdając sobie sprawę z potencjalnego zagrożenia, wezwali liderów do przekazania tej niepokojącej sprawy odpowiednim organom ścigania.
Jednak reakcja kierownictwa OpenAI nie była taka, jakiej oczekiwali zaniepokojeni pracownicy. Firma ostatecznie zdecydowała się nie kierować sprawy do organów ścigania, pomimo świecących czerwonych flag w komunikacji Jessego z chatbotem.
W rozmowie z The Verge, Kayla Wood, rzeczniczka OpenAI, potwierdziła, że choć firma rozważała skierowanie konta Jessego do organów ścigania, to ostatecznie zdecydowała się tego nie robić.
To prowadzi nas do kwestionowania protokołów AI obowiązujących w OpenAI i potencjalnych pułapek, w które mogą nas one wpędzić. Etyka sztucznej inteligencji jest wciąż rozwijającą się dziedziną, a przypadki takie jak te rodzą dalsze pytania o obowiązki sztucznej inteligencji, zwłaszcza w zakresie zgłaszania potencjalnie szkodliwych lub agresywnych zachowań oraz o to, w jaki sposób można wykorzystać tę technologię, aby zapobiec incydentom takim jak strzelanina w Tumbler Ridge.
Kontynuując odkrywanie ogromnego potencjału SI, musimy być również świadomi tych niezbadanych terytoriów, na których w grę wchodzi etyka SI. Mamy nadzieję, że sztuczna inteligencja może pomóc władzom w zapobieganiu aktom przemocy, ale aby to zadziałało, konieczne jest wprowadzenie ścisłych protokołów i standardów.
Sprawa Jesse'ego Van Rootselaara przypomina o poważnych konsekwencjach bezczynności w obliczu wyraźnych sygnałów ostrzegawczych i podkreśla pilną potrzebę ustanowienia solidnego systemu, który skutecznie połączy sztuczną inteligencję z egzekwowaniem prawa.
Aby uzyskać więcej informacji, przeczytaj całą historię tutaj.
