W niepokoj\u0105cych okoliczno\u015bciach wysz\u0142o na jaw, \u017ce Jesse Van Rootselaar, podejrzany o udzia\u0142 w masowej strzelaninie w Tumbler Ridge w Kolumbii Brytyjskiej, wysy\u0142a\u0142 wcze\u015bniej sygna\u0142y ostrzegawcze do pracownik\u00f3w OpenAI, firmy zajmuj\u0105cej si\u0119 sztuczn\u0105 inteligencj\u0105. Incydent ten ujawnia powa\u017cne luki w monitorowaniu sztucznej inteligencji i wywo\u0142uje dyskusje na temat jej potencjalnego wp\u0142ywu na przemoc w \u015bwiecie rzeczywistym oraz tego, w jaki spos\u00f3b mog\u0142aby ona zapobiega\u0107 takim tragediom.<\/p>\n
Wiadomo, \u017ce Jesse komunikowa\u0142 si\u0119 z popularnym chatbotem AI, ChatGPT, opracowanym przez OpenAI, na kilka miesi\u0119cy przed strzelanin\u0105. Komunikacja ta obejmowa\u0142a graficzne opisy przemocy z u\u017cyciem broni. Te niepokoj\u0105ce interakcje uruchomi\u0142y zautomatyzowany system recenzji chatbota, co sk\u0142oni\u0142o niekt\u00f3rych pracownik\u00f3w OpenAI do wyra\u017cenia zaniepokojenia tymi brutalnymi opisami.<\/p>\n
Co ciekawe, OpenAI ma zautomatyzowany system przegl\u0105du, kt\u00f3ry oznacza podejrzane lub niepokoj\u0105ce interakcje, zapewniaj\u0105c, \u017ce ludzcy recenzenci dalej badaj\u0105 te interakcje. W przypadku Jesse wysz\u0142o na jaw, \u017ce jej posty rzeczywi\u015bcie uruchomi\u0142y system. Zaalarmowani tym niekt\u00f3rzy pracownicy wzi\u0119li na siebie zwr\u00f3cenie si\u0119 do lider\u00f3w firmy z tymi obawami, obawiaj\u0105c si\u0119, \u017ce jej posty mog\u0105 by\u0107 zwiastunem zbli\u017caj\u0105cej si\u0119 przemocy w \u015bwiecie rzeczywistym. Pracownicy ci, zdaj\u0105c sobie spraw\u0119 z potencjalnego zagro\u017cenia, wezwali lider\u00f3w do przekazania tej niepokoj\u0105cej sprawy odpowiednim organom \u015bcigania. <\/p>\n
Jednak reakcja kierownictwa OpenAI nie by\u0142a taka, jakiej oczekiwali zaniepokojeni pracownicy. Firma ostatecznie zdecydowa\u0142a si\u0119 nie kierowa\u0107 sprawy do organ\u00f3w \u015bcigania, pomimo \u015bwiec\u0105cych czerwonych flag w komunikacji Jessego z chatbotem. <\/p>\n
W rozmowie z The Verge, Kayla Wood, rzeczniczka OpenAI, potwierdzi\u0142a, \u017ce cho\u0107 firma rozwa\u017ca\u0142a skierowanie konta Jessego do organ\u00f3w \u015bcigania, to ostatecznie zdecydowa\u0142a si\u0119 tego nie robi\u0107.<\/p>\n
To prowadzi nas do kwestionowania protoko\u0142\u00f3w AI obowi\u0105zuj\u0105cych w OpenAI i potencjalnych pu\u0142apek, w kt\u00f3re mog\u0105 nas one wp\u0119dzi\u0107. Etyka sztucznej inteligencji jest wci\u0105\u017c rozwijaj\u0105c\u0105 si\u0119 dziedzin\u0105, a przypadki takie jak te rodz\u0105 dalsze pytania o obowi\u0105zki sztucznej inteligencji, zw\u0142aszcza w zakresie zg\u0142aszania potencjalnie szkodliwych lub agresywnych zachowa\u0144 oraz o to, w jaki spos\u00f3b mo\u017cna wykorzysta\u0107 t\u0119 technologi\u0119, aby zapobiec incydentom takim jak strzelanina w Tumbler Ridge.<\/p>\n
Kontynuuj\u0105c odkrywanie ogromnego potencja\u0142u SI, musimy by\u0107 r\u00f3wnie\u017c \u015bwiadomi tych niezbadanych terytori\u00f3w, na kt\u00f3rych w gr\u0119 wchodzi etyka SI. Mamy nadziej\u0119, \u017ce sztuczna inteligencja mo\u017ce pom\u00f3c w\u0142adzom w zapobieganiu aktom przemocy, ale aby to zadzia\u0142a\u0142o, konieczne jest wprowadzenie \u015bcis\u0142ych protoko\u0142\u00f3w i standard\u00f3w.<\/p>\n
Sprawa Jesse'ego Van Rootselaara przypomina o powa\u017cnych konsekwencjach bezczynno\u015bci w obliczu wyra\u017anych sygna\u0142\u00f3w ostrzegawczych i podkre\u015bla piln\u0105 potrzeb\u0119 ustanowienia solidnego systemu, kt\u00f3ry skutecznie po\u0142\u0105czy sztuczn\u0105 inteligencj\u0119 z egzekwowaniem prawa.<\/p>\n