Na początku tego miesiąca szokujące badanie przeprowadzone przez The Guardian ujawniła nieoczekiwane wady sztucznej inteligencji Google - ujawniając wprowadzające w błąd i wręcz fałszywe informacje w odpowiedzi na niektóre wyszukiwania związane ze zdrowiem. W szybkiej reakcji Google, niedokładne sugestie zdrowotne generowane przez sztuczną inteligencję zostały usunięte z wyników wyszukiwania.
Pierwotna sonda stanowiła alarmującą rewelację przedstawiającą przeglądy sztucznej inteligencji Google i ich zdolność do rozpowszechniania nieprawidłowych informacji na temat schorzeń, leczenia i zaleceń dietetycznych. Niektóre przypadki wskazywały na potencjalnie poważne ryzyko dla użytkowników, z niedokładnymi wskazówkami zdrowotnymi, które mogły prowadzić do komplikacji zdrowotnych lub zaostrzenia istniejących schorzeń.
Jeden z takich przypadków dotyczył porad dla osób, u których zdiagnozowano raka trzustki. W rażącym odstępstwie od przyjętych zaleceń dietetycznych dla tego schorzenia, Google błędnie wskazał, że pacjenci powinni unikać pokarmów o wysokiej zawartości tłuszczu, podczas gdy w rzeczywistości właściwa rada jest zupełnie odwrotna. Takie wprowadzające w błąd dane mogą skutkować obniżeniem jakości życia, a pacjenci mogą cierpieć z powodu niepotrzebnych skutków ubocznych lub nawet doświadczać zwiększonego ryzyka śmierci z powodu choroby.
Biorąc pod uwagę powszechne poleganie na Google przez ogół społeczeństwa w zakresie niezliczonych informacji, w tym zapytań dotyczących zdrowia, zgłoszone nieścisłości są rzeczywiście ‘naprawdę niebezpieczne’. Podkreśla to również ciągłe zmagania firm technologicznych z dostarczaniem precyzyjnych i niezawodnych rozwiązań zdrowotnych, nawet gdy technologie sztucznej inteligencji i uczenia maszynowego ewoluują w szybkim tempie. Powstaje pytanie: czy algorytmy sztucznej inteligencji i uczenia maszynowego mogą dostosować się do złożonych wymagań stawianych przez zapytania dotyczące opieki zdrowotnej?
W obliczu rzeczywistości, w której usługa AI dostarczała wprowadzających w błąd informacji na temat zdrowia, Google szybko usunęło niepokojące wyniki ze swoich przeglądów AI. Decyzja ta podkreśla skalę problemu, gdy sztuczna inteligencja zawodzi, zwłaszcza w tak wrażliwych i krytycznych obszarach jak zdrowie. Mówi ona również wiele o gotowości Google do zajęcia się takimi kwestiami i szybkiego ich naprawienia. Incydent ten rodzi jednak kluczowe pytania dotyczące niezawodności i nadzoru nad zautomatyzowanymi algorytmami, które mają zapewniać solidne porady i wskazówki zdrowotne.
Biorąc pod uwagę złożoną naturę ludzkich schorzeń i ich leczenia, w połączeniu z ciągłym rozwojem badań medycznych, jasne jest, że idealna dokładność źródeł technologicznych wciąż wymaga znacznej poprawy. Pozytywnym wnioskiem z tego incydentu jest jednak zaangażowanie Google w szybkie rozwiązywanie problematycznych wyników. Idąc dalej, incydenty takie jak te powinny służyć jako sygnał ostrzegawczy dla firm technologicznych, prowadząc do ulepszeń w ich systemach, które priorytetowo traktują bezpieczeństwo i dokładność.
Pełny opis incydentu można znaleźć w oryginalnym raporcie The Verge: Google wycofuje ‘alarmujące’, ‘niebezpieczne’ przeglądy medycznej sztucznej inteligencji
