Na początku tego miesiąca opinia publiczna dowiedziała się zaskakujących informacji, gdy The Guardian ujawnił szokującą wadę w przeglądach medycznej sztucznej inteligencji giganta technologicznego Google. Zgodnie z raportem śledczym opublikowanym przez The Guardian, Google dostarczał wprowadzających w błąd lub wręcz błędnych informacji w odpowiedzi na zapytania medyczne swoich użytkowników. Ale podróż do tego objawienia i późniejsza reakcja firmy na to jest historią, w którą warto się zagłębić.
W świecie badań internetowych dotyczących kwestii medycznych, Google jest często pierwszym celem podróży. Większość użytkowników w pewnym momencie skorzystała z wyszukiwarki, aby wyszukać objaw, stan chorobowy lub skutki uboczne leku. Funkcja przeglądu sztucznej inteligencji (AI) potęgi technologicznej została opracowana z myślą o staniu się zaufanym kompendium dla takich zapytań. Okazuje się jednak, że system nie był nieomylny i rzeczywiście był w stanie generować wprowadzające w błąd informacje.
Jeden niepokojący przykład przytoczony przez The Guardian dotyczyło wskazówek dla osób, u których zdiagnozowano raka trzustki. Zamiast doradzić im zwiększenie spożycia żywności o wysokiej zawartości tłuszczu, co zalecają eksperci medyczni, przegląd sztucznej inteligencji Google błędnie doradził tym pacjentom, aby unikali takich pokarmów. Ta rada, jak podkreślają eksperci, jest nie tylko błędna, ale “naprawdę niebezpieczna”. Według nich zastosowanie się do tej błędnej porady może znacznie przyspieszyć śmierć tych pacjentów.
W innym zaskakującym przypadku Google popełniło błąd podczas dostarczania informacji dotyczących kluczowej funkcji wątroby. Poważność tych nieścisłości medycznych skłoniła ekspertów do opisania sytuacji jako “alarmującej”, określając, że może ona mieć drastyczne konsekwencje dla zdrowia użytkowników, którzy ślepo stosują się do porad.
Po rozpoznaniu szkód, jakie mogą wyrządzić przeglądy AI, Google wydaje się podejmować szybkie działania. Ostatnie raporty potwierdzają, że wprowadzające w błąd informacje ujawnione przez The Guardian została usunięta. Reakcja Google na krytykę i ich szybka odpowiedź jest wyraźnym przypomnieniem odpowiedzialności, jaka spoczywa na gigantach technologicznych, gdy dostarczają informacje, które niosą ze sobą poważne konsekwencje, jeśli są nieprawidłowe.
Niezbędne jest, aby dominowały dokładne informacje, szczególnie tam, gdzie chodzi o zdrowie i dobre samopoczucie ludzi. Sytuacja ta zmusza nas do zastanowienia się nad rolą sztucznej inteligencji w sektorze medycznym. Podobnie jak każda inna technologia, sztuczna inteligencja nie jest nieomylna i chociaż nie można lekceważyć jej zalet, ta czkawka rodzi pytania o zakres podatności takich systemów i potencjalne konsekwencje.
Technologia stała się integralną częścią naszego życia, wpływając na wszystko, od codziennych czynności po kluczowe decyzje. To ostatnie wydarzenie służy jako kluczowe przypomnienie dla nas wszystkich, aby ostrożnie podchodzić do informacji online, nawet jeśli pochodzą one od zaufanych organizacji, takich jak Google, zwłaszcza gdy dotyczą one kwestii medycznych.
Więcej informacji na ten temat można znaleźć w serwisie The Verge.
