Ten "tani" model AI typu open-source może w rzeczywistości drenować budżet obliczeniowy.

W naszej stale ewoluującej erze cyfrowej sztuczna inteligencja (AI) przekształca niezliczone branże - od opieki zdrowotnej i finansów po rozrywkę. Ponieważ sztuczna inteligencja odgrywa coraz większą rolę w operacjach przedsiębiorstw, firmy zmagają się z decyzją, czy korzystać z modeli AI typu open source, czy też z ich zamkniętych alternatyw. Według najnowszych badań, wybór może jednak nie być tak oczywisty.

Podobnie jak płonące dolary przedstawione na symbolicznym obrazku VentureBeat, rzekome korzyści w zakresie efektywności kosztowej sztucznej inteligencji open source mogą po prostu pójść z dymem. Dlaczego? Dzieje się tak dlatego, że modele te mogą zużywać nawet dziesięciokrotnie więcej zasobów obliczeniowych niż ich zastrzeżone odpowiedniki, co zasadniczo niweluje wszelkie potencjalne korzyści kosztowe.

Kiedy firmy decydują się na wdrożenie rozwiązań AI, głównymi czynnikami napędzającymi są zazwyczaj funkcjonalność, elastyczność i, co istotne, koszty. Wiele firm skłania się ku modelom open-source ze względu na ich postrzegane niższe koszty i możliwość dostosowania ich do swoich unikalnych wymagań. Jednak pojęcie “tani” w dziedzinie modeli sztucznej inteligencji może być mylące - system oszczędzający dolary na początku może kosztować fortunę w zasobach obliczeniowych.

Ciemna strona sztucznej inteligencji open source

Chociaż prawdą jest, że modele sztucznej inteligencji typu open source nie wymagają wysokich opłat licencyjnych związanych z oprogramowaniem własnościowym, niekoniecznie oznacza to, że są one tańsze w ogólnym rozrachunku. Modele open-source mogą być niezwykle zasobożerne, zużywając ogromne ilości mocy obliczeniowej - a to nie jest tanie.

Według badań, modele te mogą zużywać nawet dziesięciokrotnie więcej zasobów niż ich zamknięte odpowiedniki. Oznacza to, że choć pobranie i wdrożenie modelu sztucznej inteligencji typu open source może być darmowe, koszty wymagane do jego skutecznego uruchomienia mogą znacznie przekroczyć początkowe szacunki. W związku z tym oczekiwane oszczędności stają się drenażem finansowym, ponieważ systemy te wymagają mocniejszego - i droższego - sprzętu do działania. Nie wspominając już o potencjalnych zwiększonych kosztach energii i wpływie na środowisko.

Korzyści z zamkniętego źródła sztucznej inteligencji

Z drugiej strony, modele AI o zamkniętym kodzie źródłowym mają zazwyczaj niższe zapotrzebowanie na zasoby obliczeniowe. Firmy opracowujące te modele często poświęcają znaczne zasoby, aby zoptymalizować je pod kątem minimalnego zużycia zasobów. W związku z tym często działają one bardziej wydajnie i chociaż mogą mieć wyższe opłaty początkowe, ich ogólny koszt może być niższy w dłuższej perspektywie, biorąc pod uwagę zasoby obliczeniowe.

Co więcej, modele zamknięte zapewniają obsługę klienta i spójne aktualizacje, dodając dodatkową warstwę wartości i spokoju do ich kosztu. Jest to coś, czego zazwyczaj brakuje lub jest mniej spójne z modelami open-source, które opierają się na wsparciu społeczności.

Konkluzja? Podczas gdy urok oszczędności kosztów przyciąga wielu do modeli AI typu open source, biorąc pod uwagę potencjalne ukryte koszty, firmy powinny dokładnie ocenić rzeczywisty koszt swoich operacji AI. Rzeczywista cena modelu AI wykracza poza jego cenę na naklejce i obejmuje zasoby obliczeniowe, których będzie on wymagał przez cały okres użytkowania. Tak więc, przed przyjęciem modelu AI wyłącznie na podstawie jego kosztów początkowych, kluczowe jest uwzględnienie jego potencjalnego zużycia zasobów, aby uzyskać jasny obraz rzeczywistych kosztów.

Aby zagłębić się w te spostrzeżenia, zachęcamy do zapoznania się z oryginalnym artykułem na stronie VentureBeat.

Mogą Ci się również spodobać

Porozmawiaj z ALIA

ALIA