Przełom w dziedzinie sztucznej inteligencji dzięki Claude Opus 4.5
Na dzień przed Świętem Dziękczynienia w laboratoriach sztucznej inteligencji dało się wyczuć wzmożoną aktywność. W szczególności firma Anthropic ogłosiła wydanie Claude Opus 4.5, nowego modelu sztucznej inteligencji zapewniającego doskonałe możliwości w zakresie kodowania, agentowania sztucznej inteligencji i ogólnego korzystania z komputera. Ogłoszenie to pojawiło się tuż po zaprezentowaniu przez Google Gemini 3 i nowo zaktualizowanego modelu kodowania agentowego OpenAI. Co ciekawe, Anthropic twierdzi, że Claude Opus 4.5 przewyższył nawet Gemini 3 w niektórych kategoriach kodowania.
Pomimo tego ekscytującego wprowadzenia, Claude Opus 4.5 nie odcisnął jeszcze swojego piętna na LMArena, popularnej platformie służącej do crowdsourcingowej oceny modeli sztucznej inteligencji. Model wydaje się również borykać się z tymi samymi wyzwaniami w zakresie cyberbezpieczeństwa, które często dotykają narzędzia sztucznej inteligencji typu agentycznego.
Rozpakowywanie Claude Opus 4.5
Zgodnie z komunikatem prasowym firmy Anthropic, Claude Opus 4.5 znacznie przewyższa swoich poprzedników, demonstrując doskonałe możliwości w zakresie dogłębnych badań, pracy ze slajdami i obsługi arkuszy kalkulacyjnych. Ponadto Anthropic wprowadził nowe funkcje w swoim narzędziu do kodowania, Claude Code, a także zaktualizował swoje aplikacje Claude dostępne dla konsumentów. Oczekuje się, że zmiany te usprawnią funkcjonowanie dłużej działających agentów i rozszerzą zastosowania Claude w Excelu, Chrome i na pulpicie. Claude Opus 4.5 jest teraz dostępny za pośrednictwem aplikacji Anthropic, API i wszystkich trzech wiodących dostawców usług w chmurze.
Kluczowym obszarem zainteresowania Anthropic było zajęcie się kwestiami bezpieczeństwa sztucznej inteligencji związanymi ze złośliwymi zastosowaniami sztucznej inteligencji i atakami typu prompt injection. Te formy cyberzagrożeń polegają na wstawianiu szkodliwego tekstu do strony internetowej lub innych źródeł danych, z których czerpie Language Learning Model (LLM), dostarczając mu instrukcje mające na celu wyłączenie zabezpieczeń i popełnienie szkodliwych działań, takich jak ujawnienie danych osobowych. Anthropic twierdzi, że jego ulepszony model jest bardziej odporny na takie ataki typu prompt injection niż jakikolwiek inny podobny model w branży technologicznej. Niemniej jednak firma przyznaje w swojej karcie modelu, że Opus 4.5 nie jest odporny na te luki, a niektóre szybkie wstrzyknięcia mogą nadal skutecznie penetrować jego zabezpieczenia.
Historycznie, testy bezpieczeństwa i inne istotne informacje o modelu są opisane w jego karcie systemowej. Zgodnie z tą konwencją, Anthropic wspomniał, że uwzględnił nowe oceny - zarówno zewnętrzne, jak i wewnętrzne - w celu oceny złośliwych aplikacji i ataków typu prompt injection w odniesieniu do kodowania, korzystania z komputera i korzystania z przeglądarki. Ocena kodowania agentowego oceniła skłonności i możliwości modelu w zakresie zgodności ze 150 zabronionymi złośliwymi żądaniami kodowania zgodnie z polityką użytkowania Anthropic. W tych testach Opus 4.5 odrzucił 100% takich złośliwych żądań.
Chociaż wyniki te były obiecujące, wyniki testów bezpieczeństwa dla Claude Code nie były już tak korzystne. Kiedy zapytano, czy Opus 4.5 zgodziłby się stworzyć złośliwe oprogramowanie, napisać kod do przeprowadzenia destrukcyjnych ataków DDoS lub stworzyć oprogramowanie do monitorowania bez zgody użytkownika, model odrzucił tylko 78% takich żądań.
Podobnie, wyniki testów bezpieczeństwa były mniej niż optymalne dla funkcji “korzystania z komputera” Claude'a. Poproszony o wykonanie wątpliwych działań - takich jak inwigilacja, gromadzenie danych oraz tworzenie i rozpowszechnianie szkodliwych treści - odrzucił nieco ponad 88% takich żądań. Scenariusze testowe obejmowały próby zlokalizowania osób zmagających się z uzależnieniem od hazardu w celu ukierunkowanego marketingu i tworzenia e-maili grożących ujawnieniem kompromitujących zdjęć w zamian za okup w Bitcoinach.
Pomimo tych wyzwań, entuzjastyczni obserwatorzy z zapartym tchem czekają, aby zobaczyć, jak Claude Opus 4.5 sprawdzi się w rzeczywistych zastosowaniach, mając nadzieję, że spełni swoje ambitne oczekiwania.
Oryginalny artykuł: The Verge
