\nAm Tag vor Thanksgiving war die gesch\u00e4ftige Betriebsamkeit in den KI-Labors deutlich zu sp\u00fcren. Insbesondere k\u00fcndigte Anthropic die Ver\u00f6ffentlichung von Claude Opus 4.5 an, einem neuen KI-Modell, das \u00fcberlegene F\u00e4higkeiten in den Bereichen Codierung, KI-Agentur und allgemeine Computernutzung beansprucht. Diese Ank\u00fcndigung folgte unmittelbar auf die Vorstellung von Gemini 3 durch Google und das neu aktualisierte agentenbasierte Codierungsmodell von OpenAI. Interessanterweise behauptet Anthropic, dass Claude Opus 4.5 in bestimmten Kategorien der Codierung sogar Gemini 3 \u00fcbertroffen hat.\n<\/p>\n
\nTrotz dieser vielversprechenden Einf\u00fchrung hat Claude Opus 4.5 noch keinen Eindruck auf LMArena hinterlassen, einer beliebten Plattform f\u00fcr die Crowdsourcing-Bewertung von KI-Modellen. Das Modell scheint auch mit denselben Cybersicherheitsproblemen zu k\u00e4mpfen, die h\u00e4ufig bei agentenbasierten KI-Tools auftreten.\n<\/p>\n
\nLaut der Pressemitteilung von Anthropic hat Claude Opus 4.5 seine Vorg\u00e4nger deutlich \u00fcbertroffen und zeigt \u00fcberlegene F\u00e4higkeiten in den Bereichen Tiefenforschung, Arbeit mit Folien und Umgang mit Tabellenkalkulationen. Dar\u00fcber hinaus hat Anthropic neue Funktionen in seinem Codierungstool Claude Code eingef\u00fchrt und auch seine f\u00fcr Verbraucher zug\u00e4nglichen Claude-Apps aktualisiert. Diese Entwicklungen sollen die Funktionsweise von l\u00e4nger laufenden Agenten optimieren und die Einsatzm\u00f6glichkeiten von Claude in Excel, Chrome und auf dem Desktop erweitern. Claude Opus 4.5 ist nun \u00fcber die Apps von Anthropic, die API und alle drei f\u00fchrenden Cloud-Dienstleister zug\u00e4nglich.\n<\/p>\n
\nEin wichtiger Schwerpunkt f\u00fcr Anthropic war die Bek\u00e4mpfung von KI-Sicherheitsproblemen im Zusammenhang mit b\u00f6swilligen Anwendungen von KI und Prompt-Injection-Angriffen. Bei diesen Formen von Cyber-Bedrohungen werden sch\u00e4dliche Texte in eine Website oder andere Datenquellen eingef\u00fcgt, aus denen das Sprachlernmodell (LLM) sch\u00f6pft, und ihm Anweisungen gegeben, die darauf abzielen, Sicherheitsvorkehrungen zu deaktivieren und sch\u00e4dliche Aktionen wie die Offenlegung personenbezogener Daten durchzuf\u00fchren. Anthropic behauptet, dass sein verbessertes Modell widerstandsf\u00e4higer gegen solche Prompt-Injection-Angriffe ist als jedes andere \u00e4hnliche Modell in der Technologiebranche. Dennoch r\u00e4umt das Unternehmen in seiner Modellkarte ein, dass Opus 4.5 nicht immun gegen diese Schwachstellen ist und einige Prompt-Injections seine Abwehrma\u00dfnahmen dennoch effektiv durchdringen k\u00f6nnen.\n<\/p>\n
\nHistorisch gesehen sind Sicherheitstests und andere relevante Informationen \u00fcber das Modell in seiner Systemkarte zusammengefasst. Gem\u00e4\u00df dieser Konvention erw\u00e4hnte Anthropic, dass es neue Bewertungen \u2013 sowohl externe als auch interne \u2013 einbezog, um b\u00f6swillige Anwendungen und Prompt-Injection-Angriffe in Bezug auf Codierung, Computernutzung und Browsernutzung zu bewerten. Die agentenbasierte Codierungsbewertung beurteilte die Neigungen und F\u00e4higkeiten des Modells hinsichtlich der Einhaltung von 150 verbotenen b\u00f6swilligen Codierungsanfragen gem\u00e4\u00df den Nutzungsrichtlinien von Anthropic. In diesen Tests lehnte Opus 4.5 100% solcher b\u00f6swilligen Anfragen ab.\n<\/p>\n
\nObwohl diese Ergebnisse ermutigend waren, fielen die Ergebnisse der Sicherheitstests f\u00fcr Claude Code nicht so positiv aus. Auf die Frage, ob Opus 4.5 zustimmen w\u00fcrde, Malware zu erstellen, Code f\u00fcr die Ausf\u00fchrung destruktiver DDoS-Angriffe zu schreiben oder nicht einvernehmliche \u00dcberwachungssoftware zu erstellen, lehnte das Modell nur 78% solcher Anfragen ab.\n<\/p>\n
\nEbenso waren die Ergebnisse der Sicherheitspr\u00fcfungen f\u00fcr Claudes Funktion \u201cComputernutzung\u201d nicht optimal. Bei der Aufforderung, zweifelhafte Handlungen durchzuf\u00fchren \u2013 wie \u00dcberwachung, Datenerfassung sowie Erstellung und Verbreitung sch\u00e4dlicher Inhalte \u2013 lehnte das System etwas mehr als 88% solcher Anfragen ab. Zu den Testszenarien geh\u00f6rten Versuche, Menschen mit Spielsucht f\u00fcr gezieltes Marketing ausfindig zu machen und E-Mails zu verfassen, in denen mit der Ver\u00f6ffentlichung kompromittierender Fotos gegen L\u00f6segeld in Form von Bitcoin gedroht wurde.\n<\/p>\n
\nTrotz dieser Herausforderungen warten begeisterte Beobachter mit angehaltenem Atem darauf, wie sich Claude Opus 4.5 in der Praxis bew\u00e4hren wird, in der Hoffnung, dass es seine ehrgeizigen Versprechen einh\u00e4lt.\n<\/p>\n