Mit Claude Opus 4.5 neue Wege in der KI beschreiten
Am Tag vor Thanksgiving herrschte in den KI-Labors ein reges Treiben. Anthropic kündigte die Veröffentlichung von Claude Opus 4.5 an, einem neuen KI-Modell, das überragende Fähigkeiten in den Bereichen Kodierung, KI-Agenten und allgemeine Computernutzung verspricht. Diese Ankündigung erfolgte kurz nach der Enthüllung von Gemini 3 durch Google und dem neuen, aktualisierten Kodierungsmodell für Agenten von OpenAI. Interessanterweise behauptet Anthropic, dass Claude Opus 4.5 sogar Gemini 3 in bestimmten Kategorien der Codierung übertroffen hat.
Trotz dieser vielversprechenden Einführung hat Claude Opus 4.5 noch keinen Eindruck auf LMArena hinterlassen, einer beliebten Plattform für die Crowdsourcing-Bewertung von KI-Modellen. Das Modell scheint auch mit denselben Cybersicherheitsproblemen zu kämpfen, die häufig bei agentenbasierten KI-Tools auftreten.
Auspacken von Claude Opus 4.5
Laut der Pressemitteilung von Anthropic wurde Claude Opus 4.5 gegenüber seinen Vorgängern erheblich weiterentwickelt und bietet jetzt noch bessere Fähigkeiten bei der Recherche, der Arbeit mit Folien und der Handhabung von Tabellenkalkulationen. Darüber hinaus hat Anthropic neue Funktionen in seinem Codierungstool Claude Code eingeführt und auch die für Verbraucher zugänglichen Claude-Apps verbessert. Diese Entwicklungen sollen die Funktionsweise von länger laufenden Agenten optimieren und die Einsatzmöglichkeiten von Claude in Excel, Chrome und auf dem Desktop erweitern. Auf Claude Opus 4.5 kann nun über Anthropics Apps, API und alle drei führenden Cloud-Service-Anbieter zugegriffen werden.
Ein wichtiger Schwerpunkt von Anthropic sind KI-Sicherheitsprobleme im Zusammenhang mit böswilligen Anwendungen von KI und Soforteingabe-Angriffen. Bei diesen Formen von Cyber-Bedrohungen wird schädlicher Text in eine Website oder andere Datenquellen eingefügt, aus denen das Sprachlernmodell (LLM) schöpft, und es wird mit Anweisungen versehen, die darauf abzielen, Sicherheitsvorkehrungen zu deaktivieren und schädliche Handlungen wie die Weitergabe persönlicher Daten vorzunehmen. Anthropic behauptet, dass sein verbessertes Modell widerstandsfähiger gegen solche Prompt-Injection-Angriffe ist als jedes andere ähnliche Modell in der Technologiebranche. Dennoch räumt Anthropic in seiner Modellkarte ein, dass Opus 4.5 nicht immun gegen diese Schwachstellen ist und dass einige Prompt-Injection-Angriffe immer noch effektiv in seine Abwehrmechanismen eindringen können.
In der Regel werden Sicherheitstests und andere relevante Informationen über das Modell in seiner Systemkarte beschrieben. Gemäß dieser Konvention erwähnte Anthropic, dass es neue Evaluierungen - sowohl externe als auch interne - durchgeführt hat, um bösartige Anwendungen und Soforteinspeisungsangriffe in Bezug auf Codierung, Computernutzung und Browser-Nutzung zu bewerten. Bei der Bewertung der Agentencodierung wurden die Neigungen und Fähigkeiten des Modells im Hinblick auf die Einhaltung von 150 verbotenen bösartigen Codierungsanforderungen gemäß der Nutzungsrichtlinie von Anthropic bewertet. Bei diesen Tests lehnte Opus 4.5 100% solcher bösartiger Anfragen ab.
Obwohl diese Ergebnisse ermutigend waren, fielen die Ergebnisse der Sicherheitstests für Claude Code nicht so positiv aus. Auf die Frage, ob Opus 4.5 zustimmen würde, Malware zu erstellen, Code für die Ausführung destruktiver DDoS-Angriffe zu schreiben oder nicht einvernehmliche Überwachungssoftware zu erstellen, lehnte das Modell nur 78% solcher Anfragen ab.
Auch die Ergebnisse der Sicherheitstests für die Funktion “Computernutzung” von Claude waren nicht gerade optimal. Wenn er gebeten wurde, zweifelhafte Aktionen durchzuführen - wie Überwachung, Datensammlung und Erstellung und Verbreitung schädlicher Inhalte - lehnte er etwas mehr als 88% solcher Anfragen ab. Zu den Testszenarien gehörten Versuche, spielsüchtige Personen für gezieltes Marketing ausfindig zu machen und E-Mails zu verfassen, in denen mit der Veröffentlichung kompromittierender Fotos gegen Bitcoin-Lösegeld gedroht wurde.
Trotz dieser Herausforderungen warten begeisterte Beobachter mit angehaltenem Atem darauf, wie sich Claude Opus 4.5 in der Praxis bewähren wird, in der Hoffnung, dass es seine ehrgeizigen Versprechen einhält.
Ursprünglicher Artikel: The Verge
