Die Debatte über den unkontrollierten Einsatz künstlicher Intelligenz (KI) dominiert seit langem den Technologiediskurs, und nun haben Hunderte von weltweit führenden Persönlichkeiten und Organisationen einen entscheidenden Schritt zur Bewältigung dieses Dilemmas unternommen. Am Montag schlossen sich mehr als 200 ehemalige Staatschefs, Diplomaten, Nobelpreisträger, KI-Spezialisten, Forscher und andere zusammen, um ein internationales Abkommen über “rote Linien” vorzuschlagen, die KI niemals überschreiten sollte. Zu den vorgeschlagenen Beschränkungen gehört das Verbot, dass KI sich als Mensch ausgibt oder sich selbst repliziert.
Zusammen mit über 70 Organisationen, die sich mit KI befassen, haben diese Koryphäen die Initiative ‘Global Call for AI Red Lines’ unterstützt. Die Initiative fordert Regierungen weltweit auf, sich bis Ende 2026 auf diese „roten Linien” für KI zu einigen. Zu den namhaften Unterzeichnern gehören Geoffrey Hinton, britisch-kanadischer Informatiker, Wojciech Zaremba, Mitbegründer von OpenAI, Jason Clinton, CISO von Anthropic, und Ian Goodfellow, Forschungswissenschaftler bei Google DeepMind.
Laut Charbel-Raphaël Segerie, dem Geschäftsführer des französischen Zentrums für KI-Sicherheit (CeSIA), besteht das Ziel dieser Initiative darin, proaktiv auf die mit KI verbundenen Risiken zu reagieren, anstatt erst nach einem schwerwiegenden Vorfall zu handeln. Er betonte die Notwendigkeit einer Einigung und erklärte: “Wenn sich die Nationen noch nicht darauf einigen können, was sie mit KI tun wollen, müssen sie sich zumindest darauf einigen, was KI niemals tun darf.”
Diese Initiative kommt kurz vor Beginn der hochrangigen Woche der 80. Generalversammlung der Vereinten Nationen in New York. Die Initiative wurde von CeSIA, der Future Society und dem Center for Human-Compatible Artificial Intelligence der UC Berkeley ins Leben gerufen. Während der Versammlung verwies die Friedensnobelpreisträgerin Maria Ressa in ihrer Eröffnungsrede auf die Initiative und sprach sich für eine globale Rechenschaftspflicht aus, um die Straffreiheit der Big Tech einzudämmen.
Zwar gibt es bereits regionale “rote Linien” für den Einsatz von KI, wie beispielsweise das KI-Gesetz der Europäischen Union und eine Vereinbarung zwischen den USA und China, dass Atomwaffen unter menschlicher Kontrolle bleiben sollen, doch fehlt es nach wie vor an einem globalen Konsens. Niki Iliadis, Direktorin für globale KI-Governance bei The Future Society, argumentierte, dass letztendlich eine unabhängige globale Institution mit durchsetzbarer Autorität erforderlich sei, um diese roten Linien festzulegen, zu überwachen und aufrechtzuerhalten. “Verantwortung muss mehr sein als eine freiwillige Verpflichtung”, fügte sie hinzu.
Der Aufruf zur Vorsicht bedeutet jedoch nicht, dass Innovation oder Wirtschaftswachstum unterdrückt werden müssen, wie einige Skeptiker argumentieren. Stuart Russell, Professor für Informatik an der UC Berkeley und führender KI-Forscher, zog Parallelen zwischen der aufstrebenden KI-Branche und den Anfängen der Kernenergie. Er sagte: “Sie können sich daran halten, indem sie keine AGI entwickeln, bis sie wissen, wie man sie sicher macht, genauso wie die Entwickler der Kernenergie keine Kernkraftwerke gebaut haben, bis sie eine Vorstellung davon hatten, wie man sie vor einer Explosion schützen kann.”.
Laut Russell können wir die Kraft der KI für die wirtschaftliche Entwicklung nutzen, ohne der fortgeschrittenen allgemeinen Intelligenz (AGI), die wir nicht kontrollieren können, freien Lauf zu lassen. “Diese vermeintliche Dichotomie, dass man, wenn man medizinische Diagnosen will, eine weltzerstörende AGI akzeptieren muss, halte ich einfach für Unsinn”, sagte er.
In einer Zeit, die durch KI geprägt und revolutioniert wird, zielt der globale Aufruf zu roten Linien für KI darauf ab, ein Gleichgewicht zwischen dem enormen Potenzial und den inhärenten Risiken dieser Technologie herzustellen und fordert einen internationalen Konsens für einen umsichtigen Umgang mit KI. Dieser erste Aufruf ist jedoch nur ein erster Schritt auf dem Weg zu einer globalen KI-Governance. Wie die Machthaber auf diesen Aufruf reagieren werden, bleibt abzuwarten.
