Die Diskussionen über den unkontrollierten Einsatz von künstlicher Intelligenz (KI) beherrschen seit langem den Tech-Diskurs, und nun haben Hunderte von führenden Politikern und Organisationen weltweit einen entscheidenden Schritt zur Bewältigung dieses Dilemmas unternommen. Am Montag schlossen sich mehr als 200 ehemalige Staatsoberhäupter, Diplomaten, Nobelpreisträger, KI-Spezialisten, Forscher und andere zusammen, um eine internationale Vereinbarung über “rote Linien” vorzuschlagen, die KI niemals überschreiten sollte. Zu den vorgeschlagenen Einschränkungen gehört das Verbot von KI, sich als Mensch auszugeben oder sich selbst zu replizieren.
Gemeinsam mit über 70 Organisationen, die sich der KI verschrieben haben, haben diese Persönlichkeiten die Initiative ‘Global Call for AI Red Lines’ unterstützt. Die Initiative fordert die Regierungen weltweit auf, sich bis Ende 2026 auf diese "roten Linien" für die KI zu einigen. Zu den hochkarätigen Unterzeichnern gehören der britisch-kanadische Informatiker Geoffrey Hinton, Wojciech Zaremba, Mitbegründer von OpenAI, Jason Clinton, CISO von Anthropic, und Ian Goodfellow, Forscher bei Google DeepMind.
Der Antrieb hinter dieser Initiative ist laut Charbel-Raphaël Segerie, dem Geschäftsführer des französischen Zentrums für KI-Sicherheit (CeSIA), die mit KI verbundenen Risiken proaktiv anzugehen, anstatt erst nach einem bedeutenden Vorfall zu reagieren. Er unterstrich die Notwendigkeit einer Einigung: “Wenn sich die Nationen noch nicht darauf einigen können, was sie mit KI tun wollen, müssen sie sich zumindest darauf einigen, was KI niemals tun darf.”
Diese Initiative steht kurz vor der 80. Generalversammlung der Vereinten Nationen, die in New York stattfindet. Die Initiative wurde von CeSIA, der Future Society und dem Center for Human-Compatible Artificial Intelligence der UC Berkeley ins Leben gerufen. Während der Versammlung verwies die Friedensnobelpreisträgerin Maria Ressa in ihrer Eröffnungsrede auf die Initiative und sprach sich für eine globale Rechenschaftspflicht aus, um die Straflosigkeit von Big Tech einzudämmen.
Zwar gibt es bereits regionale “rote Linien” für den Einsatz von KI, wie z. B. das KI-Gesetz der Europäischen Union und eine Vereinbarung zwischen den USA und China, wonach Atomwaffen unter menschlicher Kontrolle bleiben sollten, doch fehlt es nach wie vor an einem globalen Konsens. Niki Iliadis, Direktor für globale KI-Governance bei The Future Society, vertrat die Ansicht, dass letztendlich eine unabhängige globale Institution mit durchsetzbaren Befugnissen erforderlich ist, um diese roten Linien festzulegen, zu überwachen und zu wahren. “Verantwortung muss mehr sein als ein freiwilliges Versprechen”, fügte sie hinzu.
Der Aufruf zur Vorsicht bedeutet jedoch nicht, dass Innovation oder Wirtschaftswachstum im Keim erstickt werden, wie einige Skeptiker behaupten. Stuart Russell, Professor für Informatik an der UC Berkeley und einer der führenden KI-Forscher, zog Parallelen zwischen der aufstrebenden KI-Industrie und den Anfängen der Kernkraft. Er sagte: “Sie können die Vorschriften einhalten, indem sie keine KI bauen, bevor sie nicht wissen, wie man sie sicher macht, so wie die Entwickler von Kernkraftwerken keine Kernkraftwerke gebaut haben, bevor sie nicht wussten, wie man sie vor Explosionen schützen kann.
Russell zufolge können wir die Macht der KI für die wirtschaftliche Entwicklung nutzen, ohne einer fortgeschrittenen allgemeinen Intelligenz (AGI), die wir nicht kontrollieren können, freien Lauf zu lassen. “Diese vermeintliche Dichotomie - wenn man medizinische Diagnosen will, muss man weltzerstörende AGI akzeptieren - halte ich für Unsinn”, sagte er.
In einer Zeit, die durch KI geprägt und revolutioniert wird, zielt der globale Aufruf zu roten Linien für KI darauf ab, ein Gleichgewicht zwischen dem enormen Potenzial und den inhärenten Risiken dieser Technologie herzustellen und fordert einen internationalen Konsens für einen umsichtigen Umgang mit KI. Dieser erste Aufruf ist jedoch nur ein erster Schritt auf dem Weg zu einer globalen KI-Governance. Wie die Machthaber auf diesen Aufruf reagieren werden, bleibt abzuwarten.
