Neues Gesetz in Kalifornien zur Regulierung von Companion AI Chatbots
Ein bedeutender Schritt für die rasch expandierende Branche der KI-Chatbots ist die Verabschiedung eines Gesetzes zur Regulierung dieser Branche in Kalifornien, das am 13. Oktober in Kraft getreten ist. Dieser Meilenstein wurde erreicht, nachdem der kalifornische Gouverneur Gavin Newsom den Gesetzesentwurf Senat 243 unterzeichnete. Die Gesetzesvorlage, die als "erste in der Nation KI-Chatbot-Schutzmaßnahmen" bezeichnet wird, wurde von Senator Anthony Padilla vorgeschlagen.
Die neue Gesetzgebung stellt Anforderungen an die Entwickler von Chatbots für Begleitpersonen, wobei die wichtigste die verbesserte Implementierung von Schutzmaßnahmen ist. Wenn beispielsweise eine Person, die mit einem Companion Chatbot kommuniziert, möglicherweise glauben könnte, dass sie mit einem Menschen interagiert, weist das Gesetz den Chatbot-Entwickler an, einen "klaren und auffälligen Hinweis" auszugeben, um zu versichern, dass es sich bei dem Gesprächspartner ausschließlich um eine KI und nicht um eine Person handelt.
Progressive Mandate zur Förderung der Benutzersicherheit
Ab dem nächsten Jahr würde dieses Gesetz bestimmte Chatbot-Betreiber dazu verpflichten, dem Büro für Suizidprävention jährliche Berichte vorzulegen. In diesen Berichten würden die Sicherheitsmaßnahmen aufgeführt, die eingerichtet wurden, "um Fälle von Selbstmordgedanken bei Nutzern zu erkennen, zu beseitigen und darauf zu reagieren", und das Amt wäre dann verpflichtet, diese Berichte auf seiner offiziellen Website zu veröffentlichen.
Gouverneur Newsom hat diesen Gesetzesentwurf zusammen mit einer Handvoll anderer Gesetzesentwürfe zur Verbesserung der Online-Sicherheit für Kinder befürwortet. Er erklärte: "Aufstrebende Technologien wie Chatbots und soziale Medien können inspirieren, erziehen und verbinden - aber ohne echte Leitplanken kann die Technologie auch ausnutzen, in die Irre führen und unsere Kinder gefährden. Wir können bei KI und Technologie weiterhin führend sein, aber wir müssen dies verantwortungsbewusst tun und unsere Kinder bei jedem Schritt schützen. Die Sicherheit unserer Kinder ist nicht käuflich."
Diese Gesetzesentwürfe enthielten unter anderem neue Altersbeschränkungen für Hardware, was einen bedeutenden Schritt in Richtung Online-Sicherheit für Kinder darstellt. Der jüngste Schritt erfolgte, nachdem Gouverneur Newsom den Gesetzesentwurf 53 des Senats offiziell unterzeichnet hatte, der als bahnbrechendes KI-Transparenzgesetz bezeichnet wurde, das viel Aufmerksamkeit erregte und die KI-Unternehmen in Aufruhr versetzte.
Die proaktiven Schritte Kaliforniens zur Vereinfachung der KI-Technologie bei gleichzeitiger Gewährleistung der Sicherheit der Nutzer haben einen wichtigen Dialog über die Schnittstelle zwischen fortschrittlicher Technologie und ethischem Engagement der Nutzer ausgelöst.
