Neues Gesetz in Kalifornien zur Regulierung von Companion AI Chatbots
Ein bedeutender Schritt für die rasch expandierende Branche der KI-Chatbots ist die Verabschiedung eines Gesetzes zur Regulierung dieser Branche in Kalifornien, das am 13. Oktober in Kraft getreten ist. Dieser Meilenstein wurde erreicht, nachdem der kalifornische Gouverneur Gavin Newsom den Gesetzesentwurf Senat 243 unterzeichnete. Die Gesetzesvorlage, die als "erste in der Nation KI-Chatbot-Schutzmaßnahmen" bezeichnet wird, wurde von Senator Anthony Padilla vorgeschlagen.
Die neue Gesetzgebung stellt Anforderungen an die Entwickler von Chatbots für Begleitpersonen, wobei die wichtigste die verbesserte Implementierung von Schutzmaßnahmen ist. Wenn beispielsweise eine Person, die mit einem Companion Chatbot kommuniziert, möglicherweise glauben könnte, dass sie mit einem Menschen interagiert, weist das Gesetz den Chatbot-Entwickler an, einen "klaren und auffälligen Hinweis" auszugeben, um zu versichern, dass es sich bei dem Gesprächspartner ausschließlich um eine KI und nicht um eine Person handelt.
Progressive Mandate zur Förderung der Benutzersicherheit
Ab dem nächsten Jahr würde dieses Gesetz bestimmte Chatbot-Betreiber dazu verpflichten, dem Büro für Suizidprävention jährliche Berichte vorzulegen. In diesen Berichten würden die Sicherheitsmaßnahmen aufgeführt, die eingerichtet wurden, "um Fälle von Selbstmordgedanken bei Nutzern zu erkennen, zu beseitigen und darauf zu reagieren", und das Amt wäre dann verpflichtet, diese Berichte auf seiner offiziellen Website zu veröffentlichen.
Governor Newsom has endorsed this bill along with a handful of others aimed at enhancing online safety for children. He stated, “Emerging technology like chatbots and social media can inspire, educate, and connect – but without real guardrails, technology can also exploit, mislead, and endanger our kids. We can continue to lead in AI and technology, but we must do it responsibly — protecting our children every step of the way. Our children’s safety is not for sale.”
Diese Gesetzesentwürfe enthielten unter anderem neue Altersbeschränkungen für Hardware, was einen bedeutenden Schritt in Richtung Online-Sicherheit für Kinder darstellt. Der jüngste Schritt erfolgte, nachdem Gouverneur Newsom den Gesetzesentwurf 53 des Senats offiziell unterzeichnet hatte, der als bahnbrechendes KI-Transparenzgesetz bezeichnet wurde, das viel Aufmerksamkeit erregte und die KI-Unternehmen in Aufruhr versetzte.
California’s proactive steps in streamlining AI technology while safeguarding user safety has sparked a crucial dialogue on the interface between advanced technology and ethical user engagement.
