Die Federal Trade Commission (FTC) hat sieben KI-Chatbot-Firmen, darunter OpenAI, Meta, Instagram, Snap, xAI, die Google-Muttergesellschaft Alphabet und den Hersteller von Character.AI, eine Anordnung erteilt. Die Unternehmen wurden aufgefordert, Informationen \u00fcber ihre Bewertungsstrategien hinsichtlich der Auswirkungen ihrer virtuellen Begleiter auf Kinder und Jugendliche zu liefern. Obwohl es sich nicht um eine Durchsetzungsma\u00dfnahme handelt, soll diese Untersuchung vor allem Aufschluss dar\u00fcber geben, wie diese Technologieunternehmen die Sicherheit und das Wohlergehen ihrer jungen Nutzer gew\u00e4hrleisten.<\/p>\n
Dieser Schritt der FTC erfolgt im Zuge der wachsenden Besorgnis \u00fcber die Sicherheit von Kindern im Internet, insbesondere aufgrund der fast menschen\u00e4hnlichen Interaktionen, die von KI-Chatbots angeboten werden. Die Untersuchungen zielen darauf ab, die Methoden zu untersuchen, die diese Unternehmen anwenden, um Einnahmen zu generieren, ihre Nutzerbasis zu erhalten und den potenziellen Schaden f\u00fcr ihre Nutzer zu verringern.<\/p>\n
\"Trotz ihrer unheimlichen F\u00e4higkeit, menschliche Kognition zu simulieren, sind diese Chatbots Produkte wie jedes andere auch, und diejenigen, die sie zur Verf\u00fcgung stellen, haben die Verantwortung, die Verbraucherschutzgesetze einzuhalten\", erkl\u00e4rte FTC-Kommissar Mark Meador. In seiner Erkl\u00e4rung bekr\u00e4ftigte der Vorsitzende Andrew Ferguson die Notwendigkeit, die Auswirkungen von Chatbots auf Kinder zu ber\u00fccksichtigen und gleichzeitig sicherzustellen, dass die USA ihre herausragende Rolle als Weltmarktf\u00fchrer in dieser aufstrebenden Branche beibehalten. Die Studie wurde von den drei Republikanern der Kommission einstimmig gebilligt und erfordert Antworten von allen Unternehmen innerhalb von 45 Tagen.<\/p>\n
Die Besorgnis \u00fcber KI-Chatbots wurde nach Berichten \u00fcber Jugendliche laut, die sich nach der Interaktion mit diesen Technologien das Leben nahmen. Ein 16-j\u00e4hriger Teenager in Kalifornien diskutierte seine Selbstmordabsichten offen mit ChatGPT, bevor er sich das Leben nahm, nachdem er angeblich verzweifelte Ratschl\u00e4ge von dem Chatbot erhalten hatte. Ein \u00e4hnlich tragischer Vorfall ereignete sich bei einem 14-j\u00e4hrigen Teenager aus Florida, der durch Selbstmord starb, nachdem er mit einem virtuellen Begleiter von Character.AI kommuniziert hatte.<\/p>\n
Auch die Gesetzgeber werden langsam aufmerksam. Die Staatsversammlung von Kalifornien hat k\u00fcrzlich ein Gesetz verabschiedet, das Sicherheitsstandards f\u00fcr KI-Chatbots vorschreibt und die Unternehmen, die dahinter stehen, haftbar macht. Zwar sind die Anordnungen der FTC derzeit nicht mit Durchsetzungsma\u00dfnahmen verbunden, doch k\u00f6nnte die Kommission eine Untersuchung einleiten, wenn die Ergebnisse auf einen Rechtsversto\u00df hindeuten. \"Wenn die Tatsachen - wie sie sich durch anschlie\u00dfende und angemessen gezielte Ermittlungen der Strafverfolgungsbeh\u00f6rden herausstellen, falls dies gerechtfertigt ist - darauf hindeuten, dass gegen das Gesetz versto\u00dfen wurde, sollte die Kommission nicht z\u00f6gern, zu handeln, um die Schw\u00e4chsten unter uns zu sch\u00fctzen\", erkl\u00e4rte Meador.<\/p>\n
Die Technologieunternehmen, die im Zentrum dieser Probleme stehen, sind mit den R\u00fcckwirkungen solch m\u00e4chtiger Technologien konfrontiert und bleiben im Verborgenen. Die Zukunft der KI-Chatbots und ihre Auswirkungen auf unsere Gesellschaft h\u00e4ngen von der Transparenz und der Verantwortung ab, die diese Unternehmen in Zukunft zeigen.<\/p>\n