Die Funktion “Expertenbewertung” von Grammarly geriet kürzlich in die Kritik, als Nutzer bemerkten, dass KI-generierte Ratschläge scheinbar von Branchenexperten stammten. Darunter befanden sich mehrere prominente Persönlichkeiten, die nicht ihr Einverständnis gegeben hatten, dass ihre Namen mit dieser Funktion in Verbindung gebracht werden, was eine Diskussion über die Ethik des Einsatzes von KI in Schreibhilfen auslöste.
Grammarly, die von Studenten und Fachleuten gleichermaßen geschätzte Rechtschreib- und Grammatikprüfung, hat im August die Funktion ‘Expertenbewertung’ eingeführt. Diese Neuerung versprach, den Nutzern Schreibratschläge zu geben, die von Fachexperten inspiriert sind. Diese Behauptung ging jedoch ziemlich spektakulär nach hinten los, als sich herausstellte, dass einige dieser “Experten” sich ihres Beitrags überhaupt nicht bewusst waren.
Überraschenderweise entdeckten die Autoren, die die Funktion testeten, Feedback, das von Personen aus ihrem eigenen beruflichen Umfeld zu stammen schien. Eine bemerkenswerte Entdeckung machte ein Autor, der Kommentare fand, die den Ratschlägen seiner Kollegen bei The Verge zu folgen schienen, darunter Chefredakteur Nilay Patel, Chefredakteur David Pierce und die leitenden Redakteure Sean Hollister und Tom Warren. Es scheint, dass Grammarly nichts unternommen hat, um die Erlaubnis dieser Personen einzuholen, bevor ihre Namen in dem Beitrag verwendet wurden.
Dieses Versehen von Grammarly wirft wichtige Fragen zum Datenschutz und zur ethischen Nutzung von KI auf. Insbesondere unterstreicht es die Notwendigkeit, dass Technologieunternehmen transparente Prozesse einführen, wenn sie Funktionen entwickeln, die sich auf lebende Personen beziehen oder diese replizieren.
Der Verstoß weist auch auf eine mögliche Entfremdung zwischen Technologieentwicklern und -nutzern hin, wenn es um die Erwartungen in Bezug auf Datenschutz und Zustimmung geht. Innovationen wie die Funktion ‘Expertenbewertung’ mögen in der Theorie bahnbrechend erscheinen, aber wenn sie nicht richtig ausgeführt werden, können sie zu Grenzüberschreitungen und Vertrauensverlust führen.
Da KI unser Leben und unsere Arbeitsplätze immer mehr prägt, werden diese Art von Gesprächen immer wichtiger. Unternehmen wie Grammarly haben nicht nur die Verantwortung, hilfreiche Tools für ihre Nutzer zu entwickeln, sondern auch eine Kultur des Respekts für die Personen zu fördern, auf die sich ihre Produkte beziehen. Der Vorfall erinnert uns alle daran, dass die komplexen Grenzen zwischen der Nutzung von KI, dem Datenschutz und der Ethik mit der gebotenen Sorgfalt überwunden werden müssen.
Weitere Details finden Sie in der Originalmeldung bei The Verge. https://www.theverge.com/ai-artificial-intelligence/890921/grammarly-ai-expert-reviews
.
