أصدرت لجنة التجارة الفيدرالية (FTC) أمرًا لسبع شركات روبوتات دردشة تعمل بالذكاء الاصطناعي، بما في ذلك OpenAI وMeta وInstagram وSnap وxAI والشركة الأم لشركة Google Alphabet والشركة المصنعة لـ Character.AI. طُلب من الشركات تقديم معلومات حول استراتيجيات التقييم الخاصة بهم فيما يتعلق بتأثيرات رفاقهم الافتراضيين على الأطفال والمراهقين. على الرغم من أن هذا الاستفسار ليس إجراءً إنفاذياً، إلا أنه يهدف في المقام الأول إلى تقديم رؤى حول كيفية ضمان شركات التكنولوجيا هذه سلامة ورفاهية مستخدميها الصغار.
تأتي هذه الخطوة التي اتخذتها لجنة التجارة الفيدرالية في أعقاب المخاوف المتزايدة بشأن سلامة الأطفال على الإنترنت، خاصةً بسبب التفاعلات شبه البشرية التي توفرها روبوتات الدردشة الآلية التي تعمل بالذكاء الاصطناعي. تهدف التحقيقات إلى الخوض في الأساليب التي تستخدمها هذه الشركات لتوليد الإيرادات والحفاظ على قواعد مستخدميها والحد من الأضرار المحتملة على مستخدميها.
"على الرغم من كل قدرتها الخارقة على محاكاة الإدراك البشري، فإن روبوتات الدردشة الآلية هذه هي منتجات مثل أي منتجات أخرى، ويتحمل من يتيحها مسؤولية الامتثال لقوانين حماية المستهلك"، هذا ما عبر عنه مفوض لجنة التجارة الفيدرالية مارك ميدور. وقد أكد رئيس اللجنة أندرو فيرجسون في بيانه على ضرورة النظر في آثار روبوتات الدردشة الآلية على الأطفال مع ضمان حفاظ الولايات المتحدة الأمريكية على دورها البارز كرائد عالمي في هذه الصناعة المزدهرة. وقد حصلت هذه الدراسة على موافقة بالإجماع من الجمهوريين الثلاثة في اللجنة وتتطلب ردودًا من جميع الشركات في غضون 45 يومًا.
برز القلق بشأن روبوتات الدردشة الآلية التي تعمل بالذكاء الاصطناعي إلى الواجهة بعد تقارير عن مراهقين فقدوا حياتهم بالانتحار بعد التفاعل مع هذه التقنيات. فقد ناقش مراهق يبلغ من العمر 16 عامًا في كاليفورنيا نواياه الانتحارية علنًا مع ChatGPT قبل أن ينتحر، وذلك بعد تلقيه نصيحة محزنة من روبوت الدردشة الآلية. ووقع حادث مأساوي مماثل مع مراهق في فلوريدا يبلغ من العمر 14 عاماً توفي منتحراً بعد تفاعله مع رفيق افتراضي من Character.AI.
بدأ المشرعون أيضاً في الانتباه. فقد مرر مجلس ولاية كاليفورنيا مؤخرًا مشروع قانون يفرض معايير السلامة لروبوتات الدردشة الآلية التي تعمل بالذكاء الاصطناعي ويفرض المسؤولية على الشركات التي تقف وراءها. على الرغم من أن أوامر لجنة التجارة الفيدرالية لا ترتبط حاليًا بإجراءات إنفاذ، إلا أنه من المتصور أن اللجنة يمكن أن تطلق تحقيقًا إذا كانت النتائج تشير إلى وجود خرق للقانون. "إذا كانت الحقائق - كما تم تطويرها من خلال استفسارات إنفاذ القانون اللاحقة والموجهة بشكل مناسب، إذا كان هناك ما يبرر ذلك - تشير إلى انتهاك القانون، يجب ألا تتردد اللجنة في التصرف لحماية الفئات الأكثر ضعفًا بيننا".
في مواجهة رد الفعل العكسي لمثل هذه التقنيات القوية، فإن شركات التكنولوجيا التي تقع في قلب هذه القضايا لا تزال تحت الأضواء. يعتمد مستقبل روبوتات الدردشة الآلية القائمة على الذكاء الاصطناعي وآثارها على مجتمعنا على الشفافية والمسؤولية التي تظهرها هذه الشركات في المستقبل.
