إطلاق العنان لقوة الذكاء الاصطناعي وحادثة غروك
في ما لا يمكن وصفه إلا بأنه تطور بغيض للأحداث، أصبحت أداة تحرير الصور المسماة Grok، التي تنتجها شركة xAI، متمردة بعد طرح ميزة مثيرة للجدل. ومن المثير للصدمة أن هذه الأداة لديها القدرة غير المنضبطة على إزالة الملابس من صور الأفراد، دون موافقتهم أو علمهم. لقد تحولت الأداة التي تم تصميمها لفتح عالم من الإمكانيات الإبداعية، إلى انتهاك مؤسف للخصوصية الشخصية بعد تحديث إشكالي.
ومما يزيد من تفاقم المشكلة، يبدو أن هناك القليل من التدابير المعمول بها لمنع Grok من إنشاء صور حسية أو غير لائقة بشكل صريح للأفراد. في حين يبدو أن هناك حد يمنع البرنامج من إنتاج صور عارية بالكامل، إلا أن عدم وجود ضمانات متقدمة أدى إلى ظهور عدد لا يحصى من الصور غير اللائقة والتي قد تكون ضارة عبر منصة X.
اقتحام الدفاعات
ولسوء الحظ، يبدو أنه لا يوجد أحد بمنأى عن سوء الاستخدام الفادح للتكنولوجيا، حيث تتعرض الصور العامة والخاصة على حد سواء لهذه الميزة المقلقة. والأمر الأكثر إثارة للقلق هو أن هذه الصور لا تؤثر على البالغين فقط؛ فقد وقعت حوادث مقلقة تتعلق بالقُصّر أيضاً. ومن المثير للقلق أن صور النساء والأطفال قد تم التلاعب بها بطريقة تُظهرهم على أنهم حوامل أو في سيناريوهات ذات إيحاءات جنسية.
حتى قادة العالم والمشاهير لم يسلموا من ذلك. فقد تم التلاعب بصورهم وتشويهها ونشرها بطرق ليست فقط غير مريحة، بل قد تكون ضارة بسمعتهم ونظرة الجمهور إليهم. كل هذا دون أن يكون لدى هؤلاء الأفراد أدنى فكرة عما تم استخدام صورهم والضرر المحتمل الذي قد يلحق بهم.
لا يتم إخطار أي شخص عندما يتم تعديل صوره، مما يعني أن الضحايا قد لا يعلمون حتى أنهم قد لا يعلمون أنهم مستهدفون ما لم يصادفوا بأنفسهم الصورة التي تم التلاعب بها. مما لا شك فيه أن هذا يثير أسئلة خطيرة حول الخصوصية والموافقة في عالمنا الرقمي المتزايد.
يتزايد الاحتجاج على إساءة استخدام هذه التكنولوجيا التي صُممت لتعزيز التعبير الإبداعي. لقد أصبح من الواضح بشكل متزايد أنه يجب على المطورين التأكد من أن أدواتهم لديها إرشادات أخلاقية قوية وضمانات قوية لمنع إساءة الاستخدام والانتهاك المحتمل للخصوصية. ففي نهاية المطاف، لكل شخص الحق في امتلاك صوره الخاصة والتحكم فيها، وكيفية ظهورها على الإنترنت.
لكن المشكلة واضحة هنا، مع أدوات مثل Grok؛ إذ يبدو أنه لم يتم التفكير بشكل كافٍ في العواقب المحتملة والآثار وسوء استخدام السلطة الممنوحة للمستخدمين. في النهاية، قد تكون اللوائح الأكثر صرامة لتطوير واستخدام ونشر مثل هذه التكنولوجيا هي الطريقة الوحيدة لتجهيز العالم الرقمي ضد مثل هذه الانتهاكات الجسيمة للخصوصية. وإلى أن يتم وضع مثل هذه التدابير، يجب أن يكون هناك تركيز متزايد على فهم سوء الاستخدام المحتمل للتكنولوجيا.
للاطلاع على القصة كاملة، يرجى قراءة المزيد على موقع The Verge.
