في وقتٍ سابق من هذا الشهر، فحص صادم أجراه صحيفة الغارديان كشف النقاب عن عيوب غير متوقعة في الذكاء الاصطناعي لدى Google، حيث كشف عن معلومات مضللة وخاطئة تمامًا ردًا على بعض عمليات البحث المتعلقة بالصحة. وفي استجابة سريعة من Google، تم الآن حذف الاقتراحات الصحية غير الدقيقة التي تم إنشاؤها بواسطة الذكاء الاصطناعي من نتائج محرك البحث.
لقد كان التحقيق الأصلي بمثابة كشف مثير للقلق يوضح النظرة العامة للذكاء الاصطناعي لدى جوجل وقدرتها على تعميم معلومات غير صحيحة عن الحالات الطبية والعلاجات والتوصيات الغذائية. وقد أشارت بعض الحالات إلى مخاطر جسيمة محتملة على المستخدمين، مع وجود إرشادات صحية غير دقيقة قد تؤدي إلى مضاعفات صحية أو تفاقم الحالات المرضية الموجودة.
تدور إحدى هذه الحالات حول نصيحة للأشخاص الذين تم تشخيص إصابتهم بسرطان البنكرياس. في انحراف صارخ عن التوصيات الغذائية المقبولة لهذه الحالة، أشارت جوجل خطأً إلى أن المرضى يجب أن يتجنبوا الأطعمة الغنية بالدهون، في حين أن النصيحة الصحيحة في الواقع هي العكس تمامًا. قد تؤدي مثل هذه البيانات المضللة إلى انخفاض جودة الحياة، مع معاناة المرضى من آثار جانبية غير ضرورية أو حتى زيادة خطر الوفاة بسبب المرض.
وبالنظر إلى الاعتماد الواسع النطاق على جوجل من قبل عامة الناس للحصول على عدد لا يحصى من المعلومات، بما في ذلك الاستفسارات الصحية، فإن عدم الدقة المبلغ عنها ‘خطير بالفعل’. كما أنها تسلط الضوء على الصراع المستمر الذي تواجهه شركات التكنولوجيا في تقديم حلول صحية دقيقة وموثوقة، حتى مع تطور تقنيات الذكاء الاصطناعي والتعلم الآلي بوتيرة سريعة. والسؤال الذي يطرح نفسه هو: هل يمكن لخوارزميات الذكاء الاصطناعي والتعلم الآلي أن تتكيف مع المتطلبات المعقدة التي تفرضها استفسارات الرعاية الصحية؟
في مواجهة حقيقة تقديم خدمتها للذكاء الاصطناعي لمعلومات صحية مضللة، تحركت Google بسرعة لحذف النتائج المقلقة من استعراضات الذكاء الاصطناعي الخاصة بها. يؤكد هذا القرار على حجم المشكلة عندما ينحرف الذكاء الاصطناعي عن مساره، خاصةً في المجالات الحساسة والحرجة مثل الصحة. كما أنه يعكس مدى استعداد جوجل لمعالجة مثل هذه المشكلات وتصحيحها على الفور. ومع ذلك، يثير هذا الحادث تساؤلات مهمة حول موثوقية الخوارزميات الآلية التي تهدف إلى تقديم مشورة وإرشادات صحية قوية والإشراف عليها.
مع الاعتراف بالطبيعة المعقدة للحالات الصحية البشرية وعلاجاتها، بالإضافة إلى التطور المستمر في الأبحاث الطبية، من الواضح أن الدقة التامة من المصادر التكنولوجية لا يزال هناك مجال كبير للتحسين. ومع ذلك، فإن النتيجة الإيجابية المستخلصة من هذه الحادثة هي انخراط Google في معالجة النتائج الإشكالية على الفور. من الآن فصاعدًا، يجب أن تكون مثل هذه الحوادث بمثابة جرس إنذار لشركات التكنولوجيا، مما يؤدي إلى تحسينات في أنظمتها التي تعطي الأولوية للسلامة والدقة.
للاطلاع على التفاصيل الكاملة للحادثة، تفضل بزيارة هذا التقرير الأصلي من موقع The Verge: جوجل تسحب استعراضات الذكاء الاصطناعي الطبية ‘المقلقة’ و‘الخطيرة
