تخيل المشهد المؤسسي في المستقبل القريب. هناك دور جديد يحدث ضجة في جميع الشركات، خاصة في الشركات التي تركز على التكنولوجيا. لم يتم تصميم هذا الدور في المقام الأول لدفع الشركة إلى الأمام، بل لفحص الأفق بحذر، والبحث دائمًا عن التهديدات الوشيكة. من بين الشركات التي تتبنى مستقبل التكنولوجيا، تبرز شركة OpenAI. تبحث الشركة عن شخص محترف يكره البشر، أو رئيس قسم الاستعداد، أو بعبارة أبسط، كبش فداء للشركة وفقًا لمعايير ISO.
يرأس OpenAI سام ألتمان، الذي أعلن مؤخرًا عن إنشاء هذا المنصب. المهمة الأساسية لهذا الموظف المحتمل مرعبة في نطاقها: النظر في جميع الطرق التي يمكن أن يخرج بها الذكاء الاصطناعي عن السيطرة، مما يؤدي إلى عواقب مخيفة لا يريد أحد أن يتصورها. المنطق وراء قرار ألتمان ينبع من إدراكه أن التقدم السريع في مجال الذكاء الاصطناعي ليس كله وردية. بل على العكس، فهو يجلب معه نصيبه العادل من ‘التحديات الحقيقية’.
في مستقبل مدفوع بالتكنولوجيا حيث يتولى الذكاء الاصطناعي زمام الأمور، قد يكون لهذه التحديات آثار سلبية بعيدة المدى على جوانب حاسمة مثل الأمن السيبراني والصحة العقلية للأشخاص. هذه ليست سوى بعض المجالات التي قد تسوء فيها الأمور بشكل رهيب، مما يجعل دور رئيس قسم الاستعدادات دورًا حاسمًا.
ولاية رئيس الاستعداد
مهام رئيس قسم الاستعداد في OpenAI ليست سهلة. يتطلب هذا المنصب شخصًا لا يتردد في التفكير في أسوأ السيناريوهات ويبذل قصارى جهده لإيجاد حلول فعالة للتخفيف من حدتها. بدلاً من السعي لتحقيق تقدمات رائدة، سيكون التركيز الرئيسي لهذا الشخص على ‘تتبع القدرات الرائدة التي تخلق مخاطر جديدة من الأضرار الجسيمة والاستعداد لها’.’
الشخص الذي يشغل هذا المنصب يصبح البطل الخارق في مكتبه، حيث يصد التهديدات الغامضة التي قد تنشأ من مصادر غير متوقعة. يصبح هذا الشخص خط الدفاع الأخير ضد الكوارث المحتملة، ومهمته هي ضمان استمرار الذكاء الاصطناعي في خدمة البشرية دون أن يتحول إلى عملاق إلكتروني.
مع اندفاعنا بسرعة نحو مستقبل مدعوم بالذكاء الاصطناعي، يصبح من المهم بشكل متزايد وجود ضمانات ضد الكوارث المحتملة. يتوافق منصب رئيس الاستعداد مع وجهة النظر هذه، مع الاعتراف بأن القوة الكبيرة تأتي مع مسؤولية كبيرة. يبدو مستقبل صناعة التكنولوجيا كطريق مفتوح على مصراعيه مع الذكاء الاصطناعي في مقعد القيادة. الآن تسعى OpenAI إلى التأكد من أننا لا نخرج عن المسار الصحيح في سعينا لتحقيق التقدم.
الائتمان: القصة الأصلية من ذا فيرج.
