تخيل مشهد الشركات، ليس بعيدًا جدًا في المستقبل. هناك دور جديد يشق طريقه في الشركات، وتحديدًا في الشركات ذات التوجه التكنولوجي. لا يهدف هذا الدور في المقام الأول إلى دفع الشركة إلى الأمام، بل إلى مسح الأفق بحذر، مع الترقب الدائم للتهديدات التي تلوح في الأفق. ومن بين الشركات التي تتبنى مستقبل التكنولوجيا، تبرز هذه الشركة - OpenAI. فالشركة تبحث عن شخص محترف في كراهية البشر، أو رئيس للاستعداد، أو بعبارات أبسط، كبش فداء للشركة.
يرأس شركة OpenAI سام ألتمان، الذي أعلن مؤخراً عن إنشاء هذا المنصب. إن المهمة الأساسية لهذا الموظف المرتقب مرعبة في نطاقها: النظر في جميع الطرق التي لا حصر لها التي يمكن أن يخرج بها الذكاء الاصطناعي عن السيطرة، مما يؤدي إلى عواقب مرعبة لا يرغب أحد في تصورها. وينبع الأساس المنطقي الذي يستند إليه ألتمان في هذا القرار من إدراكه أن التطورات السريعة في مجال الذكاء الاصطناعي ليست كلها مشرقة ومشرقة. وبدلاً من ذلك، فإنها تجلب نصيبها العادل من ‘التحديات الحقيقية’.
في المستقبل الذي تغذيه التكنولوجيا، حيث يمسك الذكاء الاصطناعي بزمام الأمور، يمكن أن يكون لهذه التحديات آثار سلبية بعيدة المدى على جوانب حاسمة مثل الأمن السيبراني والصحة النفسية للأشخاص. هذه ليست سوى عدد قليل من المجالات التي يمكن أن تسوء فيها الأمور بشكل فظيع، مما يجعل دور رئيس قسم التأهب دوراً حاسماً.
ولاية رئيس الاستعداد
إن خط سير مهام رئيس قسم التأهب في OpenAI ليس بالأمر الهيّن. يتطلب هذا الدور شخصًا لا يتوانى عن التفكير في أسوأ السيناريوهات ويجد صعوبة في إيجاد حلول فعالة للتخفيف من حدتها. فبدلاً من الدفع نحو تحقيق تطورات رائدة، سيكون التركيز الغالب لهذا الشخص على ‘تتبع القدرات الحدودية التي تخلق مخاطر جديدة ذات ضرر بالغ والاستعداد لها’.’
الشخص الذي يشغل هذا المنصب يصبح البطل الخارق في مكتبه، حيث يصد التهديدات الغامضة التي قد تنشأ من مصادر غير متوقعة. يصبح هذا الشخص خط الدفاع الأخير ضد الكوارث المحتملة، ومهمته هي ضمان استمرار الذكاء الاصطناعي في خدمة البشرية دون أن يتحول إلى عملاق إلكتروني.
مع انغماسنا في المستقبل المدعوم بالذكاء الاصطناعي، يصبح من الأهمية بمكان أن يكون لدينا ضمانات ضد الكوارث المحتملة. وينسجم منصب رئيس قسم التأهب مع وجهة النظر هذه، حيث يقر بأن مع القوة الكبيرة تأتي مسؤولية كبيرة. يبدو مستقبل صناعة التكنولوجيا كطريق مفتوح على مصراعيه مع وجود الذكاء الاصطناعي في مقعد القيادة. والآن، تسعى OpenAI إلى التأكد من أننا في مطاردة التقدم، لا نخرج عن المسار الصحيح.
الائتمان: القصة الأصلية من ذا فيرج.
