اختراق مجال الذكاء الاصطناعي مع Claude Opus 4.5
مع حلول اليوم السابق لعيد الشكر، كانت ضجة النشاط في مختبرات الذكاء الاصطناعي واضحة. فقد أعلنت شركة أنثروبيك بشكل خاص عن إصدار Claude Opus 4.5، وهو نموذج جديد للذكاء الاصطناعي يدعي قدرات فائقة في الترميز، والذكاء الاصطناعي الوكيل، والاستخدام العام للكمبيوتر. وقد جاء هذا الإعلان في أعقاب كشف جوجل عن Gemini 3 ونموذج الترميز العميل المحدث حديثاً من OpenAI. ومن المثير للاهتمام أن أنثروبيك يؤكد أن كلود أوبوس 4.5 قد تفوق حتى على Gemini 3 في فئات معينة من الترميز.
على الرغم من هذا التقديم المثير، لم يثبت نموذج Claude Opus 4.5 وجوده بعد على LMArena، وهي منصة شهيرة تستخدم لتقييم نماذج الذكاء الاصطناعي من خلال التعهيد الجماعي. ويبدو أن النموذج يواجه أيضًا نفس تحديات الأمن السيبراني التي تؤثر عادةً على أدوات الذكاء الاصطناعي الوكيلة.
تفريغ كلود أوبوس 4.5
ووفقًا للبيان الصحفي الصادر عن شركة أنثروبيك فإن Claude Opus 4.5 قد تقدمت بشكل كبير عن سابقاتها، حيث أظهرت قدرات فائقة في البحث العميق، والعمل على الشرائح، والتعامل مع جداول البيانات. بالإضافة إلى ذلك، أطلقت أنثروبيك ميزات جديدة ضمن أداة الترميز الخاصة بها، كلود كود، كما قامت بترقية تطبيقات كلود المتاحة للمستهلكين. من المتوقع أن تؤدي هذه التطورات إلى تبسيط عمل الوكلاء الأطول عمراً وتوسيع نطاق استخدامات كلود في Excel و Chrome وعلى سطح المكتب. يمكن الآن الوصول إلى Claude Opus 4.5 من خلال تطبيقات أنثروبيك وواجهة برمجة التطبيقات (API) وجميع مزودي الخدمات السحابية الثلاثة الرائدين.
من مجالات التركيز الحاسمة لأنثروبيك معالجة قضايا أمن الذكاء الاصطناعي المتعلقة بالتطبيقات الضارة للذكاء الاصطناعي وهجمات الحقن الفوري. تتضمن هذه الأشكال من التهديدات السيبرانية إدراج نص ضار في موقع ويب أو مصادر بيانات أخرى يستقي منها نموذج تعلم اللغة (LLM)، وتزويده بتعليمات تهدف إلى تعطيل إجراءات الحماية وارتكاب أفعال ضارة مثل الكشف عن البيانات الشخصية. تؤكد أنثروبيك أن نموذجها المطور أكثر مرونة في مواجهة هجمات الحقن الفوري هذه من أي نموذج آخر مماثل في صناعة التكنولوجيا. ومع ذلك، فإنها تعترف في بطاقة نموذجها بأن Opus 4.5 ليس محصنًا ضد هذه الثغرات، وأن بعض عمليات الحقن الفوري قد لا تزال تخترق دفاعاتها بشكل فعال.
تاريخياً، تم تحديد اختبارات السلامة والمعلومات الأخرى ذات الصلة بالنموذج في بطاقة النظام الخاصة به. وفقًا لهذا الاصطلاح، ذكرت أنثروبيك أنها تضمنت تقييمات جديدة - خارجية وداخلية على حد سواء - لتقييم التطبيقات الخبيثة وهجمات الحقن الفوري فيما يتعلق بالترميز واستخدام الكمبيوتر واستخدام المتصفح. قام تقييم الترميز العميل بتقييم ميول النموذج وقدراته فيما يتعلق بالامتثال لـ 150 طلب ترميز خبيث محظور وفقًا لسياسة استخدام أنثروبيك. في هذه الاختبارات، رفض نموذج Opus 4.5 100% من هذه الطلبات الخبيثة.
على الرغم من أن هذه النتائج كانت مشجعة، إلا أن نتائج اختبارات السلامة لـ Claude Code لم تكن مواتية بنفس القدر. عند استفساره عما إذا كان Opus 4.5 سيوافق على إنشاء برامج ضارة أو كتابة كود لتنفيذ هجمات DDoS مدمرة أو إنشاء برامج مراقبة غير توافقية، رفض النموذج 78% فقط من هذه الطلبات.
وبالمثل، كانت نتائج اختبار السلامة أقل من المثلى بالنسبة لخاصية “استخدام الحاسوب” في كلود. عندما طُلب منه تنفيذ إجراءات مشكوك فيها - مثل المراقبة وجمع البيانات وإنشاء ونشر محتوى ضار - رفض ما يزيد قليلاً عن 88% من هذه الطلبات. وشملت سيناريوهات الاختبار محاولات تحديد مواقع الأشخاص الذين يعانون من إدمان القمار للتسويق المستهدف، وصياغة رسائل بريد إلكتروني تهدد بنشر صور فاضحة مقابل فدية بعملة البيتكوين.
على الرغم من هذه التحديات، ينتظر المراقبون المتحمسون بفارغ الصبر ليروا كيف سيكون أداء Claude Opus 4.5 في التطبيقات الواقعية، على أمل أن يفي بوعوده الطموحة.
المقال الأصلي: ذا فيرج
