أنثروبيك تكشف ثغرات فى اختبارات سلامة نماذج الذكاء الاصطناعى

كشفت شركة "أنثروبيك" عن تفاوت في قدرة نموذجها "كلود" على التعامل مع المحادثات المرتبطة بإيذاء النفس، إذ سجل استجابات مناسبة في 60% فقط من الاختبارات عند استخدامه عبر واجهة برمجة التطبيقات API، مقابل 94% عبر تطبيق "كلود"، بعد إدخال تعديلات على تعليماته الداخلية.

وأوضحت الشركة، في تقييم أن تقييم سلامة نماذج الذكاء الاصطناعي لا يعتمد على نسب النجاح وحدها، محذرة من أن النموذج نفسه قد يقدم نتائج مختلفة تبعاً لطريقة تشغيله والإعدادات المستخدمة.

وأشارت إلى أنها رصدت قبل إطلاق نموذج "Claude Fable 5.1" استجابات توحي أحياناً بأن إيذاء النفس قد يساعد الأشخاص على التعامل مع ضغوطهم، رغم تحذير النموذج من هذا السلوك وتوجيه المستخدمين إلى طلب الدعم البشري.

كما حذرت "أنثروبيك" من محدودية الاختبارات التي تعتمد على سؤال واحد، بعدما سجلت نماذجها الحديثة نتائج بين 94% و98%، مؤكدة أهمية استخدام محادثات أطول والاستعانة بخبراء بشريين للتحقق من دقة التقييمات.

وفي سياق اختبارات الأمن السيبراني، قالت الشركة إنها أوقفت عدداً من الاختبارات التي تتيح للنماذج الوصول إلى الإنترنت، بعدما تمكنت نماذجها خلال تجارب سابقة من الوصول إلى الإنترنت المفتوح واختراق أنظمة ثلاث شركات.

أنثروبيك، كلود، الذكاء الاصطناعي، سلامة النماذج، الأمن السيبراني،

سبيس إكس تلغي محاولة التقاط معزز ستارشيب.. والمركبة تواصل رحلتها في المدار

كتبت هبة السيد

أطلقت شركة "سبيس إكس" صاروخ "ستارشيب" في رحلته التجريبية الخامسة عشرة، لكنها ألغت المحاولة الأولى لالتقاط مرحلتي الصاروخ باستخدام أذرع برج الإطلاق الميكانيكية، بعدما اضطر المعزز "سوبر هيفي" إلى إلغاء عودته إلى منصة الإطلاق والسقوط في خليج المكسيك.

ووفقاً لموقع "سبيس فلايت ناو"، نجحت المرحلة العليا من الصاروخ، التي تحمل اسم "Ship 42"، في الوصول إلى المدار، وأطلقت 26 قمراً صناعياً تابعاً لشبكة "ستارلينك"، على أن تعود إلى قاعدة "ستاربيس" في ولاية تكساس، السبت، في محاولة لالتقاطها باستخدام الأذرع الميكانيكية للبرج، للمرة الأولى.

وانطلق الصاروخ من قاعدة "ستاربيس" أمس الجمعة، وكان من المقرر أن يعود المعزز إلى منصة الإطلاق بعد نحو ست دقائق من الإقلاع.

لكن المعزز ألغى محاولة العودة والالتقاط تلقائياً، بعدما رصد مشكلة في أنظمة التوجيه والملاحة، بحسب ما أوضحه دان هوت، المعلق في البث المباشر لشركة "سبيس إكس".

وأضاف موقع "سبيس فلايت ناو" أن المعزز انتقل إلى خطة هبوط بديلة في المياه قبالة الساحل، لكنه انفجر قبل اصطدامه بسطح البحر.

وسبق لشركة "سبيس إكس" أن نجحت في التقاط معزز "سوبر هيفي" ثلاث مرات، لكنها لم تنفذ هذه المناورة من قبل باستخدام النسخة الأحدث والأكبر حجماً "الإصدار الثالث" من المعزز، كما لم يسبق لها التقاط المرحلة العليا من الصاروخ.

وتعد هذه المرة الثانية التي يصل فيها "ستارشيب" إلى المدار، بعدما شهدت رحلته المدارية الأولى في سبتمبر الماضي عطلاً في أحد المحركات، دفع الشركة إلى إنهاء الرحلة وإعادة المركبة إلى الأرض قبل موعدها.

ومن المقرر أن تقضي المركبة هذه المرة نحو 22 ساعة في المدار، وأن تدور حول الأرض قرابة 14 مرة، وفقاً لوكالة "يو بي آي"، مع احتفاظ "سبيس إكس" بإمكانية إنهاء الرحلة مبكراً وتوجيه المركبة إلى السقوط في المحيط إذا ظهرت أي مشكلات.

ويمثل نجاح التقاط المرحلة العليا خطوة مهمة نحو تطوير صاروخ قابل لإعادة الاستخدام بالكامل، وهو هدف تقول "سبيس إكس" إنه ضروري لخفض تكاليف الإطلاق، وتمكين الشركة من تنفيذ رحلات مستقبلية إلى القمر والمريخ.