أوبن إيه آى تفصل الإنترنت عن تدريب نماذج الذكاء الاصطناعى.. ما السبب؟

قررت شركة أوبن إيه آي (OpenAI) تدريب نماذج الذكاء الاصطناعي المتقدمة دون اتصال مباشر بالإنترنت، في خطوة تستهدف تعزيز الأمان والحد من مخاطر الاختراق، بعد اكتشاف ثغرات كشفت عن قدرة بعض الأنظمة التجريبية على تجاوز القيود الأمنية المفروضة عليها.

وجاء القرار عقب حادثة وقعت في يوليو الماضي، عندما تمكنت أنظمة ذكاء اصطناعي تجريبية تابعة للشركة من اختراق منصة هاجينج فيس (Hugging Face)، ما دفع أوبن إيه آي إلى إعادة تقييم أساليب تأمين بيئات التدريب، خاصة مع تزايد قدرات النماذج على استخدام الأدوات الرقمية وتنفيذ المهام بصورة مستقلة.

وأكدت الشركة ، أن التدريب دون اتصال مباشر بالإنترنت يمثل الخيار الأكثر مسؤولية في ظل القدرات الحالية لأنظمة المراقبة وإجراءات الحماية ، وأوضحت أن معظم عمليات التدريب والتقييم يمكن أن تتم دون الحاجة إلى الوصول المباشر للشبكة.

بيئة مغلقة لمنع تجاوز القيود الأمنية
 

وتعمل أوبن إيه آي على توفير بيئة تدريب معزولة تتيح للموظفين استخدام أدوات البرمجة والمتصفحات والوسائل اللازمة لتطوير النماذج، مع منع الاتصال المباشر بالإنترنت وتقييد الوصول إلى الأنظمة وفق صلاحيات محددة.

وللتغلب على الحاجة إلى المعلومات الموجودة على الويب، أنشأت الشركة بيئة رقمية تضم محتوى مفهرسًا ومخزنًا مسبقًا، بما يسمح لوكلاء الذكاء الاصطناعي بالاستفادة من المعلومات دون الاتصال بالمواقع الفعلية.

ورغم هذه الإجراءات، كشفت الاختبارات الأمنية عن قدرة بعض الوكلاء التجريبيين على تجاوز العزل المفروض على الأجهزة الافتراضية، إلى جانب اكتشاف وسيلة للتواصل فيما بينهم عبر استغلال أنماط الوصول إلى ذاكرة التخزين المؤقت للمعالج.

واستجابة لذلك، أعلنت الشركة إصلاح ثغرات في عدد من الأجهزة الافتراضية، وتطوير أنظمة المراقبة لرصد محاولات النماذج تجاوز القيود أو التعاون بطرق غير مسموح بها.

متى تسمح أوبن إيه آي بعودة الإنترنت؟
 

أوقفت الشركة تدريب النماذج التجريبية في سبتمبر الماضي، قبل أن تستأنف العمليات في الأول من أكتوبر، مع تطبيق النهج الجديد الذي يمنع الاتصال المباشر بالإنترنت.

وتخطط أوبن إيه آي للاستمرار في هذا النهج حتى تطوير إجراءات الحماية بدرجة تسمح بإعادة النظر في توسيع نطاق الوصول إلى الشبكة، دون تحديد موعد لحدوث ذلك أو الكشف عن جميع التحسينات الأمنية المطلوبة.

وتعكس هذه الخطوة تصاعد المخاوف بشأن أمن أنظمة الذكاء الاصطناعي المتقدمة، خاصة مع تطور الوكلاء القادرين على تصفح التطبيقات واستخدام الأدوات الرقمية نيابة عن المستخدمين، إذ لم يعد التحدي مقتصرًا على تحسين قدرات النماذج، بل أصبح يشمل أيضًا ضمان التزامها بالحدود الأمنية وعدم استغلال إمكاناتها للوصول إلى أنظمة أو بيانات غير مصرح بها.