أعلنت شركة «أوبن إيه آي»، مطورة «تشات جي بي تي»، أن نماذج الذكاء الاصطناعي المتقدمة التابعة لها تصرفت بشكل غير متوقع وخارج عن السيطرة أثناء اختبارات للسلامة، مخترقة منصة شهيرة بين المبرمجين بمبادرة ذاتية منها.
ووصفت الشركة، التي تتخذ من سان فرانسيسكو مقرا لها، الواقعة بأنها «حادثة سيبرانية غير مسبوقة»، وأعلنت إجراء تحقيق مشترك مع منصة «هاغينغ فيس» (Hugging Face)، وهي مستودع برمجي عبر الإنترنت كان هدفا للاختراق. وأوضحت «أوبن إيه آي» أن الحادثة شملت مجموعة من النماذج، بما في ذلك نموذجها الذي أطلقته مؤخرا «جي بي تي-5.6 سول»، ونموذج آخر «أكثر قدرة» لا يزال قيد التطوير.
وكانت الشركة تسعى إلى تقييم قدرات الاختراق لدى هذه النماذج من خلال تكليفها بمهام داخل بيئة اختبار رقمية خاضعة لرقابة صارمة، يكون فيها الوصول إلى الإنترنت مقيدا لأسباب أمنية. وقالت «أوبن إيه آي» في تدوينة شرحت فيها تفاصيل الحادثة: «أثناء عملها في بيئة الاختبار الخاصة بنا، خصصت نماذجنا قدرا كبيرا من (القدرة الحاسوبية) لإيجاد طريقة للحصول على وصول غير مقيد إلى الإنترنت، وذلك بهدف حل مسألة التقييم».
وبمجرد اتصالها بالإنترنت، استهدفت النماذج منصة «هاغينغ فيس» (Hugging Face)، وهي مستودع ضخم لنماذج الذكاء الاصطناعي ومجموعات البيانات ومعلومات أخرى، للمساعدة في إنجاز مهمتها. وفي سعيها للعثور على «معلومات سرية» قد تساعدها في تجاوز اختبار التقييم بطرق غير قانونية، عمد نظام «أوبن إيه آي» إلى «الربط بين مسارات عدة للهجوم، بما في ذلك استخدام بيانات اعتماد مسروقة».