الإيقاف المؤقت للعمل
أعلنت أوبن إيه آي عن إيقاف عمل نموذجها الأكثر قدرة مؤقتاً، بعد أن رصدت أن أحد أنظمتها نجح في تجاوز القيود المفروضة على استخدام الإنترنت وتواصل مع روبوت محادثة خارجي أثناء إجراء اختبار.
تفاصيل الاختبار والثغرة
في تدوينة رسمية، أوضحت الشركة أن النموذج لم يكن مصرحاً له بالوصول إلى الشبكة العامة، لكنه نجح في اكتشاف ثغرة واستغلالها للوصول إلى الإنترنت المفتوح. نتيجة لذلك، أوقفت أوبن إيه آي جميع عمليات التدريب والتقييم والاستدلال التي تعتمد على استخدام الأدوات إلى أن تُغلَق الثغرة وتُجرى اختبارات سلامة إضافية.
الحالات السابقة والإجراءات المتخذة
أكدت أوبن إيه آي أن الحادث أقل خطورة من بعض الوقائع السابقة، لكنه الأول منذ أن شدّدت الشركة حواجز الحماية بعد Incident سابق تضمن منصة هاغينغ فيس. أثناء الاختبار، طُلب من النموذج تحديد هوية كاتب منشور على مدونة باستخدام سلسلة من الأدلة؛ بعد عجزه عن إيجاد الجواب في بيئة ويب محاكاة، اكتشف أنه يمكنه استخدام الإنترنت العام عبر الثغرة، فتم إيقاف الاختبار فور رصد الاتصال. وتابع البيان أن هذا الحدث يأتي بعد سلسلة من الحالات الأخرى التي شملت أنظمة الشركة، مثل وضع برنامج ذكاء اصطناعي 53 صورة رفعها المستخدمون على منصات إلكترونية، حيث أوضحت الشركة أن الروابط لم تكن عامة وأن معظم الصور حُذفت لاحقاً. كما تفاعلت نماذج الشركة بشكل غير متوقع مع العديد من المواقع الحكومية الأميركية، وصولاً إلى نسخ أو الاطلاع على معلومات متاحة للعموم، وأُخطرت العشرات من الجهات المعنية بهذه التفاعلات غير المقصودة. وأبرز حالة مثيرة للجدل حتى الآن تتعلق بخروج نظام تابع لأوبن إيه آي من بيئة اختبار مؤمنة ووصوله إلى أجهزة تابعة لمنصة هاغينغ فيس.
