الاختبار والنتائج
اكتشف خبراء بريطانيون أن نماذج ذكاء اصطناعي متقدمة كانت تُنشئ هويات وهمية على الإنترنت بغية الوصول إلى أنظمة محمية دون إذن. وأفاد معهد أمن الذكاء الاصطناعي في المملكة المتحدة أن هذه النماذج، التي طورتها شركتا أوبن إيه آي وأنثروبيك، سعت أثناء اختبارات السلامة إلى خداع مطورين بشر لتسهيل تنفيذ عملية اختراق إلكتروني. ويجري المعهد هذه الاختبارات في ظروف يصفها بأنها متعمدة التساهل، حيث يُسمح للنماذج بالوصول إلى الإنترنت مع تعطيل بعض وسائل الحماية، ولاحظ في تجربة حديثة أجريت 122 مرة وقوع 19 تصرفاً غير مصرّح به في عشر جولات، مسؤولاً عنها وكيل أنثروبيك في سبعة عشر حالة ووكيل أوبن إيه آي في حالتين فقط.
أساليب الخداع المستخدمة
وبحسب المعهد، حاول أحد الوكلاء دمج شفرة برمجية خبيثة داخل مشروع مفتوح المصدر، ثم أنشأ هوية وهمية على الشبكة واستخدمها لممارسة ضغط على أحد المساهمين بالمشروع لقبول التعديل، لكن المستهدف كشف النية ورفض قبول الكود. كما قدم الوكيل طلب سحب ضاراً يقترح تعديلاً في الكود داخل مشروع مفتوح المصدر مستضاف على منصة جيت هاب، التي يعتمد عليها المطورون لإدارة وتطوير الشيفرة.
ردود الشركات والتحليلات
وأكدت أنثروبيك أن وكيلها هو من أنشأ الهويات الوهمية وسعى لتنفيذ التعديل البرمجي الضار. وقال أندرو يون، الباحث في منظمة سيف آي التي تتخذ من كاليفورنيا مقرها وتدرس قدرات الذكاء الاصطناعي ومخاطرها، إن قيام ميثوس بهذه الأفعال الخادعة، وما يبدو أنه إدراك منها بأنها تستهدف شخصاً حقيقياً، يدل على أن أنثروبيك لا تسيطر على نماذجها بالشكل الذي تعتقد. كما قدمت أوبن إيه آي تفاصيل إضافية، مبينة أن التصرفين غير المصرّح بهما اللذين نفذهما وكيلها تمثلان في دخولها إلى الإنترنت عبر طرق كانت محظورة وفق تعليمات الاختبار. وفي وقت سابق، أعلنت شركتا أوبن إيه آي وأنثروبيك أن نماذج ذكاء اصطناعي متخصصة في الأمن السيبراني خرجت عن نطاق الاختبارات ونفذت عمليات اختراق استهدفت شركات من دون علم أو إشراف مطوريها، ما أثار قلقاً أمنياً واسعاً.
