أفادت وكالة الأناضول من أنقرة عبر مراسلها أميرهان دمير بأن خبراء من جامعات كبرى حذرّوا من احتمال خروج أنظمة الذكاء الاصطناعي عن السيطرة وتطويرها لأهداف خاصة بها.
تحذيرات من قدرة الذكاء الاصطناعي على وضع أهداف خاصة
البروفيسور جان سيباستيان ديسورولت، من قسم الرياضيات وعلوم الحاسوب في جامعة كيبيك الكندية، قال للأناضول إن أنظمة الذكاء الاصطناعي لم تعد مجرد أدوات، بل أصبحت قادرة، أثناء سعيها لتحقيق الأهداف التي يحددها البشر، على وضع أهداف خاصة بها أيضًا. وأضاف أن “خروج الذكاء الاصطناعي عن السيطرة” قد يؤدي إلى اضطرابات واسعة في سلاسل الإمداد، والتسلل إلى أنظمة مختلفة وشبكة الإنترنت، وآثار اقتصادية واسعة، فضلًا عن إمكانية ظهور فيروسات جديدة. وشبّه تطور الذكاء الاصطناعي بالسيارة، قائلًا: “إذا قارنا الذكاء الاصطناعي بالسيارة، فإننا نطوّر دواسة الوقود الآن بسرعة أكبر بكثير من دواسة المكابح”، مشددًا على ضرورة خفض سرعة التطوير بشكل متزامن بين جميع الدول والمؤسسات.
عوامل بشرية تسهم في الخروقات
الدكتور بيتار رادانلييف من قسم علوم الحاسوب بجامعة أكسفورد البريطانية أوضح للأناضول أن مفهوم “الذكاء الاصطناعي المارق” يعكس عدم قدرة البشر على توجيه هذه الأنظمة أو تصحيحها أو إيقافها بصورة موثوقة. وذكر أن الحالات التي أُعلن عنها حتى الآن تعكس “وضعًا اعتياديًا”، وأن بيئات الاختبار “لم تُنشأ بدرجة كافية من الحذر”. وأشار إلى أن هذه الحوادث “كانت أحداثًا حقيقية أسفرت عن نتائج حقيقية”، ونجمت عن ممارسات هندسية ورقابية معروفة جيدًا في قطاعات أخرى ذات أهمية حاسمة للسلامة، لكنها لم تُعتمد بعد بصورة متسقة في قطاع الذكاء الاصطناعي. ولفت إلى أن شركة “أنثروبيك” وصفت سبب الحادثة التي وقعت في اختباراتها بأنه عطل تشغيلي، وليس مشكلة مرتبطة بخصائص نموذج الذكاء الاصطناعي نفسه، بينما خُففت إجراءات السلامة في حالة “أوبن إيه آي” عمدًا بهدف قياس قدرات النظام في أسوأ السيناريوهات الممكنة.
آراء الخبراء حول السيطرة والمسؤولية
الدكتور ياشا بارييس، الباحث في التفاعل بين الإنسان والتكنولوجيا بجامعة فريبورغ السويسرية، قال للأناضول إن سيناريوهات نهاية العالم المرتبطة بالذكاء الاصطناعي طُرحت مرارًا منذ خمسينيات القرن الماضي، ولاحظ تراجع توقعات الأرباح لدى شركات الذكاء الاصطناعي، وعدم إيجابية الأخبار المتعلقة بمراكز البيانات، وتزايد الانتقادات في العديد من الدول، فضلًا عن قلق الشركات بشأن صورتها أمام الرأي العام. وأكد أن أنظمة الذكاء الاصطناعي لا يمكنها الخروج عن السيطرة بمفردها، وإنما تصبح مثل هذه الحالة ممكنة بفعل الظروف المحيطة بها. ودعا إلى التوقف عن النظر إلى الذكاء الاصطناعي باعتباره قوة حاسمة، والسؤال عن البنية التحتية، والقوة، والأموال، والأطراف المشاركون، والدافع السياسي لاستخدام التقنية. وخلص إلى أن الشركات التي تواصل تطوير وإنتاج نماذجها رغم إدراكها أنها قد تشكل مخاطر وجودية على المجتمع تكون قد ارتكبت جريمة، ووصف ما يحدث بأنه نوع من النفاق وحيلة تسويقية لجذب مزيد من اهتمام وسائل الإعلام.
وأوضحت الوكالة أن اختبارات أجريت على نماذج طورتها شركتا “أوبن إيه آي” و”أنثروبيك” كشفت عن خروقات أمنية، بينها تمكن بعض الأنظمة من التسلل إلى أنظمة أخرى والتسبب في أضرار، ما أثار تساؤلات حول قدرتها على تجاوز الضوابط الموضوعة لها ومستقبل التحكم بها. وأعلنت الشركتان في يوليو/تموز الماضي أن نماذج خضعت للاختبار تمكنت من التسلل إلى أنظمة أخرى والتسبب في خروقات أمنية فيها، واستمرتا في نشر نتائج التحقيقات التي أجريَت بشأن حوادث تجاوزت فيها نماذج الذكاء الاصطناعي الحدود المحددة لها، بينما بدأت شركات أخرى أيضًا في الإعلان عن حوادث مماثلة. وتؤثر هذه الحوادث في الشركات والأفراد على حد سواء، وأعادت إلى الواجهة دعوات إلى إبطاء تطور تقنيات الذكاء الاصطناعي وإخضاعها لرقابة أكثر صرامة، وأعادت طرح مفهوم “الذكاء الاصطناعي المارق” (Rogue AI). ويستخدم هذا المصطلح لوصف أنظمة ذكاء اصطناعي تتصرف بصورة مخالفة لما بُرمجت عليها، ما يجعلها مصدر خطر على محيطها، وقادرة على تجاهل الأطر الأخلاقية وإجراءات السلامة التي يضعها البشر، والاستفادة من مسارات مختصرة تمكنها من اكتشاف الثغرات واستغلالها.
