المخاطر الأمنية لنماذج الذكاء الاصطناعي المصدر المفتوح
يثير الانتشار السريع لنماذج الذكاء الاصطناعي الصينية المصدر المفتوح مثل كيمي كيه 3 تساؤلات حول المخاطر الأمنية المحتملة المرتبطة باستخدامها، لا سيما مع توسع اعتماد المؤسسات والمطورين على هذه النماذج في تطبيقات حساسة. على الرغم من أن المخاوف تتركز غالبًا على مصدر النموذج أو شفافية الأكواد، يرى الخبراء أن مشكلة المصدر المفتوح ذاتها ليست جوهرية؛ بل تعتمد المخاطر على كيفية دمج النموذج وتشغيله داخل الأنظمة الرقمية. وتشمل أبرز المخاطر احتمال استغلال الثغرات الأمنية أو توظيف النماذج في هجمات إلكترونية، وإدخال مكونات برمجية غير موثوقة ضمن سلاسل التوريد الرقمية، بالإضافة إلى مخاوف متعلقة بحماية البيانات والخصوصية عند الاستخدام دون ضوابط أمنية كافية. وتؤكد التحليلات أن هذه التحديات لا تقتصر على النماذج الصينية، بل تنطبق على أي نموذج مصدر مفتوح يُنشر أو يُطور دون مراجعات أمنية وإجراءات حوكمة فعالة.
وجهات نظر الخبراء حول المصدر والإدارة
يخلص سام ساكس، الزميل البارز في معهد نيو أمريكا ومعهد أميركا والصين ومستقبل الشؤون العالمية بجامعة جونز هوبكنز، في مقاله المنشور بصحيفة فايننشال تايمز إلى أن «المشكلة الحقيقية لا تكمن في البرمجيات المصدر المفتوح في الخارج، بل في غياب التنسيق لحماية البنية التحتية في مواجهة الهجمات الإلكترونية». ويضيف أن واشنطن تركز على المراقبة وسرقة الملكية الفكرية والتجسس واحتمالية تورط الصين في البنية التحتية المحلية الحيوية، وأن البيت الأبيض يبحث عن أدوات للحد من انتشار النماذج الصينية المصدر المفتوح أو حتى فرض عقوبات عليها، موضحًا أن النقاش قد يبدو وكأنه صراع بين الأمن القومي والابتكار لكنه ليس بهذه البساطة. ويشير إلى أن النماذج المصدر المفتوح مثل كيمي كيه 3 تتيح تحميل ومعاملات الأوزان (القيم التي تُتعلم أثناء التدريب وتحدد كيفية استخدام النموذج للمعلومات للتنبؤ بالنتائج المستقبلية) من قبل أي شخص؛ تقوم الشركات بتحميل الأوزان وضبط النموذج بدقة ثم تشغيله على سحابتها أو بنيتها التحتية الخاصة. لذا فإن الأهم هو من يملك ويشغل الخادم الذي يشغل النموذج؛ يمكن للمستخدمين الأميركيين القلقين بشأن إرسال البيانات إلى الصين تشغيل نماذج الذكاء الاصطناعي على أجهزة محلية يتحكمون بها أو عبر مزودي خدمة استدلال تابعة لجهات خارجية. ويضيف أن النماذج الصينية المصدر المفتوح لا تخضع للرقابة بشكل موحد، ومكان استضافة النموذج يؤثر على الوضع؛ فعند استضافته على بنية تحتية أميركية يجيب النموذج على أسئلة محظورة داخل الصين، وبسبب فتح الأوزان يمكن للمستخدمين تعديل قيود المحتوى. حتى لو كانت البيانات مخزنة داخل الصين حيث يلزم القانون الشركات بالتعاون مع قانون الاستخبارات الوطنية، فإن بعضها يُبدي مقاومةً تُقيّد وصول الحكومة إليها؛ وفي مارس من هذا العام اشتبك مفتشو الحكومة الصينية الساعين للوصول إلى بيانات منصة بيمبدو مع موظفين حاولوا منعهم من الدخول، ما أسفر عن إصابة أحد المسؤولين بكسر في إصبعه.
التوجهات والاستخدام العملي والنصائح
ويشير الدكتور أحمد بانافع، خبير الذكاء الاصطناعي والتحول الرقمي في جامعة سان هوزه الحكومية بولاية كاليفورنيا، إلى ضرورة التفريق بين المخاطر المرتبطة بالنماذج المفتوحة بشكل عام والمخاطر التي قد ترتبط بالجهة المطورة أو بالإطار القانوني الذي تعمل ضمنه، موضحًا أن النماذج الصينية ليست جميعها مصدرًا للخطر كما أن النماذج الأميركية أو الأوروبية ليست بمنأى عن المخاطر الأمنية أو التقنية. ومن أبرز المخاطر التي ينبغي أخذها في الاعتبار أمن سلسلة التوريد؛ فقد تتضمن بعض النماذج أو الأدوات المصاحبة لها تعليمات برمجية أو مكونات إضافية غير مدققة، مما يستلزم التحقق من مصدر النموذج وسلامة ملفاته قبل تنزيله من المستودعات العامة. ويؤكد أن الخصوصية وحماية البيانات تمثلان عاملًا أساسيًا في تقييم المخاطر؛ إذ أن استخدام النموذج عبر خدمات سحابية قد يؤدي إلى انتقال البيانات إلى خوادم خارج الدولة، بينما ينخفض هذا الخطر بصورة كبيرة عند تشغيل النموذج محليًا داخل بيئة المستخدم دون إرسال البيانات إلى جهات خارجية. ويلفت إلى أن الامتثال للقوانين المحلية مهم أيضًا؛ فالشركات الصينية تخضع للقوانين الصينية كما تخضع الشركات الأميركية للتشريعات الأميركية، ولذلك قد تفرض بعض الحكومات والقطاعات الحساسة مثل المؤسسات العسكرية والبنية التحتية الحيوية قيودًا على استخدام نماذج أجنبية لأسباب تتعلق بالأمن القومي. ويضيف أن بعض النماذج قد تعكس تحيزات أو ضوابط ثقافية وسياسية ناتجة عن طبيعة البيانات التي تدربت عليها، ما قد يؤدي إلى اختلاف طريقة تعاملها مع بعض الموضوعات الحساسة مقارنة بنماذج أخرى. ويبين أن النماذج المصدر المفتوح يمكن لأي جهة تعديلها أو إعادة نشرها بغض النظر عن بلد المنشأ، وهو ما يستوجب التأكد من استخدام النسخ الأصلية الموثقة وعدم الاعتماد على نسخ معدلة مجهولة المصدر. ويوضح أن مستوى الشفافية والتوثيق يختلف من نموذج إلى آخر؛ فبعض المطورين يوفرون معلومات تفصيلية حول بيانات التدريب وآليات التقييم بينما تكتفي نماذج أخرى بمعلومات محدودة، ما يجعل تقييم المخاطر الفنية والأمنية أكثر تعقيدًا. وحول ما إذا كان ينبغي تجنب هذه النماذج، يؤكد بانافع أن القرار يعتمد على طبيعة الاستخدام؛ فالنماذج المفتوحة الأوزان يمكن استخدامها بأمان نسبي في مجالات التعليم والبحث والتطوير لا سيما عند تشغيلها محليًا وبعد التحقق من مصدرها. أما الشركات فينبغي أن تسبق عملية دمجها في الأنظمة الداخلية مراجعة أمنية شاملة وتقييم لمدى الامتثال، بينما تتبع الحكومات والقطاعات الحساسة عادةً سياسات أكثر تشددًا قد تتطلب مراجعات أمنية دقيقة أو تحد من استخدام بعض النماذج الأجنبية. ويختتم حديثه بالقول إن «الخطر الحقيقي لا يكمن في كون النموذج صينيًا أو أميركيًا، وإنما في مكان تشغيله ونوعية البيانات التي يتم إدخالها إليه ومدى موثوقية مصدره وطبيعة التطبيق الذي سيُستخدم فيه»، ما يدفع العديد من المؤسسات إلى تشغيل النماذج المفتوحة الأوزان داخل مراكز بياناتها الخاصة سواء كانت نماذج صينية مثل Qwen وKimi أو أمريكية مثل Llama، بما يضمن بقاء البيانات داخل بيئتها التشغيلية ويحد من المخاطر المتعلقة بالأمن السيبراني والخصوصية.
النماذج أرخص وأكثر انفتاحًا
ويشير تقرير لشبكة إيه بي سي إلى أن نماذج الذكاء الاصطناعي الصينية تكتسب زخمًا مع تحقيقها تقدماً في الولايات المتحدة، ويصفها بأنها «أرخص وأكثر انفتاحًا وذكاءً». ويذكر أن كبير مسؤولي التكنولوجيا في شركة موزيلا التي تدير متصفح فايرفوكس ومقرها سان فرانسيسكو رافي كريكوريان تحول إلى استخدام نظام كيمي كيه 3 من شركة مونشوت الصينية الناشئة في مجال الذكاء الاصطناعي للعديد من أنشطته اليومية في غضون أيام من إطلاق النموذج الجديد والقوي قبل أكثر من أسبوع. وقال عن برنامج K3 إنه «أسرع بكثير»، مقارنًا إياه ببرنامج الدردشة الآلي الشهير والأعلى تكلفة كلود فابل من شركة أنثروبيك في سان فرانسيسكو. وكان يستخدم سابقًا نموذجًا صينيًا آخر عالي الأداء وهو GLM-5.2 من شركة Z.ai للمهام الروتينية مثل إدارة التقويم والمستندات والبريد الإلكتروني. ويعدّ كريكوريان واحدًا من بين عدد متزايد من الأميركيين الذين يتبنون أنظمة الذكاء الاصطناعي الصينية التي تكتسب رواجًا عالميًا نظراً لانخفاض تكلفتها وكفاءتها المتزايدة. وقد صرّحت شركات أميركية مثل منصة تداول العملات الرقمية كين بيس بأنها بصدد التحوّل إلى نماذج الذكاء الاصطناعي الصينية للمساعدة في خفض التكاليف. أثارت شعبية تلك النماذج استياء بعض عمالقة التكنولوجيا الأمريكية، ولكن في غياب حظر صريح من المرجح أن تستمر في جذب مطوري البرامج المستقلين في الولايات المتحدة وأماكن أخرى.
قدر أكبر من المخاوف
ويقول رئيس قسم الأسواق العالمية في شركة Cedra Markets جو يرق لموقع اقتصاد سكاي نيوز عربية إن المخاطر المرتبطة باستخدام نماذج الذكاء الاصطناعي المصدر المفتوح لا تقتصر على النماذج الصينية وحدها، بل تشمل جميع النماذج المفتوحة التي قد تفتقر إلى ضوابط كافية لحماية البيانات والأمن السيبراني. ويضيف أن النماذج الصينية تثير قدرًا أكبر من المخاوف لدى العديد من الشركات والمؤسسات بسبب الاعتبارات المرتبطة بالأمن السيبراني وحوكمة البيانات. وأبرز هذه المخاطر يتمثل في حماية خصوصية المستخدمين؛ إذ قد لا تكون البيانات التي يتم إدخالها إلى هذه النماذج محمية بالشكل الكافي، ما يزيد احتمالات مشاركتها أو معالجتها من قبل أطراف ثالثة أو استخدامها في أغراض أخرى دون علم المستخدم، وهو ما يشكل تحديًا حقيقيًا للأفراد والمؤسسات على حد سواء. ويشير إلى أن هناك جانبًا آخر لا يقل أهمية وهو جودة المعلومات التي تقدمها هذه النماذج؛ إذ تعتمد في كثير من الأحيان على مصادر خارجية قد لا تتمتع بالدقة أو الموثوقية الكافية، الأمر الذي قد يؤدي إلى مخرجات غير دقيقة أو مضللة خاصة عند استخدامها في الأعمال أو اتخاذ القرارات. ويؤكد يرق أن استخدام النماذج المصدر المفتوح يتطلب درجة عالية من الحذر ولا سيما عند التعامل مع بيانات شخصية أو معلومات حساسة؛ ويشدّد على أن المخاطر تصبح أكبر عندما يتم استخدام هذه النماذج داخل الشركات لأن ذلك قد يعرض البيانات المؤسسية والملكية الفكرية ومعلومات العملاء لمخاطر أمنية وتسريب محتمل. ويختتم حديثه بالتأكيد على أن الشركات التي تعتمد على هذه النماذج يجب أن تضع سياسات واضحة لاستخدام أدوات الذكاء الاصطناعي وتطبق أعلى معايير الأمن السيبراني وحوكمة البيانات مع اتخاذ جميع الإجراءات الاحترازية اللازمة قبل دمج أي نموذج مصدر مفتوح في بيئة العمل.
