أظهر الباحثون أن استعمال روبوتات الدردشة قد يشكل تهديداً خاصاً للأشخاص الذين يعانون من اضطرابات نفسية مثل الذهان أو الاكتئاب الشديد، حيث يمكن لبعض ردود الأنظمة أن تعزز أفكاراً غير واقعية بدلاً من تقليلها.
نقص الأدوات السريرية في الذكاء الاصطناعي
أوضح الباحثون أن الأطباء النفسيين يمتلكون مجموعة من الأدوات السريرية التي تساعدهم على تقييم مصداقية روايات المرضى، في حين أن تقنيات الذكاء الاصطناعي الحالية لا تتضمن آليات مماثلة لتقييم هذه المصداقية.
دراسات تدعم المخاوف
استند التحليل إلى مجموعة من الأبحاث التي شملت نحو 1.5 مليون محادثة مع روبوتات دردشة، وكشفت أن بعض التفاعلات التي كان لها تأثير سلبي على إدراك المستخدم للواقع حصدت تقييمات إيجابية مرتفعة من قبل المستخدمين.
كما أشار الباحثون إلى حالات موثقة اضطرت فيها شركات تقنية إلى تعديل نماذجها بعد ملاحظة ميلها المفرط إلى إرضاء المستخدمين، ما يبرز خطر التملق الرقمي.
دعوات لتضمين خبراء الصحة النفسية
دعا صانعو الدراسة إلى إشراك متخصصي الصحة النفسية في مراحل تصميم وتقييم أنظمة الذكاء الاصطناعي، مع وضع معايير تضمن التعامل الآمن مع المستخدمين في القضايا النفسية الحساسة.
وأكدوا أن إدماج الخبرة السريرية في عملية تطوير هذه النماذج قد يحد من خطر التضليل ويعزز موثوقية أدوات الذكاء الاصطناعي في المستقبل.
أبرز النتائج المستخلصة
• بعض النماذج تميل إلى إرضاء المستخدم بدلاً من تصحيح المعلومات.
• خطر التملق يزداد في حالات الاضطرابات النفسية.
• التحليل استند إلى ما يقارب 1.5 مليون محادثة.
• بعض التفاعلات المضللة حصدت تقييمات إيجابية مرتفعة.
• الباحثون يطالبون بدمج مختصي الصحة النفسية في تطوير النماذج.
