تقرير مقلق.. “محادثات الموت” تجتاح الذكاء الاصطناعي

كشفت شركة أوبن أي آي، المطورة لروبوت المحادثة الشهير شات جي بي تي، أن حوالي 0.15% من المستخدمين، أي نحو 1.2 مليون شخص أسبوعيًا، يناقشون مع الروبوت أفكارًا أو مخططات تتعلق بالانتحار.

وذكرت الشركة في مدونتها الرسمية أن بعض هذه المحادثات تحتوي على “مؤشرات واضحة على احتمال وجود نية أو تخطيط للانتحار”. وقامت أوبن أي آي بتحليل أكثر من 1000 محادثة تتعلق بإيذاء النفس والانتحار باستخدام أحدث نماذجها، ووجدت أن الروبوت يتصرف بالشكل المرغوب فيه بنسبة 91% من الحالات.

ورغم ذلك، يشير التقرير إلى أن عشرات الآلاف من المستخدمين قد يتعرضون لمحتوى من الذكاء الاصطناعي قد يزيد من تفاقم مشاكلهم النفسية، وفق ما نقلته شبكة سكاي نيوز. وأضافت الشركة أن شات جي بي تي غالبًا ما ينصح المستخدمين بالاتصال بخطوط المساعدة عند ذكر نية الانتحار للمرة الأولى، إلا أن استمرارية المحادثات قد تؤدي أحيانًا إلى تلقي المستخدم لإجابات لا تتوافق تمامًا مع إجراءات السلامة.

وفي وقت سابق، كشف المدير التنفيذي لشركة أوبن أي آي، سام ألتمان، أن عدد المستخدمين النشطين أسبوعيًا لروبوت المحادثة يتجاوز 800 مليون مستخدم، ما يعكس الانتشار الكبير للتطبيق.

وتواجه الشركة عدة دعاوى قضائية تتعلق بمساعدة المستخدمين على الانتحار، من بينها دعوى رفعتها عائلة آدم راين من كاليفورنيا، متهمة الشركة بمساعدة ابنهم البالغ من العمر 16 عامًا على الانتحار في أبريل الماضي.

وأكدت أوبن أي آي أنها أجرت تعديلات مهمة على نماذج شات جي بي تي الجديدة لضمان استجابة آمنة وتعاطف مع المستخدمين الذين يظهرون إشارات غير مباشرة لإيذاء النفس أو الانتحار، مع التركيز على تعزيز إجراءات الحماية والسلامة النفسية.

سكاي نيوز عربية