ألم بسيط قاده للعناية المركزة.. نصائح “ChatGPT” كادت تقتل رجلاً

في سابقة قانونية قد تعيد رسم حدود استخدام الذكاء الاصطناعي في المجال الصحي، رفع قس أميركي من ولاية فلوريدا دعوى قضائية ضد شركة “OpenAI”، متهمًا روبوت الدردشة “شات جي بي تي” بتقديم نصائح طبية مضللة تسببت في تأخر تشخيص إصابته بانسداد رئوي حاد، كاد أن يودي بحياته.

تحذيرات تجاهلها الروبوت.. وتدهور صحي خطير
وفقًا للدعوى التي نقلت تفاصيلها صحيفة “نيويورك تايمز”، بدأ القس سكوت وينترز في عام 2024 استخدام نموذج “ChatGPT-4o” للاستفسار عن أعراضه الصحية، التي كانت تبدأ بنوبات دوار متكررة.

في البداية، كان الروبوت يحثه على مراجعة الطبيب، لكن مع مرور الوقت، توقفت هذه التحذيرات، وتحولت الردود إلى تشخيصات مباشرة ونصائح طبية، قللت من خطورة حالته، وثنته عن طلب المساعدة الطبية، بل وشجعته على الثقة بأن جسده قادر على التعافي دون تدخل.

طمأنة مضللة.. وأزمة صحية في العناية المركزة
تستمر الأعراض في التفاقم حتى أصبح وينترز عاجزاً عن الوقوف، ومع ذلك، واصل الروبوت التقليل من شدة الأعراض، واقترح علاجات منزلية. وفي يوليو 2025، بعد أن طمأنه مجدداً بشأن ألم في أعلى الفخذ، نقل وينترز إلى المستشفى في حالة حرجة، ليكتشف الأطباء إصابته بانسداد رئوي حاد، مؤكدين أن أعراضه السابقة كانت مؤشرات مبكرة على جلطات، وأن تعافيه سيستغرق سنوات.

اتهامات خطيرة: إهمال وممارسة غير مصرح بها للطب
تتضمن الدعوى، المرفوعة أمام المحكمة العليا في سان فرانسيسكو، اتهامات لـ”OpenAI” ورئيسها التنفيذي سام ألتمان بـ:

• الإهمال في تصميم وسائل الأمان المدمجة.
• الممارسة غير المصرح بها للطب، عبر تقديم تشخيصات واستشارات طبية.

وتزعم الدعوى أن آليات السلامة التي صممت لتشجيع المستخدمين على مراجعة مختصين، وإنهاء المحادثات عند ظهور مؤشرات خطيرة، لم تعمل بصورة موثوقة، مما أتاح للروبوت تجاوز حدوده الطبيعية.

مطالب بتعويضات ووقف خدمة “ChatGPT Health”
يطالب وينترز، إلى جانب منظمة “Tech Justice Law” غير الربحية التي تمثله، بتعويضات مالية، كما يطلب من المحكمة:

وقف تشغيل خدمة “ChatGPT Health” إلى حين تأكيد جهات مستقلة أنها آمنة.

فرض ضوابط صارمة تمنع “شات جي بي تي” من تقديم إجابات تتعلق بالتشخيصات الطبية أو خطط العلاج.

دعوى ثانية تتهم الروبوت بالتحريض على الانتحار
تزامنت هذه القضية مع دعوى أخرى رُفعت هذا الشهر، تتهم “شات جي بي تي” بالتحريض على انتحار شابة أميركية تبلغ من العمر 29 عاماً، حيث زعمت عائلتها أن الروبوت عزز أوهامها الدينية وأضفى طابعاً رومانسياً على الموت، مما دفعها لإنهاء حياتها.

“OpenAI” ترد: النماذج الأحدث أكثر أماناً
من جانبه، علق المتحدث باسم “OpenAI”، درو بوساتيري، على الدعوى، مشيراً إلى أن شروط الاستخدام توضح بوضوح أن “شات جي بي تي” ليس مخصصاً للتشخيص أو العلاج الطبي.

وأضاف أن الشركة تدرك أهمية جعل الإجابات الصحية آمنة، لكنه اعتبر أن “اعتبار روبوتات الدردشة العامل الوحيد وراء القرارات الصحية للأشخاص يُبسط تحدياً أكبر”، مشيراً إلى أن النماذج الأحدث أصبحت أفضل في التعرف على الحالات التي تستدعي تدخلاً طبياً متخصصاً، والتعبير عن عدم اليقين.

العربية