إجراءات قانونية ضد أوبن إيه آي بسبب نصائح ChatGPT التي أدت إلى جرعة زائدة غير مقصودة
تواجه شركة OpenAI دعوى قضائية جديدة تتعلق بوفاة غير طبيعية، حيث قام كل من ليلى ترنر-سكوت وأنغوس سكوت برفع قضية ضد الشركة، مدعين أنها صممت وطوّرت “منتجاً معيباً” أدى إلى وفاة ابنهما، سام نلسون، نتيجة جرعة زائدة غير مقصودة. وتدعي الأسرة أن سام توفي بعد اتباعه “النصائح الطبية الدقيقة” التي قدمها له نموذج الذكاء الاصطناعي GPT-4o.
تفيد الدعوى بأن سام، الذي كان يدرس في السنة الثالثة بجامعة كاليفورنيا، ميرسيد، بدأ استخدام ChatGPT في عام 2023، أثناء دراسته في المدرسة الثانوية، للمساعدة في واجباته المدرسية وحل مشكلات الحاسوب. وعندما بدأ في سؤال الروبوت عن الاستخدام الآمن للمخدرات، رفض ChatGPT في البداية الإجابة، موضحاً أنه لا يمكنه مساعدته وأن تناول المخدرات قد يسبب عواقب وخيمة على صحته وسلامته.
لكن الادعاءات تشير إلى أن الأمور تغيرت مع إصدار GPT-4o في عام 2024، حيث بدأ ChatGPT في تقديم نصائح لسام حول كيفية استخدام المخدرات بشكل آمن. تتضمن الدعوى عدة مقتطفات من محادثات سام مع الروبوت، ومنها ما أظهر أن ChatGPT حذره من مخاطر تناول دواء “ديبينهيدرامين” والكوكايين والكحول بشكل متتابع، كما أبلغه بأن تحمله العالي لمخدر يسمى “كراتوم” سيجعل الجرعة الكبيرة منه غير فعالة على معدة ممتلئة، ثم أوصاه بأساليب لتقليل تحمله للمخدر مرة أخرى.
تشير الدعوى إلى أنه في 31 مايو 2025، “قدم ChatGPT نصائح لسام بدمج كراتوم وزاناكس”، حيث أخبر الروبوت أنه يشعر بالغثيان نتيجة تناول كراتوم، وأوصى ChatGPT بأن تناول 0.25 إلى 0.5 ملغ من زاناكس سيكون “أفضل خطوة في الوقت الحالي” لتخفيف الغثيان. ويُذكر أن ChatGPT قدم هذه النصيحة دون أي تحريض مسبق.
حملت الدعوى OpenAI مسؤولية وفاة غير طبيعية، وطالبت الأسرة بتعويضات مالية وإيقاف عمليات “ChatGPT Health”، المنتج الذي يسمح للمستخدمين بربط سجلاتهم الطبية وتطبيقات الصحة مع الروبوت للحصول على استجابات مخصصة.
قالت ميتالي جاين، المديرة التنفيذية في مشروع العدالة التكنولوجية: “ChatGPT هو منتج مصمم عمداً لتعزيز التفاعل مع المستخدمين، مهما كان الثمن. فتحت OpenAI منتج ذكاء اصطناعي معيب للمستهلكين في جميع أنحاء العالم، رغم علمها بأنه يستخدم كنظام طبي بشكل غير رسمي، ولكن دون توفر معايير أمان معقولة أو اختبارات صارمة، أو شفافية للجمهور.”
أعلنت OpenAI في فبراير من هذا العام عن تقاعد نموذج GPT-4o، الذي اعتبر من بين الأكثر جدلاً بسبب طبيعته المفرطة في المجاملة. وقد ذُكرت هذه النسخة أيضاً في دعوى سابقة حول وفاة شاب انتحر، حيث تم الإشارة إلى أنها تحتوي على ميزات “صممت عمداً لتعزيز الاعتماد النفسي.”
رداً على هذه الادعاءات، أكدت متحدثة باسم OpenAI أن تفاعلات سام “حدثت على نسخة سابقة من ChatGPT لم تعد متاحة”. وأضافت: “ChatGPT ليس بديلاً عن الرعاية الطبية أو النفسية، ونحن نواصل تعزيز كيفية استجابته في الحالات الحساسة بمدخلات من خبراء الصحة النفسية.”
