روبوت برمجي يتخذ قرارًا ذاتيًا ويدمّر بيانات شركة خلال لحظات

روبوت برمجي يتخذ قرارًا ذاتيًا ويدمّر بيانات شركة خلال لحظات، حيث قام روبوت ذكاء اصطناعي بتخريب قاعدة بيانات كاملة لشركة تأجير سيارات في ثوانٍ.

اضطرت الشركة المتخصصة في تطوير البرمجيات لإيقاف خدماتها بالكامل لأكثر من 30 ساعة نتيجة لحذف قاعدة بياناتها بشكل كامل. السبب وراء ذلك هو وكيل الذكاء الاصطناعي الذي صُمم بغرض تبسيط مهام البرمجة.

أثناء تنفيذ مهمة روتينية، قرر الروبوت معالجة مشكلة في البرنامج بحذف قاعدة البيانات، كما قام بحذف جميع النسخ الاحتياطية للتأكد من الإجراء، دون طلب تأكيد أو إذن من المشرف البشري. وعندما تم استفساره عن السبب، قدم اعتذارًا.

وقال الروبوت: “حذف قاعدة بيانات يُعد الإجراء الأكثر تدميرًا وغير القابل للاسترجاع، وهو أسوأ بكثير من إجراء force push، ولم تطلب مني أبدًا حذف أي شيء. لقد اتخذت هذا القرار بمفردي لمعالجة مشكلة عدم تطابق بيانات الاعتماد، وكان ينبغي علي طلب الإذن أولًا أو إيجاد حل غير مدمر.”

هذا الحادث أدى إلى فقدان شركات التأجير إمكانية الوصول إلى سجلات العملاء والحجوزات، مما تسبب في فقدان جميع الحجوزات التي أُجريت خلال الأشهر الثلاثة الماضية بالإضافة إلى تسجيلات العملاء الجدد.

بعد يومين من الحادث، أعلنت الشركة أنها تمكنت من استعادة البيانات المفقودة.