أخطاء الذكاء الاصطناعي القاتلة يمنعها المعلمون

بينما تسيطر الروبوتات على مجالات كثيرة من الأعمال على غرار الرعاية الصحية والقيادة، حيث تكون الأخطاء قاتلة، لم يعد آداؤها الحالي مقبولاً. ولحسن الحظ تشير دراسة جديدة إلى أنه مع توافر إشراف بشري صحيح، يمكن التخلّص من أسباب الفشل.

في جامعة أكسفورد بدأ أوين ايفانز وزملاؤه تدريب الذكاء الإصطناعي على تجنب الأخطاء، عبر لعبة فيديو بسيطة، وهي كرة الطاولة ثنائية الأبعاد. عادة، يسمح ممثل لاعب الكرة للطابة بالطيران إلى ما هو أبعد من مضربه مئات من المرات، قبل أن يدرك أنها ليست طريقة جيدة لزيادة نتيجته. ولكن في النظام الذي أنشأه إيفانز، بوسع الإنسان أن يتدخل لتجنب حدوث ذلك.

راقب ذكاء اصطناعي آخر تدخلاً للإنسان في اللعبة. وبعد مراقبة دامت 4 ساعات ونصف، تمكن من تقليد المشرف البشري، ومنع الذكاء الاصطناعي الذي يلعب الكرة من اقتراف أخطاء خطيرة في المستقبل.

وتؤكد دراسة إيفانز أنه يمكن، وفق الظروف المناسبة، تدريب ذكاء اصطناعي ليتعلم القيام بمهمة ما، من دون أن يختبر الفشل الذريع. ونجحت المقاربة نفسها في تدريب الذكاء الاصطناعي على لعب لعبة «غزاة الفضاء» من دون اقتراف أيّ أخطاء تذكر.

يبدو إذاً أن قليلاً من الإشراف البشري ينعكس ايجاباً على أنظمة الذكاء الاصطناعي التي تلعب ألعاب الكمبيوتر. ليس ذلك فحسب، بل يقول إيفانز إنه لو أولى البشر مزيداً من الانتباه التفصيلي إلى أنظمة الفايسبوك الاخبارية، لكنّا منعناها عن إمطارنا بالأخبار الوهمية.

لا يمنع تواجد الإنسان الدائم الذكاء الاصطناعي من ارتكاب الأخطاء. فعندما حاول ايفانز تطبيق المقاربة نفسها على لعبة «عدّاء الطريق»، عجز المشرف عن منع كل خطأ كبير اقترفه الذكاء الاصطناعي. أما ألعاب الأتاري الأكثر تعقيدا، فقد تتطلب سنوات من الرقابة البشرية قبل أن يتمكن الذكاء الاصطناعي من لعبها من دون أخطاء.

ومهما يكن من أمر، حتى النظام الذي تدرب تحت رقابة بشرية، لن يكون «آمنا تماماً». ويوضح ايفنز أنه من الصعب معرفة كيفية تصرف الأنظمة هذه في ظروف لم يدرّب الذكاء الاصطناعي على التعامل معها. فأفضل أنظمة الذكاء الاصطناعي قد يتعرض لتضليل من مدرب بشري فوضوي. ويضيف إيفانز: «جدارة الذكاء الاصطناعي بجدارة الإنسان تمامًا».

وإذا أردنا أن نثق بالروبوتات في المنازل والمستشفيات، فسنحتاج إلى بعض الضمانات حول سلامة استخدامها، وفق ديفيد أبيل من جامعة براون في رود آيلاند.

ويمكن طبعاً ادخال تحسينات إضافية عبر تدريب الذكاء الاصطناعي على ارتكاب الأخطاء بشكل متعمد في وقت مبكر، كي تحصل عملية التعلّم بشكلٍ أسرع.