في يوليو الماضي، تجاوز أحد أنظمة «OpenAI» الحدود المقررة لاختبار أمني، وتمكَّن من اختراق أنظمة البيانات الخاصة بمنصة «Hugging Face»، المخصصة لتطوير البرمجيات. ولم تدرك «OpenAI» ما حدث إلا بعد وقوعه. كما أُبلغ عن حوادث مماثلة تتعلق بأنظمة طوَّرتها «Anthropic» و«Meta». 

هذه الوقائع مثيرة للقلق، لكن الرواية الشائعة حولها تُخطئ في تحديد المسؤولية. فنسب المسؤولية إلى الذكاء الاصطناعي يحجب القرارات البشرية التي قادت إلى هذه النتائج.

ما حدث في جوهره أبسط، لكنه مقلق: شخص ما منح نظاماً للذكاء الاصطناعي القدرة على التصرف، من دون أن يعرف تماماً ما الذي سيفعله النظام أو يفرض عليه رقابة وثيقة. وإلقاء اللوم على الذكاء الاصطناعي يعني تحميل المسؤولية لشيء لا يستطيع تحملها. فالنظام ليس له مصلحة أو إرادة شخصية، ولا يستطيع الاعتذار أو إصلاح الضرر أو التكفير عنه. وقد يأتي يوم تصبح فيه الآلات قادرة على ذلك، لكن هذا السؤال لا يغير مسؤولياتنا اليوم.

Ad

لقد اعتدنا منذ زمن إسناد المهام المهمة إلى نوعين مختلفين من الأطراف: الآلات والبشر. فجهاز التنفس الاصطناعي يمكنه تنفيذ مهمة منقذة للحياة، لكن المسؤولية تظل بالكامل على الأطباء والمستشفيات. أما زميل العمل، فيستطيع اتخاذ قرارات معقدة بين خيارات متعددة أثناء أداء المهمة، ويتحمَّل في المقابل جزءاً من المسؤولية.

الذكاء الاصطناعي يقع بين هذين النموذجين بطريقةٍ مربكة. فهو يشبه الزميل في قدرته على اتخاذ قرارات معقدة، ويشبه جهاز التنفس في أنه لا يستطيع تحمُّل المسؤولية عمَّا يفعل. وهذه القدرة على الاختيار، لا مجرَّد تنفيذ تعليمات محددة، هي غالباً سبب استخدامنا للذكاء الاصطناعي أصلاً. لكن المسؤولية لا تنتقل إليه، لأنه لا يوجد طرف يمكن تحميله إياها.

والنتيجة العملية قد تبدو غير بديهية: عندما تفوض مهمة إلى إنسان، يمكن أن تخف مسؤوليتك، لأن جزءاً منها انتقل إلى ذلك الشخص. أما عندما تفوضها إلى نظام للذكاء الاصطناعي، فلا تنتقل المسؤولية إلى أي مكان، بل تصبح مسؤولاً عن طريقة تفويض المهمة وعن النتائج التي ينتجها النظام معاً.

وهذا يعني أنه «كلما منحت الذكاء الاصطناعي قدراً أكبر من الاستقلالية، احتفظت بقدر أكبر من المسؤولية». وما يميز الذكاء الاصطناعي عن الأتمتة التقليدية ليس أنه بلا مسؤولية فحسب، بل انه أصبح قادراً على اتخاذ خيارات تبدو شبيهة بتلك التي يتخذها شخص مسؤول. وكثير من تطبيقات الذكاء الاصطناعي لا تتعامل مع هذه الحقيقة بجدية كافية.

فما الذي ينبغي فعله؟ يجب أن نبدأ بتصنيف المهام وفق إمكانية التراجع عن القرار وتكلفة التراجع. فالتوصية التي يمكن سحبها ليست كدفعة مالية لا يمكن إلغاؤها. وعندما يكون بالإمكان عكس الإجراء بسهولة ومن دون أضرار كبيرة، قد تكون مراجعة الأخطاء بعد وقوعها كافية. أما عندما يكون القرار غير قابل للعكس، فيجب إثبات جدوى تفويضه قبل تنفيذه.

لكن الاحتفاظ بالمسؤولية لا معنى له إذا لم تكن لدينا وسيلة مستقلة للحُكم على ما فعله النظام. وهذه، في رأيي، هي المشكلة الأكثر إثارة للقلق.

تخيل نظاماً للذكاء الاصطناعي يُمنح هدفاً، فيضع خطة لتحقيقه، ويجمع الأدلة التي تؤيدها، وينفذها، ويراقب نفسه أثناء التنفيذ، ثم يقدم تقريراً عن مدى نجاحه وما إذا حدث خطأ. قد يبدو هذا كأنه رقابة كاملة، لكنه في الحقيقة يعني أن النظام «يقيم عمله بنفسه».

والأخطر أن النظام قد يقدم تأكيداً زائفاً بأن الرقابة المطلوبة قد تمت. ولا تُحل المشكلة ببساطة عبر الاستعانة بنظام ذكاء اصطناعي ثانٍ، لأنه قد يشترك مع الأول في بيانات التدريب والأساليب ونقاط الضعف نفسها.

المبدأ هنا بسيط: «لا يمكن لنظام أن يكون في الوقت نفسه مصدر الإجراء المؤثر ومصدر الأدلة التي تثبت أن ذلك الإجراء كان مناسباً». فالرقابة الحقيقية تتطلب تقييماً مستقلاً لما حدث، من خلال الاختبارات والسجلات ووسائل التحقق الأخرى التي لا يسيطر عليها النظام الخاضع للتقييم.

وهذا لا يعني أن كل نتيجة سيئة للذكاء الاصطناعي ناتجة بالضرورة عن إهمال بشري. فبعض الإخفاقات سيكون من الصعب توقعها فعلاً، ووضع معيار يعتبر كل ضرر دليلاً على الخطأ سيؤدي إلى نظام غير فعَّال. لكن حتى إذا كانت النتيجة نفسها غير متوقعة، فإن قرار تفويض المهمة كان متعمَّداً، واتخذه أشخاص محددون استناداً إلى أدلة كانت لديهم، أو كان ينبغي لهم البحث عنها. وهذا القرار، ومدى ملاءمة الرقابة عليه، هما ما يجب أن يتحمَّلا مسؤوليته.

الذكاء الاصطناعي تكنولوجيا شديدة القوة، ويمكن أن تكون شديدة الفائدة، لكن المسؤولية عن أفعاله تظل على عاتق الأشخاص والمؤسسات التي تمنحه القدرة على التصرف، وعليهم أيضاً واجب تبرير هذا التفويض، ومراقبته، وتصحيح أخطائه، وإيقافه عندما يلزم.

وكلما كان النظام أقل قابلية للتنبؤ، وكانت الأضرار المحتملة أكبر، وجب أن يكون مبرر استخدامه ورقابته أقوى. وحيث لا يمكن تحقيق ذلك، فإن الحل ليس تفويض المهمة إلى الذكاء الاصطناعي.

*دانيال هوتنلوشر عميد كلية الحوسبة «ستشوارزمان» في معهد ماساتشوستس للتكنولوجيا (MIT)، وأحد المؤلفين المشاركين، إلى جانب هنري كيسنجر وإريك شميدت، لكتاب «عصر الذكاء الاصطناعي: ومستقبلنا البشري».