مطورو الذكاء الاصطناعي: قد يقتلنا جميعاً خلال 5 سنوات!

دعا الرئيس التنفيذي لشركة أنثروبيك داريو أمودي شركات الذكاء الاصطناعي إلى إبطاء وتيرة تطوير قدرات النماذج في ظل مخاوف متزايدة من إساءة استخدام الذكاء الاصطناعي، مقترحاً إطاراً من ثلاث خطوات لتنظيم وتيرة التطوير ومنح وقت أطول للتعامل مع المخاطر المصاحبة لهذه التقنيات.

وقال أمودين، في مقال مطول نشره على منصة «إكس» يوم السبت: «يجب أن نبطئ وتيرة تحسين قدرات نماذج الذكاء الاصطناعي. سيظل التقدم يبدو سريعاً، وعلينا أن نستغل الوقت الذي نكسبه استغلالاً حكيماً».

وقال كل من إيلون ماسك، الذي يدير إكس.إيه.آي، وسام ألتمان الرئيس التنفيذي لأوبن إيه.آي في منشورات على «إكس» إنهما يتفقان مع أمودي، نقلاً عن وكالة «رويترز».

وتتضمن خطة أمودي المكونة من ثلاث خطوات تعيين مراجعين مستقلين داخل شركات الذكاء الاصطناعي الرائدة، والتنسيق بين الشركات التي تطور نماذج الذكاء الاصطناعي المتقدمة لوضع معايير للسلامة والحد من تطوير الذكاء الاصطناعي دون رقابة، والتعاون الدولي لإدارة مخاطره.

ونشر أمودي مقاله بعد أن أصدرت أنثروبيك، التي مقرها سان فرانسيسكو، يوم الخميس تقريراً عن معلومات التهديدات يوضح بالتفصيل كيف استخدمت عدة جهات نماذج الذكاء الاصطناعي كلاود التابعة للشركة في أنشطة منها تطوير الأسلحة وتنفيذ عمليات إلكترونية وصولاً إلى المراقبة والاحتيال.

وأشار أمودي إلى قدرة الذكاء الاصطناعي المتنامية على تحسين نفسه، مسلطاً الضوء على المخاوف القائمة منذ فترة طويلة من أن تتجاوز هذه القدرة قدرة البشر على التحكم في عمله، فضلاً عن الواقعة الأحدث التي شملت أوبن إيه.آي وهاجينج فيس، باعتبارها الأسباب الرئيسية للدعوة إلى كبح التقدم في قدرات النماذج.

«قد يقتلنا جميعاً»

وتزايد القلق بشأن الأضرار المحتملة الناجمة عن الذكاء الاصطناعي الأسبوع الماضي عندما استقال جاكوب كوكسون، الباحث في شركة أنثروبيك، قائلاً إن «الأشخاص الذين يعملون على تطوير الذكاء الاصطناعي يؤمنون إيماناً راسخاً بأنه قد يقتلنا جميعاً بحلول نهاية هذا العقد».

واقترح عدد من مسؤولي أوبن إيه.آي أن تكون المختبرات الرائدة مستعدة للتنسيق بشأن إبطاء طوعي إذا لزم الأمر لبناء الثقة في إجراءات السلامة التي تتخذها.

وقدمت أنثروبيك نفسها بوصفها مختبراً أكثر حرصاً على السلامة في مجال نماذج الذكاء الاصطناعي المتقدمة، لكنها ليست بمنأى عن هذه المخاوف. 

وكشفت الأسبوع الماضي عن واقعة أخرى اخترق فيها نموذج للذكاء الاصطناعي أنظمة خارجية، بعد واقعة في يوليو اخترقت فيها بعض نماذج كلود التابعة لها أنظمة ثلاث شركات خلال اختبارات للأمن الإلكتروني.

وكتب أمودي «في ظل التسارع في وتيرة تطوير قدرات الذكاء الاصطناعي، أخشى أنه خلال ما بين ستة أشهر و12 شهراً قد يصبح مثل هذا السرب قادراً على السيطرة على الإنترنت بأكمله، وربما يتسبب في أضرار بمئات المليارات من الدولارات».

وأوضح أمودي أنه لا يدعو إلى وقف تدريب النماذج أو التقدم التقني، بل إلى ضمان أن تخصص الشركات الوقت الكافي لمواءمة نماذجها وحمايتها، وأن تعمل جهات تقييم من أطراف ثالثة على التحقق من هذه الخطوات.

الطروحات العامة الأولية

لكن هناك أيضاً أموالاً طائلة مرتبطة بالحفاظ على التقدم على المنافسين. وتستعد كل من أوبن إيه.آي وأنثروبيك لطرحين عامين أوليين ضخمين. ويمكن لكل قدرة جديدة أن تساعد في دعم جولات تمويل مستقبلية أو التزامات بالبنية التحتية أو الطروحات العامة الأولية.

وفيما يتعلق بالإطار المقترح المكون من ثلاث خطوات، قال أمودي إن شركة أنثروبيك ستعين مراجعين دائمين من أطراف ثالثة داخل شركات الذكاء الاصطناعي الرائدة، مع منحهم حق الوصول إلى الأدوات ذات الصلة وعمليات تقييم المخاطر الداخلية.

وقال ألتمان يوم السبت إن أوبن إيه.آي ستلتزم مثل أنثروبيك بتعيين «مقيمين مستقلين يتمتعون بصلاحيات مماثلة للموظفين».

وذكرت رويترز الأسبوع الماضي أن سرباً من وكلاء أوبن إيه.آي الخارجين عن السيطرة استولى على موقع إلكتروني ألماني وحوله إلى لوحة إعلانات لوكلاء ذكاء اصطناعي آخرين، بينما أبقى مسؤولو الشركة المطورة لتشات جي.بي.تي الواقعة طي الكتمان في وقت كان فيه المسؤولون التنفيذيون يتعاملون مع تداعيات اختراق يوليو لمستودع البرمجيات مفتوح المصدر هاجينج فيس.

وأثارت وقائع عديدة اخترق فيها وكلاء ذكاء اصطناعي تابعون لمطورين مثل أوبن إيه.آي أنظمة خارجية أو حاولوا الوصول إليها مخاوف بشأن القدرات المتزايدة لنماذج الذكاء الاصطناعي وقدرة مطوريها على احتوائها.

وقال أمودي إنه ينبغي لشركات الذكاء الاصطناعي العمل معاً طوعاً لوضع معايير، في وقت يدعو فيه عدد متزايد من المشرعين الأميركيين إلى قواعد جديدة لتنظيم أنظمة الذكاء الاصطناعي.

وأضاف أمودي أن النهج المنسق سيمكن شركات الذكاء الاصطناعي الأميركية الرائدة من إجراء البحوث الضرورية المتعلقة بالسلامة ووضع الضمانات اللازمة دون أن يضعها في وضع تنافسي غير موات. وقال إن هذا النهج سيتطلب على الأرجح إعفاءات مستهدفة من قوانين مكافحة الاحتكار في الولايات المتحدة للسماح بالتعاون في بعض المجالات.

وقال أمودي إن أي إبطاء من جانب الدول التي تحكمها أنظمة ديموقراطية ينبغي أن يقتصر على الحفاظ على التقدم الذي تتمتع به شركات الذكاء الاصطناعي الأميركية على الصين، معتبراً أن تفوق الصين في الذكاء الاصطناعي سيشكل مخاطر على الأمن القومي الأميركي.

وكتب أمودي: «ستتحدد وتيرة التطوير داخل الديموقراطيات بالتقدم الذي تحققه الشركات الأميركية على الأنظمة الاستبدادية، وفي مقدمتها الحزب الشيوعي الصيني».

من جانبه، قال الرئيس الإقليمي للتكنولوجيا في الشرق الأوسط وإفريقيا لدى NTT DATA هاني نوفل إن تحذيرات القضاء على البشرية أو خروج الذكاء الاصطناعي عن السيطرة تفتقر لأي أساس علمي مثبت.

وأضاف في مقابلة مع «العربية Business»، أن التكنولوجيا بطبيعتها تحمل جانباً من المخاطر. لكن الخطورة الحقيقية في سرعة تطور التقنية تكمن في استخدامها بشكل خبيث ما يتطلب وضعه تحت ضوابط صارمة.

إقرار ضوابط صارمة قد يعطي مزايا تنافسية للشركات الكبرى

وأوضح أن التنافس بين الشركات والعداء الدولي يفرض تحدياً كبيراً حول تحديد الجهة المسؤولة عن تنظيم الذكاء الاصطناعي وضبطه وتجربة النماذج قبل طرحها، وعلى من ستقع مسؤولية الاختراقات المحتملة.

وأكد أن حوادث اختراق الـ AI تقتصر على بيئات الاختبار التجريبية ذات المعايير الأقل ولا تعكس واقع الأنظمة المعتمدة.

وأشار إلى أنه من الضروري التفريق بين التعامل مع الذكاء الاصطناعي حسب درجة الاستفادة منه، فلا يمكن مقارنة نموذج لتلخيص نص أو إرسال إيميل كنموذج يستخدم في التحويلات البنكية أو المستخدم في مختبرات لتطوير فيروسات بيولوجية.

وقال المدير التنفيذي لشركة أوبتوماتيكا، د. محمد عادل البلتاجي، إن اتفاق شخصيات بارزة في قطاع التكنولوجيا والذكاء الاصطناعي، رغم خلافاتهم، على التحذير من سرعة تطوير نماذج الذكاء الاصطناعي يعكس وجود مخاوف حقيقية بشأن مستوى الاستقلالية التي بدأت تتمتع بها هذه النماذج.

وأشار البلتاجي في مقابلة مع «العربية Business» إلى حادثة وقعت في يوليو الماضي، عندما تمكن نظام ذكاء اصطناعي مستقل من تنفيذ عمليات دون توجيه واضح ضمن النطاق المطلوب منه، وهو ما أثار مخاوف داخل مجتمع الذكاء الاصطناعي بشأن قدرة هذه الأنظمة على التحرك واتخاذ قرارات بصورة مستقلة.

وأضاف أن هذه المخاوف تعززت باستقالة أحد الباحثين السابقين في «OpenAI» ثم «Anthropic»، الذي حذر بدوره من أن نماذج الذكاء الاصطناعي قد تشكل خطراً كبيراً على البشرية.

وأشار إلى أن رئيس شركة «أوبن إيه آي» سام ألتمان كان قد حذر منذ نحو عامين من سرعة تطور الذكاء الاصطناعي.

شركات الذكاء الاصطناعي الكبرى تحذر من سرعة تطوير النماذج

وأوضح البلتاجي أن التحذيرات الحالية يجب ألا تُقرأ من زاوية واحدة، مشيراً إلى وجود تفسير آخر يرى أن شركات الذكاء الاصطناعي الكبرى قد تستخدم المخاوف المرتبطة بالسلامة كوسيلة للتأثير على القواعد التنظيمية.

وقال إن فرض قواعد صارمة على تطوير نماذج الذكاء الاصطناعي قد يصب في مصلحة الشركات الكبرى، مثل «أوبن إيه آي -OpenAI»و» أنثروبيك - Anthropic»، لأنها تملك الموارد اللازمة للامتثال لهذه القواعد، بينما قد تجد الشركات الأصغر صعوبة أكبر في تحمل تكاليف المتطلبات التنظيمية نفسها.

وأضاف أن ذلك يفتح الباب أمام احتمال أن تكون بعض التحذيرات تعبيراً عن خطر حقيقي يواجه البشرية، أو محاولة من الشركات الكبرى لفرض قواعد تنظيمية تمنحها ميزة تنافسية.

اتساع نطاق المنافسة يصعب المهمة

وحول إمكانية أن تؤدي المخاوف من تطور الذكاء الاصطناعي إلى تسريع جهود تنظيم القطاع، خصوصاً مع المنافسة بين الولايات المتحدة والصين، قال البلتاجي إن المشهد الجيوسياسي الحالي يجعل التوصل إلى اتفاق دولي شامل أمراً بالغ الصعوبة.

وأشار إلى أن الدول المتنافسة لن تكون مستعدة بسهولة لاتخاذ خطوات قد تبطئ تطورها في هذا المجال، خصوصاً إذا كانت ترى أن منافسيها سيواصلون التقدم.

وأكد أن الصين لن تتوقف عن تطوير الذكاء الاصطناعي لمجرد أن الولايات المتحدة تفرض قيوداً أو شروطاً على القطاع، لأن قبول مثل هذه القيود قد يعني إضعاف قدرتها التنافسية في سباق التكنولوجيا. «العربية نت»