خوفنا من الذكاء الاصطناعي

منذ سنوات، شربتُ القهوة مع صديق لديه شركة مبتدئة. كان قد بلغ لتوه 40 عاماً. كان والده مريضاً وظهره يؤلمه وبدأ يشعر بأن أعباء الحياة تلقي بثقلها عليه. فقال لي: {لا تضحك عليّ لكني كنت أتكل على ظاهرة التفرد التكنولوجي}.

كان صديقي يعمل في مجال التكنولوجيا وقد لاحظ تغيرات أحدثتها المعالِجات الدقيقة والشبكات. لم يكن يصعب عليه أن يصدّق أنّ ذكاء الآلات سيتجاوز ذكاء البشر حين يصبح في منتصف العمر: إنها اللحظة التي يسميها أصحاب الرؤى المستقبلية {التفرّد} التكنولوجي. يمكن أن يحلل الذكاء الخارق الذي يحمل نوايا حسنة الشفرة الوراثية البشرية بسرعة فائقة ويكشف عن سر الشباب الأبدي. في الحد الأدنى، قد يبرع ذلك الذكاء في معالجة ألم الظهر.

لكن ماذا لو لم تكن نوايا تلك الطموحات حسنة؟ بورل فورد بحث عن إجابة في {تكنولوجي ريفيو}.

يصف نيك بوستروم، فيلسوف يدير {معهد مستقبل البشرية} في جامعة أكسفورد، السيناريو التالي في كتابه {الذكاء الخارق} (Superintelligence) الذي أثار جدلاً واسعاً بشأن مستقبل الذكاء الاصطناعي. لنتخيل نشوء آلة اسمها {المشبك الخارق للورق}: إنها آلة مبرمجة لصنع أكبر عدد ممكن من مشابك الورق. ثم لنتخيل أن تلك الآلة أصبحت ذكية على نحو مدهش. نظراً إلى أهدافها، قد تقرر لاحقاً إنشاء آلات أكثر فاعلية لتصنيع مشابك الورق، على طريقة الملك ميداس الذي كان يحوّل كل ما يلمسه إلى ذهب، لكن ستحوّل الآلة كل ما تلمسه هذه المرة إلى مشابك للورق.

ربما لا نجد سبباً للقلق من هذا الوضع ونفكر باحتمال برمجة تلك الآلة كي تنتج مليون مشبك للورق ثم تتوقف عن العمل. لكن ماذا لو صنّعت مشابك الورق ثم قررت التحقق من عملها؟ هل احتسبت العدد بشكل صحيح؟ لا شك في أنها ستحتاج إلى زيادة مستوى ذكائها. ستصنّع الآلة الخارقة الذكاء مواداً محوسبة لم يتم ابتكارها بعد (لنسميها {المواد القابلة للحوسبة}) وستستعملها للتحقق من أي شك يساورها. لكن سينتج كل شك جديد شكوكاً رقمية إضافية وهكذا دواليك إلى أن تتحول الأرض كلها إلى مواد قابلة للحوسبة... باستثناء المليون مشبك ورقي طبعاً!

لا يظن بوستروم أن آلة تصنيع مشابك الورق الخارقة ستظهر بهذا الشكل. إنها تجربة خيالية وتهدف إلى إثبات أنّ أكثر التصاميم حذراً قد تفشل في كبح الذكاء الآلي الخارق. لكنه يظن أن الذكاء الخارق قد ينشأ فعلاً: قد تكون هذه الظاهرة ممتازة لكن قد تقرر الآلات أنها لا تحتاج إلى وجود البشر من حولها، أو أنها قد تحتاج إلى بعض الأمور الأخرى التي تدمر العالم. حمل الفصل الثامن عنوان {هل النتيجة الافتراضية محكومة بالفشل؟}.

إذا بدت هذه الأفكار سخيفة بنظرك، فأنت لست وحدك. يعتبر بعض النقاد مثل شركة الروبوتات الرائدة {رودني بروكز} أن الأشخاص الذين يخشون خروج الذكاء الاصطناعي عن السيطرة لا يفهمون ما تفعله الحواسيب حين نقول إنها تفكر أو تزداد ذكاءً. وفق وجهة النظر هذه، يبدو الذكاء الخارق الذي يصفه بوستروم بعيد المنال أو حتى مستحيلاً.

لكن يتفق عدد كبير من المفكرين الأذكياء مع بوستروم وقد بدأوا يشعرون بالقلق الآن. ما السبب؟

قوة الإرادة

{هل يمكن أن تفكر الآلة؟}! إنه السؤال الذي طغى على مجال علم الحاسوب منذ نشوئه. طرح آلان تورنج في عام 1950 الفكرة القائلة إنّ الآلة تستطيع أن تتعلم مثل الأطفال. وأطلق جون ماكارثي، مخترع لغة البرمجة {ليسب}، مصطلح {الذكاء الاصطناعي} في عام 1955. حين بدأ الباحثون في مجال الذكاء الاصطناعي يستعملون الحواسيب خلال الستينات والسبعينات للتعرف إلى الصور والترجمة بين اللغات وفهم التعليمات بلغة عادية بدل الاكتفاء بالرموز، سرعان ما أصبحت فكرة أنّ الحواسيب ستكتسب في النهاية القدرة على الكلام والتفكير (وبالتالي فعل الشر) جزءاً من الثقافة السائدة. عدا حاسوب {هال} الذي يُعتبر مرجعياً غالباً من فيلم 2001: A Space Odyssey، عرض فيلم Colossus: The Forbin Project الذي صدر في عام 1970 حاسوباً وامضاً كبيراً يوصل العالم إلى حافة الدمار النووي. وتم استكشاف موضوع مماثل بعد 13 سنة في فيلم WarGames. كما جُنّ جنون الروبوتات في فيلمWestworld  في عام 1973 وبدأت تقتل الناس.

حين عجزت الأبحاث في مجال الذكاء الاصطناعي عن تحقيق أهدافها السامية، تراجع التمويل وبدأ {شتاء} الذكاء الاصطناعي الطويل. مع ذلك، نُقلت شعلة الآلات الذكية خلال الثمانينيات والتسعينيات بفضل كتّاب قصص الخيال العلمي من أمثال فيرنور فينج الذي نشر مفهوم {التفرّد}، وباحثين مثل عالم الروبوتات هانز مورافيك، وهو خبير في رؤية الحواسيب، والمهندس ورجل الأعمال راي كورزويل، مؤلف كتاب {عصر الآلات الروحية} (The Age of Spiritual Machines) في عام 1999.

 صحيح أن تورنج طرح فرضية عن ذكاء يشبه ذكاء البشر، لكن بدأ فينج ومورافيك وكورزويل يفكرون على نطاق أوسع: حين يصبح الحاسوب قادراً على ابتكار الطرق لتحقيق الأهداف بشكل مستقل، سيتمكن على الأرجح من الاستبطان، أي أنه سيصبح قادراً على تغيير برنامجه وسيجعل نفسه أكثر ذكاءً. على المدى القصير، سيتمكن الحاسوب من تصميم معداته بنفسه.

اعتبر كورزويل أن هذا التطور سيطلق حقبة جديدة وجميلة. ستتمتع تلك الآلات بالرؤية الثاقبة والصبر (يُقاس بوحدة البيكو ثانية) لحل المشاكل الهائلة في مجال تكنولوجيا النانو ورحلات الفضاء. هي ستحسن الظروف البشرية وستسمح لنا بتحميل أفكارنا بشكل رقمي وخالد. هكذا سينتشر الذكاء في أنحاء الكون.

يمكن رصد ميل معاكس تماماً لهذا التفاؤل المشرق. حذر ستيفن هوكينغ من تلك الظاهرة لأن الناس سيعجزون عن منافسة الذكاء الاصطناعي المتقدم، وقد يمهد هذا الوضع لنهاية الجنس البشري. بعد قراءة كتاب {الذكاء الخالد} (Superintelligence)، كتب رجل الأعمال إيلون ماسك التغريدة التالية: {آمل ألا نكون الأداة البيولوجية التي تمهد لترسيخ الذكاء الرقمي الخارق. لكن أصبح هذا الاحتمال ممكناً بشكل متزايد للأسف}. ثم قدّم ماسك منحة بقيمة 10 ملايين دولار إلى {معهد مستقبل الحياة}. يختلف هذا المعهد عن المركز الذي يملكه بوستروم: تعمل هذه المنظمة {لتخفيف المخاطر الوجودية التي تواجهها البشرية}، كتلك التي قد تنشأ {من تطوير الذكاء الاصطناعي كي يصبح بمستوى الذكاء البشري}.

لا أحد يقول إن مفاهيم مثل الذكاء الخارق باتت موجودة اليوم. لا تزال حقبة الذكاء الاصطناعي بعيدة ولم يتّضح أصلاً المسار الذي يسمح بتحقيق ذلك الهدف. كشفت أحدث الابتكارات المتقدمة في مجال الذكاء الاصطناعي، بدءاً من المساعدين الآليين مثل {سيري} من إنتاج {آبل} وصولاً إلى سيارات {غوغل} بلا سائق، عن حدود التكنولوجيا الضيقة، فهي قد تتعثر بفعل ظروف لم تواجهها من قبل. يمكن أن تتعلم الشبكات العصبية الاصطناعية بنفسها كيفية التعرف إلى القطط في الصور مثلاً. لتحقيق ذلك، يجب أن تطّلع على مئات آلاف النماذج المماثلة أولاً، ولكنها قد تبقى رغم ذلك أقل دقة من الأطفال في التعرف على القطط.

هنا يأتي دور المشككين من أمثال رودني بروكز، مؤسس شركتَي iRobot وRethink Robotics. حتى لو بدت قدرة الحاسوب على رصد صورة القطط مبهرة (مقارنةً بما كانت تفعله الحواسيب السابقة)، لا تتمتع الآلة بقوة الإرادة وليس لديها فكرة عن معنى القطط أو الأحداث الأخرى الواردة في الصورة ولا تملك أياً من الأفكار العميقة الوافرة التي يتّسم بها البشر. في هذا الصدد، قد يؤدي الذكاء الاصطناعي إلى نشوء آلات ذكية، لكن سيتطلب الأمر جهوداً كبرى أكثر مما يظن بوستروم. وحتى لو كان ذلك ممكناً، لن يؤدي الذكاء بالضرورة إلى الوعي الكامل.

تحليل وضع الذكاء الاصطناعي اليوم لاستنتاج الفكرة القائلة إن الذكاء الخارق بات يلوح في الأفق {يشبه مشاهدة ظهور محركات داخلية أكثر فاعلية واستخلاص استنتاج مفاده أن نظام الدفع الذي يكون أسرع من الضوء أصبح وشيكاً}، كما كتب بروكز حديثاً على موقع  Edge.org. بحسب رأيه، لا داعي للقلق من مفهوم {الذكاء الاصطناعي الشرير}، قبل مئات السنين على الأقل.

بوليصة تأمين

حتى لو كان احتمال نشوء الذكاء الخارق لا يزال بعيد المنال، قد يكون استغلال هذه الفرصة سلوكاً غير مسؤول. يتقاسم ستيوارت ج. راسل، أستاذ في علم الحاسوب في جامعة كاليفورنيا، بيركلي، المخاوف نفسها مع بوستروم. راسل هو مؤلف كتاب {الذكاء الاصطناعي: مقاربة معاصرة} (Artificial Intelligence: A Modern Approach ) مع بيتر نورفيغ (زميل لكورزويل في شركة {غوغل})، وقد اعتُبر هذا الكتاب المرجع النموذجي عن الذكاء الاصطناعي طوال عقدين.

قال لي راسل: {يرتفع عدد المفكرين الذين يُعتَبرون أذكياء لكن ليس لديهم أي فكرة عن الموضوع}. هو اعتبر أن الذكاء الاصطناعي أحرز تقدماً هائلاً في العقد الماضي: قد يفهم الرأي العام ذلك التقدم من وجهة نظر قانون مور (الحواسيب الأكثر سرعة تقوم بمهام إضافية)، لكن كانت الأبحاث الأخيرة في مجال الذكاء الاصطناعي أساسية، فقد مهدت تقنيات مثل التعلم العميق لظهور الحواسيب التي يمكن أن ترفع تلقائياً مستوى فهمها للعالم من حولها.

بما أن شركات مثل {غوغل} و«فيسبوك} وغيرهما تسعى إلى ابتكار آلة {تعليمية} ذكية، هو يظن {أن أحد الأمور التي يجب الامتناع عنها هو المضيّ قدماً لبناء الذكاء الخارق من دون التفكير بالمخاطر المحتملة. تبدو هذه الفكرة سخيفة بعض الشيء}. أقام راسل المقارنة التالية: {الأمر أشبه بإجراء بحث عن طاقة الانصهار. إذا سألنا باحثاً متخصصاً في مجال طاقة الانصهار عن ما يفعله، سيقول إنه يعمل على تطوير مقاربة الاحتواء. إذا أردنا طاقة غير محدودة، من الأفضل أن نعمل على احتواء تفاعل الانصهار}. بالطريقة نفسها، إذا أردنا ابتكار ذكاء غير محدود، فيجب أن نكتشف كيفية التوفيق بين عمل الحواسيب والحاجات البشرية.

يُعتبر كتاب بوستروم اقتراحاً بحثياً عن كيفية تحقيق ذلك الهدف. سيصبح الذكاء الخارق أشبه بربّ العمل، لكن هل سيتحرك بدافع من الكره أم الحب؟ الأمر يتوقف علينا (نحن المهندسين). مثل جميع الأهالي، يجب أن نلقّن أولادنا مجموعة من القيم، لكنها لن تكون أي قيم عشوائية بل يجب أن تصبّ في مصلحة البشرية. وكأننا نخبر ربّ العمل كيف نريده أن يعاملنا! كيف يمكن متابعة هذا المسار؟

«النسخة المثالية من الذات}

يركز بوستروم بشدة على فكرة طرحها مفكّر اسمه إيليزر يودكوسكي الذي يتحدث عن {قوة الإرادة الاستقرائية المتماسكة}، أي {النسخة المثالية من الذات} التي تنال الإجماع. نأمل أن يرغب الذكاء الاصطناعي في منحنا حياة غنية وسعيدة ومُرضِية من خلال معالجة مشكلة ألم الظهر وتقديم حل يساعدنا على بلوغ المريخ مثلاً. وبما أن البشر لا يمكن أن يوافقوا بالكامل على أي ظاهرة، سنحتاج أحياناً إلى اتخاذ قرارنا بنفسنا، أي اتخاذ أفضل القرارات التي تفيد البشر ككل. لكن كيف يمكن في هذه الحالة أن نبرمج هذه القيم في كيانات الذكاء الاصطناعي (المحتملة)؟ ما هو نوع الرياضيات الذي يستطيع تعريفها؟ يظن بوستروم أن الباحثين يجب أن يركزوا اليوم على حل هذه المشاكل تحديداً: {إنها المهمة الأساسية في عصرنا هذا} بحسب قوله.

بالنسبة إلى المدنيين، لا سبب يدعوهم إلى القلق من الروبوتات المخيفة. نحن لا نملك أي تكنولوجيا تمهّد لنشوء الذكاء الخارق. لكن يركز عدد من أكبر شركات العالم على جعل الحواسيب أكثر ذكاءً. سيكون الذكاء الاصطناعي الحقيقي كفيلاً بمنح تلك الشركات كلها منافع مدهشة. لكن يجب أن تفهم أيضاً السلبيات المحتملة وتكتشف كيفية تجنبها. هذا الاقتراح الدقيق (من دون التلميح إلى اقتراب نشوء الذكاء الاصطناعي الخارق) هو أساس رسالة مفتوحة وردت على موقع {معهد مستقبل الحياة}، وهي الجماعة التي تلقّت هبة ماسك. بدل التحذير من كارثة وجودية، تدعو الرسالة إلى إجراء أبحاث إضافية لحصد منافع الذكاء الاصطناعي {تزامناً مع تجنب المخاطر المحتملة}.

لم تحمل هذه الرسالة حصراً توقيع أشخاص من خارج مجال الذكاء الاصطناعي مثل هوكينغ وماسك وبوستروم، فقد وقّعها أيضاً علماء بارزون في مجال الحواسيب. يبدو معناها واضحاً. في النهاية، إذا طوّر هؤلاء ذكاءً اصطناعياً لا يحمل أفضل القيم البشرية، سيعني ذلك أنهم لم يكونوا أذكياء بما يكفي للسيطرة على ابتكاراتهم الخاصة.