دانييل دينيت: الخطر الحقيقي للذكاء الاصطناعي ليس في ذكائه المفرط وإنما في غبائه

لوسات أنفو

هل ستنقلب الآلات يومًا ما على البشرية؟ هل سنصبح عبيدًا أم فريسة أم ببساطة “فائضًا عن متطلبات” الذكاء الاصطناعي المتفوق؟

و في الوقت الذي تبدو فيه مثل هذه الأسئلة وكأنها تنتمي إلى عالم الخيال العلمي، فإن إمكانات الذكاء الاصطناعي في إنهاء العالم أصبحت موضوعًا متزايد الأهمية للنقاش العام وصانعي السياسات – ويرجع ذلك في الغالب إلى التطور السريع المستمر للتكنولوجيات الشائعة مثل ChatGPT.

تتعلق المخاوف الأكثر تطرفًا بشأن الذكاء الاصطناعي بما يُعرف باسم “التفرد”، وهي نقطة افتراضية يصبح عندها نمو الذكاء الآلي خارج نطاق السيطرة ولا رجعة فيها.

في ورقته البحثية عام 2010 بعنوان “التفرد: تحليل فلسفي” ، يصف الفيلسوف ديفيد تشالمرز التفرد على النحو التالي:

بمعنى آخر: إذا كنا قادرين على إنشاء آلات أكثر ذكاءً منا، فإن هذا الجيل من الآلات قادر على إنشاء آلات أكثر ذكاءً مرة أخرى. قد يؤدي هذا إلى وضع متسارع – التفرد – حيث يتخلف الذكاء البشري بسرعة وبشكل لا رجعة فيه عن الذكاء الآلي.

مصدر القلق الرئيسي هو أنه إذا حدث مثل هذا الحدث التفردي، فلن نعد نملك السلطة أو السيطرة على ما يحدث في المجتمع، لأن أهداف وغايات وأفعال الذكاء الاصطناعي الفائق لن نتمكن من التنبؤ بها.

ربما يقوم الذكاء الاصطناعي بتوجيه كل ما لدينا من كهرباء لتشغيل مشاريعه الفكرية الخاصة. وربما تقرر اختراق أنظمتنا العسكرية وتفجير كل قنبلة نووية دفعة واحدة. يمكن التضحية بقطاعات واسعة من البشرية – عمدًا أو بلا مبالاة – لمساعدة هدف أو غرض ما لا يمكن لأي إنسان أن يفهمه.

في حين أن الشخصيات المؤثرة في أبحاث الذكاء الاصطناعي والحكومات المختلفة تعرب عن قلقها الحقيقي بشأن التفرد، إلا أن الفيلسوف الأمريكي دانييل دينيت لا يصدق ذلك.

في الفصل الأخير من كتابه من البكتيريا إلى باخ والعودة ، يتأمل دينيت الدور الذي تلعبه التكنولوجيا والذي ستلعبه في حياتنا. على حد تعبيره:

اعتمادنا على الذكاء الاصطناعي قد يؤدي إلى الإهمال

يرى دينيت أنه في حين يظل حدث التفرد ممكنا من حيث المبدأ، فإن “المهمة أكبر حجما وأكثر صعوبة مما ادعى المشجعون”.

ويرى دينيت أن التكنولوجيا الذكية تقدم لنا المزيد من التهديدات العملية التي لديها احتمالية أكبر بكثير لحدوثها. كما يوضح:

خذ النقل. ليست صناعات الطيران والشحن  هي التي تعتمد وحدها على نظام تحديد المواقع العالمي (GPS) للملاحة الآمنة والفعالة: كم عدد الأفراد الذين يلجأون الآن إلى هواتفهم الذكية بدلاً من استخدام خريطة الطريق؟

بدلا من ذلك، تناول الدواء. الآن تتفوق الأنظمة المعتمدة على الكمبيوتر في الأداء على أفضل أدوات التشخيص البشرية على أرضها، فتحدد المراحل المبكرة من السرطان وغيره من الأمراض بدقة غير مسبوقة.

ماذا يعني هذا حول كيفية تدريب الأطباء؟ فهل سيتم تشجيعنا على التخلي عن أجزاء ضخمة من التعليم الطبي التقليدي، لأن الآلات يمكنها الآن القيام بأجزاء معينة من الوظيفة بشكل أكثر فعالية؟

كما يلخص دينيت:

يمكن القول أننا على مر التاريخ استخدمنا التكنولوجيا دائمًا لجعل حياتنا أسهل، وأن الذكاء الاصطناعي هو مجرد أحدث اختراع “خطير” سنهدأ قريبًا منه.

ومع ذلك، فإن الفرق هنا هو أنه في حين أن شيئًا مثل الجرار، على سبيل المثال، يحل محل العمل البشري، فإنه لا يحل محل الفهم البشري: فالعقل البشري لا يزال يلعب دورًا مركزيًا في حرث الحقول.

يختلف الذكاء الاصطناعي لأنه يحل محل الفهم البشري: فنحن لا نتنازل عن العمل فحسب، بل نتنازل أيضًا عن السلطة الفكرية والخبرة للآلة.

وهذا بالنسبة لدينيت هو الأمر الخطير. ماذا يحدث عندما تنكسر الآلات؟ هل سيكون هناك ما يكفي من الخبراء البشريين المطلعين للتدخل؟ على سبيل المثال، إذا أدى قذف كتلة إكليلية من الشمس إلى القضاء على الإلكترونيات العالمية، فهل نحن واثقون من قدرة الحضارة على البقاء؟

وكما ذكرت ناسا في مقال عن التوهجات الشمسية:

لذا، إلى جانب إعداد آلاتنا لمثل هذا الطقس الفضائي، ما الذي يمكننا القيام به ثقافياً لمنع أنفسنا من الاعتماد بشكل مفرط على التكنولوجيا؟ كيف يمكننا ضمان عدم المبالغة في تقدير كفاءة الآلات في إدارة المجتمعات نيابة عنا
؟

استدعاء أوجه القصور في البرمجيات

أحد حلول دينيت لمشكلة الاعتماد المفرط هو توضيح الحدود بين الآلات التي تعتبر أدوات وتلك التي تدعي أنها تحل محل فهمنا. هو يكتب:

ويرى دينيت أنه ينبغي لنا أن نجعل من المألوف تحديد العيوب في الأنظمة والإشارة إليها. علاوة على ذلك، يجب أن ننص في القانون على أن أي إعلانات للتكنولوجيا يجب أن تعترف بجميع أوجه القصور في البرنامج – تمامًا كما تلتزم شركات الرعاية الصحية بإدراج الآثار الجانبية.

وكما يقول دينيت بقوة:

قد يبدو هذا مثيرا للانزعاج، ولكن ينبغي لنا أن ننظر إلى حجة دينيت في سياق الكيفية التي تعمل بها المجتمعات حاليا.

إن الفهم منتشر بالفعل بشكل ضئيل بين هياكل السلطة المختلفة. يعرف السياسيون بعض الأشياء؛ العلماء والأساتذة يعرفون بعض الأشياء؛ يعرف قادة الأعمال بعض الأشياء؛ تعرف خدمات الطوارئ بعض الأشياء، لكن لا أحد يعرف كل شيء.

التخصص منتشر في المجتمع. وإذا بدأنا بالتنازل عن تلك المعرفة المتخصصة للآلات، فعندما يصبح المجتمع أكثر تعقيدًا، لن يعرف البشر سوى القليل عن كيفية التعامل معه.

يمكننا إعادة تشغيل الأجهزة بسهولة (ونقوم بذلك بشكل متكرر لإصلاح المشكلات)؛ لكننا لا نستطيع إعادة تشغيل الحضارة دون التسبب في ضرر جسيم. وكما يخلص دينيت: الحضارة هي عمل مستمر، ونحن نتخلى عن محاولتنا لفهمها على مسؤوليتنا.

المصدر:Philosophy Break