تهديد التكنولوجيا للجنس البشري

 

هيفاء علي

خلال المنتدى الاقتصادي العالمي في كانون الثاني 2020، وصف مؤرخ وعالم المستقبل وأستاذ التاريخ، يوفال نوح هراري، ثلاثة تحديات تهدّد البشرية وهي: الحرب النووية، الأزمة البيئية، والقوة المدمّرة للتكنولوجيا.

يقول هراري إنه إذا كانت الأولى والثانية أكثر دراية ومعروفة، فسيتعيّن تحليل العواقب المحتملة للأخيرة منها، لأن التقنيات – إضافة إلى فائدتها الواضحة – تحمل العديد من المخاطر. في تنبؤاته ركز الكاتب المستقبلي على هذه، مشيراً إلى خمس مشكلات محتملة.

 

الطبقة عديمة الفائدة

سوف تلغي الأتمتة قريباً الملايين من الاختصاصات، ومن الواضح أن الروبوتات الجديدة ستحلّ محلها، لكن لم يعرف بعد ما إذا كان الأفراد سيكونون قادرين على اكتساب المهارات اللازمة. افترض أنك تبلغ من العمر 50 عاماً، وفقدت وظيفتك بسبب الطائرات من دون طيار.. الآن يمكنك أن تصبح مطوّر برامج أو مدرب “يوغا”، ولكن هل يستطيع سائق شاحنة يبلغ من العمر 50 عاماً إعادة التدريب ليصبح متخصصاً؟

إذا كان تعيّن على الإنسان في الماضي أن يحارب الاستغلال، فإنه يترتب عليه في القرن الحادي والعشرين خوض هذه المعركة ضد انعدام الجدوى. وسيكون “تهميشك” أسوأ بكثير من أن يتمّ استغلالك. وأولئك الذين يفشلون في هذه المعركة سيكونون جزءاً من “الطبقة عديمة الفائدة” من وجهة نظر النظام الاقتصادي والسياسي.

 

عدم المساواة بين البلدان

نحن في خضم “سباق التسلح” في كل ما يتعلق بالذكاء الاصطناعي. اليوم، تحتل الصين والولايات المتحدة الصدارة، متقدمتين بفارق كبير على البلدان الأخرى. ودون تقسيم القدرات والنتائج على جميع الأفراد، فإن الثروة الهائلة ستتركز فقط في بعض مراكز التكنولوجيا الفائقة، في حين أن الدول الأخرى إما ستعلن إفلاسها أو أنها ستصبح مستعمرات رقمية مستغلة.

عندها يمكن للمرء أن يتخيّل ماذا سيحدث للاقتصادات الناشئة إذا كان إنتاج المنسوجات أو السيارات في كاليفورنيا أرخص من المكسيك؟ وماذا سيحدث إذا عرف شخص ما في سان فرانسيسكو أو بكين خلال 20 عاماً جميع البيانات الشخصية عن كل سياسي وقاضٍ وصحفي في بلدك؟ هل ستظل البلاد مستقلة أم ستصبح مستعمرة رقمية؟ عندما يكون لديك معلومات كافية عن دولة ما، لا تحتاج إلى إرسال جنود للسيطرة عليها.

 

الديكتاتورية الرقمية

يمكن أن يؤدي التحكم غير المتكافئ في البيانات إلى الديكتاتوريات الرقمية. يمكن صياغة هذا الخطر في شكل معادلة: B x C x D = AHH، حيث B هي المعرفة البيولوجية، وتمثل C القدرة الحاسوبية، أما D فهي البيانات، وAHH تثل القدرة على “اختراق” البشر.

من خلال وجود كل العناصر المجهولة على الجانب الأيسر من المعادلة، يمكن اختراق الجسم والدماغ لدى أي فرد، وكذلك فهمه بشكل أفضل من نفسه، وسيكون من الممكن معرفة نوع شخصيته وآرائه السياسية وضعفه وأعمق مخاوفه وآماله.. إنه نظام يفهمنا بشكل أفضل، ما سوف يمكن من التنبؤ بمشاعرنا وقراراتنا، والتلاعب بها واتخاذ القرارات في النهاية بالنسبة لنا.

بالتأكيد، يمكن أن تكون القدرة على اختراق الفرد مفيدة، على سبيل المثال، لتحسين نظام الرعاية الصحية. لكن إذا سقطت هذه السلطة في الأيدي الخطأ، فستؤدي إلى أخطر نظام شمولي في تاريخ البشرية.

 

سيطرة الخوارزميات

نظراً لأن المزيد من الناس يسمحون لمنظمة العفو الدولية باتخاذ القرارات الخاصة بهم، ستنتقل القوة من الأفراد إلى الخوارزميات. وهذا يحدث بالفعل. يثق بلايين الأشخاص اليوم في خوارزميات الفيسبوك وغوغل وأمازون ونتفليكس، التي توحي بما يجب قراءته ومشاهدته وشراؤه وحتى تصديقه. سوف تخبرنا هذه الخوارزميات قريباً أين ستعمل، ومن ستتزوج، والشركات سواء لتوظيفنا أو منحنا قرضاً. ومن هنا السؤال: ما معنى الوجود الإنساني إذا كانت معظم القرارات تُتخذ بواسطة أجهزة الكمبيوتر؟ يمكن أن يفقد الناس السيطرة على حياتهم.

 

تدمير البشرية

لا يمكن للتكنولوجيات أن تدمّر فقط الاقتصاد والسياسة وفلسفة الحياة، ولكن أيضاً قد تدمّر نظامنا البيولوجي. في العقود القادمة، سوف يجلب لنا الذكاء الاصطناعي والتكنولوجيا الحيوية قدرات مذهلة، بما في ذلك الخلق المصطنع للبشر وأشكال حياة جديدة تماماً. يمكن للحكومات والشركات والجيش استخدام هذه القدرات لتحسين المهارات الإنسانية مثل الفكر والانضباط، مع إهمال المهارات الأخرى غير الضرورية لمهامها، من خلال خلق أفراد يفتقرون إلى التعاطف أو الرحمة والعواطف الأخلاقية.

اليوم، نحن نعيش في عالم يقلّ فيه عدد الأشخاص الذين يموتون بسبب الحرب عن الذين يموتون بالانتحار، حيث المسحوق أقل خطورة بكثير من السكر. نحن معتادون على هذا الموقف الذي نعتبره أمراً مفروغاً منه. وبدلاً من تعزيز النظام العالمي الهش، فإن العديد من الدول تهمله وتقوضه عمداً. الآن يبدو النظام العالمي وكأنه منزل لا يحتفظ سكانه بأي شيء. وقد تستمر بضع سنوات أخرى، لكن إذا استمرت ستنهار، وسيجد العالم مرة أخرى نفسه في غابة الحرب الشاملة، كما يحذّر هراري.

من الواضح أن هذا ليس حكماً بل سيناريوهات تطور فقط. يمكن تغيير أي عملية، ويمكن استخدام التقنيات لأغراض مفيدة، فلا يزال بوسعنا التأثير على مظهر العالم المستقبلي، الأمر الذي يتطلّب تعاوناً دولياً، لأنه في حالة وجود تهديدات عالمية كهذه، ليس المهمّ من سيفوز، فالبشرية ستكون الخاسر الأكبر.