الكتابة والبرمجة والتحليل والترجمة والتصميم والبحث. تؤدي الآلات اليوم كل واحدة منها أسرع وأرخص من معظم المحترفين، والفجوة تضيق قليلًا كل بضعة أشهر. مهما كان الشيء الذي تجيده، فإن نظرتك الصادقة للسنوات الخمس المقبلة تتضمن على الأرجح نموذجًا يجيده هو الآخر.
أما الشيء الذي يأبى الظهور على تلك القائمة فهو الحُكم: أن تقرر ما إذا كان ما أنت على وشك فعله ينبغي أن يُفعَل من الأساس.
المُضخِّمات لا رأي لها
الأداة تضاعف قوة من يمسك بها. والذكاء الاصطناعي أعظم مُضخِّم بُني على الإطلاق، وهو لا رأي له في الوجهة. النموذج نفسه الذي يصوغ مقترحًا لبحث عن السرطان سيصوغ حملة تضليل دون أن يلحظ الفرق. على امتداد معظم التاريخ كان هذا أقل أهمية مما هو عليه الآن، لأن النية السيئة كانت تُكبَح بالعجز: كان إحداث ضرر جسيم يتطلب مالًا وكوادر وخبرة ووقتًا. ذلك الكابح زال في معظمه. صار شخص واحد بحاسوب محمول قادرًا على العمل بمدى مؤسسة صغيرة، ما يعني أن نوعية الشخص الفاعل بدأت تهم أكثر مما هو قادر عليه تقنيًا.
الأخلاق ليست سمة شخصية
يميل الناس إلى التعامل مع الأخلاق بوصفها إما مزاجًا أو كتاب قواعد: إما أن قيمك حسنة أو لا، وإما أنك التزمت مدونة السلوك أو لم تلتزم. بناء منصة تقييم حول هذا السؤال بالذات أقنعني أنها ليست هذا ولا ذاك. الأخلاق تسلك سلوك المهارة. لها مكوّنات، والناس أفضل أو أسوأ في كل منها على نحو قابل للقياس، وهي تتحسن بالممارسة.
المكوّن الأكثر بخسًا لقدره هو مجرد الانتباه: أن تسجّل أصلًا أن للقرار الماثل أمامك بُعدًا أخلاقيًا. معظم الإخفاقات الأخلاقية لا تحدث في لحظة اختيار الخطأ، بل قبل ذلك، حين يحسّن أحدهم مؤشرًا رقميًا دون أن يدرك قط أن إنسانًا كان بداخله. المهندسون الذين بنوا نموذج أمازون التجريبي لفرز السير الذاتية لم يقصدوا على الأرجح معاقبة النساء؛ النموذج تعلّم ذلك بنفسه من عقدٍ كامل من بيانات التوظيف في الشركة، وراح يخفض بهدوء ترتيب السير الذاتية التي ذكرت كليات نسائية أو أندية شطرنج نسائية. أمازون التقطت الأمر وألغت الأداة عام ٢٠١٨. وفرقٌ كثيرة لم تلتقط أدواتها بعد.
بعد الانتباه يأتي الجزء الذي يتطلب مِرانًا حقيقيًا: التفكير حين يتعارض خيران طيبان. المعضلات الحقيقية نادرًا ما تكون خيرًا في مواجهة شر. إنها السرعة في مقابل السلامة، والوفاء في مقابل الصدق، وهذا الربع المالي في مقابل هذا العقد؛ والتعامل معها دون الانهيار إلى شعار جاهز يُتعلَّم كما يُتعلَّم التفاوض: بأدائه أداءً رديئًا بضع مرات أولًا في الغالب.
ثم هناك تحمّل مسؤولية ما يتيحه عملك بعد أن يغادر يديك. كان توم ليرر يغني عن هذا منذ عام ١٩٦٥: 'ما إن ترتفع الصواريخ، فمن يبالي أين تسقط؟ هذا ليس من اختصاص إدارتي، كما يقول فيرنر فون براون'. لم يكن ذلك دفاعًا مقنعًا حينها، وقد شاخ شيخوخة سيئة.
وأخيرًا، المكوّن الذي يفرز الناس فعلًا: الفعل حين يكلفك. معرفة القرار الصائب رخيصة. كانت فولكس فاغن توظف مهندسين فهموا تمامًا الغرض من جهاز التحايل على قياس الانبعاثات، ودخل واحد منهم على الأقل السجن لأنه جارى الأمر رغم ذلك. لم يكن في ذلك الإخفاق شيء يمتّ إلى نقص المعرفة بصلة.
لماذا يرفع الذكاء الاصطناعي المخاطر
جزء من الأمر هو الاتساع. مدير التوظيف المنحاز يؤذي حفنة من الناس الذين يمرون بمكتبه؛ أما التحيّز نفسه منشورًا في نموذج فيتخذ القرار المطابق مليون مرة قبل موعد الغداء. كانت الأخطاء الأخلاقية تُرتكب بالتجزئة. أما الآن فبالجملة.
وجزء منه السرعة. التشريعات والمحاكم تسير بإيقاع السنوات، والنشر يسير بإيقاع الأسابيع، والمسار الخارجي البطيء الذي كان يمسك بك في نهاية المطاف كفّ عن المواكبة. إن لم تكن الرقابة داخلية، فعلى نحو متزايد لا رقابة هناك أصلًا.
لكن الجزء الأشد تآكلًا، في ظني، هو المسافة. الحالة التي أودّ لو يدرسها الجميع هي فضيحة إعانات رعاية الأطفال في هولندا: خوارزمية لتقدير المخاطر لدى مصلحة الضرائب وسمت عشرات الآلاف من الأسر، وبنسبة غير متكافئة أسرًا من أصول أجنبية، بوصفها محتالة على نظام الإعانات. أُمرت أسر بردّ أموال لم تكن مدينة بها. أفلس بعضها، وانتهى أطفال إلى دور الرعاية البديلة، واستقالت الحكومة الهولندية في نهاية المطاف بسبب ذلك. اللافت في ما تلا الفضيحة أن لا أحد في السلسلة شعر بأنه هو من فعلها. شخص كتب مواصفات، وآخر درّب نظامًا، وثالث نشره، وآلاف الموظفين نفّذوا مخرجاته. تشتّت المسؤولية هو الطريق الذي يُرتكب عبره ضرر هائل على أيدي أناس كان كل منهم، فرديًا، يؤدي عمله فحسب.
مشكلة التفويض
الاستجابة المغرية هي أن نبني الأخلاق داخل الأنظمة نفسها، بنماذج مُتوائمة وحواجز حماية وطبقات أمان، ونكفّ عن القلق بشأن البشر. حواجز الحماية تستحق البناء؛ وأنا نفسي أعتمد عليها. لكن أحدًا ما يظل هو من يقرر ما ينبغي أن يقدّره النموذج، وأي مفاضلات يجريها، وما الذي يُعدّ معدل إخفاق مقبولًا. تلك أحكام أخلاقية، تُتّخذ سلفًا، على أيدي أناس لن تلتقيهم أبدًا. لا يمكنك أن تُسنِد الأخلاق إلى نظام كان على أحدهم أن يحدد أخلاقه. كل ما فعلته أنك نقلت الحُكم إلى أعلى المجرى، وركّزته في أيدٍ أقل، وجعلت رؤيته أصعب.
المشكلة الأهدأ هي الضمور. مجتمع يكفّ عن ممارسة الحُكم الأخلاقي لأن آلة تتولاه عنه هو مجتمع سيعجز في النهاية عن تقييم تلك الآلة. تضمر المهارات حين تُهمَل؛ أنا نفسي بالكاد أستطيع اليوم إجراء القسمة المطوّلة. في معظم المهارات لا بأس بذلك. أما هذه فأفضّل أن نحتفظ بها.
انظر إلى من ينتصرون
وهنا الجزء غير المريح، والجزء الذي أنا أقل ما أكون يقينًا حيال ما يمكن فعله بشأنه.
انظر إلى ما تصطفيه الأنظمة السياسية اليوم. في الديمقراطيات والأنظمة الاستبدادية على حد سواء، يتشارك الصاعدون ملامح يسهل التعرف عليها: طلاقة في الكذب، وارتياح للتلاعب، وقدرة على إظهار اليقين حيال أي شيء، ولامبالاة بافتضاح الأمر. لا أعتقد أن الناخبين يريدون كاذبين. أظن الأمر أثر غربال. السياسة الحديثة مسابقة انتباه دائمة، كلها بثّ متواصل وغضب فيروسي، بلا ذاكرة وبلا عقوبة على التناقض، والفوز في تلك المسابقة أيسر ببساطة إن لم يكن لديك كابح داخلي. صاحب الوازع الحقيقي يتردد، ويعترف ببعض النقاط لخصمه، ويرفض الضربة الرخيصة. وكل واحدة من هذه عيب تنافسي؛ وهكذا، جولة بعد جولة، يرقّي الغربال أولئك الذين لا يشعرون بشيء.
الآن سلّم تلك الفئة من الناس تقنيةً تصنع الإقناع على نطاق صناعي. قبل الانتخابات التمهيدية في نيوهامشير في يناير ٢٠٢٤، تلقّى آلاف الناخبين مكالمة آلية بصوت مستنسَخ لجو بايدن تطلب منهم البقاء في بيوتهم. المستشار الذي يقف وراءها دفع، بحسب ما ورد، ١٥٠ دولارًا لساحر شوارع كي يولّد التسجيل الصوتي. كانت كلفة إنتاج الخداع تنمو مع اتساع مداه؛ ولم تعد كذلك.
لا أملك حلًا لمشكلة الاصطفاء هذه، وأنا حذر من كل من يدّعي امتلاك واحد. فهي تقيم أعلى المجرى من الأفراد، في الحوافز والمساءلة وما إذا كان الكذب يحمل أي ثمن، وتغيير ذلك عمل بطيء بلا بريق. أما ما هو في متناول معظمنا فعلًا فهو الطرف الآخر من الأنبوب: ما نبنيه، وما نجاريه، وما نحن مستعدون لقوله بصوت مسموع في الغرف التي نجلس فيها.
كيف يبدو ذلك في الممارسة
لا شيء من هذا يشبه حلقة نقاش فلسفية. إنه في الممارسة حفنة من العادات التي لا بريق لها. اسأل من يتأثر بما تبنيه، بمن فيهم من لم يختاروا الانضمام إليه قط. افترض أن عملك سيصل في النهاية إلى شخص أسوأ دوافع منك، وصمّم لذلك الشخص لا لنفسك. قل الأمر المُحرج في الاجتماع ما دام قوله لا يزال زهيد الثمن. انتبه حين تجد نفسك تمدّ يدك نحو تبرير بدلًا من سبب، وتعامل مع «الجميع يفعل ذلك» و«إنه قانوني من الناحية التقنية» بوصفهما علامتي إنذار، لأنهما غالبًا كذلك.
لا أعرف بالضبط كيف سيتكشّف العقد المقبل، وقد كففت عن الوثوق بكل من يقول إنه يعرف. لكن رهانًا واحدًا يبدو مأمونًا. حين تصبح القدرة رخيصة وشائعة، تكفّ عن أن تكون ما يميّز أحدًا، ويبقى ما تبقّى: الحُكم. هل يستطيع من يمسك بكل هذا النفوذ أن يميّز بين ما هو ممكن وما يستحق أن يُفعَل، وهل سيصمد على ذلك الخط حين يكلفه شيئًا.