الذكاء الاصطناعي يعيد تشكيل كيفية خوض الحروب. ومن الطائرات بدون طيار المستقلة إلى القيادة والسيطرة التي تعمل بالذكاء الاصطناعي، تمهد الآلات الطريق أمام عدد أقل من صناع القرار في غرفة الحرب وعدد أقل من القوات على الأرض.
ويعمل هذا التحول بالفعل على إعادة تشكيل الصراعات من خلال إدخال تقنيات جديدة في كييف وغزة وطهران. والطائرات الاعتراضية بدون طيار التي تعمل بالذكاء الاصطناعي في أوكرانيا. الجيل المستهدف المدعم بالذكاء الاصطناعي الذي تستخدمه إسرائيل في غزة. ومؤخرًا، تم استخدام نظام Maven Smart System (MSS) من شركة Palantir لتحديد وضرب آلاف الأهداف خلال الحرب الأمريكية الإسرائيلية على إيران.
وفي 28 فبراير، وهو اليوم الأول من الحرب الأمريكية الإسرائيلية على إيران، ساعدت مافن في ضرب أكثر من 1000 هدف، من بينها مدرسة ابتدائية إيرانية في ميناب حيث قُتل أكثر من 150 شخصًا، معظمهم من الأطفال. وبعد مرور أربعة أشهر، لا يزال تحقيق البنتاغون في الهجوم متوقفًا، حيث يطالب أعضاء مجلس الشيوخ بإجابات، وذكرت بلومبرج أن الخطأ يعود إلى معلومات استخباراتية قديمة عبر الأقمار الصناعية.
ومع تحول الذكاء الاصطناعي إلى جزء لا يتجزأ من الجيوش، فإن السؤال ليس فقط ما إذا كان من الممكن الوثوق بهذه الأنظمة لاتخاذ قرارات دقيقة، ولكن ما إذا كان بإمكانها التعامل مع العواقب الأخلاقية للقرارات التي تتخذها.
كجزء من سلسلة حول الذكاء الاصطناعي والحرب، تبحث قناة الجزيرة ما إذا كان يمكنها أن تحل محل صناع القرار البشريين بنجاح.
ميزة القرار: صعود الذكاء الاصطناعي في ساحة المعركة
وارتفع الإنفاق العسكري العالمي بنسبة 2.9 بالمئة العام الماضي إلى 2.87 تريليون دولار. وضمن هذا الرقم، يتسارع الإنفاق على الذكاء الاصطناعي للتطبيقات العسكرية بسرعة، ومن المتوقع أن ينمو من 11.7 مليار دولار إلى ما يقرب من 19.3 مليار دولار بحلول عام 2030، وفقًا لتقارير الصناعة.
في إبريل/نيسان، اقترحت إدارة الرئيس الأميركي دونالد ترامب إنفاق 1.5 تريليون دولار على الدفاع للسنة المالية التي تبدأ في أكتوبر/تشرين الأول لبناء “جيش الأحلام” وتسريع التحول من مجمع صناعي عسكري تقليدي إلى مجمع تكنولوجي عسكري.
وقد وضع البنتاغون الأميركي نصب عينيه التحول إلى “قوة قتالية تعتمد على الذكاء الاصطناعي أولاً”، وضغط حلقة المساعدة والمساعدات الخارجية ــ وهو نموذج صنع القرار الذي طوره العقيد في القوات الجوية الأميركية جون بويد في أواخر القرن العشرين، والذي بني على فرضية مفادها أن كل من يتحرك بشكل أسرع من خلال القرارات يأتي على القمة.
إن حلقة OODA، التي يتم تغذيتها بشكل مستمر بمعلومات جديدة – المراقبة والتوجيه واتخاذ القرار والتصرف – تتيح للقادة اتخاذ قرار بشأن الإجراءات في آخر لحظة ممكنة، واستبدال اليقين بالسرعة والقدرة على التكيف.
يقود الدفع نحو السرعة مشروع Maven، منصة الذكاء الاصطناعي الرائدة في Palantir، المقترنة بـ Anthropic’s Claude، المصممة لتقديم صورة في الوقت الفعلي لساحة المعركة.
كان منطق حلقة OODA يعمل بالفعل في حروب الطائرات بدون طيار في العقد الأول من القرن الحادي والعشرين والعقد الأول من القرن الحادي والعشرين، عندما قام التعرف على الأنماط الخوارزمية بوضع علامة على الأفراد الذين يتطابق سلوكهم مع ملف تعريف مشبوه، مما أدى إلى تغذية قوائم القتل المولدة حسابيًا.
لم يكن يسمى الذكاء الاصطناعي في ذلك الوقت، ولكن المنطق كان هو نفسه الموجود اليوم: العثور على أنماط في البيانات بشكل أسرع من المحلل البشري، وتحويلها إلى أفعال.
كيف يعمل نظام Maven الذكي؟
لفهم ما يفعله Maven، من المفيد التفكير في ما تغير فيه. في الصراعات السابقة، مثل حروب الولايات المتحدة في العراق وأفغانستان في العقد الأول من القرن الحادي والعشرين، تتبع المحللون شبكات الخصومة في جداول بيانات Excel وشرائح PowerPoint، وسجلوا الأسماء ورسموا الروابط، في حين اعتمدت سلاسل القتل على الملفات المطبوعة التي حللها كبار المسؤولين. استغرقت هذه العمليات وقتا.
خلال عملية Epic Fury، كما تسمى الحرب الأمريكية الحالية على إيران، تم استخدام Maven لمعالجة آلاف الضربات في دقائق. الجداول الزمنية التي كانت تستغرق في السابق ساعات أو أيام، تم ضغطها إلى مجرد ثوانٍ، وفقًا للأدميرال براد كوبر، رئيس القيادة المركزية الأمريكية.
تم إطلاق مشروع Maven في عام 2017 كفريق متعدد الوظائف للحرب الخوارزمية (AWCFT)، لاستخدام الذكاء الاصطناعي والتعلم الآلي للفرز تلقائيًا من خلال الكم الهائل من لقطات الطائرات بدون طيار ولقطات المراقبة التي كان الجيش يجمعها ولكن لم يتمكن من تحليلها بالكامل – بدءًا من تحديد الهدف وإعطائه الأولوية إلى اختيار السلاح المناسب وأخيرًا تقييم أضرار المعركة.
قامت شركة جوجل ببناء نماذج رؤية حاسوبية لتحليل لقطات الطائرات بدون طيار، إلى أن انسحبت في عام 2018 بعد احتجاجات الموظفين التي وقع فيها أكثر من 4000 موظف على عريضة تنص على أن “جوجل لا ينبغي لها أن تعمل في مجال الحرب”.
واليوم، يستخدم أكثر من 20 ألف عسكري أمريكي برنامج Maven عبر 35 أداة برمجية عسكرية وثلاثة مجالات تصنيف أمني، وفقًا لنائب الأدميرال فرانك ويتوورث، مدير الوكالة الوطنية للاستخبارات الجغرافية المكانية في البلاد.
يقوم النظام بسحب البيانات من أكثر من 150 مصدر مثل:
- الأقمار الصناعية
- مجموعات الرادار التجارية تعيد الصور من خلال الغطاء السحابي والظلام
- فيديوهات بدون طيار
- ذكاء الإشارات (SIGINT)
- الانبعاثات الراديوية
- تحديد الموقع الجغرافي لوسائل التواصل الاجتماعي
- التقارير الميدانية من الوحدات المنتشرة
بمجرد تحديد الهدف، يتحرك عبر خط أنابيب رقمي مصمم على غرار تسلسل سلسلة القتل العسكرية للبحث والإصلاح والتتبع والاستهداف والمشاركة والتقييم (F2T2EA)، ويحمل الإحداثيات ومصادر الاستخبارات وتقييمات المخاطر والتوقيعات القانونية في كل مرحلة.
يقترح أحد موصيي الذكاء الاصطناعي الأسلحة والذخائر على أساس القرب والملاءمة. يتيح Anthropic’s Claude، المدمج من خلال منصة Palantir، للمشغلين الاستعلام عن النظام باللغة الطبيعية.
وكانت أنثروبيك أول شركة ذكاء اصطناعي “حدودية” تنشر نماذجها على الشبكات السرية التي تعمل عليها شركة مافن. ومع ذلك، اندلعت التوترات في مارس/آذار عندما أدرج البنتاغون شركة أنثروبيك في القائمة السوداء وصنفها على أنها “خطر على سلسلة التوريد” بعد أن رفضت تخفيف القيود التي فرضها كلود على الأسلحة المستقلة والمراقبة، مما دفع شركة أنثروبيك إلى رفع دعوى قضائية ضد الحكومة.
إزاحة أصحاب القرار
ووفقا لوزارة الدفاع الأمريكية، لن تكون أي أسلحة تعمل بالذكاء الاصطناعي مستقلة بشكل كامل، وستتطلب دائما موافقة بشرية.
قال الأدميرال كوبر في مارس/آذار إن “البشر سيتخذون دائمًا قرارات نهائية بشأن ما يجب إطلاق النار عليه وما لا يجب إطلاقه ومتى يتم إطلاق النار، ولكن أدوات الذكاء الاصطناعي المتقدمة يمكنها تحويل العمليات التي كانت تستغرق ساعات وأحيانًا حتى أيام إلى ثوانٍ”.
ومع ذلك، فإن بعض الأكاديميين أقل اطمئنانًا لهذا السبب بالذات. إن ما قد يبدو وكأنه سير عمل خالٍ من الاحتكاك، وجداول زمنية مضغوطة، وقرارات “مجهزة مسبقًا” يحمل أيضًا خطر تآكل الظروف التي يمكن أن يحدث في ظلها حكم إنساني حقيقي واتخاذ قرارات أخلاقية.
وقالت إلك شوارتز، أستاذ النظرية السياسية في جامعة كوين ماري في لندن ومؤلفة كتاب “آلات الموت: أخلاقيات التقنيات العنيفة”، لقناة الجزيرة: “هناك توتر ضمني في ولاية المداولات الأخلاقية – المداولات الأخلاقية، والمداولات القانونية – التي تستغرق وقتا، وتتطلب طريقة مختلفة للتفكير في العمل”.
“أنت تقول: إننا سوف نضحي بعملية تداولية أكثر صرامة لصالح السرعة والحجم”.
هل يستطيع الذكاء الاصطناعي العسكري اتخاذ قرارات بشرية بشكل أخلاقي؟
والسؤال الأعمق هو ما إذا كان الذكاء الاصطناعي قادراً، حتى من حيث المبدأ، على تكرار المنطق الأخلاقي.
يؤكد شوارتز بشكل قاطع أنه لا يستطيع ذلك، وليس بسبب الافتقار إلى نماذج اللغة الكبيرة المتطورة (LLMs)، والتي تُستخدم لتشغيل الاستعلامات والمساعدة في فهم البيانات بلغة طبيعية بسيطة.
لقد تم تطوير نظرية الحرب العادلة بسبب ما هو على المحك في قرارات استخدام القوة المميتة. إن الإطار موجود لفرض ضبط النفس، وهو الإطار الذي نشأ من الفهم الذي تم التوصل إليه بشق الأنفس للتكاليف الحقيقية للحرب. يقول شوارتز إنه لم يكن من المفترض أبدًا أن يكون تمرينًا على خانة الاختيار.
يقول شوارتز: “الأخلاق هي ممارسة اجتماعية”. “إن الأمر يعتمد على حقيقة أننا نأخذ ضعف بعضنا البعض على محمل الجد، وأننا نثق في بعضنا البعض بعدم انتهاك ذلك ما لم تملي الظروف ذلك.
“النظام هو نظام حسابي. ليس لديه مفهوم لمعنى الحياة البشرية. ليس لديها مفهوم الحداد والمعاناة
يرفض شوارتز الحديث عن الذكاء الاصطناعي الوكيل ــ الأنظمة القادرة على متابعة المهام بشكل شبه مستقل مع إشراف بشري محدود ــ و”إظهار” الخوف أو العاطفة كوسيلة للتحايل التسويقي، ويؤكد بدلا من ذلك أن “التصارع مع المبادئ” والشك، و”تقييم عدد الأرواح المعرضة للخطر” لا يمكن برمجته ببساطة في نظام.
الحاجة إلى ضبط النفس
يقول المحللون إن هناك خطرا حقيقيا في الذكاء الاصطناعي العسكري، حيث تكون المخرجات التي تبدو معقولة خاطئة، ومبنية على بيانات غير مكتملة، أو قديمة، أو تالفة ــ وهو ذلك النوع من الفشل الذي يقال إنه كان السبب وراء توجيه ضربة ميفن الخاطئة إلى مدرسة ميناب الابتدائية في إيران. ولم يتم الكشف عن معدل الخطأ الفعلي لمافن، ولكن التقديرات تشير إلى نظام أقل موثوقية بكثير مما يزعم البنتاغون.
يقول شوارتز إن النماذج اللغوية الكبيرة لا ينبغي ببساطة استخدامها للاستهداف، لأنها ستؤدي حتماً إلى الهلوسة وتساهم في إلحاق الضرر بالمدنيين.
أفاد موقع The Intercept، وهو منفذ استقصائي مستقل، يوم الاثنين أن البنتاغون خفض مركز التميز لحماية المدنيين من 40 موظفًا إلى تسعة فقط مع الاعتماد على أدوات الذكاء الاصطناعي، بما في ذلك تلك المبنية على نظام Maven Smart System، لتسريع تقييمات الأضرار المدنية.
أشار بحث أجراه معهد ماكس بلانك للتنمية البشرية في إحدى الدراسات إلى أن تفويض مهمة ما إلى الذكاء الاصطناعي يخلق مسافة أخلاقية تجعل الناس أكثر استعدادًا للانخراط في سلوك لم يكونوا ليفعلوه لولا ذلك، حيث أن الذكاء الاصطناعي يمكن أن يضفي قشرة من الشرعية، مع عدم قيام الضمانات الحالية بإيقافه.
وقال شوارتز، قبل ثلاث سنوات، إن الأسلحة ذات الخبرة المحدودة ستُستخدم في الاستهداف العسكري بحلول عام 2026: «كنت سأقول إن هذا جنون. وسأظل أقول ذلك اليوم
“إن التظاهر بأن نظام الذكاء الاصطناعي يمكن أن يكون صانع قرار أخلاقي يشكل، بالنسبة لي، تنازلاً عن هذه المهمة الإنسانية الفريدة ــ أن تزن، وتفهم الثقل، وتشعر بثقل القرار الصعب أخلاقياً والذي قد يتحمل المرء عبء المسؤولية عنه”.
هل تستطيع أنظمة الذكاء الاصطناعي إقناع الجيوش غير الأخلاقية بالتصرف بشكل أخلاقي؟
على العكس من ذلك، يطرح السؤال حول ما إذا كان الذكاء الاصطناعي قادراً عملياً على تقييد الجيوش الأقل أخلاقية من خلال فرض ضبط النفس من أعلى.
في عام 2024، ذكرت المجلة الإسرائيلية الفلسطينية +972 ووسيلة إعلام محلية باللغة العبرية أن الجيش الإسرائيلي كان يعزل ويحدد آلاف الفلسطينيين كأهداف محتملة للقصف باستخدام نظام استهداف مدعوم بالذكاء الاصطناعي يسمى لافندر.
وكان معدل الخطأ المقدر بحوالي 10 بالمائة. وحذر خبراء حقوق الإنسان وعلماء القانون من أن هذه الممارسة تخاطر بانتهاك القانون الإنساني الدولي، مع تقليل الإشراف البشري في بعض الحالات إلى بضع ثوان قبل الإذن بالضربة.
ويشكك شوارتز بنفس القدر في قدرة الذكاء الاصطناعي على تقييد الجيوش. وأضافت: “إذا كان لدى الجيش نظام يعمل على توسيع نطاق العنف الذي يريد تفعيله وتسريعه، فلن يتنازل عن نظام يقول: “لا، لا ينبغي عليك فعل ذلك”.” “هناك بالفعل مشكلة جارية يجب معالجتها مسبقًا.
“لن يعمل نظام الذكاء الاصطناعي كصانع قرار أخلاقي على إنسان غير أخلاقي”.
