واشنطن بوست: إسرائيل بنت مصنعا للذكاء الاصطناعي وأطلقت له العنان في غزة

بعد هجوم حركة المقاومة الإسلامية (حماس) يوم 7 أكتوبر/تشرين الأول 2023، أمطرت القوات الإسرائيلية قطاع غزة بالقنابل، مستفيدة من قاعدة بيانات جُمعت بعناية على مر السنين فيها تفاصيل عناوين المنازل والأنفاق والبنية التحتية الحيوية لقطاع غزة، ولكن بعد نفاد بنك الأهداف لجأ الجيش إلى أداة ذكاء اصطناعي معقدة تسمى “هبسورا” أو “الإنجيل” يمكنها أن تولد بسرعة مئات الأهداف الإضافية.

بهذا الملخص صدّرت صحيفة واشنطن بوست تقريرا حصريا بقلم إليزابيث دوسكين، قالت فيه إن إسرائيل، قبل سنوات من حرب غزة، حولت وحدة استخباراتها إلى أرض اختبار للذكاء الاصطناعي، وقد سمح استخدامه بإعادة تعبئة بنك أهداف الجيش الإسرائيلي بسرعة لمواصلة حملته دون انقطاع، مما أسهم في تسعير الحرب المستمرة على غزة.

وأذاع الجيش الإسرائيلي وجود هذه البرامج التي تشكل ما يعتبره بعض الخبراء المبادرة العسكرية الأكثر تقدما في مجال الذكاء الاصطناعي، وقد سعت واشنطن بوست في تحقيقها هذا للكشف عن تفاصيل لم يتم الإبلاغ عنها من قبل عن العمليات الداخلية لبرنامج التعلم الآلي، إلى جانب التاريخ السري الذي دام عقدا من الزمان لتطويره.

حصيلة القتلى

وكشف التحقيق أيضا عن نقاش داخل أعلى مستويات الجيش بدأ قبل سنوات من هجوم حماس، حول جودة المعلومات الاستخباراتية التي يجمعها الذكاء الاصطناعي، ومدى تدقيق توصيات التكنولوجيا، وهل التركيز على الذكاء الاصطناعي أضعف قدرات الاستخبارات الإسرائيلية.

وخلص بعض المنتقدين إلى أن برنامج الذكاء الاصطناعي كان قوة وراء الكواليس تعمل على رفع حصيلة القتلى في غزة، وقد أودت حتى الآن بحياة أكثر من 45 ألف شخص، أغلبهم من النساء والأطفال.

وبالإضافة إلى وثائق حصلت عليها، ذكرت الصحيفة أن تقريرها يستند أيضا إلى مقابلات مع أكثر من 12 شخصا على دراية بالأنظمة، تحدث العديد منهم بشرط عدم الكشف عن هويتهم لمناقشة تفاصيل مواضيع الأمن القومي السرية للغاية.

وقال ستيفن فيلدشتاين من مؤسسة كارنيغي، وهو باحث في استخدام الذكاء الاصطناعي في الحرب، إن “ما يحدث في غزة مقدمة لتحول أوسع في كيفية خوض الحرب”.

وزعم الجيش الإسرائيلي أن الاتهامات التي تقول إن استخدامه للذكاء الاصطناعي يعرض الأرواح للخطر غير صحيحة، وأوضح في بيان أنه لما زادت القدرة على تجميع المعلومات بشكل فعال كانت العملية أكثر دقة، خاصة أن كل ضابط ملزم بالتوقيع على أي توصيات من أنظمة “معالجة البيانات الضخمة” الخاصة به.

ودافع يوسي سارييل رئيس الوحدة 8200 -وهي استخبارات الإشارات التابعة للجيش- عن تطوير برنامج “الإنجيل”، وهو برنامج تعلم آلي مبني على مئات خوارزميات التنبؤ، يسمح للجنود بالاستعلام بسرعة عن كنز هائل من البيانات معروف داخل الجيش باسم “المسبح”.

وبمراجعة كميات هائلة من البيانات من الاتصالات التي تم اعتراضها، ولقطات الأقمار الصناعية والشبكات الاجتماعية، تقوم الخوارزميات بإخراج إحداثيات الأنفاق والصواريخ وغيرها من الأهداف العسكرية، وتوضع التوصيات التي تصمد للتدقيق في بنك الأهداف من قبل ضابط كبير.

وتستخدم أداة أخرى للتعلم الآلي تسمى “لافندر” درجة مئوية للتنبؤ بمدى احتمال أن يكون الفلسطيني عضوا في جماعة مسلحة، مما يسمح للجيش الإسرائيلي بتوليد حجم كبير من الأهداف البشرية المحتملة بسرعة، كما أن هناك برامج خوارزمية أخرى تسمح للجنود بالاستعلام عن مجموعات بيانات مختلفة، لم يتم الإبلاغ عنها سابقا.

مخاوف

وأشارت الصحيفة إلى أن العديد من الضباط أعربوا عن مخاوفهم من أن تكنولوجيا التعلم الآلي التي سرّعت اتخاذ القرار أخفت عيوبا أساسية، وبالفعل وجدت مراجعة داخلية أن بعض أنظمة الذكاء الاصطناعي لمعالجة اللغة العربية بها أخطاء، وفشلت في فهم الكلمات والعبارات العامية الرئيسية، وفقا للقائدين العسكريين السابق ذكرهما.

كذلك تتنبأ تكنولوجيا التعلم الآلي في الجيش الإسرائيلي -حسب الصحيفة- بعدد المدنيين الذين قد يتأثرون بالهجمات، وكانت “نسبة الضحايا المدنيين المقبولة لدى الجيش الإسرائيلي في عام 2014 مدنيا واحدا لكل إرهابي رفيع المستوى”، حسب ما قاله تال ميمران المستشار القانوني السابق للجيش الإسرائيلي.

وفي حرب غزة، ارتفع العدد إلى 15 مدنيا لكل عضو منخفض المستوى من حماس و”أعلى بشكل كبير” بالنسبة للأعضاء من المستوى المتوسط ​​والعالي، حسب منظمة حقوق الإنسان الإسرائيلية “كسر الصمت”.

ويزعم بعض أنصار استخدام إسرائيل للتكنولوجيا أن نشر الابتكارات مثل الذكاء الاصطناعي بشكل عدواني أمر ضروري لبقاء دولة صغيرة تواجه أعداء مصممين وأقوياء. فقد قال بليز ميشتال، نائب رئيس السياسات في المعهد اليهودي للأمن القومي الأميركي، إن “التفوق التكنولوجي هو ما يحافظ على أمن إسرائيل، فكلما تمكنت من تحديد قدرات العدو بشكل أسرع وإخراجها من ساحة المعركة كانت الحرب أقصر، وستكون الخسائر أقل”.

وتحت قيادة سارييل وقادة استخباراتيين آخرين، تمت إعادة هيكلة 8200 للتركيز على المهندسين، وخفض المتخصصين في اللغة العربية، وإزالة العديد من القادة المقاومين للذكاء الاصطناعي، وحل بعض المجموعات التي لا تركز على تكنولوجيا استخراج البيانات، وفقا لثلاثة أشخاص.

وتطرح تهم الإبادة الجماعية التي رفعتها جنوب أفريقيا ضد إسرائيل أمام محكمة العدل الدولية إشكالا يقول: هل القرارات الحاسمة بشأن قصف الأهداف في غزة تتخذ بواسطة برامج؟ وهو تحقيق يمكن أن يسرع من النقاش العالمي حول دور تكنولوجيا الذكاء الاصطناعي في الحرب.

وأعلن سارييل أنه يخطط للتنحي عن منصبه في ظل تزايد الاستجوابات بشأن الإخفاقات الاستخباراتية التي أدت إلى هجوم السابع من أكتوبر/تشرين الأول، وقال اثنان من كبار القادة السابقين إنهما يعتقدان أن التركيز الشديد على الذكاء الاصطناعي كان سببا مهما في وقوع إسرائيل على حين غرة في ذلك اليوم.

ووصف أحد القادة العسكريين السابقين -متحدثا بشرط عدم الكشف عن هويته- موضوعات الأمن القومي قائلا “كان هذا مصنعا للذكاء الاصطناعي، لقد تم استبدال الرجل بالآلة”.

عنق الزجاجة

وقبل عامين من توليه منصب قائد الاستخبارات، أمضى سارييل عاما إجازة في جامعة الدفاع الوطني بواشنطن، وقد وضع كتابا عن رؤية لغرس الأتمتة في مؤسسات الأمن القومي، بعنوان “فريق الإنسان والآلة: كيفية خلق التآزر بين الذكاء البشري والاصطناعي”.

ووصف في الكتاب كيف يمكن التنبؤ بأفعال من يصفهم بالإرهابيين المنفردين مسبقا من خلال إطلاق العنان للخوارزميات لتحليل مواقع الهاتف ومنشورات وسائل التواصل الاجتماعي، ولقطات الطائرات المسيرة والاتصالات الخاصة التي تم اعتراضها.

وفي كتابه، زعم سارييل أن الذكاء الاصطناعي سيكون مفيدا بشكل خاص في زمن الحرب، عندما يمكنه تسريع تشكيل الهدف وفتح “عنق الزجاجة البشري” الذي أبطأ كل شيء.

ومع انتقاله إلى القيادة العليا، سارع سارييل إلى تسريع جهود استخراج البيانات، ودافع عن إعادة تنظيم واسعة النطاق قسمت جهود الاستخبارات إلى ما أشار إليه القادة باسم “مصانع الذكاء الاصطناعي” الموجودة في “مركز الأهداف” الذي أنشئ حديثا في قاعدة نيفاتيم الجوية في جنوب إسرائيل، وصممت كل فرقة مئات من الخوارزميات وتقنيات التعلم الآلي ووسائل تبادل التنبؤات البرمجية عبر سلسلة القيادة الاستخباراتية.

وكان بعض قادة القسم قلقين بشأن دقة هذه الخوارزميات، وكشفت إحدى عمليات التدقيق على تقنية معالجة اللغة أن التنبؤ بالبرمجيات لم يكن دقيقا دقة البشر، كما كان آخرون قلقين من إعطاء تنبؤات البرنامج وزنا كبيرا.

وقال الصحفي الإسرائيلي بن كاسبيت الذي أجرى مقابلات مع كل قائد في وحدة 8200 من أجل كتاب يعدّه في الموضوع إن “الخلاصة هي أنه لا يمكنك استبدال الرجل الذي يصرخ: اسمع هذا خطير، بكل تقنيات الذكاء الاصطناعي المتقدمة في العالم. كان هذا هو الغطرسة التي أصابت الوحدة بأكملها”.

وفي يونيو/حزيران 2021، أتيحت لإسرائيل أول فرصة لإطلاق العنان لبنك الأهداف الجديد الذي يعمل بالخوارزمية، مع اندلاع حرب استمرت 11 يوما على غزة، واستغل كبار القادة هذه اللحظة كفرصة ترويجية لمناقشة ثورة الذكاء الاصطناعي الجارية في نيفاتيم، وداخل مقر 8200 شمال تل أبيب مباشرة، وقال ميشتال إن كل ما أراد كبار القادة “الحديث عنه هو أول حرب ذكاء اصطناعي في العالم”.

مصنع أهداف

ومع أن القانون الإنساني الدولي يطلب من الدول المتحاربة موازنة الميزة العسكرية المتوقعة للهجوم مع الأضرار الجانبية المتوقعة للمدنيين، فإن المعاهدات التي لم تصادق عليها إسرائيل إلا جزئيا صامتة بشأن الذكاء الاصطناعي، وإن قال الجيش الإسرائيلي إن معالجة بيانات الاستخبارات العسكرية “تلبي تعريف القانون الدولي للهدف المشروع”.

وباعتراف إسرائيل نفسها، قام الذكاء الاصطناعي بدور كبير في عملية الاستهداف في غزة، وسرعان ما أمطرت إسرائيل المنطقة بالذخائر المصنعة في الولايات المتحدة من طراز مارك 80 التي يبلغ وزنها ألفي رطل.

وفي بيان صحفي صدر يوم 2 نوفمبر/تشرين الثاني 2023، أعلن الجيش الإسرائيلي أن الذكاء الاصطناعي ساعده في قصف 12 ألف هدف في غزة. وعلى أنغام موسيقى درامية وفيديو لمباني تنفجر، أعلن البيان عن “تعاون هو الأول من نوعه”، حيث تتم تغذية المعلومات الاستخباراتية من مصنع الأهداف بالذكاء الاصطناعي في الوقت الفعلي للقوات على الأرض وفي الجو وفي البحر، مما يتيح “تنفيذ مئات الهجمات في لحظة”.

وفي الأيام الأولى من الحرب كان مصنع الأهداف يعمل بكامل طاقته، وكان يعمل به نحو 300 جندي على مدار الساعة، وكان مطلوبا من العديد من المحللين التحقق من الأهداف الموصى بها من برنامجي “الإنجيل” و”لافندر”، إلا أنه مع تسارع الأحداث تم إسقاط القاعدة التي تلزم باعتماد مصدرين من المعلومات الاستخباراتية المستمدة من البشر للتحقق من صحة التنبؤ من “لافندر”.

وفي بعض الحالات في فرقة غزة، هاجم جنود مدربون بشكل سيئ على استخدام التكنولوجيا أهدافا بشرية دون التحقق من تنبؤات “لافندر” على الإطلاق، وفقا لأحد الجنود، وشعر بعض الجنود بالقلق من أن الجيش يعتمد فقط على التكنولوجيا دون تأكيد أن الأشخاص ما زالوا أعضاء نشطين في حماس.

ونقلت واشنطن بوست عن هايدي خلف -وهي منتقدة صريحة لإسرائيل وكبيرة علماء الذكاء الاصطناعي في معهد الذكاء الاصطناعي بنيويورك- أن أنظمة الذكاء الاصطناعي تحتوي على أخطاء مدمجة تجعلها غير مناسبة لسياق الحياة والموت مثل الحرب، وأشارت إلى أن صناعة المركبات الذاتية القيادة أمضت العقد الماضي في محاولة الحصول على خوارزميات التعلم الآلي الخاصة بها بدقة 100% دون نجاح يذكر.