تحقيق يكشف أدوات رقمية يستخدمها الاحتلال بارتكاب مجازره في غزة
كشف تحقيق حقوقي مطول عن أدوات رقمية يستخدمها جيش الاحتلال الإسرائيلي بارتكاب مجازره المروعة في قطاع غزة وتنتهك قوانين الحرب والخصوصية والبيانات الشخصية.
وقالت “هيومن رايتس ووتش” في وثيقة أسئلة وأجوبة أصدرتها اليوم إن استخدام الجيش الإسرائيلي لتقنيات المراقبة والذكاء الاصطناعي وأدوات رقمية أخرى للمساعدة في تحديد أهداف هجماته في غزة يزيد من خطر إلحاق ضرر محتمل بالمدنيين في وقت تثير هذه الأدوات الرقمية مخاوف أخلاقية وقانونية وإنسانية خطيرة.
ويستخدم الجيش الإسرائيلي في هجماته العسكرية في غزة أربع أدوات رقمية بغية تقدير عدد المدنيين في منطقة ما قبل الهجوم، وإخطار الجنود بموعد الهجوم، وتحديد ما إذا كان شخص ما مدنيا أم مقاتلا، وما إذا كان مبنى ما مدنيا أم عسكريا.
وجدت هيومن رايتس ووتش أن الأدوات الرقمية هذه يفترض أنها تعتمد على بيانات خاطئة وتقديرات تقريبية غير دقيقة لتزويد الأعمال العسكرية بالمعلومات بطرق قد تتعارض مع التزامات دولة الاحتلال بموجب القانون الدولي الإنساني، وخاصة قواعد التمييز والحيطة.
وقال زاك كامبل، باحث أول في مجال المراقبة في هيومن رايتس ووتش: “يستخدم الجيش الإسرائيلي بيانات غير كاملة وحسابات معيبة وأدوات غير مناسبة للمساعدة في اتخاذ قرارات مصيرية تنطوي على حياة أو موت في غزة، مما قد يزيد من الضرر اللاحق بالمدنيين”.
وأوضح أن المشاكل الكامنة في تصميم واستخدام هذه الأدوات تعني أنه، وبدلا من تقليل الضرر اللاحق بالمدنيين، قد يؤدي استخدام هذه الأدوات إلى مقتل وإصابة المدنيين بشكل غير قانوني”.
تتضمن هذه الأدوات مراقبة مستمرة ومنهجية للسكان الفلسطينيين في غزة، بما في ذلك بيانات جُمعت قبل الحرب الحالية بطريقة تتعارض مع القانون الدولي لحقوق الإنسان. وتستخدم هذه الأدوات البيانات الشخصية للمدنيين لتقديم معلومات تستند إليها توقعات التهديدات وتحديد الأهداف والتعلم الآلي.
من ضمن هذه الأدوات، هناك أداة تعتمد على تتبع الهواتف الخلوية لمراقبة إجلاء الفلسطينيين من أجزاء من شمال غزة أمر الجيش الإسرائيلي سكانها بالكامل بالمغادرة في 13 أكتوبر/تشرين الأول؛ وأداة تُعرف بـ “غوسبل” (The Gospel) تُعِدّ قوائم بالمباني أو الأهداف الهيكلية الأخرى التي سيتم مهاجمتها.
وكذلك أداة تُعرف بـ “لافندر” (Lavender) تمنح تصنيفات للأشخاص في غزة فيما يتعلق بانتمائهم المشتبه به إلى الجماعات المسلحة الفلسطينية من أجل تصنيفهم كأهداف عسكرية؛ وأداة تعرف بـ “أين أبي؟” (Where’s Daddy?)، تزعم تحديد متى يكون الهدف في مكان معين – غالبا مكان إقامة عائلته المفترض، وفقا لتقارير إعلامية- لمهاجمته هناك.
هذه الأدوات محدودة بسبب مشاكل شائعة مشتركة مع أنواع أخرى من التكنولوجيا، لكن قد يكون لها عواقب قاتلة على المدنيين في السياقات العسكرية.
ويفترض أن أداتين منها، وهما أداة مراقبة الإجلاء و”أين أبي؟”، تُستخدمان لتوفير معلومات تٌستخدم في تحديد الأهداف وحركة القوات وغيرها من الأعمال العسكرية باستخدام بيانات موقع الهواتف الخلوية.
رغم أن هذه الأدوات لها استخدامات عملية عديدة في الحياة اليومية، لكنها ليست دقيقة بما يكفي لتوفير معلومات من أجل القرارات العسكرية، وبخاصة بالنظر إلى الأضرار الهائلة التي لحقت بالبنية التحتية للاتصالات في غزة.
وعلى مدى الأشهر العشرة الماضية في غزة، قُتل أكثر من 40 ألف فلسطيني وجُرح 94 ألفا آخرين، وفقا لوزارة الصحة في غزة. كما دُمر أكثر من 70% من البنية التحتية المدنية وأكثر من 60% من منازل المدنيين أو تضررت بشدة. نزح جميع سكان غزة تقريبا من منازلهم.
قالت هيومن رايتس ووتش إن هناك حاجة إلى تحقيقات محايدة في استخدام هذه الأدوات الرقمية لتحديد ما إذا كانت قد ساهمت بشكل غير قانوني في خسارة أرواح وممتلكات المدنيين وإلى أي مدى، والخطوات اللازمة لتلافي الضرر مستقبلا.
ما هي أهمّ الأدوات الرقميّة التي يستخدمها الجيش الإسرائيلي في غزة؟
قيّمت هيومن رايتس ووتش أربع أدوات استخدمها الجيش الإسرائيلي في هجومه المستمرّ على غزة تتعلّق بالتخطيط العسكري والاستهداف.
تعتمد إحدى هذه الأدوات على تتبع الهواتف الخلوية لمراقبة إجلاء الفلسطينيين من أجزاء في شمال غزة. وهناك أداة أخرى، يُسميها الجيش “غوسبيل” (The Gospel)، ووظيفتها إعداد قائمات بالمباني أو الأهداف الهيكليّة الأخرى التي يجب مهاجمتها.
وهناك أداة ثالثة يُسميها الجيش “لافندر” (Lavender) ووظيفتها وضع تصنيفات للأشخاص في غزة بحسب الاشتباه في انتمائهم إلى الجماعات الفلسطينيّة المسلّحة بهدف وضعهم ضمن الأهداف العسكريّة. تهدف أداة “أين أبي؟” (Where’s Daddy?) إلى تحديد الوقت الذي يكون فيه هدف ما في موقع معيّن حتى تتسنّى مهاجمته هناك.
ما هي أداة مراقبة الإجلاء التي يعتمدها الجيش الإسرائيلي وكيف تعمل؟
بدأ الجيش الإسرائيلي في قصف غزّة يوم 7 أكتوبر/تشرين الأول 2023. وفي 13 أكتوبر/تشرين الأول، أصدر الجيش أوامر إجلاء لجميع سكّان شمال غزّة، حيث يعيش أكثر من مليون شخص، لترك منازلهم في غضون 24 ساعة والاتجاه إلى جنوب وادي غزة، رغم عدم وجود مكان آمن يذهبون إليه ولا طريق آمن للسفر أو مأوى مناسب.
تعتمد أداة مراقبة الإجلاء التي يستخدمها الجيش الإسرائيلي على بيانات موقع الهواتف الخلوية لمراقبة حركة الأشخاص في غزّة.
استنادا إلى تقرير نشرته “نيويورك تايمز” في 16 أكتوبر/تشرين الأوّل، قبل أسبوع من بدء الجيش الإسرائيلي للعمليّات البريّة الكبرى في شمال غزّة، كان الجيش الإسرائيلي يستخدم هذا النظام لمراقبة إجلاء الفلسطينيين من منازلهم شمال وادي غزّة. نشرت “واشنطن بوست” و”الغارديان” لاحقا تفاصيل إضافيّة عن هذا النظام.
قال صحفيون إنّهم اُطلعوا على مكتب في مقرّ القيادة الجنوبيّة في مدينة بئر السبع الإسرائيلية، كانت فيه شاشات كبيرة عليها خريطة غزّة مقسّمة إلى 620 جزءًا، وكل جزء ملوّن حسب درجة إجلاء السكّان.
كما تضمّنت الخريطة تسميات للمستشفيات والمساجد والملاجئ وغيرها من المباني. توقّع الصحفيون أنّ عدد الهواتف الخلوية التي كان يتمّ تعقبها وقتها يتجاوز المليون. قبل أكتوبر/تشرين الأول 2023، أفادت وزارة الاتصالات في غزّة بوجود 1,041,198 اشتراكا نشطا في الهواتف الخلوية في غزّة.
وفقا لهذه التقارير، يستخدم النظام تثلي ثأبراج الهواتف الخلويّة (cell tower triangulation) وبيانات مراقبة أخرى لتحقيق مشاهدة حيّة لتحرّكات سكّان غزة.
قال مسؤولون عسكريون إسرائيليون للصحفيين إنّ هذه المعلومات تُستخدم لتحديد العمليات التي يُمكن للجيش تنفيذها في بعض الأماكن، ونوع الأسلحة التي يمكن أن يستخدمها.
هل البيانات التي يوفرها تثليث أبراج الهواتف الخلويّة دقيقة بما يكفي لاعتمادها في القرارات العسكريّة؟
البيانات التي يوفرها تثليث أبراج الهواتف الخلويّة، التي تساعد في تحديد موقع تقريبي للهواتف الخلوية استنادا إلى الأبراج التي يُمكنها الاتصال بها، لا يُرجّح أنها تعطي معلومات دقيقة عن المكان المحدد لوجود الهواتف، وبالتالي الأشخاص الذي يحملونها.
يتفاقم عدم الدقّة هذا بسبب نقص الكهرباء لشحن الهواتف بعد أن قطعت إسرائيل جميع خطوط الكهرباء إلى غزّة، وتوقف محطّة الطاقة الوحيدة في غزّة عن العمل بسبب الحصار المفروض على واردات الوقود، وبسبب الأضرار الكبيرة التي لحقت بالبنية التحتيّة للهاتف في غزة.
الأدوات التي تستخدم بيانات توفرها أبراج الهواتف الخلويّة لاحتساب تواجد المدنيين كوسيلة لتوفير معلومات تخدم القرارات المتعلقة بالعمليات العسكريّة تزيد من خطر إلحاق أضرار بالمدنيين في تلك العمليّات.
قد تتسبب هذه الأدوات في وصول القادة العسكريين إلى استنتاجات خاطئة حول عدم وجود مدنيين، أو وجود عدد قليل فقط، في منطقة ما، وبالتالي يُمكن مهاجمة هذه المنطقة.
ما هي المعلومات الأخرى المعروفة عن البيانات التي يستخدمها نظام مراقبة الإجلاء؟
في مايو/أيار 2024، اكتشفت هيومن رايتس ووتش بيانات نشرها الجيش الإسرائيلي علنا على الإنترنت، يفترض أن النشر تم بشكل خاطئ، تضمّنت ما يُفترض أنها بيانات تشغيليّة تتعلق بالأنظمة المستخدمة لمراقبة الإجلاء وحركة الأشخاص في غزة، وكذلك لتوقع الضرر المدني المحتمل الذي قد تُسبّبه الهجمات في مناطق معيّنة.
ضُمّنت هذه البيانات في كود [شفرة] المصدر لموقع معلومات الإجلاء التابع للجيش الإسرائيلي. تحتوي البيانات على أرقام سكّانية تتفق مع بيانات التعداد السكاني لغزّة منذ عشر سنوات، وبيانات سكّانيّة موزّعة، ومعلومات حول تحرّكات السكان المدنيين، والوجود العسكري الإسرائيلي في غزّة، وعدد الهجمات تراكميا، لكل جزء من الأجزاء الـ620 المكوّنة لقطاع غزة. كما تضمّنت البيانات معلومات شخصيّة: ألقاب [شهرة] أكبر العائلات الموجودة في كل جزء.
حلّلت هيومن رايتس ووتش هذه البيانات المتعلقة بالوجود العسكري الإسرائيلي وأجرت مسحا لها فوجدتها متفقة مع التوغل الإسرائيلي في غزة منذ منتصف نوفمبر/تشرين الثاني 2023، عندما سيطرت القوات الإسرائيليّة على معظم شمال القطاع ولم تدخل خان يونس في الجنوب بعد.
رغم أنّ هيومن رايتس ووتش لم تتمكّن من تأكيد أصل المعلومات المنشورة على الانترنت واستخدامها، إلا أنها تشبه البيانات الموصوفة في التقارير الإعلاميّة المتعلقة بنظام مراقبة الإجلاء، وكذلك بالتخطيط للعمليّات العسكريّة.
ما هي “لافندر” وكيف تعمل؟
تستخدم لافندر التعلّم الآلي لتعطي لسكان غزة درجة عدديّة تتعلق باحتمال انتماء شخص منهم إلى جماعة مسلّحة. استنادا إلى تقارير، فإنّ مسؤولين في الجيش الإسرائيلي هم الذين يضعون الحدّ الأدنى الذي يُمكن بعده تصنيف الشخص كهدف قابل للهجوم.
أقرّ الجيش بوجود أداة مثل لافندر بعبارات عامة للغاية، واصفا إياها بـ “قاعدة بيانات تهدف إلى مقارنة مصادر المعلومات الاستخباراتية”.
هناك عرض وكتاب من إعداد ضابطين إسرائيليين يُقدّمان تفاصيل تقنيّة مهمة. في عرض تقديمي في فبراير/شباط 2023، وصف مدير الذكاء الاصطناعي وعلوم البيانات في “الوحدة 8200″، قسم استخبارات الإشارة في الجيش، أداة رقميّة تستخدم التعلّم الآلي “للعثور على إرهابيين جدد”. يعمل هذا النظام، الذي قال الضابط إنّه استُخدم أوّل مرة في غزة في 2021، على تجميع بيانات المراقبة لتصنيف الأشخاص بناءً على احتمال ارتباطهم بجماعة مسلّحة.
تتضمّن الأداة الموصوفة في العرض، والتي تعتقد هيومن رايتس ووتش أنها لافندر أو أداة أخرى تعتمد على نفس التكنولوجيا الأساسيّة، نوعا من التعلّم الآلي شبه الخاضع للإشراف يُسمى “التعلّم الإيجابي غير المصنّف”، الذي يُدرّب خوارزميّة من قاعدة بيانات تحتوي في الآن نفسه على بيانات مُصنفة (إيجابية) وغير مصنفة (سلبيّة).
يستخدم هذا النوع من التعلّم الآلي صفات تتعلق بالبيانات المصنفة لمحاولة تحديد الأنماط في قاعدة بيانات أكبر. وفي هذه الحالة، تبحث الخوارزميّة عن خصائص في بيانات المراقبة وغيرها من البيانات حول الأفراد الذين يشتبه الجيش الإسرائيلي في انتمائهم إلى جماعة مسلّحة، ثم تستخدم نفس الخصائص لتحديد المزيد من الأشخاص المشتبه بهم من عامة السكان.
ولأنّ العديد من نقاط البيانات لن تكون مؤكّدة إذا تمّ تطبيق هذه التقنية على عدد كبير من السكّان، فإنّ هذه العمليّة تعتمد إلى حدّ كبير على التخمين غير المبرهن.
على أيّ أساس تُحدّد لافندر درجة الاشتباه؟
دون الوصول إلى لافندر، من المستحيل معرفة نقاط البيانات التي تستخدمها الأداة لزيادة درجة الاشتباه في شخص ما. بصفة عامة، يعتمد التعلّم الآلي شبه الخاضع للإشراف على خوارزميّة لمعالجة كميات كبيرة من البيانات، ثمّ تحديد أنواع البيانات المفيدة للقيام بمهمّة معيّنة.
قد يوفر الكتاب الذي ألفه يوسي سرييل سنة 2021، وهو رئيس الوحدة 8200، حول الاستخدامات العسكريّة للذكاء الاصطناعي بعض المعلومات الإضافية.
وصف سرييل “آلة استهداف” بخصائص مشابهة جدا لـ لافندر ويُمكن استخدامها لتحديد الأهداف المحتملة من خلال جمع وتحليل علاقاتهم الاجتماعيّة، تماما مثل منصّات التواصل الاجتماعي.
الصفات التي ذكرها سرييل والتي يُمكن أن تساهم في جعل شخص على درجة أعلى من الاشتباه تشمل اتصالاته أو ارتباطاته الاجتماعيّة، أو انتمائه إلى مجموعة دردشة مع شخص يعتقد الجيش الإسرائيلي بالفعل أنه مرتبط بجماعة مسلّحة، أو حتى لمجرّد تغيير الهواتف أو العناوين بشكل متكرّر.
لماذا تُعدّ تقييمات لافندر إشكاليّة وخطيرة؟
تقييمات لافندر فيها عيوب خطيرة قد تعرّض المدنيين لخطر جسيم أثناء النزاع المسلّح. والتعلّم الإيجابي غير المصنّف (انظر السؤال 5) ليس أداة مناسبة لتوفير معلومات لاتخاذ قرارات بشأن تحديد الأهداف العسكريّة المشروعة.
الافتراضات التي تجعل الأداة تُحّدد درجة الاشتباه غير متجذرة في القانون الدولي الإنساني، بل هي معايير تم تطويرها بواسطة خوارزميّة وتستند إلى بيانات يُرجّح أن تكون متحيّزة وغير مكتملة، ويستحيل التدقيق فيها من الناحية التقنيّة.
هذا الاعتماد على فرضيات خاطئة على الأرجح لتوفير معلومات قصد اتخاذ قرارات عسكريّة قد يؤدي إلى استهداف المدنيين بشكل خاطئ. تجمع لافندر البيانات حول سلوك واتصالات أعداد كبيرة من الأفراد لوضع درجة اشتباه فيهم.
باستخدام أدوات الشرطة التنبؤيّة، يتم افتراض تورّط السكان عامّة من خلال معالجة بيانات مراقبة أفراد لا يُشتبه في ارتكابهم جريمة، مما ينتهك حقهم في افتراض البراءة.
في سياق الحرب، يعني هذا خلق افتراضات حول كونهم أهدافا عسكريّة خاضعة لهجوم قانوني، بينما تفترض قوانين الحرب اعتبارهم مدنيين.
بالإضافة إلى ذلك، قد يتسبب استخدام التعلّم شبه الخاضع للإشراف في نتائج إيجابيّة كاذبة من خلال تحديد الأشخاص على أنهم مشتبه بهم بناءً على صفات أو سلوكيات لا تؤثر بأيّ حال من الأحوال على المخرجات المؤثرة غير القانونيّة أو التي تنطوي على تهديد أو إشكاليات.
هناك مخاوف إضافيّة ناجمة عن استخدام السلطات لتعريفات فضفاضة للإرهاب والجماعات المسلحة، والاعتماد على بنود فضفاضة في القانون العسكري الإسرائيلي في الأراضي الفلسطينيّة المحتلّة لحظر الجمعيات باعتبارها “منظمات معادية”.
في الضفة الغربيّة مثلا، حظر الجيش منظمات حقوقيّة فلسطينيّة واعتبرها “جماعات إرهابيّة”، واحتجز فلسطينيين لمجرّد انتمائهم أو ارتباطهم بهذه المنظمات أو بكيانات تابعة لها.
إذا استُخدمت تعريفات فضفاضة مماثلة في تدريب أدوات التعلّم الآلي مثل لافندر، بهدف توفير معلومات لاتخاذ قرارات استهداف، فإنّ المخرجات ستخضع لانحياز مماثل، وقد تزيد من احتمال استهداف المدنيين في الهجوم.
ما هي أداة “غوسبيل” وكيف تعمل؟
تستخدم أداة غوسبيل خوارزميّة لمعالجة بيانات المراقبة بقصد إعداد قوائم للأهداف. استنادا إلى تقارير إعلاميّة، تُحدّد غوسبيل أربع فئات من الأهداف غير البشريّة: الأهداف العسكريّة، بما في ذلك الأهداف تحت الأرض مثل الأنفاق، ومنازل عائلات المقاومين و”أهداف القوّة”، وهي الهياكل المدنيّة التي تتعرّض للهجوم مع هدف معلن، وفقا لمحللي استخبارات حاليين وسابقين تم اقتباسهم في تقارير إعلاميّة.
وصفت مقالات على موقع القوات الإسرائيلية في 2022 و2023 أداة قائمة على خوارزمية تشبه غوسبيل إلى حد كبير، وبعضها ذكرها بالاسم.
هناك معلومات أقلّ متاحة حول كيفية عمل غوسبيل مقارنة بلافندر، لكن من المرجح أنها تستخدم أيضا التعلّم الإيجابي غير المصنف للوصول إلى استخلاصاتها.
غوسبيل في الواقع هي أداة تُستخدم لتحديد ما هي الهياكل التي تُعتبر أعيانا مدنيّة وأهدافا عسكريّة، وهي عمليّة تمييز مطلوبة من المهاجمين بموجب قوانين الحرب.
ما هي أداة “أين أبي؟” وكيف تعمل؟
وفقا لتقارير إعلاميّة، تعتبر “أين أبي؟” أداة تستخدم تتبع مواقع الهواتف الخلوية لإخطار عملاء الجيش الإسرائيلي عندما يدخل الأشخاص الذين تمّ تحديدهم كأهداف عسكريّة إلى موقع محدّد – غالبا منزل عائلي، وفقا لتقارير – حيث يُمكن مهاجمتهم. تمكّنت هيومن رايتس ووتش من تأكيد استخدام الجيش الإسرائيلي لأداة بهذه الوظيفة، لكنها لم تتأكد من أيّ تفاصيل تقنيّة أخرى.
هل بيانات مواقع الهواتف الخلوية وحدها دقيقة بما يكفي لشنّ ضربات محددة الهدف؟
بيانات مواقع الهواتف الخلوية ليست دقيقة بما يكفي لإثبات أنّ شخصا معيّنا موجود في مكان ما في وقت محدّد، وقد تؤدّي إلى أخطاء قاتلة إذا استُخدمت لتوفير معلومات لشنّ هجمات عسكريّة.
الهاتف الخلوي ليس وسيلة موثوقا فيها لتحديد هدف بشري، وخاصة في مناطق النزاع، حيث ربما يغيّر الأشخاص أرقامهم أو أجهزتهم أثناء الطوارئ، وقد يتغيّر الوصول إلى الشبكات والأجهزة بشكل متكرر ومفاجئ.
بالإضافة إلى ذلك، فإنّ أكثر الطرق شيوعا لتتبع مواقع الهواتف الخلوية هي من خلال تحديد مواقع أبراج الهواتف الخلوية، وتُسمى معلومات موقع الهاتف الخلوي، أو عبر الوصول إلى بيانات “نظام تحديد المواقع العالمي” (GPS).
لا تتمتّع أيّ من هذه الأنظمة بمفردها بالدقة الكافية لتحديد موقع الهواتف الخلوية لشنّ هجمات دقيقة، واستخدامها في اتخاذ قرارات الاستهداف يثير قلقا بشأن عدم اتخاذ جميع الاحتياطات الممكنة لتجنب إلحاق الضرر بالمدنيين، وهو ما تقتضيه قوانين الحرب.
ما هي حدود الأنظمة التي تعتمد على البيانات الضخمة والتعلّم الآلي والذكاء الاصطناعي؟
هذه الأنظمة محدودة بعدة افتراضات والميل إلى إعادة انتاج تحيّزات المجتمع.
“ظاهرة الصندوق الأسود”: بحكم تصميمها، لا تسمح أنظمة التعلّم الآلي والذكاء الاصطناعي وغيرها من الأنظمة الخوارزميّة بالتدقيق أو إظهار عملها أو عمليّات صنع القرار حول كيفيّة إعداد المخرجات، وتفتقر إلى التوثيق لدعم توزيع المسؤوليّة على الأطراف الفاعلة ذات الصلة.
من المهم أن تسمح الأدوات الرقميّة للمستخدمين بفحص عمل الأنظمة، لمعرفة كيف يتمّ تحديد المخرجات وباستخدام أيّ بيانات. وهذا مهمّ بشكل خاص في حالة الأسلحة أو أشكال تحديد الأهداف التي تستخدم الذكاء الاصطناعي.
“تحيّز الأتمتة”: يحدث تحيّز الأتمتة عندما يضع الناس ثقة مفرطة في مخرجات الأدوات الرقميّة، ويرجع ذلك في جزء منه إلى تصوّر أنها أكثر حيادا من البشر. وجدت دراسات أنّ استخدام الأدوات الرقميّة، بما في ذلك في التطبيقات العسكريّة، قد يتسبب في تقليص التدقيق بشأن مخرجاتها، وحتى الثقة في المخرجات الآليّة والاعتماد عليها باستمرار في مواجهة المعلومات المتناقضة.
افتراضات تثير إشكاليّات: تعتمد جميع الأنظمة الرقميّة على افتراضات أساسيّة للعمل، ألا وهي المعطيات التي تستند إليها الحسابات (مثلا، بالنسبة لأداة خاصة بالتوصيات المتعلقة بالمسلسلات التلفزيونيّة، فإنّ الأمر كالتالي: إذا كان شخص ما يشاهد غالبا مسلسلات الخيال العلمي، تصير الأداة مطالبة بالتوصية بمزيد من الخيال العلمي).
رغم أنّ التعليمات ومعايير الضبط الخاصة بالأنظمة التي تعمل بالتعلّم الآلي والذكاء الاصطناعي يضعها المطوّرون، فإنّ هذه الافتراضات لا يكتبها المبرمجون صراحة، بل تُطوّرها خوارزميات تستند إلى بيانات التدريب الأوليّة.
تعالج الأدوات القائمة على هذه التكنولوجيا كميّات كبيرة من البيانات، مع وضع مخرجات أو هدف محدّد في الاعتبار، ثمّ تكون قادرة على تكوين استنتاجاتها الخاصة(مع ذلك، فإنّ مالكي هذه التكنولوجيا ومطوّريها ومستخدميها هم الذين يتحمّلون في نهاية المطاف المسؤوليّة عن كيفيّة استخدام الأنظمة القائمة على الخوارزميات).
قد تنجح هذه الطريقة في بعض التطبيقات منخفضة المخاطر، مثل التوصيات التلفزيونيّة، لكنها تثير مخاوف كبيرة عند استخدامها في السياقات العسكريّة، حيث تكون العواقب حياة أو موت.
إعادة إنتاج تحيّزات المجتمع: رغم أنّ مخرجات الأنظمة الخوارزميّة قد تبدو محايدة، إلا أنّ الآلات قد تعكس على الأرجح تحيّزات مبرمجيها والمجتمع.
هذا الخطر مرتفع بشكل خاص عند تطوير واستخدام أدوات رقميّة توفر معلومات لاتخاذ قرارات بشأن ما إذا كان يُمكن مهاجمة الأشخاص أو الأعيان الأخرى كأهداف عسكريّة.
وجدت “محكمة العدل الدوليّة” في يوليو/تموز أنّ “إسرائيل” تمارس التمييز والفصل العنصري ضدّ الفلسطينيين. الأدوات الرقميّة التي طوّرها واستخدمها الجيش الإسرائيلي لاستهداف الناس في الأراضي المحتلّة قد تعكس مثل هذا التمييز وهذه التحيّزات المنهجيّة.
“مُدخلات خاطئة – مُخرجات خاطئة”: البيانات المعيبة تؤدي إلى نتائج معيبة. إذا بُني نظام رقمي على بيانات غير دقيقة أو قديمة أو غير كاملة أو لا تمثل السياق الذي يسعى النظام إلى العمل فيه، فإنّ مخرجاته ستكون معيبة مثله.
ما هي المخاطر والتحديّات الجديدة التي تفرضها الأدوات الرقميّة التي تعتمد على البيانات بشكل مكثف في السياقات العسكريّة؟
تخلق الأدوات الرقميّة المستخدمة في سياق عسكري مخاطر وتحديّات جديدة من خلال اعتمادها على المراقبة التطفليّة، والتجريد الرقمي من الإنسانيّة، وإمكانية الاعتماد المفرط للجيش على الأدوات الرقميّة. قد تزيد هذه الأدوات من وتيرة الحرب.
تعتمد الأدوات التي تستخدم التعلّم الآلي والذكاء الاصطناعي على كميّات هائلة من البيانات لتتوصّل إلى مخرجات (توقعات متعلقة بالتهديدات، وتحديد الأهداف، إلخ). يخضع الفلسطينيون في غزّة وفي الضفة الغربيّة إلى مراقبة مستمرّة وشاملة من قبل السلطات الإسرائيليّة، وبعض هذه البيانات باتت تُستخدم الآن لتوفير معلومات للعمليات العسكريّة والتخطيط في غزة.
قبل الحرب الحاليّة، حافظت “إسرائيل” كقوّة احتلال على سيطرة كبيرة على جوانب الحياة في غزّة، مما انجرّ عنه التزامات بموجب القانون الدولي لحقوق الإنسان والقانون الإنساني الدولي لضمان رفاه السكّان. تؤكّد المادة 17 من “العهد الدولي الخاص بالحقوق المدنيّة والسياسيّة”، و”إسرائيل” طرف فيه، على الحق في الخصوصيّة، والذي لا يخضع للتدخل غير القانوني أو التعسفي.
أكّدت “لجنة حقوق الإنسان التابعة للأمم المتحدة”، هيئة الخبراء الدوليين التي تفسّر العهد الدولي الخاص بالحقوق المدنيّة والسياسيّة بشكل رسمي، على أنّ “أيّ تدخل في الخصوصيّة يجب أن يكون متناسبا مع الغاية التي يسعى إلى تحقيقها وضروريا في سياق وضع معيّن”. والحكومات مُلزمة باحترام حقوق الأفراد في الخصوصيّة، بغضّ النظر عن جنسيتهم أو موقعهم، نظرا لأنّ التكنولوجيا الرقميّة تسمح بمراقبة واسعة حتى خارج الاقليم.
حلت الحكومة الإسرائيليّة على بيانات من غزّة وخزّنتها بطرق يفترض أنها تنتهك الحق المكفول دوليا في الخصوصيّة وحقوق الإنسان الأخرى.
هذا الأمر تحديدا إشكالي لأنّ مراقبة “إسرائيل” للفلسطينيين في غزّة مرتبطة ارتباطا وثيقا بنظام من الانتهاكات الحقوقيّة التي ترقى إلى سياسة الفصل العنصري.
أثناء النزاع المسلّح، ينبغي تفسير حقوق الإنسان على خلفيّة القانون الإنساني الدولي. وبالتالي، فإنّ ما يُعتبر تدخلا “تعسفيا وغير قانوني” في الخصوصيّة بموجب المادة 17 من العهد الدولي الخاص بالحقوق المدنيّة والسياسيّة قد يكون مختلفا عند أخذ قوانين الحرب في الاعتبار، وهي مجموعة القوانين (قاعدة التخصيص) المنطبقة بعد اندلاع الأعمال العدائيّة.
التجريد الرقمي من الإنسانيّة: تختزل الأنظمة المؤتمتة البشر في سلسلة من نقاط البيانات، تتم معالجتها بأنظمة تنطوي بطبيعتها على تحيّز وقيود بناءً على الطريقة التي بُرمجت بها.
عند اختزال البشر في نقاط بيانيّة، ومراقبتهم وفرزهم وتصنيفهم، قد يُسهّل ذلك تحديد من سيتعرّض للأذى، بما ذلك الاستهداف بقصد القتل، وتنفيذ هذه الإجراءات. يُطلق على هذا المسار من المراقبة المؤتمتة إلى إلحاق الأذى “التجريد الرقمي من الإنسانيّة”.
الاعتماد المُفرط على الأدوات الرقميّة: في بيئة سريعة الوتيرة وحافلة بالضغوط، أو بيئة فيها ضغط لتحديد أعداد كبيرة من الأهداف في حيّز زمني قصير، كما هو الحال في النزاع المسلّح، يتكوّن ميل إلى الافراط في الاعتماد المُفرط على الأنظمة الرقميّة التي تستطيع تحديد المخرجات بشكل سريع.
اعتبرت “اللجنة الدوليّة للصليب الأحمر” هذا خطرا ناتجا عن الأنظمة التي تعتمد على البيانات الضخمة والتعلّم الآلي والذكاء الاصطناعي المُستخدمة لتوفير معلومات تساعد على تحديد الخيارات العسكريّة، مشيرة إلى أنها قد تُسهّل اتخاذ قرارات تشوبها أخطاء، أو تتسبب في انتهاكات لقوانين الحرب، وتزيد من احتمال إلحاق الضرر بالمدنيين.
زيادة وتيرة الحرب: اعتبرت اللجنة الدوليّة للصليب الأحمر أيضا قدرة الأنظمة الرقميّة على تسريع وتيرة الحرب عامل خطر على المدنيين، خاصة في حال وجود سرعة تشغيليّة متزايدة تمنع إجراء تحليل معمق وتدقيق لمصادر المعلومات المُستخدمة في التخطيط العسكري.
قال ضباط عسكريون إسرائيليون علنا إنّ الأدوات الرقمية المستخدمة في تحديد الأهداف سمحت للضباط بتحديد عدد من الأهداف في غضون أيام يساوي ما كانوا يُحدّدونه في سنة، قبل استخدام هذه الأدوات.
هل تستخدم أنظمة الأسلحة ذاتيّة التشغيل لدى الجيش الإسرائيلي الأدوات الرقميّة؟
الأدوات الرقميّة لدى الجيش الإسرائيلي ليست أسلحة ذاتية التشغيل – أي أسلحة تختار الأهداف وتهاجمها على أساس المعالجة بالاستشعار بدلا من المدخلات البشريّة، والتي سعت هيومن رايتس ووتش منذ وقت طويل إلى حظرها بمعاهدة.
على عكس ذلك، هي أنظمة لمعالجة البيانات توفر معلومات للقائمين بالتخطيط في الجيش الإسرائيلي. اتخاذ القرار بشأن مهاجمة الهدف الموصى به وتنفيذه يتم بشكل منفصل من قبل إنسان وليس آلة. تتطلّب كلّ أداة رقميّة مدخلات وإشرافا بشريّا.
لكن في أكتوبر/تشرين الأول 2022 اعتمد “مجلس حقوق الإنسان التابع للأمم المتحدة” قرارا أكّد على الأهميّة المحوريّة للقرار البشري عند استخدام القوّة، وحذّر من الاعتماد على مجموعات البيانات غير التمثيليّة، والبرمجة القائمة على الخوارزميات، وعمليّات التعلّم الآلي. هذه التكنولوجيات قد تتسبب في إعادة إنتاج ومفاقمة أنماط التمييز، والتهميش، والتفاوت الاجتماعي، والصور النمطيّة، والتحيّز القائمة – مع نتائج لا يمكن التنبؤ بها.
تطرح الأدوات الرقميّة لدى الجيش الإسرائيلي مشاكل مماثلة لأنظمة الأسلحة ذاتيّة التشغيل، فهي تعمل بطرق يصعب، أو كما هو الحال في خوارزميات التعلم الآلي التي تستخدمها لافندر وغوسبيل، يستحيل التحقق منها أو تحديد مصدرها. وفي الوقت نفسه، تشجّع هذه الأدوات على الافراط في الاعتماد على البيانات، فتبدو ظاهريا دقيقة وغير متحيّزة.
كيف ينطبق القانون الإنساني الدولي على الاستخدام العسكري للأدوات الرقميّة؟
الأدوات الرقميّة ليست أسلحة عسكريّة. لكن استخدامها في العمليات العسكريّة يجعلها تخضع للقيود المنصوص عليها في القانون الدولي الإنساني. كما لاحظت اللجنة الدوليّة للصليب الأحمر: “كل تكنولوجيا حربيّة جديدة يجب أن تُستخدم، وأن يكون بالإمكان استخدامها، بما يتوافق مع قواعد القانون الدولي الإنساني القائمة”.
لافندر وغوسبيل تُثيران مشاكل كبيرة – وربما قاتلة – في ما يتعلق بالاستهداف العسكري، وتحديد ما إذا كان من الممكن مهاجمة هدف مقصود بشكل قانوني، وفي أيّ ظروف.
هناك قاعدتان عامتان موجودتان في قانون المعاهدات الدولية والقانون العرفي، وهما الأكثر صلة: 1) الشرط الذي يفرض على القوات المهاجمة التمييز بين الأهداف العسكريّة والمدنيين والأعيان المدنيّة، ومهاجمة الأهداف العسكريّة فقط؛ و2) الشرط الذي يفرض على القوات المهاجمة اتخاذ جميع الاحتياطات الممكنة لتقليص الخسائر العرضيّة في أرواح المدنيين والضرر اللاحق بالأعيان المدنيّة.
تعتمد لافندر وغوسبيل على التعلّم الآلي للتمييز بين الأهداف العسكرية والمدنيين والأعيان المدنيّة. وإذا تمّ التصرّف وفقا لتوصياتهما أو تقييماتهما للأدوات الرقميّة دون تدقيق كاف أو معلومات إضافيّة، كما أفادت بذلك تقارير، فإنّ النتيجة ستكون شنّ هجمات تتسبب في أضرار مدنيّة، مما يجعل القوات الإسرائيليّة تنتهك قوانين الحرب في هذه الهجمات، وهو ما قد يرقى إلى جرائم حرب.
أفادت تقارير أنّ أداة “أين أبي؟” تستخدم تتبع موقع الهواتف الخلوية لإخطار العملاء العسكريين بدخول الأشخاص الذين حُدّدوا كأهداف عسكريّة إلى موقع معيّن، مثل منزل العائلة.
لا تحظر قوانين الحرب شنّ هجمات على أهداف عسكريّة مشروعة، مثل القادة العسكريين عندما يكونون في منازلهم، لكن تظلّ جميع الشروط القانونيّة سارية. ليس من الواضح ما إذا كانت هذه العوامل الأخرى مأخوذة في الاعتبار، مثل ما إذا كان الهجوم سيتسبب في خسائر مدنيّة غير متناسبة مع الميزة العسكريّة المرجوّة منه.
تثير هذه الأدوات أيضا مخاوف عندما يتمّ تطبيق معايير غير موجودة بموجب القانون الدولي. استخدام التعلم الآلي لوصف شخص ما بـ”الإرهابي” – وهو مصطلح غير معرّف بموجب القانون الدولي لحقوق الإنسان والقانون الدولي الإنساني – قد يُعرّض شخصا إلى الاعتقال أو إلى هجوم قاتل دون احترام الشروط المتعلقة بالأدلّة على ارتكابه مخالفات جنائية، كما ينصّ على ذلك القانون الدولي.
كما أنّ الهجمات الموجهة ضدّ ما يُسمى “أهداف القوّة” – أي الهياكل المدنيّة الكبيرة التي قالت تقارير إنّ أداة غوسبيل تُحدّدها قصد استهدافها من أجل تحقيق التأثير النفسي المفترض لتدميرها – تظلّ مفهوما غير مقبول بموجب القانون الدولي الإنساني. ومهاجمة هذه الأهداف يقتضي احترام مبادئ التمييز والتناسب والحيطة.
