تحقيق: الاحتلال يسخر الذكاء الصناعي لتشديد مراقبة الفلسطينيين
كشف تحقيق أن جيش الاحتلال الإسرائيلي يعمل على تطوير أداة شبيهة بـ ChatGPT بالاعتماد على الذكاء الاصطناعي باستخدام مجموعة ضخمة من بيانات المراقبة لتشديد مراقبة الفلسطينيين.
وأظهر التحقيق الذي نشرته صحيفة الغارديان البريطانية، أن وكالة المراقبة العسكرية الإسرائيلية استخدمت مجموعة واسعة من الاتصالات الفلسطينية التي تم اعتراضها لبناء أداة ذكاء اصطناعي قوية تشبه برنامج ChatGPT، والتي تأمل أن تعمل على تحويل قدراتها التجسسية.
وتوصل التحقيق المشترك للغارديان مع مجلة +972 الإسرائيلية الفلسطينية وموقع Local Call الناطق بالعبرية إلى أن الوحدة 8200 دربت نموذج الذكاء الاصطناعي على فهم اللغة العربية المنطوقة باستخدام كميات كبيرة من المحادثات الهاتفية والرسائل النصية، التي تم الحصول عليها من خلال مراقبتها المكثفة للأراضي المحتلة.
وبحسب مصادر مطلعة على المشروع، بدأت الوحدة في بناء النموذج لإنشاء أداة متطورة تشبه روبوت المحادثة، قادرة على الإجابة على أسئلة حول الأشخاص الذين تراقبهم، وتوفير رؤى حول كميات هائلة من بيانات المراقبة التي تجمعها.
وقد سارعت وكالة التنصت النخبوية، التي تضاهي في قدراتها وكالة الأمن القومي الأميركية، إلى تطوير النظام بعد بدء حرب الإبادة في غزة.
في أكتوبر/تشرين الأول 2023. وكان النموذج لا يزال قيد التدريب في النصف الثاني من العام الماضي. وليس من الواضح ما إذا كان قد تم نشره بعد.
وتم الكشف جزئيًا عن الجهود المبذولة لبناء نموذج اللغة الكبير (LLM) – وهو نظام تعليمي عميق يولد نصًا يشبه النص البشري – في محاضرة عامة لم يحظَ بها الكثير من الاهتمام من قبل أحد خبراء تكنولوجيا الاستخبارات العسكرية السابقين والذي قال إنه أشرف على المشروع.
وقال المسؤول السابق، شاكيد روجر جوزيف سيدوف، أمام الحضور في مؤتمر عسكري للذكاء الاصطناعي في تل أبيب العام الماضي: “لقد حاولنا إنشاء أكبر مجموعة بيانات ممكنة وجمع كل البيانات التي حصلت عليها دولة إسرائيل على الإطلاق باللغة العربية”.
وأضاف أن النموذج يتطلب “كميات هائلة” من البيانات.
وقد أكد ثلاثة مسؤولين سابقين في الاستخبارات على دراية بالمبادرة وجود برنامج التعلم الآلي وشاركوا تفاصيل حول بنائه.
ووصفت عدة مصادر أخرى كيف استخدمت الوحدة 8200 نماذج التعلم الآلي الأصغر حجمًا في السنوات التي سبقت إطلاق المشروع الطموح – والتأثير الذي أحدثته هذه التكنولوجيا بالفعل.
وقال مصدر مطلع على تطوير نماذج الذكاء الاصطناعي في الوحدة 8200 في السنوات الأخيرة: “الذكاء الاصطناعي يعزز القوة. الأمر لا يتعلق فقط بمنع الهجمات بإطلاق النار، بل يمكنني تتبع نشطاء حقوق الإنسان، ومراقبة البناء الفلسطيني في المنطقة ج [من الضفة الغربية]. لدي المزيد من الأدوات لمعرفة ما يفعله كل شخص في الضفة الغربية”.
وتسلط تفاصيل حجم النموذج الجديد الضوء على قدرة الوحدة 8200 على الاحتفاظ على نطاق واسع بمحتوى الاتصالات التي تم اعتراضها، وهو ما أصبح ممكناً بفضل ما وصفه مسؤولون استخباراتيون إسرائيليون وغربيون حاليون وسابقون بمراقبتها الشاملة للاتصالات الفلسطينية.
ويوضح المشروع أيضًا كيف تسعى الوحدة 8200، مثل العديد من وكالات التجسس في جميع أنحاء العالم، إلى الاستفادة من التقدم في مجال الذكاء الاصطناعي لأداء مهام تحليلية معقدة وفهم الكميات الهائلة من المعلومات التي تجمعها بشكل روتيني، والتي تتحدى بشكل متزايد المعالجة البشرية وحدها.
حذر خبراء ونشطاء حقوق الإنسان من أن دمج أنظمة مثل برامج الماجستير في القانون في تحليل المعلومات الاستخبارية ينطوي على مخاطر، حيث قد تؤدي هذه الأنظمة إلى تفاقم التحيزات وتكون عرضة لارتكاب الأخطاء. كما أن طبيعتها الغامضة قد تجعل من الصعب فهم كيفية التوصل إلى الاستنتاجات التي تولدها الذكاء الاصطناعي.
وأعرب زاك كامبل، وهو باحث بارز في مجال المراقبة في هيومن رايتس ووتش، عن قلقه من أن تستخدم الوحدة 8200 شهادات الماجستير في القانون لاتخاذ قرارات مهمة بشأن حياة الفلسطينيين تحت الاحتلال العسكري.
وقال: “إنها آلة تخمين. وفي نهاية المطاف يمكن استخدام هذه التخمينات لتجريم الناس”.
وقد طورت الوحدة 8200 مجموعة من الأدوات التي تعمل بالذكاء الاصطناعي في السنوات الأخيرة.
وكانت أنظمة مثل The Gospel و Lavender من بين تلك التي تم دمجها بسرعة في العمليات القتالية في الحرب في غزة، حيث لعبت دورًا مهمًا في قصف جيش الدفاع الإسرائيلي للمنطقة من خلال المساعدة في تحديد الأهداف المحتملة (الأشخاص والمباني) للضربات القاتلة.
ومنذ ما يقرب من عقد من الزمان، استخدمت الوحدة أيضًا الذكاء الاصطناعي لتحليل الاتصالات التي تعترضها وتخزنها، باستخدام سلسلة من نماذج التعلم الآلي لفرز المعلومات إلى فئات محددة مسبقًا، وتعلم كيفية التعرف على الأنماط وإجراء التوقعات.
بعد أن أطلقت OpenAI برنامج ChatGPT في أواخر عام 2022، تصور خبراء الذكاء الاصطناعي في الوحدة 8200 بناء أداة أكثر توسعًا تشبه برنامج المحادثة الآلي.
والآن، أصبح برنامج ChatGPT أحد أكثر برامج التعلم الآلي استخدامًا على مستوى العالم، وهو يعتمد على ما يسمى “نموذج الأساس”، وهو عبارة عن ذكاء اصطناعي عام الغرض يتم تدريبه على كميات هائلة من البيانات وقادر على الاستجابة للاستفسارات المعقدة.
في البداية، واجهت الاستخبارات العسكرية الإسرائيلية صعوبة في بناء نموذج بهذا الحجم.
وقال سيدوف، المسؤول الاستخباراتي السابق، في عرضه التقديمي: “لم تكن لدينا أدنى فكرة عن كيفية تدريب نموذج أساسي”. وفي مرحلة ما، أرسل المسؤولون طلبًا غير ناجح إلى شركة OpenAI لتشغيل ChatGPT على الأنظمة الآمنة للجيش (رفضت شركة OpenAI التعليق).
ولكن عندما حشد جيش الاحتلال مئات الآلاف من جنود الاحتياط للهجوم على غزة، عادت مجموعة من الضباط ذوي الخبرة في بناء وحدات التدريب المهني إلى الوحدة من القطاع الخاص.
وجاء بعضهم من شركات التكنولوجيا الأميركية الكبرى، مثل جوجل وميتا ومايكروسوفت.
وبدأ الفريق الصغير من الخبراء قريبًا في بناء برنامج ماجستير في القانون يفهم اللغة العربية، حسبما ذكرت المصادر، ولكن في الواقع كان عليهم البدء من الصفر بعد اكتشاف أن النماذج التجارية والمفتوحة المصدر للغة العربية الموجودة تم تدريبها باستخدام اللغة العربية المكتوبة القياسية – المستخدمة في الاتصالات الرسمية والأدب والإعلام – بدلاً من اللغة العربية المنطوقة.
وقال أحد المصادر: “لا توجد نصوص للمكالمات أو محادثات واتساب على الإنترنت. ولا توجد بالكمية المطلوبة لتدريب مثل هذا النموذج”.
وأضافوا أن التحدي كان “جمع كل النصوص [العربية المنطوقة] التي حصلت عليها الوحدة ووضعها في مكان مركزي”. وقالوا إن بيانات تدريب النموذج تتكون في النهاية من حوالي 100 مليار كلمة.
وقال مصدر مطلع على المشروع لصحيفة الجارديان إن هذا الكم الهائل من الاتصالات يشمل محادثات باللهجتين اللبنانية والفلسطينية. وقال سيدوف في عرضه التقديمي إن الفريق الذي يبني برنامج الماجستير في القانون “ركز فقط على اللهجات التي تكرهنا”.
كما سعت الوحدة إلى تدريب النموذج على فهم المصطلحات العسكرية المحددة للجماعات المسلحة، حسبما ذكرت المصادر. ولكن يبدو أن عملية جمع البيانات التدريبية الضخمة شملت كميات كبيرة من الاتصالات التي لا تحمل أي قيمة استخباراتية تذكر عن الحياة اليومية للفلسطينيين.
وقال أحد المصادر “أن يتصل شخص ما بشخص آخر ويطلب منه الخروج لأنهم ينتظرونه خارج المدرسة، فهذه مجرد محادثة، وليست مثيرة للاهتمام. ولكن بالنسبة لنموذج مثل هذا، فهذا أمر رائع”.
المراقبة التي تسهلها الذكاء الاصطناعي
لا تعد الوحدة 8200 وحدها بين وكالات التجسس التي تجري تجارب على تكنولوجيا الذكاء الاصطناعي التوليدي. ففي الولايات المتحدة، طرحت وكالة الاستخبارات المركزية أداة شبيهة بـ ChatGPT لغربلة المعلومات مفتوحة المصدر.
كما تعمل وكالات التجسس في المملكة المتحدة على تطوير برامجها الخاصة للذكاء الاصطناعي، والتي يقال إنها تدربها أيضًا باستخدام مجموعات بيانات مفتوحة المصدر.
لكن العديد من المسؤولين الأمنيين السابقين في الولايات المتحدة والمملكة المتحدة قالوا إن مجتمع الاستخبارات الإسرائيلي يبدو أنه يخوض مخاطر أكبر من أقرب حلفائه عندما يتعلق الأمر بدمج أنظمة جديدة تعتمد على الذكاء الاصطناعي في تحليل الاستخبارات.
وقال أحد رؤساء أجهزة التجسس الغربية السابقين إن جمع الاستخبارات العسكرية الإسرائيلية على نطاق واسع لمحتوى الاتصالات الفلسطينية سمح لها باستخدام الذكاء الاصطناعي بطرق “لن تكون مقبولة” بين وكالات الاستخبارات في البلدان التي تتمتع برقابة أقوى على استخدام سلطات المراقبة والتعامل مع البيانات الشخصية الحساسة.
وذكر كامبل من هيومن رايتس ووتش أن استخدام مواد المراقبة لتدريب نموذج الذكاء الاصطناعي “أمر ينتهك حقوق الإنسان ويتعارض مع حقوق الإنسان”، وإن “إسرائيل”، بصفتها قوة احتلال، ملزمة بحماية حقوق الخصوصية للفلسطينيين.
وأضاف: “نحن نتحدث عن بيانات شخصية للغاية مأخوذة من أشخاص غير مشتبه بهم في ارتكاب جريمة، واستخدامها لتدريب أداة يمكن أن تساعد بعد ذلك في إثبات الشكوك”.
وقال نديم ناشف، مدير حملة، وهي مجموعة فلسطينية للدفاع عن الحقوق الرقمية، إن الفلسطينيين “أصبحوا موضوعات في مختبر “إسرائيل” لتطوير هذه التقنيات وتسليح الذكاء الاصطناعي، وكل ذلك بغرض الحفاظ على نظام الفصل العنصري والاحتلال حيث تُستخدم هذه التقنيات للسيطرة على الناس والسيطرة على حياتهم”.
وذكر عدد من ضباط الاستخبارات الإسرائيليين الحاليين والسابقين الذين لديهم دراية بنماذج التعلم الآلي على نطاق أصغر والتي تستخدمها الوحدة 8200 – والتي كانت بمثابة مقدمة للنموذج التأسيسي – أن الذكاء الاصطناعي جعل المراقبة الشاملة للفلسطينيين أكثر فعالية كشكل من أشكال السيطرة، وخاصة في الضفة الغربية حيث قالوا إنها ساهمت في زيادة عدد الاعتقالات.
وقال اثنان من المصادر إن النماذج ساعدت جيش الاحتلال على تحليل المحادثات الهاتفية التي تم اعتراضها بشكل تلقائي من خلال تحديد هوية الفلسطينيين الذين يعبرون عن غضبهم من الاحتلال أو يرغبون في مهاجمة الجنود أو الأشخاص الذين يعيشون في المستوطنات غير القانونية.
وقال أحد المصادر إنه عندما دخل جيش الاحتلال القرى في الضفة الغربية، كان يتم استخدام الذكاء الاصطناعي لتحديد هوية الأشخاص الذين يستخدمون كلمات يعتبرها تشير إلى “إثارة المشاكل”.
فيما قال مصدر ثالث “إن هذا يسمح لنا بالتصرف بناء على معلومات من عدد أكبر من الناس، وهذا يسمح بالسيطرة على السكان. عندما يكون لديك هذا القدر الهائل من المعلومات، يمكنك استخدامها لأي غرض تريده. ولدى جيش الدفاع الإسرائيلي قيود قليلة للغاية في هذا الصدد”.
“سوف تحدث أخطاء”
بالنسبة لوكالة تجسس، فإن قيمة نموذج الأساس تكمن في أنه يمكنه أخذ “كل ما تم جمعه على الإطلاق” واكتشاف “الارتباطات والأنماط التي يصعب على الإنسان القيام بها بمفرده”، كما قال أوري جوشن، المؤسس المشارك لشركة AI21 Labs.
وقد عمل العديد من موظفي الشركة الإسرائيلية في مشروع LLM الجديد أثناء الخدمة الاحتياطية.
لكن جوشين، الذي خدم سابقًا في الوحدة 8200، أضاف: “هذه نماذج احتمالية – تقدم لهم إشارة أو سؤالاً، فيولدون شيئًا يبدو وكأنه سحر. ولكن في كثير من الأحيان، لا معنى للإجابة. نحن نطلق على هذا “الهلوسة”.
وتشير بريانا روزن، وهي مسؤولة سابقة في الأمن القومي بالبيت الأبيض وباحثة بارزة الآن بجامعة أكسفورد، إلى أنه في حين أن أداة مثل ChatGPT يمكن أن تساعد محلل الاستخبارات في “اكتشاف التهديدات التي قد يغفل عنها البشر، حتى قبل ظهورها، فإنها تخاطر أيضًا باستخلاص اتصالات خاطئة واستنتاجات خاطئة”.
وقالت إنه من الأهمية بمكان أن تتمكن وكالات الاستخبارات التي تستخدم هذه الأدوات من فهم المنطق وراء الإجابات التي تنتجها. وأضافت: “سوف ترتكب أخطاء، وقد تكون لبعض هذه الأخطاء عواقب وخيمة للغاية”.
وفي فبراير/شباط، أفادت وكالة أسوشيتد برس أن ضباط الاستخبارات ربما استخدموا الذكاء الاصطناعي للمساعدة في اختيار هدف في غارة جوية إسرائيلية على غزة في نوفمبر/تشرين الثاني 2023، لكنها أسفرت عن قتل أربعة أشخاص، بما في ذلك ثلاث فتيات مراهقات.
