خطأ من الذكاء الاصطناعي كاد يشعل مواجهة عسكرية بين أميركا والصين
كاد خطأ ارتكبه نظام للذكاء الاصطناعي أن يدفع الولايات المتحدة إلى تنفيذ عملية عسكرية ضد سفينة صينية، بعدما خلص تقرير استخباراتي إلى معلومات غير صحيحة بشأن طبيعة حمولتها، وفق ما أوردته شبكة “سي إن إن” الأميركية.
ونقلت الشبكة عن مصادر مطلعة أن الجيش الأميركي بدأ بالفعل الاستعداد لاعتراض السفينة، بعدما أشار تقرير استخباراتي أُعد بمساعدة الذكاء الاصطناعي إلى أنها تحمل مكونات مرتبطة ببرنامج للأسلحة النووية.
وبحسب المصادر، كانت وحدات عسكرية تستعد للصعود إلى السفينة، بالتزامن مع تحليق طائرات عسكرية في المنطقة، قبل أن تكشف مراجعة التقرير وجود خطأ جوهري في تقييم المعلومات.
تقرير استخباراتي بمعلومات خاطئة
وقع الخطأ عندما استعان محلل في قيادة العمليات الخاصة الأميركية ببرنامج محادثة يعمل بالذكاء الاصطناعي لتحليل معلومات استخباراتية تتعلق بحمولة السفينة.
وكانت البيانات المستخدمة في التحليل قد جاءت من قيادة العمليات الخاصة الأميركية في المحيط الهادئ، ومقرها هاواي، قبل أن يقوم البرنامج بدمج معلومات متاحة من مصادر مفتوحة مع بيانات استخباراتية سرية.
وأدى ذلك إلى استنتاج خاطئ بشأن طبيعة الشحنة الموجودة على متن السفينة الصينية.
ولم يقتصر استخدام الذكاء الاصطناعي على تحليل البيانات، إذ استعان المحلل بالبرنامج مرة أخرى لتنظيم النتائج وصياغتها في تقرير استخباراتي، جرى تقديمه إلى المسؤولين العسكريين الذين تعاملوا معه على أساس أنه تقييم موثوق.
وقالت “سي إن إن” إن أحد المصادر وصف الواقعة بأنها حادثة كان من الممكن أن “تشعل حربا”، نظرا إلى أن تنفيذ عملية أميركية ضد سفينة صينية كان يمكن أن يؤدي إلى مواجهة مسلحة بين واشنطن وبكين.
مراجعة أنقذت الموقف
وقبيل تنفيذ العملية المخطط لها، خضع التقرير لمراجعة إضافية، وخلالها اكتشف المسؤولون أن الاستنتاج المتعلق بحمولة السفينة لم يكن صحيحا.
وبذلك جرى تجنب تنفيذ عملية عسكرية كان من الممكن أن تضع الولايات المتحدة والصين أمام تصعيد خطير.
وتسلط الواقعة الضوء على المخاطر المرتبطة بالاعتماد على أنظمة الذكاء الاصطناعي في تحليل المعلومات الحساسة، ولا سيما عندما تكون نتائجها مرتبطة بقرارات عسكرية قد تترتب عليها تداعيات مباشرة على العلاقات بين الدول.
الذكاء الاصطناعي يدخل مراكز القرار العسكري
ويعتمد الجيش الأميركي بصورة متزايدة على تقنيات الذكاء الاصطناعي في التعامل مع كميات ضخمة من البيانات واتخاذ قرارات ميدانية سريعة، بما في ذلك تحليل المعلومات الاستخباراتية وتحديد الأهداف وتحريك الموارد العسكرية.
ويقول مسؤولون أميركيون إن تسريع إدماج هذه التقنيات أصبح جزءا من المنافسة التكنولوجية مع الصين، وإن واشنطن تسعى إلى تطوير قدراتها في هذا المجال تحسبا لمواجهات مستقبلية مع بكين أو خصوم آخرين.
وفي وقت سابق من العام الجاري، أطلقت وزارة الحرب الأميركية استراتيجية تهدف إلى تسريع استخدام الذكاء الاصطناعي داخل المؤسسة العسكرية، مع التوسع في توظيفه بمجالات مختلفة من العمل.
ولا يقتصر الاستخدام على العمليات القتالية، بل يمتد إلى تحليل المعلومات، واختيار الأهداف، وإدارة الميزانيات، والخدمات اللوجستية وسلاسل الإمداد.
غياب معايير موحدة للتحقق
ورغم التوسع في استخدام الذكاء الاصطناعي، تشير “سي إن إن” إلى وجود تفاوت بين المؤسسات والجهات الأميركية في الأدوات المستخدمة والمعايير التي تحكم التعامل معها.
وتستخدم جهات مختلفة أنظمة متباينة، في ظل أوامر وإجراءات أمنية ليست موحدة، كما لا توجد -بحسب مسؤولين نقلت عنهم الشبكة- قواعد موحدة تحدد الطريقة التي ينبغي من خلالها التحقق من المعلومات التي تنتجها هذه الأنظمة.
وتثير هذه الثغرة أهمية وجود مراجعة بشرية مستقلة، خصوصا عندما تستخدم مخرجات الذكاء الاصطناعي في ملفات استخباراتية أو قرارات عسكرية حساسة.
مخاوف من الاعتماد المتزايد
وتأتي هذه الحادثة في وقت يتزايد فيه الجدل داخل واشنطن بشأن توسيع الاعتماد على الذكاء الاصطناعي، بالتزامن مع تحذيرات أطلقها مهندسون ومسؤولون في قطاع التكنولوجيا من المخاطر المحتملة لسوء استخدام هذه التقنيات أو الاعتماد عليها دون ضوابط كافية.
وفي المجال العسكري تحديدا، يتركز جانب من المخاوف حول استخدام الذكاء الاصطناعي في تحديد الأهداف وتحليل المعلومات التي قد تقود إلى قرارات قتالية.
وتشير مصادر مطلعة على السياسات العسكرية الأميركية إلى أن استخدام هذه الأنظمة في عمليات تحديد الأهداف يتوسع، بينما لا تزال هناك حاجة إلى إرشادات أكثر وضوحا بشأن مستوى الإشراف البشري المطلوب، بما يحد من مخاطر استهداف المدنيين أو وقوع اشتباكات غير مقصودة بين القوات.
