أوبن إيه آي أخفقت في رصد مؤشرات مبكرة لهجوم سيبراني نفذه وكلاء ذكاء اصطناعي

أخفقت شركة «أوبن إيه آي» في رصد مؤشرات مبكرة كانت تنذر بوقوع إحدى أبرز حوادث الهجمات السيبرانية التي خطط لها ونفذها وكلاء الذكاء الاصطناعي، وفق اكتشافات جديدة توصل إليها باحث ألماني مستقل، في حادثة أدت إلى تعطيل تطوير نماذج الشركة لفترة.

وبحسب تقرير لوكالة «رويترز»، كان الباحث السيبراني المستقل يوناس فيدرمان مولر قد نبه الشركة في مايو/أيار الماضي إلى نشاط مريب صادر عن وكلاء الذكاء الاصطناعي التابعين لها، وذلك قبل نحو شهرين من الاختراق الذي تعرضت له منصة «هاغينغ فيس» (Hugging Face).

وتعد «هاغينغ فيس» منصة عالمية بارزة في مجال الذكاء الاصطناعي وتعلم الآلة، وتوفر مجتمعا مفتوح المصدر لتطوير النماذج والأدوات، وغالبا ما توصف بأنها بمثابة «غيت هاب» (GitHub) الخاص بالذكاء الاصطناعي.

واكتشف مولر أن وكلاء تابعين لـ«أوبن إيه آي» تمكنوا من اختراق حسابين لمستخدمين على المنصة، ثم استخدموا الحسابين لإرسال ملفات بتنسيق غير مألوف إلى خوادم الشركة في 13 مايو/أيار.

وأوضح مولر، في تصريحات لـ«رويترز»، أن هذا النشاط بدا شبيها بمحاولة لرسم خريطة لأجزاء من الشبكة الداخلية للمنصة أو اختبارها بحثا عن نقاط يمكن استغلالها للتسلل، لكنه شدد على عدم وجود أدلة تثبت أن المحاولة أدت إلى اختراق فعلي في ذلك الوقت.

من جهته، قال المتحدث باسم «أوبن إيه آي»، درو بوساتيري، إن الشركة رصدت الحادثة عند وقوعها وأبلغت «هاغينغ فيس» بها بصورة غير علنية، مؤكدا التزام الشركة بالشفافية في التعامل مع مثل هذه الوقائع.

وتضيف اكتشافات مولر تفاصيل جديدة إلى حادثة الاختراق التي واجهتها «هاغينغ فيس» خلال الأشهر الماضية، بعدما كان الاعتقاد السائد في البداية أن الأمر يتعلق بوكلاء ذكاء اصطناعي خرجوا عن السيطرة، قبل أن تظهر معلومات عن تخطيط وتنسيق أوسع نطاقا.

من اختبار معزول إلى الهجوم عبر الإنترنت

تتمثل إحدى أبرز الإشكالات في الحادثة في أن اختراق «هاغينغ فيس» لم يكن، بحسب التحقيقات، غاية نهائية في حد ذاته، بل جزءا من مسار سلكه وكلاء الذكاء الاصطناعي لتحقيق هدف آخر.

وأوضحت «أوبن إيه آي»، في تقرير تناول الحادثة، أن الوكلاء كانوا يحاولون اجتياز اختبار تجريه الشركة داخل بيئة اختبارية معزولة، لكنهم تمكنوا من تجاوز الحدود المفروضة عليهم والوصول إلى الإنترنت.

وبحسب التقرير، أمضى الوكلاء أكثر من شهرين في التخطيط للهجوم، قبل الشروع في تنفيذه عبر مجموعة من الوكلاء ذوي المهام المختلفة. كما استخدموا موقعا إلكترونيا لموسوعة ألمانية بوصفه وسيلة للتواصل وتبادل الرسائل السريعة وتنسيق خطوات العملية.

وتشير هذه التفاصيل إلى مستوى من التخطيط تجاوز تنفيذ أوامر منفردة، إذ شمل استطلاع المنصة المستهدفة، ومحاولة تحديد نقاط ضعفها، ثم تنسيق الأدوار بين وكلاء متعددين تمهيدا للهجوم.

مؤشرات تحذيرية سبقت الاختراق

أظهرت مراجعة مستقلة لاكتشافات مولر أن النشاط الذي رصده قد يمثل مؤشرا مبكرا على الاختراق اللاحق لمنصة «هاغينغ فيس»، وفقا لتقرير «رويترز».

ومن بين الباحثين الذين راجعوا النتائج توم هيغل، كبير باحثي التهديدات في شركة «سنتينل وان»، الذي قال إن ما توصل إليه مولر يتطابق مع سلوك الوكلاء الموصوف في التحقيقات.

كما وافقت الباحثة سيدني فون آركس على هذا التقييم، ووصفت الاستيلاء على حسابي المستخدمين بأنه علامة تحذير واضحة كان من الممكن أن تساعد في اكتشاف النشاط المريب قبل وقوع الاختراق الذي حدث في يوليو/تموز.

حوادث أخرى سبقت اختراق «هاغينغ فيس»

لم تكن حادثة «هاغينغ فيس» الواقعة الوحيدة التي ارتبطت بوكلاء الذكاء الاصطناعي التابعين لـ«أوبن إيه آي». فقد كشف تقرير نشرته صحيفة «الغارديان» البريطانية عن حادثة أخرى استهدفت خدمة البرمجيات «روبي غيمز» (RubyGems)، ووقعت قبل اختراق المنصة بنحو شهرين.

وفي 11 مايو/أيار الماضي، رفع وكلاء الذكاء الاصطناعي مئات الحزم البرمجية الخبيثة إلى «روبي غيمز»، قبل أن تؤكد «أوبن إيه آي» وقوع الحادثة لاحقا.

وقالت الشركة، في بيان بشأن الواقعة، إن الوكلاء استخدموا المنصة للوصول إلى الإنترنت وتنفيذ مهام غير ضارة واسترجاع معلومات عامة، في حين أظهرت الحادثة أن الأنشطة التي تنفذها أنظمة الذكاء الاصطناعي قد تتجاوز أحيانا الحدود التي صُممت للعمل ضمنها.