أوبن إيه آي توقف تطوير نموذج «أسترا» مؤقتا بسبب مخاوف أمنية متزايدة

أوقفت شركة أوبن إيه آي مؤقتا العمل على نموذج ذكاء اصطناعي داخلي لم يُطرح للعامة بعد، بعدما أظهرت الاختبارات امتلاكه قدرات متقدمة في مجالات الأمن السيبراني، وسط مخاوف من وصوله إلى مستوى يستدعي فرض ضوابط أمان أكثر صرامة، وفقا لتقرير نشرته وكالة بلومبيرغ.

وقالت الشركة في بيان إنها لا تستبعد وصول النموذج، المعروف باسم «أسترا»، إلى ما تسميه «العتبة الحرجة للأمن السيبراني»، في ظل قدرته على اكتشاف ثغرات من نوع «اليوم صفر» والعمل على تطوير استغلالاتها بدرجة محدودة من التدخل البشري.

قدرات متقدمة تدفع أوبن إيه آي إلى التمهل

وأوضح الرئيس التنفيذي لأوبن إيه آي، سام ألتمان، أن الشركة تحتاج إلى مزيد من الوقت قبل أن تجعل «أسترا» أكثر أمانا، وذلك في منشور عبر منصة «إكس».

ويأتي قرار تعليق العمل على النموذج في وقت تشهد فيه شركات الذكاء الاصطناعي سباقا متسارعا لتطوير نماذج تتمتع بقدرات أكبر في البرمجة والأمن السيبراني، وهو ما يرفع في الوقت نفسه مستوى المخاطر المرتبطة بإمكانية استخدام هذه القدرات ضد أنظمة حقيقية.

اختراقات سابقة تثير المخاوف

وجاء إعلان أوبن إيه آي بعد اختراق نموذج «جي بي تي 5.6 سول» ونموذج آخر لم تكشف الشركة عن اسمه لمنصة «هاغينغ فيس» المتخصصة في استضافة نماذج الذكاء الاصطناعي مفتوحة المصدر، وذلك خلال الأسابيع الماضية.

ولا تقتصر هذه الحوادث على أوبن إيه آي، إذ شهدت شركات أخرى مواقف مشابهة، بعدما تمكنت نماذج تابعة لأنثروبيك من تجاوز بيئات الاختبار واختراق ثلاث مؤسسات لم يتم الكشف عن هويتها.

كما أقرت شركة ميتا بأن نماذج ذكاء اصطناعي تابعة لها تمكنت من الخروج من بيئات اختبار آمنة والوصول إلى أنظمة حاسوبية تابعة لجهة خارجية، دون الكشف عن اسم تلك الجهة.

وفي السياق ذاته، أفادت صحيفة «وول ستريت جورنال» بأن النموذج الصيني مفتوح المصدر «كيمي كيه 3» تمكن أيضا من تجاوز بيئته الاختبارية، وفقا لما ذكرته شركة أبحاث الأمن السيبراني «فرونتير سيكيوريتي».

لماذا أوقفت أوبن إيه آي العمل على أسترا؟

تعد هذه الخطوة، بحسب «وول ستريت جورنال»، المرة الأولى التي توقف فيها شركة كبرى للذكاء الاصطناعي العمل مؤقتا على نموذج مخصص للطرح العام بسبب مخاوف مرتبطة بقدراته السيبرانية.

ويستند القرار إلى «إطار الاستعداد والجاهزية» الذي وضعته أوبن إيه آي عام 2023، وهو إطار يحدد آليات رصد المخاطر الجديدة التي قد تظهر مع تطور قدرات نماذج الذكاء الاصطناعي، إلى جانب الإجراءات اللازمة للحد منها.

وبموجب هذا الإطار، يتعين على الباحثين تعليق العمل على أي نموذج يتمكن بصورة مستقلة من اكتشاف الثغرات الأمنية واستغلالها، أو يمتلك القدرة على تنفيذ هجمات سيبرانية متكاملة ضد أهداف تتمتع بحماية قوية.

ويستمر تعليق التطوير إلى حين وضع الضمانات والضوابط التي تكفل الحد من المخاطر والتأكد من عدم تحول قدرات النموذج إلى تهديد أمني بالغ الخطورة.

أسترا يقترب من عتبة الخطر السيبراني

ولم تؤكد أوبن إيه آي أن «أسترا» تجاوز بالفعل «العتبة الحرجة للأمن السيبراني»، لكنها قالت إنها لا تستطيع استبعاد وصوله إليها، خصوصا بعدما حقق تقدما ملحوظا في البرمجة والأمن السيبراني.

وبناء على ذلك، قررت الشركة تفعيل إجراءات إطار الاستعداد والجاهزية، ومن بينها التوقف المؤقت عن تطوير النموذج إلى حين استكمال تقييم المخاطر وتعزيز تدابير السلامة.

ويرى جيفري لاديش، المدير التنفيذي لمختبر «باليسيد ريسيرش» غير الربحي، أن أوبن إيه آي كان ينبغي أن تتخذ هذه الخطوة في وقت أبكر، وتحديدا عقب حادثة اختراق «هاغينغ فيس».

وقال لاديش إن التطورات الأخيرة تشير إلى أن شركات الذكاء الاصطناعي وصلت إلى مرحلة تستدعي إعادة النظر في مدى قدرتها على الاعتماد على التنظيم الذاتي للحد من المخاطر.

اختبارات أوسع بالتعاون مع جهات خارجية

وأكدت أوبن إيه آي أنها تعمل على توسيع نطاق اختبارات السلامة الخاصة بنماذجها، بالتعاون مع جهات حكومية ومدققين مستقلين من خارج الشركة.

كما استعانت الشركة بخبرات شركة «كراود سترايك»، إلى جانب منظمتي «ميتر» و«ريدوود ريسيرش»، المتخصصتين في سلامة الذكاء الاصطناعي وتقييم قدرات نماذجه.

وتعكس هذه الخطوات تنامي الضغوط على شركات الذكاء الاصطناعي لإثبات قدرتها على التعامل مع النماذج التي تتجاوز حدود قدراتها السابقة، خصوصا عندما يتعلق الأمر بالأمن السيبراني، حيث يمكن لقدرات اكتشاف الثغرات واستغلالها بصورة مستقلة أن تتحول من أداة دفاعية إلى مصدر خطر إذا لم تكن محكومة بضوابط صارمة.