إنفيديا تطلق منظومة أمنية لعزل وكلاء الذكاء الاصطناعي المارقين خلال أجزاء من الثانية

كشفت شركة إنفيديا الأمريكية المتخصصة في صناعة شرائح الذكاء الاصطناعي عن منظومة أمنية جديدة تهدف إلى مواجهة مخاطر وكلاء الذكاء الاصطناعي المارقين ومنع النماذج من الخروج من بيئاتها الاختبارية، وذلك عبر عزلها خلال أجزاء من الثانية عند اكتشاف أي نشاط مشبوه، وفق تقارير إعلامية أمريكية.

ويجمع الحل الجديد بين أدوات برمجية ومكونات عتادية توفر طبقة حماية مستقلة، قادرة على مراقبة نشاط وكلاء الذكاء الاصطناعي والتدخل عند محاولتهم تجاوز الصلاحيات المحددة لهم.

ويأتي الإعلان في وقت تتزايد فيه الدعوات إلى تعزيز إجراءات السلامة والحد من مخاطر تطوير نماذج الذكاء الاصطناعي المتقدمة، وهي دعوات شارك فيها قادة شركات تقنية كبرى، من بينهم الرئيس التنفيذي لشركة أنثروبيك داريو أمودي، والرئيس التنفيذي لشركة أوبن إيه آي سام ألتمان، ورئيس شركة سبيس إكس إيلون ماسك.

حل هندسي لمخاطر الذكاء الاصطناعي

قال الرئيس التنفيذي لإنفيديا، جنسن هوانغ، إن المنظومة الجديدة كان بإمكانها منع بعض الاختراقات التي تسببت فيها نماذج الذكاء الاصطناعي ووكلاؤها خلال الفترة الأخيرة.

وأضاف أن تحقيق الإمكانات الكبيرة للذكاء الاصطناعي لخدمة المجتمعات يتطلب معالجة مشكلات السلامة والأمن، مؤكدا أن الحل، من وجهة نظره، لا يكمن في إبطاء التطوير، بل في ابتكار حلول هندسية تضمن تشغيل هذه التقنيات بصورة أكثر أمانا.

وتعتمد المنظومة على مستويين للحماية؛ الأول توفره أداة «أوبن شيل» (OpenShell) المفتوحة المصدر، التي تتحكم في الموارد والصلاحيات المتاحة لوكلاء الذكاء الاصطناعي أثناء تنفيذ المهام، والثاني تقدمه منظومة «سينتري» (Sentry)، وهي طبقة مراقبة مستقلة تعمل على شرائح «بلو فيلد 4» (BlueField-4) التي تطورها إنفيديا.

ولضمان استقلال طبقة الحماية عن الوكلاء الذين تراقبهم، وضعت الشركة مكوناتها في وحدة معالجة منفصلة، بدلا من دمجها في وحدات المعالجة المركزية أو الرسومية التي تعمل عليها تطبيقات الذكاء الاصطناعي.

وتراقب هذه الطبقة أنشطة الوكلاء بصورة مستمرة، وتتدخل لعزل الوكيل الذي يحاول تجاوز الحدود المسموح بها، في غضون أجزاء من الثانية، وفقا للشركة.

شركات تقنية تتبنى المنظومة الجديدة

أعلنت إنفيديا أن عددا من الشركات وافق على استخدام المنظومة الجديدة، من بينها أنثروبيك ومايكروسوفت و«إيه آر إم» وسبيس إكس.

ولم يشر الإعلان، بحسب تقرير تقني، إلى مشاركة شركة أوبن إيه آي ضمن الجهات التي وافقت على استخدام المنظومة بالكامل.

ولقيت الخطوة ترحيبا من شخصيات في قطاع الذكاء الاصطناعي، من بينها ديفيد ساكس، الذي شغل منصب مسؤول ملف الذكاء الاصطناعي في البيت الأبيض.

وقال ساكس، في منشور عبر منصة إكس، إن التطورات الأخيرة تعزز وجهة النظر القائلة إن سلامة الذكاء الاصطناعي تمثل تحديا هندسيا في المقام الأول، مضيفا أن الاختراقات لا تعني ضرورة وقف التطور، بل تكشف الحاجة إلى تحسين أنظمة الحماية.

جهود بدأت مع انتشار وكلاء الذكاء الاصطناعي

أوضح هوانغ، في مقابلة مع شبكة «سي إن بي سي»، أن جهود إنفيديا لتطوير طبقات الحماية الجديدة بدأت العام الماضي، بالتزامن مع ظهور وكيل «أوبن كلو» والانتشار الواسع الذي حققه.

وشبّه هوانغ آلية عمل المنظومة بالطريقة التي تُدار بها المؤسسات، حيث تُحدد الصلاحيات والمسؤوليات وتُراقب المهام لضمان عدم تجاوز الحدود المسموح بها.

وتأتي هذه الخطوة في وقت تتوسع فيه قدرات وكلاء الذكاء الاصطناعي على تنفيذ المهام بصورة مستقلة، بما في ذلك التفاعل مع الأنظمة الرقمية واستخدام الأدوات والموارد المتاحة لها، الأمر الذي يرفع أهمية وضع ضوابط تحد من مخاطر إساءة الاستخدام أو الخروج عن نطاق المهام المحددة.

وفي الوقت نفسه، تحقق إنفيديا استفادة تجارية مباشرة من تطوير هذه التقنيات، إذ تبيع الشرائح المستخدمة في تدريب نماذج الذكاء الاصطناعي وتشغيلها، كما توفر مكونات عتادية مخصصة لمراقبة الوكلاء وتعزيز أمنهم. وبالتالي، فإن التوسع في تطوير أنظمة الذكاء الاصطناعي وحمايتها يفتح أمام الشركة مجالات إضافية لتسويق منتجاتها.