تحقيق أمريكي مع شركات الذكاء الاصطناعي بسبب مخاطر الوكلاء المستقلين

فتحت لجنة التجارة الفدرالية الأمريكية تحقيقاً يشمل قطاع الذكاء الاصطناعي، من بين أطرافه شركتا «أوبن إيه آي» و«أنثروبيك» ومختبرات بحثية أخرى، بهدف تقييم المخاطر المحتملة التي قد تتسبب بها هذه التقنيات للمستهلكين، وفق ما أفاد به مسؤول كبير في اللجنة لوكالة رويترز.

ويُعد التحقيق أول تحرك إنفاذ رسمي في الولايات المتحدة يتناول المخاطر المرتبطة بوكلاء الذكاء الاصطناعي، الذين قد ينفذون إجراءات غير متوقعة أو تتجاوز المهام المحددة لهم، وسط تزايد المخاوف بشأن قدرة الشركات المطورة على التحكم في هذه الأنظمة وضمان عملها بصورة آمنة.

وتعتزم اللجنة إرسال طلبات رسمية للحصول على المعلومات، إلى جانب إلزام مسؤولين تنفيذيين لدى أبرز مطوري الذكاء الاصطناعي بالإدلاء بشهاداتهم، ومن بينهم مسؤولون في «أوبن إيه آي» و«أنثروبيك»، فضلاً عن مجموعة الأبحاث «ميتر» (METR)، بحسب المسؤول.

مخاطر الوكلاء المستقلين

استعانت شركتا «أوبن إيه آي» و«أنثروبيك» بمجموعة «ميتر» لإجراء تحقيقات مستقلة في حوادث أمنية مرتبطة بوكلاء الذكاء الاصطناعي التابعين لهما.

وقال المسؤول إن رئيس لجنة التجارة الفدرالية، أندرو فيرغسون، كان لديه مخاوف بشأن الشركات قبل وقوع حادثة تورط فيها وكلاء تابعون لـ«أوبن إيه آي» في اختراق منصة «هاغينغ فيس» (Hugging Face) المفتوحة المصدر.

وأضاف أن الحادثة، التي سبقتها عمليات بحث عن ثغرات في منصة تطوير الذكاء الاصطناعي قبل تنفيذ هجوم واسع النطاق، زادت من إلحاح القضية لدى الجهة التنظيمية.

ولم ترد «أوبن إيه آي» و«أنثروبيك» ومجموعة «ميتر» على طلبات رويترز للتعليق، في حين كانت صحيفة «نيويورك بوست» أول من نشر خبر التحقيق.

مسؤولية الشركات عن الأضرار

أكد أندرو فيرغسون لرويترز أن مطوري الذكاء الاصطناعي الذين يوجهون وكلاءهم لإجراء اختبارات للأمن السيبراني، ثم تنتهي تلك الاختبارات بعمليات اختراق، ينبغي أن يتحملوا المسؤولية عن الأضرار الناجمة عنها.

وأشار إلى أن الولايات المتحدة تستطيع الاستناد إلى القوانين القائمة للتعامل مع المخاطر المرتبطة بالذكاء الاصطناعي، قبل النظر في الحاجة إلى إصدار تشريعات جديدة.

وتتمتع لجنة التجارة الفدرالية بصلاحيات واسعة لملاحقة الشركات بسبب الممارسات غير العادلة أو المضللة، كما سبق أن استخدمت هذه الصلاحيات ضد شركات أخفقت في اتخاذ تدابير معقولة لحماية بيانات المستهلكين.

ويأتي التحقيق في ظل توسع استخدام وكلاء الذكاء الاصطناعي في تنفيذ المهام بصورة مستقلة، وما يرافق ذلك من تحديات تنظيمية وأمنية تتعلق بحدود صلاحيات هذه الأنظمة، ومدى مسؤولية الشركات المطورة عن تصرفاتها والنتائج المترتبة عليها.