شركة أنثروبيك تكشف عن تقنية جديدة لفهم كيفية عمل نماذج الذكاء الاصطناعي
بإعلانها عن تقنية جديدة وحيوية، أعلنت مختبرات شركة “أنثروبيك” للأبحاث عن ابتكار يُنظر إليه باعتباره مفتاحًا لفهم كيفية عمل النماذج اللغوية الكبيرة. تم تطوير هذه التقنية لروبوت المحادثة “كلود”، الذي ينافس بشراسة في ساحة الذكاء الاصطناعي إلى جانب “شات جي بي تي” و”جيميناي”. تُمكن هذه الطريقة الجديدة الباحثين من رسم خريطة للشبكات العصبية المعقدة داخل تلك الأنظمة وتحليلها، ومن المتوقع أن تُحدث تحولًا كبيرًا في فهمنا وقدرتنا على التحكم في نماذج الذكاء الاصطناعي.
معضلة “الصندوق الأسود” تُعتبر تحديًا كبيرًا في عالم الذكاء الاصطناعي، حيث يفتقر النماذج الحديثة إلى الشفافية، وبالتالي لا تُوفر قواعد برمجية صريحة وواضحة. بدلاً من ذلك، تعتمد هذه الأنظمة على كميات هائلة من البيانات لتعلم الأنماط بشكل ذاتي، مما يجعلها تشبه “صندوقًا أسود”. وهذا النوع من النماذج يُعتمد على خوارزميات تنبؤ الكلمات التالية في النص، دون أن يكون هناك تفسير دقيق لكيفية عملها، مما يثير مخاوف بشأن الثقة بها في قرارات حياتية مهمة كالرعاية الصحية والتوظيف والتمويل.
تُفضل الشركات المطورة استخدام نماذج “الصندوق الأسود” مثل “أوبن إيه آي” لأسباب تتعلق بالسرية والتنافس في السوق، مما يثير مخاوف خبراء الصناعة حيال الأمان والشفافية.
ومن خلال البحث والتطوير المستمر، تُظهر شركة “أنثروبيك” التقنيات الجديدة التي قد تحل هذه المشكلة. تم تطوير تقنية لفحص “دماغ” النماذج الذكية، تُمكّن الباحثين من تحديد مجموعات من الخلايا العصبية التي تُعرف باسم “الميزات” وتحديد كيفية تفاعلها مع المفاهيم المعينة داخل النموذج، مما يمكّن من تقليل السلوكيات غير المرغوب فيها وتعزيز أمان النموذج.
على الرغم من النجاح الواعد لهذه التقنية، إلا أنها لا تزال في مراحلها الأولى، وتتطلب مزيدًا من البحث والتطوير لتعزيز فهمنا لعمليات الذكاء الاصطناعي وضمان سلامتها.
