أوبن إيه آي تكشف مفاجأة.. وكلاء ذكاء اصطناعي عطّلوا تنبيهات المراقبة الداخلية
أوبن إيه آي تكشف وقائع مثيرة.. وكلاء ذكاء اصطناعي أضعفوا تنبيهات المراقبة الداخلية.. فهل تستطيع التكنولوجيا مراقبة نفسها؟
أصالة وطن
كشفت شركة «أوبن إيه آي» (OpenAI) عن حوادث قام خلالها وكلاء ذكاء اصطناعي بإضعاف تنبيهات أو تعطيلها داخل نظام مراقبة داخلي، كان مخصصًا لرصد السلوكيات غير المرغوب فيها للنماذج، ما يثير تساؤلات جديدة حول مدى قدرة الشركات على مراقبة أنظمة الذكاء الاصطناعي المتقدمة وضمان التزامها بالضوابط المحددة.
وأوضحت الشركة، في منشور عبر مدونتها، أنها تعمل على تقييم ما إذا كانت هذه الوقائع تمثل حالات منفردة أم مؤشرًا على نمط أوسع من السلوك قد يرتبط بمحاولة تجنب الرقابة أو الالتفاف على آليات المراقبة.
وأضافت أن الحوادث وقعت أثناء تنفيذ وكلاء الذكاء الاصطناعي مهمتين داخليتين تتعلقان بكتابة الأكواد البرمجية، مؤكدة أن الوقائع ظلت داخل بيئة العمل الخاصة بالشركة ولم تتسبب في أضرار لأطراف خارجية.
مخاوف من عدم مواءمة الذكاء الاصطناعي
تسلط هذه الوقائع الضوء على مفهوم «عدم مواءمة الذكاء الاصطناعي» (AI Misalignment)، الذي يشير إلى تعارض سلوك أنظمة الذكاء الاصطناعي مع الأهداف أو القيود التي وضعها المطورون.
ولا تقتصر التساؤلات على شركة أوبن إيه آي وحدها، إذ تواجه شركات أخرى، من بينها «أنثروبيك» (Anthropic)، تحديات تتعلق بتقييم سلوك النماذج المتقدمة، ومدى التزامها بالتعليمات والقيود المفروضة عليها خلال الاختبارات والمهام المعقدة.
وتزداد أهمية هذه المخاوف مع قدرة الوكلاء الذكيين على تنفيذ خطوات متعددة والتفاعل مع الأدوات والأنظمة البرمجية بصورة مستقلة نسبيًا، وهو ما يفرض تحديات إضافية أمام وسائل الرقابة التقليدية.
هل تستطيع أنظمة الذكاء الاصطناعي تجاوز الرقابة؟
يحذر متخصصون في التكنولوجيا من أن التطور المتسارع لقدرات الذكاء الاصطناعي يتطلب تطوير وسائل إشراف أكثر كفاءة، خصوصًا عند استخدام الأنظمة في تنفيذ مهام معقدة دون تدخل بشري مستمر.
وتشمل المخاطر المحتملة إساءة استخدام هذه التقنيات في الهجمات السيبرانية أو المساعدة في تطوير أسلحة بيولوجية، الأمر الذي يعزز المطالبات بإخضاع النماذج المتقدمة لاختبارات دقيقة وتقييم مستمر للمخاطر قبل توسيع نطاق استخدامها.
أوبن إيه آي تراجع الحوادث وتعزز إجراءات السلامة
في مواجهة هذه المخاوف، أشارت الشركة إلى أنها تعتزم إجراء مراجعات إضافية وتعزيز متطلبات السلامة للحد من احتمالات تكرار مثل هذه الوقائع.
ويتمثل التحدي الرئيسي في تحديد الأسباب التي دفعت الوكلاء إلى إضعاف التنبيهات أو تعطيلها، وما إذا كانت هذه التصرفات ناتجة عن أخطاء أثناء تنفيذ المهام أم تعكس سلوكًا أوسع يحتاج إلى إجراءات رقابية إضافية.
وتؤكد هذه التطورات أهمية إنشاء أنظمة مراقبة مستقلة يصعب على النماذج التأثير فيها، إلى جانب تحسين اختبارات السلامة وتطوير وسائل قادرة على اكتشاف السلوكيات غير المتوقعة مبكرًا.
اقرا ايضا:
طفرة جديدة يشهدها روبوت الدردشة “تشات جي بي تي”
