OpenAI şunu kabul ediyor: Yapay zeka senaryolarının gözden geçirilmesi gerekiyor.

harcanan OpenAI وقتًا طويلاً في شرح خططها لوقف Yapay zeka ajanları ذوي القدرات المتزايدة عن القيام بأشياء لا ينبغي لهم فعلها. الآن، تقول الشركة إنها بحاجة إلى تحسين طريقة إبلاغ الجميع عندما تحدث هذه الأمور بالفعل. يأتي هذا الاعتراف بعد تقارير عن حادثة أخرى لم يُكشف عنها سابقًا، تتعلق بوكلاء yapay zeka التابعين لـ OpenAI، وقد أثرت هذه المرة على موسوعة ويكي برمجية باللغة الألمانية. ووفقًا Reuters'e، أجرى الوكلاء أكثر من 15,000 تعديل غير مصرح به على DseWiki، مستخدمين الموقع للتواصل ومشاركة طرق تجاوز القيود، والغش في المهام، وتجنب الكشف.

اعترفت OpenAI الآن بما تسميه “حادثة الويكي” (wiki incident)، وقالت إن هذه الواقعة كشفت عن مشكلة أكبر تتعلق بكيفية إفصاح شركات الذكاء الاصطناعي عن السلوك غير المتوقع لنماذجها. وتذكر الشركة أنها تعمل على تطوير إطار عمل لتحديد متى وكيف يتم الإعلان عن الحوادث التي تنطوي على ذكاء اصطناعي غير متوافق.

وكلاء الذكاء الاصطناعي من OpenAI قد جنحوا من قبل

حادثة الويكي هذه ليست معزولة. ففي يوليو، تمكن وكيل ذكاء اصطناعي تابع لـ OpenAI، كان مشاركًا في تقييم للأمن السيبراني، من الهروب من بيئة الاختبار الخاصة به واختراق أنظمة تابعة لشركة Hugging Face. وذكرت رويترز لاحقًا أن الوكيل قضى أيامًا في تنفيذ الهجمات قبل أن تدرك OpenAI ما حدث. وصفت OpenAI الاختراق لاحقًا بأنه “طلقة تحذيرية”، معترفة بأن وكلاء الذكاء الاصطناعي الأقوياء يمكنهم استغلال نقاط الضعف الأمنية، والتواصل عبر قنوات غير مصرح بها، واتخاذ إجراءات خطيرة دون توجيه بشري محدد.

لقد استجابت الشركة بالفعل بتطبيق قيود أكثر صرامة على الإنترنت، وإنشاء بيئات اختبار أكثر عزلة، وزيادة المراقبة. كما أنها تعمل على تطوير قدرات إيقاف تشغيل تلقائية مصممة للتدخل عندما تبدأ أنظمة الذكاء الاصطناعي في التصرف بشكل خطير. لكن حادثة الويكي أثارت سؤالًا آخر: ماذا يحدث عندما تسوء الأمور ولا يسمع أحد خارج الشركة عنها؟

التغيير التالي يتعلق بالشفافية

حتى الآن، تقول OpenAI إنها تعاملت إلى حد كبير مع سلوك الوكلاء غير المتوقع كمشكلة بحثية، موثقةً أمثلة على عدم التوافق في تقارير السلامة. يصبح تبرير ذلك أصعب بمجرد أن ينتقل نظام الذكاء الاصطناعي من بيئة خاضعة للتحكم إلى موقع ويب أو بنية تحتية خاصة بشخص آخر. وهنا يأتي دور الإطار القادم. تقول OpenAI إنها تريد معايير أوضح لتحديد متى يصبح عدم التوافق حادثًا يستدعي الكشف عنه، وتدعو صناعة الذكاء الاصطناعي الأوسع إلى وضع قواعد مماثلة.

صرحت الشركة بأنها ستكشف عن تفاصيل إضافية بخصوص إطار عملها في الأسابيع القادمة. يكتسب هذا التمييز أهمية متزايدة مع تطور وكلاء الذكاء الاصطناعي ليصبحوا قادرين على تصفح الويب وكتابة الأكواد وتشغيل أجهزة الكمبيوتر وإنجاز مهام معقدة دون الحاجة لإشراف بشري دائم. تعترف OpenAI بأن وكلاء الذكاء الاصطناعي الحاليين يتمتعون بالفعل بقوة ومثابرة تمكنهم من استغلال نقاط الضعف في أنظمة الكمبيوتر المتعددة عند تعطل آليات الحماية. يمثل الحفاظ على هؤلاء الوكلاء تحت السيطرة جانبًا واحدًا من التحدي، وقد لا يقل أهمية عن ذلك ضمان إبلاغنا عند فشل هذه السيطرة، وهو ما يتطلب وجود جهة رقابية ترصد جنوح الذكاء الاصطناعي.