Yapay zekâ: Dünyanın hazırlıksız yakalandığı bir güvenlik krizi.

تُكرس شركات yapay zeka جهودًا هائلة للقلق بشأن ما سيحدث عندما تصبح نماذجها أكثر قدرة. حتى أن OpenAI اتخذت خطوة غير معتادة الشهر الماضي بوقف تدريب أحد نماذجها مؤقتًا بسبب مخاوف تتعلق بالسلامة، في الوقت الذي يواجه فيه القطاع مخاطر تتراوح بين السلوك المستقل والقدرات السيبرانية المتطورة بشكل متزايد.

لكن هناك مشكلة أخرى تتعلق بسلامة الذكاء الاصطناعي يسهل التغاضي عنها كثيرًا: وهي أن آليات الحماية المدمجة في هذه الأنظمة لا تعمل بالضرورة بنفس الكفاءة للجميع. يسلط تقرير جديد صادر عن Dünyanın geri kalanı الضوء على أن جهود Yapay zeka güvenliği لا تزال تركز بشكل كبير على احتياجات الدول الغنية والناطقة بالإنجليزية. وهذا قد يترك السكان في أجزاء من آسيا وإفريقيا ومناطق نامية أخرى يواجهون مشكلات أساسية وخطيرة محتملة، مثل سوء فهم روبوت الدردشة للغتهم.

سلامة الذكاء الاصطناعي تبدو مختلفة تمامًا خارج وادي السيليكون

تمتلك العديد من كبرى شركات الذكاء الاصطناعي فرقًا واسعة النطاق مخصصة للثقة والسلامة، لكن المعايير المستخدمة لتقييم النماذج تتشكل إلى حد كبير في البلدان ذات الدخل المرتفع. يجادل الباحثون بأن هذا يخلق نقاطًا عمياء عندما تُنشر نفس النماذج في أماكن ذات لغات وبنى تحتية وقوانين وتوقعات ثقافية مختلفة. ويقدم قطاع الرعاية الصحية مثالًا مقلقًا بشكل خاص. فقد كشفت الأبحاث حول أنظمة الذكاء الاصطناعي للغة الطبيعية المستخدمة في إفريقيا عن أخطاء ترجمة تتعلق بالمصطلحات الطبية. ففي لغة التيغرينية، على سبيل المثال، خلطت الترجمة الآلية بين الجدري والزهري، بل وترجمت عبارة “المضادات الحيوية الوريدية” (intravenous antibiotics) إلى “مبيدات حشرية وريدية” (intravenous insecticides).

المشكلة تتجاوز مجرد الترجمة. فقد أظهرت الأبحاث أن نماذج الذكاء الاصطناعي يمكن أن تختلق معلومات بشكل متكرر أكثر في اللغات التي تتوفر لها بيانات تدريب قليلة نسبيًا. كما أن ضوابط الأمان المصممة لاكتشاف الطلبات الضارة باللغة الإنجليزية قد تؤدي أداءً أسوأ أو تكون أسهل في التجاوز في تلك اللغات الأخرى. يكتسب هذا الأمر أهمية بالغة مع تزايد اعتماد الناس على روبوتات الدردشة للحصول على المعلومات الصحية واتخاذ قرارات مهمة أخرى. وهذا يخلق فعليًا فجوة جديدة في الذكاء الاصطناعي: حيث يمكن لشخصين استخدام نفس المنتج وتلقي مستويات حماية مختلفة تمامًا لمجرد أنهم يتحدثون لغات مختلفة.

تبني الذكاء الاصطناعي لا ينتظر حتى تلحق به معايير السلامة

تكتسب هذه المسألة أهمية خاصة في هذا التوقيت، نظراً للنمو المتسارع للحماس تجاه الذكاء الاصطناعي في العديد من هذه الأسواق. وتقدم الصين ربما أوضح مثال على ذلك. لقد رأينا بالفعل كيف انتشر تبني الذكاء الاصطناعي بعيداً عن شركات التكنولوجيا، حيث تبنت هذه التقنية جهات متنوعة تتراوح من المدارس إلى الحكومات المحلية. حتى أنه وصل إلى متاجر الزلابية في بكين، حيث بدأت إحدى الشركات بمنح العملاء رموزاً للذكاء الاصطناعي، وبنت أدوات تعمل بالذكاء الاصطناعي لإدارة قوائم الانتظار. هذا الحماس ليس مشكلة بالضرورة. لكن الباحثين يحذرون من أن البنية التحتية للسلامة بحاجة إلى التوسع بالسرعة نفسها.

بدأت الحكومات بالاستجابة. لقد برزت سلامة الذكاء الاصطناعي في مبادرات دولية عديدة، بما في ذلك إعلان بلتشلي وقمة الذكاء الاصطناعي في الهند لهذا العام، بينما اقترحت الصين أيضاً آليات لإدارة مخاطر الذكاء الاصطناعي في الدول النامية. التحدي الأكبر هو التأكد من أن “سلامة الذكاء الاصطناعي” لا تعني فقط منع نموذج مستقبلي من تجاوز حدوده أو شن هجوم سيبراني. بالنسبة لملايين الأشخاص الذين يستخدمون هذه الأدوات بالفعل، يمكن أن تكون السلامة أبسط بكثير: التأكد من أن الروبوت الدردشة (التشات بوت) يفهم لغتهم، ويميز متى يكون الأمر عاجلاً، ولا يقدم لهم معلومات خاطئة وخطيرة بثقة. مع انتشار الذكاء الاصطناعي في الحياة اليومية، لم تعد هذه المشكلات حالات استثنائية. بل أصبحت جزءاً مما يعنيه جعل الذكاء الاصطناعي آمناً حقاً.