Arkadaşım kanser hastası: Tıbbi danışmanlık için ChatGPT'ye başvurdu ve bu beni çok etkiledi.

كتبتُ هذا المقال حوالي الساعة الثالثة فجرًا، وأنا أجلس في بهو عيادة بينما تتحدث صديقتي مع طبيب الأورام في الغرفة خلفي. الهواء مشبع برائحة الأدوية بالطبع، والجو يحمل نفحة كآبة لا تخطئها العين، تدفعني للرغبة في مغادرة المكان بأسرع وقت ممكن. لكن الشعور الطاغي الذي يسيطر عليّ هو الغضب الشديد.

قبل ساعة واحدة فقط، تلقيتُ اتصالًا من صديقتي البالغة من العمر 24 عامًا، تشكو فيه من صداع شديد وألم في معدتها. هي تخضع حاليًا للعلاج من سرطان الثدي، وبعد أن رأيتها تمر بهذه المحنة على مدار العامين الماضيين، هرعتُ إلى منزلها، آملًا ألا يكون الأمر خطيرًا. دون طرح الكثير من الأسئلة، بحثتُ عن أقرب مستشفى وهرعتُ بها لإجراء فحص.

في طريقنا إلى المستشفى، سألتها متى بدأ الألم وما إذا كانت قد شعرت بأي أعراض أخرى مقلقة. صدمتني إجابتها، وإلى حد أنني أردتُ أن أنتزع هاتفها وأحطمه إربًا. «بعد عودتي من العمل، شعرتُ ببعض الدوار وشعرتُ أيضًا أن شيئًا ما ليس على ما يرام في أمعائي. لذا، سألتُ ChatGPT إذا كان بإمكاني تناول مسكنات الألم، وبعد ساعات قليلة من تناولها، تفاقم ألم الأمعاء مع شعور حارق. كما تقيأتُ عدة مرات.»

من المسؤول عن التصرف بمسؤولية؟

صدمتني اعترافاتها، وكانت النبرة العادية التي وصفت بها تفاعلاتها مع ChatGPT أكثر إثارة للخوف. لكن هناك طبقات عديدة لهذه الحادثة المؤسفة، لدرجة أنني قررتُ حظر استخدام yapay zeka على أحبائي، خاصةً عندما يتعلق الأمر بالمحادثات المتعلقة بالصحة والعافية. بصفتها شخصًا شديد الحساسية للأدوية ويمر بعلاج السرطان، فإن سؤال الذكاء الاصطناعي عن تناول الأدوية كان آخر شيء يمكن أن تتوقعه من أي شخص عاقل.

لا أعرف بالضبط من يقع عليه اللوم في هذه المغامرة المحفوفة بالمخاطر التي قد تهدد حياتها. لقد التقطت ببساطة صورة لمسكن ألم، وأدخلتها إلى ChatGPT، وسألت عما إذا كان بإمكانها تناول حبتين في نفس الوقت. طبيبها أوصاها بتناول حبة واحدة فقط في المرة الواحدة، وذلك أيضًا عندما يكون الألم شديدًا لدرجة لا تُطاق. أخبرها ChatGPT أنه يجب عليها تناول مسكن ألم واحد، وأن تناول حبتين يكون فقط بتوصية من الطبيب.

عندما سألتها لماذا لجأت إلى روبوت الذكاء الاصطناعي، أخبرتني لاحقًا أن ChatGPT «أسهل في الحصول على الإجابات منه. أنا لا أعرف حتى ما هو حقيقي على الإنترنت.» بالنسبة لشخص اضطر إلى ترك الدراسة بعد الثانوية العامة وإعالة أسرته بوظائف متفرقة، فقد فهمتُ مأزقها. لم أستطع أن ألقي عليها محاضرة حول مفاهيم الثقافة الرقمية والتحقق من الحقائق. كان هناك الكثير من الأخطاء في تلك المحادثة، وكلا الطرفين يتحملان اللوم هنا.

وهنا تبدأ المشكلة. صديقتي ليست متحدثة أصلية للغة الهندية، وعندما ترجمت استفسارها إلى الهندية، تحول الأمر إلى كارثة نحوية بسبب كلمة واحدة فقط. كانت ترغب في السؤال عما إذا كان بإمكانها تناول حبتين من الدواء الظاهر في الصورة. لكن ترجمتها الركيكة جعلت الأمر يبدو وكأنها تسأل ChatGPT عما إذا كان بإمكانها تناول “كلا الدواءين”.

وهنا تعثر ChatGPT أيضًا. تُظهر الصورة حبة دواء لا يظهر منها سوى تركيبها الكيميائي – Diclofenac و Serraptiopeptidase. وكان اسم الدواء ظاهرًا جزئيًا فقط. وعلى الرغم من ذلك، حدد روبوت الذكاء الاصطناعي بدقة دواء المسكن على أنه “شيء مثل Cipzen-D”. ولكن قبل ذلك، ذكر أيضًا دواءً آخر، Fenak Plus، الذي يتكون تركيبه الكيميائي من Diclofenac و Paracetamol، والذي كانت قد ناقشته سابقًا في محادثة أخرى.

إنه تركيب مختلف تمامًا، على الرغم من أن كلاهما متوفر بسهولة كمسكنات ألم لا تستلزم وصفة طبية، ويمكن شراؤها (بشكل مثير للقلق) بدون وصفة طبية مناسبة من الصيدليات المحلية. إذن، بشكل عام، لدينا خطأ بشري واحد (في الترجمة) وخطأين من ChatGPT لأنه كان يستمد المعرفة من ذاكرته أيضًا. النصيحة، مع ذلك، كانت دقيقة.

حذر روبوت الذكاء الاصطناعي من OpenAI بوضوح من أن تناول كلا الدواءين ليس خطوة جيدة، مضيفًا أن ذلك قد يؤدي إلى جرعة زائدة من Diclofenac. كما وصف روبوت الذكاء الاصطناعي الآثار اللاحقة، والتي شملت إحساسًا حارقًا في المعدة، ومشاكل متعلقة بالقرحة، ونزيفًا، وآثارًا سلبية طويلة الأمد على الكلى.

تجدر الإشارة إلى أن الصورة التي زُوّد بها ChatGPT أظهرت مسكنًا واحدًا فقط للألم. وقد أوصى النموذج بتناول مسكن واحد فقط في المرة الواحدة، وليس كلاهما معًا. لكن صديقتي، التي تذكرت أن كلا الدواءين قد وصفهما الأطباء لها في وقت سابق (وإن لم يكن ذلك معًا)، تناولت كليهما معًا لتخفيف الألم بسرعة، وسرعان ما شعرت بالعواقب الوخيمة.

غضب الطبيب أيضًا، وكان محقًا في ذلك، عندما أخبرته صديقتي سبب تناولها لحبتين في نفس الوقت، موبخًا إياها لعدم استشارتها أخصائي رعاية صحية. تبع ذلك حقنة لتخفيف ألمها، ووصفة طبية جديدة لمسكنات لا تضر بجسدها الهش.

بصفتي صحفيًا متخصصًا في التكنولوجيا وقد كتبت عن مخاطر تفاعلات الذكاء الاصطناعي في المواضيع الحساسة، خاصة الصحة والعافية، شعرت بالفشل. شعرت أنني لم أتحدث مع صديقتي قط عن مخاطر روبوتات الذكاء الاصطناعي. ولم أحذرها من هذه المخاطر إلا بعد الحادثة المخيفة.

عندما اعترفت بأنها استخدمت ChatGPT للحصول على نصائح طبية في مناسبات أخرى عديدة في الماضي، أخذت هاتفها وحذفت التطبيق. والأهم من ذلك، طلبت منها ألا تستخدم أي روبوت محادثة آخر يعمل بالذكاء الاصطناعي — مثل İkizler burcu أو Claude — للحصول على استشارات طبية، أو حتى الإنترنت بأكمله في هذا الشأن. الطريق الوحيد الصحيح هو التحدث إلى طبيب، أو زيارة عيادة.

مشكلة التصور

لا ألومها بالكامل على ما حدث. بالنظر إلى الطريقة التي ترسخ بها ChatGPT في العادات الرقمية اليومية للجماهير كـ “جنيٍّ عليم بكل شيء”، يصعب لومها. يرى الناس أنه محرك إجابات أكثر ملاءمة (وصدقًا) مقارنةً بمشقة البحث عن الإجابات في Google Search، والنقر على الروابط الزرقاء، وتصفح الإجابات عبر صفحات الويب المتعددة.

والحق يقال، هم ليسوا مخطئين. فالحصول على إجابات مباشرة من روبوت ذكاء اصطناعي مثل ChatGPT، وبلغة طبيعية وفي غضون ثوانٍ معدودة، يُعدّ أكثر ملاءمة بكثير من الدخول في متاهة روابط Google Search. تدرك Google أيضًا تغير سلوك المستخدمين، وهذا ما يفسر الدفع نحو وضع الذكاء الاصطناعي التخاطبي في البحث. قد يهمك أن تقرأ عن Google arama motorunu ChatGPT ile değiştirme deneyimim.

حتى اليوم، تظهر الإجابات التخاطبية التي يقدمها Gemini في صدارة نتائج البحث العادية. الفكرة واحدة: تزويد المستخدمين بإجابات مُلخصة مستخلصة من مصادر الروابط الزرقاء في Google Search قبل أن يبدأوا في بحث أعمق عن المعرفة من خلال قراءة مصادر متعددة موزعة على عدد من علامات التبويب. للمزيد، يمكنك الاطلاع على مُقارنة شاملة بين ChatGPT و Gemini.

يُحسب لـ ChatGPT (أو لمعظم نماذج الذكاء الاصطناعي الرائدة، في هذا الصدد) أنه يتوخى الحذر الشديد عندما يطلب أحدهم نصائح صحية وعافية. ففي الغالبية العظمى من هذه الإجابات، تطلب روبوتات الذكاء الاصطناعي من المستخدم استشارة أخصائي رعاية صحية معتمد أو الاتصال بخط المساعدة المناسب. ولكن مرة أخرى، فإن الطريقة التي دخلت بها روبوتات الدردشة هذه النقاش العام كمصدر سريع وموثوق للمعرفة هو ما يجعلها مخيفة بالقدر نفسه.

قبل بضعة أيام، كنت أشاهد نقاشًا حادًا على قناة إخبارية رئيسية. وخلال هذا التبادل الساخن، طلب أحد المشاركين من خصمه التحقق من الحقائق بسؤال ChatGPT. في تلك اللحظة، رأيت كيف يُتحدث عن ChatGPT كمعادل عصري للبحث عن الإجابات في الموسوعات، وذلك من منبر يؤثر على ملايين الأشخاص في ثاني أكبر سوق لروبوتات الدردشة بالذكاء الاصطناعي في العالم.

ضياع في الترجمة

تتصدر الولايات المتحدة قائمة الدول في تبني الذكاء الاصطناعي، ولكنها تتمتع أيضًا بأعلى مستوى من الوعي بمخاطر استخدام روبوتات الدردشة المدعومة بالذكاء الاصطناعي. في المقابل، تُعدّ محو الأمية الرقمية (والوعي بالذكاء الاصطناعي) أقل بكثير في الهند، وبالتالي فإن احتمالية المخاطر أعلى بكثير. ويتفاقم الخطر أكثر بسبب استخدام مئات الآلاف من الأشخاص لـ ChatGPT ووكلاء الذكاء الاصطناعي الآخرين بلغة هندية محلية. وهذا هو أحد الدوافع الرئيسية وراء ما حدث مؤخرًا مع صديقتي: مشكلة ChatGPT اللغوية.

في دراسة بحثية نُشرت في وقت سابق من هذا العام، أشار مركز MIT للاتصال البناء إلى أن دقة الإجابات التي تقدمها روبوتات الدردشة المدعومة بالذكاء الاصطناعي تكون أقل إذا كان المستخدمون يتفاعلون بلغة غير الإنجليزية. كما أبرز معيار SAHARA، الذي صدر في ديسمبر من العام الماضي، تباينًا مشابهًا في سلوك روبوتات الدردشة المدعومة بالذكاء الاصطناعي عندما يتحدث المستخدمون بلغة غير الإنجليزية. وسلطت مجلة The Economist الضوء أيضًا على العديد من الأوراق البحثية التي كشفت عن مشكلة اللغة في نماذج اللغات الكبيرة (LLMs).

يزيد الحاجز اللغوي من مستوى المخاطر.

لكن الترجمة ليست المشكلة الوحيدة. فقد حذرت منظمة Healthwatch England، وهي مجموعة مستقلة للدفاع عن حقوق المستهلكين والمرضى في نظام الصحة العامة بالمملكة المتحدة، من مخاطر استخدام أدوات النسخ بالذكاء الاصطناعي من قبل الأطباء وخبراء الرعاية الصحية. إليك لقطة مقلقة من تقريرهم:

“في إحدى الحالات المثيرة للقلق، قامت أداة ذكاء اصطناعي بمراجعة ملخص فحص الرنين المغناطيسي (MRI) ووثقت أن المريض يعاني من إزالة الميالين (demyelination)، وهي حالة عصبية خطيرة مرتبطة بالتصلب المتعدد. لكن الفحص أظهر في الواقع “عدم وجود إزالة للميالين” (null demyelination)، مما يعني أن المشكلة لم تكن موجودة.”

هذا عيب واضح يجب على نماذج اللغات الكبيرة إصلاحه، لكن هناك مشكلة أكبر بكثير مطروحة هنا. تحتاج روبوتات الدردشة المدعومة بالذكاء الاصطناعي إلى أداء أفضل عند التعامل مع المواضيع الحساسة. لقد طبقت منصات مثل ChatGPT ضوابط أبوية وغالبًا ما تطلب من المستخدمين طلب المساعدة، بينما تقدم أيضًا أرقام خطوط المساعدة وموارد موثوقة. سترى أيضًا تحذيرًا بأن ChatGPT ليس طبيبًا، أو ما شابه ذلك.

لكن هذه التحذيرات يجب أن تظهر في الأعلى مباشرةً لجميع هذه المحادثات، وألا تُدفن تحت الجمل القليلة الأولى، حيث يحصل معظم المستخدمين على إجاباتهم ولا يكلفون أنفسهم عناء القراءة أكثر. أفضل بكثير أن أرى لافتة عريضة في الأعلى مباشرةً، ويجب أن يُدمج هذا البروتوكول في صميم سلوك نموذج الذكاء الاصطناعي.

بعد ذلك، نحتاج إلى الوعي. الكثير منه. شركات الذكاء الاصطناعي مشغولة باستعراض كيف تحل نماذج اللغات الكبيرة (LLMs) الخاصة بها مشكلات رياضية معقدة، وتتفوق على البشر في الأولمبياد، وتساعد في تحقيق اختراقات طبية. لكن كل ذلك يحدث تحت إشراف الخبراء. بالنسبة للشخص العادي، الذي يعتبر ChatGPT مصدرًا للمعرفة السريعة والمحادثة، يجب أن تكون التحذيرات وإخلاء المسؤولية ذات أولوية.

قد تتوخى OpenAI الحذر، لكن التصور العام لـ ChatGPT يتطور بسرعة خطيرة.

يعتبره العديد من المستخدمين محرك معرفة جديدًا، يتفاعل وكأنه إنسان حقيقي. تتعدد الحالات التي تقدم فيها روبوتات الذكاء الاصطناعي نصائح صحية خطيرة وسيئة، وحتى عام 2026، لا تزال الأبحاث تبرز سلوكها المحفوف بالمخاطر في المواضيع الحساسة. آمل فقط أن تقوم OpenAI، وكل مطور آخر للذكاء الاصطناعي، بالتفكير مليًا في هذا الأمر واتخاذ الإجراءات المناسبة.