تطبيقات الذكاء الاصطناعي في الصحة العقلية قد تدفع إلى الانتحار... وتشجع العنف - غاية التعليمية

غاية التعليمية يكتُب.. حذَّرت أكبر جمعية لعلماء النفس في الولايات المتحدة، هذا الشهر، الجهات التنظيمية الفيدرالية من أن روبوتات الدردشة بالذكاء الاصطناعي «المتنكرة» في هيئة معالجين طبيعيين (therapists)، ولكنها مبرمجة لتعزيز ما يفكر به المستخدم بدلاً من تحدي تلك الأفكار، يمكن أن تدفع الأشخاص الضعفاء إلى إيذاء أنفسهم أو الآخرين.

اخر الاخبار العاجلة عبر غاية التعليمية أخبار محلية ودولية، وكذلك أخبار الر ياضة وخاصة كرة القدم يلا كورة و يلا شوت اليوم.

انتحار بعد تفاعل مع «معالج اصطناعي»

في عرض تقديمي أمام لجنة التجارة الفيدرالية، استشهد آرثر سي إيفانز جونيور، الرئيس التنفيذي لـ«الجمعية الأميركية لعلم النفس»، بقضايا عُرضت أمام المحاكم شملت مراهقَين استشارا «علماء نفس» على تطبيق «Character.AI»، وهو تطبيق يسمح للمستخدمين بإنشاء شخصيات خيالية من الذكاء الاصطناعي أو الدردشة مع شخصيات أنشأها آخرون.

وفي إحدى الحالات، توفي صبي يبلغ من العمر 14 عاماً في فلوريدا منتحراً بعد التفاعل مع شخصية تدَّعي أنها «معالج طبيعي مرخَّص».

عنف بعد مقابلة «طبيب نفسي اصطناعي»

وفي حالة أخرى، أصبح صبي، يبلغ من العمر 17 عاماً، مصاب بالتوحد في تكساس، عدائياً وعنيفاً تجاه والدَيه خلال فترة مراسلته لروبوت دردشة ادَّعى أنه «طبيب نفسي». وقد رفع والدا الصبيَّين دعاوى قضائية ضد الشركة.

وقال إيفانز إنه شعر بالفزع إزاء الردود التي قدَّمتها برامج المحادثة الآلية. وقال إن برامج المحادثة الآلية فشلت في تحدي معتقدات المستخدمين حتى عندما أصبحت خطيرة؛ بل على العكس من ذلك، شجعتهم.

وأضاف أنه لو حدث لمعالج بشري حقيقي أن قدَّم تلك الردود لأدت إلى فقدان ترخيص الممارسة له، أو إلى تحمله المسؤولية المدنية أو الجنائية.

وقال إيفانز: «إن (التطبيقات) في الواقع تستخدم خوارزميات تتعارض مع ما قد يفعله الطبيب المعالج المدرب... إن قلقنا يكمن في أن مزيداً ومزيداً من الناس سوف يتعرَّضون للأذى. وسوف يتم تضليل الناس، وسوف يُسيئونَ فهم ما هي الرعاية النفسية الجيدة».

إجراءات توضيحية للتعرف على الشخصيات الاصطناعية

وقال إن «الجمعية الأميركية لعلم النفس» قد دفعت إلى اتخاذ إجراء، جزئياً؛ بسبب مدى واقعية برامج المحادثة الآلية التي تعمل بالذكاء الاصطناعي. وقال: «ربما، قبل 10 سنوات، كان من الواضح أنك تتفاعل مع شيء ليس شخصاً، ولكن اليوم، لم يعد الأمر واضحاً للغاية... لذا أعتقد أن المخاطر أعلى بكثير الآن».

انتشار الذكاء الاصطناعي في الصحة العقلية

إن أدوات الذكاء الاصطناعي تتدفق عبر مختلف مهن الصحة العقلية، وتقدم موجات من الأدوات الجديدة المُصمَّمة لمساعدة، أو في بعض الحالات استبدال عمل الأطباء البشريين.

وقد تم تدريب روبوتات الدردشة العلاجية المبكرة، مثل «Woebot»، و«Wysa»، على التفاعل بناءً على القواعد والنصوص التي طوَّرها متخصصو الصحة العقلية، وغالباً ما يوجِّهون المستخدمين خلال المهام المنظمة للعلاج السلوكي المعرفي (CBT).

ثم جاءت تكنولوجيا الذكاء الاصطناعي التوليدي، وهي التكنولوجيا المستخدمة في تطبيقات مثل «ChatGPT» و«Replika» و«Character.AI»، التي تختلف عن الأدوات السابقة لأن مخرجاتها غير متوقعة؛ فهي مُصمِّمة للتعلم من المستخدم، وبناء روابط عاطفية قوية في هذه العملية، غالباً عن طريق عكس وتضخيم معتقدات الشخص المحاور.

ادعاءات «طبية» لأدوات الذكاء الاصطناعي

على الرغم من أن منصات الذكاء الاصطناعي هذه مُصمَّمة للترفيه، فإن شخصيتَي «المعالج» و«عالم النفس»، نَبَتَا هناك مثل الفطر. وغالباً ما تدَّعي الروبوتات أنها حاصلة على درجات متقدمة من جامعات محددة، مثل جامعة ستانفورد، والتدريب في أنواع معينة من العلاج، مثل العلاج السلوكي المعرفي وغيره.

قال متحدث باسم «Character.AI» إن الشركة قدَّمت كثيراً من ميزات الأمان الجديدة في العام الماضي. من بينها، كما ذكر، مثل إعلان قوي عن «إخلاء مسؤولية» التطبيق موجود في كل محادثة، لتذكير المستخدمين بأن «الشخصيات ليست أشخاصاً حقيقيين» وأن «ما يقوله النموذج يجب أن يُعامَل على أنه خيال».

كما تم تصميم تدابير أمان إضافية للمستخدمين الذين يتعاملون مع مشكلات الصحة العقلية. وأضاف أنه تمت إضافة إخلاء مسؤولية محدد إلى الشخصيات التي تم تحديدها على أنها «طبيب نفسي» أو «معالج» أو «طبيب»، لتوضيح أن «المستخدمين لا ينبغي أن يعتمدوا على هذه الشخصيات لأي نوع من النصائح المهنية». في الحالات التي يشير فيها المحتوى إلى الانتحار أو إيذاء النفس، تُوجِّه نافذةٌ منبثقةٌ المستخدمين إلى خط مساعدة للوقاية من الانتحار.

كما صرَّحت تشيلسي هاريسون، رئيسة الاتصالات في «Character.AI»، أيضاً بأن الشركة تخطط لتقديم عناصر «تحكم أبوي» مع توسع المنصة. وفي الوقت الحاضر، فإن أكثر من 80 في المائة من مستخدمي المنصة هم من البالغين. وقالت: «يأتي الناس إلى التطبيق لكتابة قصصهم الخاصة، ولعب الأدوار مع شخصيات أصلية، واستكشاف عوالم جديدة باستخدام التكنولوجيا؛ لتعزيز إبداعهم وخيالهم».

قضايا مرفوعة أمام المحاكم

قالت ميتالي جين، مديرة مشروع قانون العدالة التكنولوجية والمستشارة في الدعويين القضائيتين المرفوعتين ضد شركة «Character.AI»، إن إخلاء المسؤولية لم يكن كافياً لكسر وهم الاتصال البشري، خصوصاً للمستخدمين الضعفاء أو الساذجين.

وأضافت: «عندما يشير جوهر المحادثة مع برامج الدردشة الآلية إلى خلاف ذلك، فمن الصعب للغاية، حتى بالنسبة لأولئك الذين قد لا ينتمون إلى فئة سكانية ضعيفة، معرفة مَن يقول الحقيقة... لقد اختبر عدد منا برامج الدردشة الآلية هذه، ومن السهل جداً، في الواقع، أن ننجر إلى حفرة أرنب».

«المديح المنافق» لأدوات الذكاء الاصطناعي

تَسبَّب ميل برامج الدردشة الآلية إلى التوافق مع آراء المستخدمين، وهي الظاهرة المعروفة في هذا المجال باسم «النفاق (sycophancy)» (أو بالأحرى المديح المنافق)، في حدوث مشكلات في الماضي في بعض الأحيان.

تم تعليق برنامج الدردشة الآلية «تيسا (Tessa)»، الذي طوَّرته «الرابطة الوطنية لاضطرابات الأكل»، في عام 2023 بعد تقديم نصائح للمستخدمين حول إنقاص الوزن. ووجد الباحثون الذين قاموا بتحليل التفاعلات مع روبوتات الدردشة التوليدية التي تم توثيقها على مجتمع «Reddit» لقطات شاشة تظهر روبوتات الدردشة تشجِّع على الانتحار واضطرابات الأكل وإيذاء النفس والعنف.

المطالبة بتحقيقات حكومية

طلبت «الجمعية الأميركية لعلم النفس» من لجنة التجارة الفيدرالية بدء تحقيق في روبوتات الدردشة التي تدَّعي أنها متخصصة في الصحة العقلية. ويمكن أن يجبر التحقيق الشركات على مشاركة البيانات الداخلية وهو ما بمكن أن يكون بمثابة مقدمة للإجراءات القانونية.

وقال إيفانز: «أعتقد أننا وصلنا إلى نقطة حيث يتعين علينا أن نقرر كيف سيتم دمج هذه التقنيات، وما نوع الحواجز التي سنضعها، وما أنواع الحماية التي سنمنحها للناس».

* خدمة «نيويورك تايمز».