تعرف على إمكانية استخدام أنثروبوت AI chatbot Claud في عام 2025

خطت شركة Anthropic خطوة جديدة في مجال الذكاء الاصطناعي عبر تزويد نماذج Claude Opus 4 و 4.1 بخاصية تتيح للنظام إنهاء بعض المحادثات تلقائيًا، إذ تهدف هذه الميزة لتعزيز معايير الأمان والحماية في الحالات التي يواجه فيها الذكاء الاصطناعي مواضيع محفوفة بالمخاطر أو إساءات متكررة من المستخدم، وتسهم الميزة في وضع حد للتفاعلات التي تفشل فيها محاولات إعادة التوجيه حفاظًا على جودة الحوار، وبذلك تتقدم Anthropic في أولويتها للحد من استخدام الذكاء الاصطناعي في سياقات غير آمنة أو مسيئة.

تندرج هذه المبادرة ضمن مساعي أبحاث الشركة الرامية لدراسة وسائل حماية الذكاء الاصطناعي والارتقاء بسلامته أثناء التفاعل مع المستخدمين، كما تهدف إلى تقليل الضغوط الناتجة عن التعامل مع محتوى حساس أو ضار.

الضوابط الجديدة لإنهاء المحادثات

يشرح التحديث الأخير لطراز كلود آلية إنهاء الحوار تلقائيًا في مواقف معينة، حيث يمتثل الذكاء الاصطناعي للمعايير التالية:

• يتم إنهاء النقاش إذا فشلت جميع محاولات إعادة التوجيه وفقد الحوار فاعليته،
• لا يُسمح للذكاء الاصطناعي بمواصلة التفاعل في حال أصر المستخدم على مناقشة قضايا مسيئة أو ضارة،
• في المواضيع المثيرة للجدل والخطيرة مثل الإرهاب أو الاعتداء الجنسي على الأطفال، يتوقف الذكاء الاصطناعي عن إكمال المحادثة،
• يوفر النظام خيار البدء بدردشة جديدة أو تحرير الرسائل السابقة بعد إنهاء المحادثة،
• تهدف الخاصية أساسًا لتقليل احتمالات استغلال الذكاء الاصطناعي في السياقات غير الآمنة،

وتأتي هذه الخطوة كجزء من جهود Anthropic المتواصلة لتعزيز رفاهية الذكاء الاصطناعي والتحقيق في الأساليب المثلى لمنع الإرهاق وحماية كل من النظام والمستخدمين خلال المحادثات.

سيساعد ضمان إنهاء المحادثات المسيئة بصورة تلقائية في رفع معايير الأمان على منصات الذكاء الاصطناعي وتعزيز الحوارات الإيجابية، مما ينعكس إيجابًا على مختلف المستخدمين، وتؤكد “غاية السعودية” في هذا الإطار أهمية المبادرات التقنية الحديثة في دعم الأمان الرقمي وحماية المجتمعات الإلكترونية حول العالم.