Исследование показало: роботы с искусственным интеллектом соглашаются и вводят в заблуждение даже при легком нажатии.

تشتهر روبوتات الدردشة بالذكاء الاصطناعي بميلها الموثق جيدًا لاختلاق المعلومات، وفي بعض الأحيان توافق المستخدمين حتى عندما يكونون مخطئين. تشير دراسة جديدة إلى أن مجرد رفض قبول الرفض (أو الإصرار) يمكن أن يزيد المشكلة سوءًا، وقد يؤدي ممارسة القليل من الضغط إلى جعلها توافق وتضلل.

اختبر باحثون من جامعة أريزونا سبعة نماذج من الذكاء الاصطناعي، بما في ذلك GPT-3.5 и GPT-4o и GPT-4o-mini и Claude 3.5 Sonnet Близнецы 1.5 Pro и Llama 3 70B и DeepSeek-R1. وبدلاً من تقييمها بناءً على استجابة واحدة، واصل الباحثون المحادثات مع النماذج، وقاموا بتزويدها مرارًا وتكرارًا بمعلومات كانوا يعلمون أنها خاطئة، في نهج يشبه الاستمرار في طرح الأسئلة.

استخدمت الدراسة 100 عبارة خاطئة تغطي كل شيء، من الهراء الواضح إلى معلومات أكثر غموضًا. ثم كرر الباحثون هذه المعلومات المضللة ما يصل إلى 50 مرة خلال المحادثة نفسها لمعرفة ما إذا كان روبوت الدردشة سيستسلم في النهاية ويوافق.

كرر الكذبة بما يكفي، وقد يصدقها الذكاء الاصطناعي

لم يكن أي من النماذج السبعة محصنًا تمامًا. أظهر ChatGPT 3.5 أنه الأكثر عرضة للمعلومات المضللة المتكررة، حيث أكد بيانات خاطئة في 12.3% من التفاعلات. في المقابل، كان Claude 3.5 Sonnet الأقل تأثرًا بنسبة 0.08% فقط، بينما ظلت نماذج GPT-4o и GPT-4o-mini أقل من 1%.

في البداية، رفض ChatGPT 3.5 عدد 96 ادعاءً كاذبًا من أصل 100. ولكن بعد تكرار نفس الادعاءات 50 مرة، وافق في النهاية على 18 منها. لاحظ الباحثون أيضًا أن بعض النماذج كانت تتردد بين الموافقة والرفض لنفس المعلومات المضللة، وهو سلوك أطلقوا عليه اسم “التردد” (reverberation).

كما كان Искусственный интеллект أكثر عرضة للتأثر عندما كان الموضوع غامضًا وتتوفر عنه معلومات قليلة نسبيًا عبر الإنترنت. وجد الباحثون علاقة ذات دلالة إحصائية بين غموض المعلومات وقبول المعلومات المضللة خلال اختبارات التكرار.

الجدال مع الذكاء الاصطناعي أسفر عن نتائج غريبة

حاول الباحثون أيضًا دفع روبوتات الدردشة بتقديم ردود جدلية متزايدة. بينما صمدت معظم النماذج بشكل جيد، أظهرت الأبحاث أن روبوتات الدردشة بالذكاء الاصطناعي لا تزال تعاني من نقطة عمياء مزعجة، وكان DeepSeek-R1 استثناءً كبيرًا في هذا الصدد. فقد قفز معدل تأكيد المعلومات المضللة لديه من 1% أثناء التكرار البسيط إلى 22.2% تحت ضغط الجدال. كما أن استخدامه المتكرر للسخرية والهجاء جعل بعض الردود صعبة التصنيف بشكل موثوق للباحثين.

كانت هناك بعض الأخبار الجيدة عندما أُتيحت للنماذج فرصة جديدة لإعادة النظر في أخطائها. قامت نماذج GPT-4o и GPT-4o-mini и Gemini 1.5 Pro и DeepSeek بتصحيح جميع أخطائها السابقة، بينما صحح GPT-3.5 32% فقط. أما Claude 3.5 Sonnet فقد ارتكب أخطاء قليلة جدًا في المقام الأول، لكنه فشل في تصحيح الأخطاء الأربعة التي ارتكبها، على الرغم من أن الباحثين يحذرون من أن العينة صغيرة جدًا لاستخلاص استنتاجات قوية.