ما تثقش في ChatGPT.. دراسة تؤكد: يخدعك بنتائج مضللة ولا يمكن الاعتماد عليه

كشفت دراسة نشرت في صحيفة الغارديان البريطانية أن ChatGPT Search، وهو محرك بحث يعمل بالذكاء الاصطناعي تم إطلاقه هذا الشهر، يمكن خداعه لتوليد ملخصات مضللة تمامًا.

وأوضح الباحثون أن ميزة البحث في ChatGPT تهدف إلى جعل التصفح أسرع من خلال القيام بأشياء مثل تلخيص مراجعات منتجات صفحة الويب، لكن صحيفة الغارديان وجدت أنه يمكن جعل ChatGPT يتجاهل المراجعات السلبية ويولد ملخصات “إيجابية تمامًا” عن طريق إدراج نص مخفي في مواقع الويب. الويب الذي أنشأه.

وأشار التقرير إلى أنه يمكن أيضًا إجراء بحث ChatGPT لإخراج تعليمات برمجية ضارة باستخدام هذه الطريقة.

تمثل مثل هذه الهجمات النصية المخفية خطرًا معروفًا على نماذج اللغات الكبيرة، ولكن يبدو أن هذه هي المرة الأولى التي يتم فيها إثبات ذلك على منتج بحث مباشر مدعوم بالذكاء الاصطناعي.

لم تعلق OpenAI على هذه الحادثة المحددة عندما اتصلت بها TechCrunch لكنها قالت إنها تستخدم مجموعة متنوعة من الأساليب لحظر المواقع الضارة وتتحسن باستمرار.