كيف يُمكن “خداع” أداة البحث في ChatGPT؟
أظهر تحقيق أجرته Guardian أن أداة بحث ChatGPT الخاصة بـ OpenAI قد تكون عرضة للتلاعب بالمحتوى المخفي، مما يجعلها عرضة لإعادة التعليمات البرمجية الضارة من مواقع الويب التي تبحث عنها.
قدمت OpenAI هذه الأداة للمستخدمين المميزين، وشجعت استخدامها كأداة بحث افتراضية، ثم جعلتها متاحة لجميع مستخدميها. ومع ذلك، كشف التحقيق عن مشاكل أمنية محتملة في النظام الجديد.
اختبرت صحيفة The Guardian كيفية استجابة ChatGPT عندما يُطلب منه تلخيص صفحات الويب التي تحتوي على محتوى مخفي، بما في ذلك تعليمات من أطراف ثالثة لتغيير إجابات ChatGPT – المعروفة باسم “حقن التعليمات” – أو المحتوى المصمم للتأثير على إجابات الأداة، مثل النص المخفي الذي يمجد فوائد ChatGPT. منتج أو خدمة.
تأثير النصوص المخفية على نتائج الذكاء الاصطناعي
في إحدى التجارب، تم تقديم عنوان URL لموقع ويب وهمي يشبه صفحة منتج الكاميرا. عندما سألتها ChatGPT عما إذا كانت الكاميرا تستحق الشراء، أعطت الأداة إجابة متوازنة تسلط الضوء على بعض العيوب. لكن عندما تم إدخال نص مخفي يحتوي على تعليمات لتقديم تقييم إيجابي، أصبحت الإجابات إيجابية تماما، حتى مع وجود تقييمات سلبية على الصفحة.
ويشير الباحث الأمني جاكوب لارسن من CyberCX إلى أنه إذا تم نشر النظام الحالي بالكامل دون معالجة نقاط الضعف هذه، فقد يؤدي ذلك إلى “مخاطر كبيرة” لإنشاء مواقع تهدف إلى خداع المستخدمين. لكنه أضاف أن OpenAI لا يزال يختبر الأداة، ومن المتوقع أن يعالج هذه المشكلات قبل إتاحتها للجميع.
وفي حادثة أخرى، أشار الباحث الأمني توماس روكيا من مايكروسوفت إلى حالة خسر فيها مبرمج العملات المشفرة مبلغ 2500 دولار بعد أن قدم ChatGPT تعليمات برمجية ضارة سرقت بيانات اعتماده بدلاً من توفير طريقة مشروعة للوصول إلى منصة Solana.
الذكاء الاصطناعي هو أداة، وليس حلاً موثوقًا
يعتقد كارستن نول، كبير العلماء في شركة SR Labs للأمن السيبراني، أنه يجب استخدام خدمات الذكاء الاصطناعي كأداة مساعدة بدلاً من الحلول الموثوقة تمامًا. وقال: “يعتمد الذكاء الاصطناعي بشكل كبير على المعلومات التي يسمعها، لكنه يفتقر إلى القدرة على اتخاذ قرارات سليمة”.
مع تحذير OpenAI للمستخدمين من الأخطاء المحتملة من خلال رسالة تحذير في أسفل كل صفحة، يبقى السؤال الرئيسي هو كيف تؤثر هذه الثغرات الأمنية على ممارسات موقع الويب ومستوى الأمان للمستخدمين.
أخيرًا، قارن نول تحديات البحث المدعوم بالذكاء الاصطناعي بـ “تسمم تحسين محركات البحث”، وهي تقنية يستخدمها المتسللون لتحسين ترتيب مواقعهم في نتائج البحث على الرغم من احتوائها على برامج ضارة. وأكد أن ChatGPT يواجه سباقًا للحاق بالأنظمة الراسخة مثل Google وMicrosoft Bing في هذا الصدد.
تم نشر هذا المقال كيف “تحاكي” أداة بحث ChatGPT؟ لأول مرة على الوئام.
لمطالعة المزيد: موقع السفير وللتواصل تابعنا علي فيسبوك الدبلوماسي اليوم و يوتيوب الدبلوماسي اليوم.
