يتم استخدام الذكاء الاصطناعي في الخير والشر، ولا يقتصر الشر على التزييف العميق فحسب، بل يشمل أيضًا أنشطة إجرامية خطيرة مثل التخطيط لهجمات إلكترونية، حيث كشفت OpenAI في تقريرها الأخير أن مجرمي الإنترنت يستغلون برنامج الدردشة الآلي ChatGPT الذي يعمل بالذكاء الاصطناعي، للمساعدة… في الأنشطة الخبيثة.
وفقًا لأحدث تقرير للشركة بعنوان “التأثير والعمليات السيبرانية: التحديث”، يستفيد مجرمو الإنترنت من ChatGPT لكتابة التعليمات البرمجية، وتطوير البرامج الضارة، وتنفيذ هجمات الهندسة الاجتماعية، وتنفيذ عمليات ما بعد الاستغلال.
وفقًا لما أوردته Bleeping Computer، يعرض تقرير OpenAI تفاصيل العديد من الحوادث التي تم فيها العثور على ChatGPT لمساعدة مجرمي الإنترنت في الهجمات عبر الإنترنت. منذ أوائل عام 2024، تعاملت OpenAI مع أكثر من 20 عملية إلكترونية ضارة تتضمن إساءة استخدام ChatGPT، مما أثر على العديد من… من الصناعات والحكومات في بلدان متعددة.
تتراوح هذه الحالات من تطوير البرامج الضارة وأبحاث الثغرات الأمنية إلى حملات التصيد الاحتيالي والهندسة الاجتماعية. وفقًا لـ OpenAI، استخدم المجرمون قدرات ChatGPT لمعالجة اللغة الطبيعية (NLP) وإنشاء التعليمات البرمجية لإكمال المهام التي تتطلب عادةً خبرة فنية كبيرة، وبالتالي خفض عتبة المهارة للهجمات الإلكترونية.
ظهرت أول حالة معروفة للهجمات المدعومة بالذكاء الاصطناعي في أبريل 2024، عندما حددت شركة الأمن السيبراني Proofpoint مجموعة التجسس الإلكتروني الصينية TA547، المعروفة أيضًا باسم “Scully Spider”، والتي نشرت محمل PowerShell المولد بالذكاء الاصطناعي لسلسلة البرامج الضارة الخاصة بها. وأعقب ذلك تقرير HP Wolf Security في سبتمبر الذي سلط الضوء على البرامج النصية التي أنشأها الذكاء الاصطناعي والتي يستخدمها مجرمو الإنترنت في عدوى متعددة الخطوات تستهدف المستخدمين الفرنسيين.
وفقًا لتقرير OpenAI، فإن إحدى أبرز الحالات تتعلق بمجموعة التجسس الإلكتروني الصينية “SweetSpecter”، والتي تم توثيقها لأول مرة بواسطة Cisco Talos في نوفمبر 2023. استهدفت SweetSpecter الحكومات الآسيوية وهاجمت OpenAI مباشرة عن طريق إرسال رسائل بريد إلكتروني تصيدية إلى موظفيها، تحتوي على ملفات مضغوطة. برامج ضارة متخفية في شكل طلبات دعم، وإذا تم فتحها، تؤدي الملفات إلى إطلاق سلسلة من العدوى. ينشر برنامج SugarGh0st Remote Access Trojan (RAT)، ويسلط OpenAI الضوء على أن SweetSpecter استخدم ChatGPT لإجراء الاستطلاع وتحليل نقاط الضعف، بما في ذلك البحث عن إصدارات Log4j المعرضة للاستغلال. Log4Shell سيئة السمعة.
هناك حالة مهمة أخرى مذكورة في تقرير OpenAI تتعلق بمجموعة التهديد الإيرانية “CyberAv3ngers”. وفقًا للتقرير، استخدمت CyberAv3ngers ChatGPT للعثور على بيانات الاعتماد الافتراضية لأجهزة التوجيه الصناعية وأجهزة التحكم المنطقية القابلة للبرمجة (PLCs)، والتي تعد مكونات مهمة في البنية التحتية للتصنيع والطاقة. لقد طلبوا أيضًا من ChatGPT المساعدة في تطوير نصوص bash وPython المخصصة لتجنب اكتشافها.
اتخذت OpenAI تدابير لمعالجة المشكلة المتزايدة من خلال إغلاق الحسابات المشاركة في هذه العمليات ومشاركة مؤشرات الاختراق ذات الصلة (IOCs)، بما في ذلك عناوين IP وطرق الهجوم، مع شركاء الأمن السيبراني.
بالإضافة إلى ذلك، تعمل OpenAI على تعزيز أنظمة المراقبة الخاصة بها للكشف عن الأنماط المشبوهة التي قد تشير إلى سلوك ضار، بهدف منع المزيد من استغلال منصتها لتطوير البرامج الضارة أو الهندسة الاجتماعية أو محاولات القرصنة.
لمطالعة المزيد: موقع السفير وللتواصل تابعنا علي فيسبوك الدبلوماسي اليوم و يوتيوب الدبلوماسي اليوم.