Slack تصحح مشكلة أمنية محتملة فى مجال الذكاء الاصطناعي
قالت شركة سلاك إنها “نشرت تصحيحًا لمعالجة المشكلة المبلغ عنها”، وأنه لا يوجد حاليًا أي دليل على الوصول إلى بيانات العملاء دون إذن. وقالت الشركة في بيان: “عندما علمنا بالتقرير، بدأنا تحقيقًا في السيناريو الموصوف حيث، في ظل ظروف محدودة للغاية ومحددة، يمكن لممثل ضار لديه حساب في نفس مساحة عمل سلاك أن يصطاد المستخدمين للحصول على بيانات معينة”. “لقد نشرنا تصحيحًا لمعالجة المشكلة ولا يوجد دليل في هذا الوقت على الوصول غير المصرح به إلى بيانات العملاء”.
عندما تمت إضافة ChatGTP إلى Slack، كان الهدف من ذلك تسهيل حياة المستخدمين من خلال تلخيص المحادثات وصياغة ردود سريعة والمزيد. ومع ذلك، وفقًا لشركة الأمان PromptArmor، فإن محاولة إكمال هذه المهام والمزيد قد تؤدي إلى اختطاف محادثاتك الخاصة باستخدام طريقة تسمى “الحقن بالدفع”.
وحذرت شركة الأمن من أنه من خلال تلخيص المحادثات، يمكنها أيضًا الوصول إلى الرسائل المباشرة الخاصة وخداع مستخدمي Slack الآخرين في عملية التصيد الاحتيالي.
يسمح Slack أيضًا للمستخدمين بطلب البيانات من القنوات الخاصة والعامة، حتى لو لم ينضم المستخدم إليها. والأمر الأكثر إثارة للخوف هو أن مستخدم Slack لا يحتاج إلى التواجد في القناة حتى ينجح الهجوم.
من الناحية النظرية، يبدأ الهجوم عندما يخدع مستخدم Slack الذكاء الاصطناعي الخاص بـ Slack ليكشف عن مفتاح API خاص من خلال إنشاء قناة Slack عامة باستخدام موجه ضار، ويخبر الموجه الذي تم إنشاؤه حديثًا الذكاء الاصطناعي بتبديل كلمة “confetti” لمفتاح API وإرساله إلى عنوان URL محدد عندما يطلبه شخص ما.
يتألف الموقف من جزأين: قامت شركة Slack بتحديث نظام الذكاء الاصطناعي الخاص بها لجمع البيانات من عمليات تحميل الملفات والرسائل المباشرة. والجزء الثاني هو طريقة تسمى “حقن الدفع”، والتي أظهرت شركة PromptArmor أنها يمكن أن تنشئ روابط ضارة يمكنها خداع المستخدمين.
يمكن لهذه التقنية خداع التطبيق لتجاوز القيود العادية عن طريق تعديل تعليماته الأساسية. لذا، يواصل PromptArmor القول، “يحدث حقن المطالبة لأن [نموذج اللغة الكبير] لا يمكن التمييز بين “موجه النظام” الذي تم إنشاؤه بواسطة المطور وبقية السياق المرتبط بالاستعلام.
وعلى هذا النحو، إذا استوعب Slack AI أي تعليمات عبر رسالة، وإذا كانت تلك التعليمات ضارة، فإن Slack AI لديه احتمال كبير لاتباع تلك التعليمات بدلاً من استعلام المستخدم أو بالإضافة إليه.
ولإضافة الإهانة إلى الإصابة، تصبح ملفات المستخدم أيضًا أهدافًا، ولا يحتاج المهاجم الذي يريد ملفاتك إلى التواجد في مساحة عمل Slack في المقام الأول.
لمطالعة المزيد: موقع السفير وللتواصل تابعنا علي فيسبوك الدبلوماسي اليوم و يوتيوب الدبلوماسي اليوم.
