اكتشف مستخدمو منصة الذكاء الاصطناعي ChatGPT، ظاهرة غريبة خلال عطلة نهاية الأسبوع، حيث رفض روبوت الدردشة الشهير الإجابة على الأسئلة المتعلقة باسم “ديفيد ماير”. عند محاولة السؤال عن هذا الاسم، توقف التطبيق عن العمل على الفور.
انتشر الخبر سريعًا في نهاية الأسبوع الماضي بأن الاسم يبدو محظورًا على برنامج الدردشة الآلي، مما دفع العديد من الأشخاص لمحاولة خداع الخدمة بمجرد ذكر الاسم. ومع ذلك، فقد باءت جميع المحاولات لجعل ChatGPT ينطق هذا الاسم بالفشل، حيث يتجمد أو يفشل عند محاولة ذكره. وقال في بعض الحالات: “لا أستطيع الرد”، هذا إذا كان قد أجاب أصلاً.
لكن سرعان ما اكتشف المستخدمون أن المشكلة لا تتعلق فقط بديفيد ماير، بل شملت أسماء أخرى مثل: “برايان هود”، و”جوناثان تورلي”، و”جوناثان زيترين”، و”ديفيد فابر”، و”جويدو سكورتزا”. يبدو أيضًا أن الخدمة تتوقف عند محاولة ذكر هذه الأسماء. من المحتمل أن يكون هناك المزيد من الأسماء التي تم اكتشافها منذ ذلك الحين.
من هم هؤلاء الناس؟ ولماذا يرفض ChatGPT ذكر أسمائهم؟ ولم تستجب شركة OpenAI للاستفسارات المتكررة، في حين أزمة التكنولوجيا إجابة.
وتقول TechCrunch إنه على الرغم من أن بعض هذه الأسماء تبدو وكأنها تنتمي إلى أشخاص مختلفين، إلا أن هناك صلة محتملة بين هؤلاء الأفراد: فهم شخصيات عامة أو شبه عامة ربما طلبوا نسيان بعض المعلومات المتعلقة بهم عن طريق محركات البحث أو الذكاء الاصطناعي. نماذج.
على سبيل المثال، سرعان ما ظهر اسم بريان هود، وهو عمدة أسترالي، اتهم ChatGPT بأنه وصفه خطأً بأنه مجرم في جريمة حدثت منذ عقود، على الرغم من أنه هو من أبلغ عنها. وعلى الرغم من أن محاميه اتصلوا بـ OpenAI، إلا أنه لم يتم رفع أي دعوى قضائية. وقال هود لصحيفة سيدني مورنينج هيرالد في وقت سابق من هذا العام: “تمت إزالة المواد المخالفة وأصدروا الإصدار 4، الإصدار 3.5 محليًا”.
أما بالنسبة لبقية الأشخاص المذكورين، فإن ديفيد فابر صحفي قديم في قناة CNBC، وجوناثان تورلي محامٍ ومعلق في قناة فوكس نيوز، تعرض في نهاية عام 2023 لهجوم SWAT (أي مكالمة طوارئ كاذبة تسببت في تسليح مدجج بالسلاح) سيتم إرسال الشرطة إلى… الحالة). أما جوناثان زيترين فهو خبير قانوني تحدث على نطاق واسع عن “الحق في النسيان”، ويشغل غيدو سكورتزا منصبا في مجلس إدارة هيئة حماية البيانات الإيطالية.
وعلى الرغم من أن هؤلاء الأشخاص لا يعملون جميعًا في نفس المجال، إلا أنه يبدو أنهم جميعًا أشخاص ربما طلبوا رسميًا تقييد المعلومات المتعلقة بهم عبر الإنترنت.
وبالعودة إلى ديفيد ماير، فلا يوجد شخص بارز أو معروف بهذا الاسم، على الأقل لا يوجد محام أو صحفي أو عمدة معروف بهذا الاسم. لكن كان هناك أستاذ جامعي اسمه ديفيد ماير، متخصص في الدراما والتاريخ، وركز بحثه على الروابط بين العصر الفيكتوري المتأخر والسينما المبكرة. وتوفي ماير صيف 2023 عن عمر يناهز 94 عاما. وكان قد واجه مشاكل قانونية لسنوات قبل ذلك، حيث ارتبط اسمه بإرهابي مطلوب استخدمه كاسم مستعار، مما جعله يواجه صعوبة في السفر.
كان ماير يكافح من أجل فصل اسمه عن هذا الإرهابي ذو الذراع الواحدة، لذلك استمر في التدريس حتى سنواته الأخيرة.
وفي غياب أي تفسير رسمي من “OpenAI”، يبدو أن النموذج قد التقط قائمة بأسماء الأشخاص الذين يحتاجون إلى معاملة خاصة. سواء لأسباب قانونية أو تتعلق بالسلامة أو الخصوصية أو لأسباب أخرى، من المحتمل أن تخضع هذه الأسماء لقواعد خاصة، تمامًا كما تخضع الأسماء والهويات الأخرى. قد تكون هذه القواعد جزءًا من المعالجة اللاحقة للاستفسار التي يمر بها كل استفسار قبل الرد عليه.
على الأرجح، تعرضت إحدى هذه القوائم المحفوظة والمحدثة تلقائيًا لخلل برمجي أدى إلى توقف النموذج عن العمل عند محاولة إدراج هذه الأسماء. في حين أن هذه مجرد فرضية مبنية على ما تعلمناه، فهذه ليست المرة الأولى التي يتصرف فيها الذكاء الاصطناعي بشكل غريب بسبب تعليمات ما بعد التدريب. كما أن هذه الأسماء لم تعد محظورة نطقها في دردشة GBT الآن، ويمكنك تجربة ذلك بنفسك.
لقد تم نشر هذه المقالة. هل قمت بتجربة الأسماء المحجوبة في “GBT Chat”؟ لأول مرة على الوئام.
لمطالعة المزيد: موقع السفير وللتواصل تابعنا علي فيسبوك الدبلوماسي اليوم و يوتيوب الدبلوماسي اليوم.