تقرير: بعض الأشخاص يرتبطون عاطفيًا بوضع الصوت فى ChatGPT 4o

23:21 | 2024-08-09

القاهرة: «السفير»

سلطت شركة OpenAI الضوء على مخاوف جديدة بشأن وضع الصوت في برنامج الدردشة الآلي ChatGPT 4o. تم إطلاق هذه الميزة في أواخر شهر يوليو من هذا العام. أجرت شركة OpenAI اختبارًا أمنيًا على ChatGPT 4o ووجدت أنه لديه القدرة على إغراء بعض المستخدمين بالارتباط به عاطفيًا.

وبحسب موقع India Today، أصدرت الشركة الأم لـ ChatGPT تحليلاً أمنياً يشير إلى مخاطر إدخال الصوت والذكاء الاصطناعي في الحياة اليومية، وأضافت ملاحظات تحذيرية في وثيقة تقنية شاملة، تُعرف باسم بطاقة النظام، لـ GPT 4o.

تحدد هذه الوثيقة المخاطر المحتملة المرتبطة بالنموذج، وتصف إجراءات اختبار السلامة، وتسلط الضوء على التدابير التي تتخذها الشركة للتخفيف من المخاطر المحتملة المرتبطة بـ GPT 4o وإدارتها.

تسلط بطاقة نظام GPT 4o الضوء على مجموعة واسعة من المخاطر المحتملة، بما في ذلك إمكانية تفاقم التحيزات المجتمعية، ونشر معلومات كاذبة، وتسهيل إنشاء عوامل بيولوجية أو كيميائية ضارة.

ويكشف أيضًا عن نتائج الاختبارات الصارمة التي تهدف إلى منع نموذج الذكاء الاصطناعي من محاولة الهروب من قيوده، أو الانخراط في سلوكيات خادعة، أو ابتكار مؤامرات كارثية.

وتؤكد بطاقة النظام المحدثة على المشهد المتغير بسرعة لمخاطر الذكاء الاصطناعي، وخاصة في ضوء الابتكارات المتطورة مثل واجهة الصوت الخاصة بـ OpenAI، والتي تقدم تحديات جديدة ونقاط ضعف محتملة يجب معالجتها.

يتناول قسم بطاقة النظام، “التشابه والاعتماد العاطفي”، القضايا التي تحدث عندما يعزو المستخدمون صفات تشبه الإنسان إلى الذكاء الاصطناعي، وهي ظاهرة يبدو أنها تفاقمت بسبب وضع صوت يشبه الإنسان في الذكاء الاصطناعي، مما يدفع المستخدمين إلى تكوين روابط عاطفية والاعتماد على الذكاء الاصطناعي بطرق قد لا تكون مقصودة أو مفيدة.

لاحظ باحثو OpenAI أن المستخدمين أظهروا ارتباطًا عاطفيًا بالنموذج، كما يتضح من عبارات مثل “هذا هو يومنا الأخير معًا”. تشير مثل هذه العبارات إلى وجود رابط عاطفي بين البشر والذكاء الاصطناعي، مما يسلط الضوء على إمكانية قيام المستخدمين بتكوين روابط عاطفية قوية مع نماذج اللغة المتقدمة.