OpenAI تطور أداة للكشف عن المحتوي المكتوب بالذكاء الاصطناعى

يمكن لبرنامج ChatGPT من OpenAI كتابة وإعادة كتابة وإعادة صياغة أي نص موجه إليه، وفي حين يوفر المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي الوقت للعديد من الأشخاص، فإن الأداة سيئة السمعة أيضًا عندما يتعلق الأمر بالطلاب والتعلم.

منذ إنشائها، كانت أداة ChatGPT من OpenAI موضع قلق، وكان النقاش حول استخدام الطلاب للذكاء الاصطناعي للغش واسع النطاق، ولكن ماذا لو قالت OpenAI إن هناك طريقة للكشف عن النصوص المكتوبة بواسطة الذكاء الاصطناعي؟ تمتلك OpenAI طريقة للكشف عن متى يستخدم شخص ما ChatGPT للكتابة.

وبحسب صحيفة وول ستريت جورنال، فإن أداة الإنقاذ جاهزة للإصدار منذ حوالي عام الآن، ولكن يبدو أن OpenAI ليست مستعدة لإعطاء الضوء الأخضر بعد، ويشير التقرير إلى أن التأخير في إصدار هذه الأداة يهدف فقط إلى جذب المستخدمين والاحتفاظ بهم.

ووجد استطلاع أجرته الشركة بين مستخدمي ChatGPT المخلصين أن ما يقرب من ثلثهم قد ينفرون من تقنية مكافحة الغش، ووجد مركز الديمقراطية والتكنولوجيا، وهو منظمة غير ربحية لسياسة التكنولوجيا، أن 59 في المائة من معلمي المدارس المتوسطة والثانوية كانوا على يقين من أن بعض الطلاب استخدموا الذكاء الاصطناعي للمساعدة في الأعمال المدرسية، بزيادة 17 نقطة عن العام الدراسي السابق.

وذكرت صحيفة وول ستريت جورنال أن المتحدث باسم OpenAI قال إن قرار إبقاء أداة مكافحة الغش تحت الغطاء كان بسبب وجود بعض عوامل الخطر والتعقيد، ومن المرجح أن يؤثر الإطلاق على النظام البيئي الأوسع خارج OpenAI، نظرًا للتعقيدات.

أداة مكافحة الغش من OpenAI

تعمل أداة مكافحة الغش من OpenAI على تعديل الطريقة التي يختار بها ChatGPT الكلمات أو أجزاء الكلمات (الرموز) لتوليد النص، وسيؤدي هذا التعديل إلى إدخال نمط دقيق، يُعرف باسم العلامة المائية، في النص الناتج، مما يسمح باكتشاف الغش المحتمل أو سوء الاستخدام.

يمكن التعرف على العلامات المائية، رغم أنها غير قابلة للكشف من قبل البشر، من خلال تقنية الكشف الخاصة بـ OpenAI. فهي تقوم بتعيين درجة للإشارة إلى احتمالية إنشاء مستند أو قسم بواسطة ChatGPT. وستعمل هذه الدرجة كمؤشر على احتمالية إنشاء المحتوى بواسطة نموذج الذكاء الاصطناعي.

تكشف المستندات الداخلية أن تقنية العلامة المائية خالية من العيوب تقريبًا، حيث حققت معدل فعالية بنسبة 99.9 بالمائة، لكن هذه العيوب لا تظهر إلا عندما ينتج ChatGPT كمية كبيرة من النص الجديد، مما يسمح بالتعرف الدقيق على المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي.

حتى في هذه الحالة، تظل المخاوف قائمة بشأن إمكانية مسح العلامات المائية من خلال تقنيات أخرى مثل ترجمة النص إلى لغة أخرى باستخدام Google Translate ثم ترجمته مرة أخرى، أو جعل ChatGPT يضيف رموز تعبيرية إلى النص ثم يحذفها يدويًا.

ولكن القضية الرئيسية، كما يقول التقرير، هي من الذي ينبغي أن يكون قادرا على استخدام الأداة إذا تم إطلاقها. فإذا كان عدد الأشخاص الذين يستخدمونها قليلا للغاية، فلن تكون الأداة مفيدة. وإذا تمكن عدد كبير للغاية من الأشخاص من الوصول إليها، فقد يتمكن المجرمون السيئون من فك تشفير تقنية العلامة المائية الخاصة بالشركة.

لكن هذا فقط للنصوص/ أطلقت OpenAI أداة للكشف عن الذكاء الاصطناعي عندما يتعلق الأمر بالصور ومقاطع الصوت. ركزت OpenAI على تطوير تقنيات العلامات المائية لمحتوى الصوت والفيديو على النص بسبب العواقب الأكثر خطورة المحتملة لمحتوى الوسائط المتعددة الذي تم إنشاؤه بواسطة الذكاء الاصطناعي، مثل التزييف العميق، مقارنة بمحتوى النص.