التزييف العميق.. جريمة جديدة ترتكبها أذرع الذكاء الاصطناعي

كيف سيكون رد فعلك إذا فوجئت بالظهور في تقرير فيديو على إحدى القنوات التلفزيونية دون أن تعرف شيئًا عنه، أو حتى استخدام صوتك ووجهك لمحتوى مجهول؟ ماذا لو رأيت نفسك تسير في شوارع بلد لم تزره من قبل؟

العقل والمنطق يرفضان هذه الأسئلة لاستحالة حدوثها، لكن في عصر التقنيات المتقدمة لا يوجد مستحيل. إذ أصبحت نبرة صوتك وملامح وجهك وتعبيراتك أهدافًا سهلة لتقنيات وخوارزميات “التزييف العميق”، بقدراتها التي تطمس الخطوط الفاصلة بين الواقع والتلفيق.

وفي هذا التحقيق يكشف “الخليج” عن أشهر مواقع التزييف، ويستعين بالخبراء للتعرف على هذا العالم المعقد وتداعياته وآثاره الاجتماعية، فضلاً عن استراتيجيات الوقاية منه.

منذ سنوات قليلة انتشرت تقنية التزييف العميق، إلا أنها انتشرت بسرعة كبيرة بما يتناسب مع سرعة التطور التكنولوجي الذي يشهده عالمنا الآن، وتكشف الأرقام والإحصائيات الحديثة عن الاستخدام الكبير لتطبيقات التزييف العميق على مستوى العالم؛ حيث بلغ إجمالي الاستثمار في تقنياتها ما يقارب 200 مليون دولار عام 2022، بحسب تقرير “باتش بوك”، وتصدرت شركة “رانواي” الأمريكية قائمة المستفيدين من تمويل التكنولوجيا الوهمية العميقة.

يعد تطبيق Deep Swap من أشهر تطبيقات التزييف العميق المستخدمة. لديه أكثر من 150 مليون مستخدم نشط، وينافسه Face Magic، الذي تم تنزيله 100 مليون مرة في عام 2022.

ويرى خبراء الذكاء الاصطناعي أن تقنية Deepfake هي تطور طبيعي لتقنيات الذكاء الاصطناعي، ولها العديد من الجوانب الإيجابية والمفيدة، عند توظيفها بشكل صحيح، محذرين من انتشارها في المجتمعات دون ضوابط وتشريعات مشددة، مما يسبب مخاطر وعواقب جسيمة تضر المجتمع، الأفراد والمؤسسات.

بينما يؤكد خبراء في مجال أمن المعلومات على أهمية التطوير المستمر في وسائل الأمن السيبراني، لمواجهة عمليات الهاكرز الذين يعتمدون في اختراقاتهم وهجماتهم على تقنيات التزييف العميق للسيطرة على الشبكات والشركات، معتبرين أن ممارسات الأمن السيبراني الأساسية حاسمة في تخفيف المخاطر.

من ناحية أخرى، أكدت شريحة مختارة من المجتمع من مختلف الفئات وعيها بجرائم سرقة الصور وصناعة الفيديوهات المفبركة، لكن رغم ذلك لا تعرف ما هو التزوير العميق وتقنياته وآثاره وأبعاده ووسائله. واقتصرت الحماية على إخفاء صورهم على مواقع التواصل الاجتماعي، وحجب الكاميرا في الهواتف وأجهزة الكمبيوتر.

أما المختصون بالقانون، فيؤكدون أن هذه التطورات يجب أن تقابلها تطورات تشريعية مماثلة في مواد القانون وتشديد العقوبات للحد من التجاوزات والجرائم التي قد تجلبها تقنيات الذكاء الاصطناعي.

محتوى خادع

البداية كانت وقفة لـ«الخليج» بما هو عليه التزييف العميق، الذي يتضمن مجموعة من التقنيات المتقدمة وخوارزميات الذكاء الاصطناعي (AI) للتعامل مع مقاطع الفيديو الحقيقية، واستبدال صورة شخص بآخر، لخلق خادعة ومحتوى ملفق للغاية، ويمكن استخدامه لأغراض ترفيهية غير ضارة، وأيضًا لأغراض ضارة، مثل إنشاء أخبار مزيفة، ونشر الدعاية والمعلومات المضللة، أو التلاعب بالتصورات، أو التشهير بالأفراد والشخصيات.

تشمل بعض الأشكال البارزة من التزييف العميق التلاعب بالصوت، وإنشاء ونشر نص مزيف بأسماء الأشخاص على وسائل التواصل الاجتماعي بغرض التشهير والإضرار بالسمعة، وتحرير الصور، والتضليل الوبائي، وتقويض الثقة، والتلاعب السياسي.

الأبعاد والمخاطر

يوضح الدكتور محمد عبد الظاهر، أستاذ الإعلام والذكاء الاصطناعي، الرئيس التنفيذي لمؤسسة صحافة الذكاء الاصطناعي، أبعاد مخاطر التزييف العميق، والمناطق الأكثر استهدافًا، ومدى تأثيرها عليها، حيث تستهدف الأفراد والمجالات المؤسسات، وتمتد تداعياتها إلى 6 قطاعات متنوعة، أبرزها الصحافة والإعلام، حيث تقوض تقنية التزييف العميق مصداقية الصحافة من خلال طمس الخط الفاصل بين التقارير الحقيقية والمحتوى المفبرك.

وأضاف أن التزييف العميق يؤثر سلبًا على صناعة الترفيه؛ إنه يغير المناظر الطبيعية ويتلاعب بالواقع الإبداعي للترفيه، ويمكن أن يؤدي التلاعب بالأدلة الصوتية أو المرئية إلى الإضرار بالإجراءات القانونية، وإعاقة السعي لتحقيق العدالة، ويؤدي المحتوى المزيف الذي يشوه سمعة المنتجات أو العلامات التجارية إلى خسائر مالية وأضرار بالسمعة، وينبه إلى الأضرار السياسية لذلك التزييف قد يضر بالدول والدبلوماسيين، أما أهم الأضرار الاجتماعية فهي تلك التي تركز على سرقة الهوية والاحتيال، مثل الصور التي نشرت مؤخرا لاعتقال الرئيس الأمريكي السابق دونالد ترامب، وحذرت منها صحيفة “واشنطن بوست” الأمريكية .

فوائد الاستخدام

أفاد د. محمد عبد الظاهر، أنه كما أن هناك مخاطر لاستخدام تقنيات التزييف العميق، فإن لها أيضًا فوائد. وفي مجال التصوير السينمائي وصناعة الأفلام، يمكن لهذه التقنية أن تساعد في إنشاء وتصوير المشاهد الأكثر صعوبة بسهولة، وبتكلفة أقل، وبإتقان أكبر، كما أنها تقلل من الوقت اللازم للتصوير، وهذا بالتالي تقلل من تكاليف الإنتاج و يزيد من الأرباح.

وأشار إلى أن هذه التقنيات ستكون حاضرة بقوة في مجال التسويق. أما بالنسبة للإعلام، فإن استخدام هذه التقنيات يمكّن الإعلامي من تصوير المذيع على أنه من يقدم نشرة الأخبار، بينما هو في الواقع في إجازة مرضية مثلاً، أو غير قادر على أداء عمله. معتبرا أن هذه التقنيات تشكل مستقبل المحتوى ويمكن استخدامها بشكل واسع وإيجابي بعيدا عن صناعة الأخبار المزيفة وبطريقة مسؤولة ومفيدة.

التعلم الالي

ويتحدث الدكتور طلال شيخ، الأستاذ المشارك ومدير الدراسات الجامعية لكلية الرياضيات وعلوم الكمبيوتر بجامعة هيريوت وات دبي، عن آليات عمل هذه التقنيات، قائلاً إنه يتم استخدام نموذجين للتعلم الآلي في توليد التزييف العميق، أحدهما منها يستخدم مجموعة من مقاطع الفيديو لإنشاء مقاطع فيديو مزيفة، بينما يحاول الآخر معرفة ما إذا كان الفيديو مزيفًا أم لا، وعندما يتعذر على هذا النموذج اكتشاف المزيف، فمن المحتمل أن المشاهد البشري لن يتمكن من ذلك أقول أي واحد.

وأوضح أن أهم المخاطر في ظهور تقنيات التزييف العميق، مع ما يصاحبها من افتراءات عالية الجودة، تكمن في مجموعة متنوعة من الاستخدامات الخبيثة مع احتمال تهديد أمننا أو حتى التلاعب والإضرار بسلامة العديد من القرارات الاستراتيجية. عبر البلدان، حيث يتم استخدامها غالبًا لتلفيق الادعاءات ونشر الدعاية. وعندما تصبح مقاطع الفيديو المزيفة شائعة، يميل الناس إلى تداولها ونشرها دون النظر إلى العواقب الوخيمة.

أنماط جديدة

أفاد د. طلال شيخ، أن هناك عدداً من الأساليب الجديدة التي تسهل الآن على صانعي الفيديو الموافقة على المحتوى الخاص بهم وعملهم، ويمكن استخدام تقنية التشفير لإضافة “التجزئة” على فترات زمنية محددة مسبقاً طوال الفيديو، ومن الممكن إنشاء بصمة رقمية غير قابلة للتغيير لمقاطع الفيديو.

وشدد الأستاذ المشارك في جامعة هيريوت وات دبي على أن التكنولوجيا ليست هي السبيل الوحيد للحماية من التزوير العميق، وأن الأساليب الأمنية الأساسية هي الركيزة الأساسية لمكافحة هذا النوع من التزوير، بالإضافة إلى أهمية تثقيف المجتمع بمختلف فئاته في هذا المجال. بطريقة عملية، لتمكينهم من التعامل مع الذكاء الاصطناعي وما ينتجه. حالات التزييف العميق، والقدرة على التمييز بين المحتوى الحقيقي والمفبرك من خلال مهارات بسيطة وأسس ثابتة.

مزيد من التعليم

وفي لقاء مع شريحة مجتمعية ضمت سعيد الطنيجي، ومحمد عصام، وشما حمد، وأماني عبدالله، أكدوا انتشار ظاهرة سرقة الصور وصنع فيديوهات مفبركة باستخدام التقنيات الحديثة والذكاء الاصطناعي في الفترة الأخيرة، مشيرين إلى وخلصوا إلى أنه ليس لديهم طريقة للحماية أفضل من عدم استخدام الصور الشخصية على مواقع التواصل الاجتماعي، المخفية على الهواتف الذكية وعدم تمكين الكاميرا على أجهزة الكمبيوتر.

وأشاروا إلى أنهم لا يملكون أي معرفة بالتزوير العميق، إضافة إلى قدرتهم المتواضعة على مواجهة هذه التقنيات، حيث أن مكوناتها وآليات استخدامها غير معروفة لهم، ويكفيهم اتباع توجيهات الجهات المعنية. عند التعرض لجرائم إلكترونية أو أضرار تزوير عميقة.

استراتيجيات الوقاية

وفي النهاية اتفقت آراء الخبراء والمتخصصين على أهمية وضع 5 استراتيجيات للوقاية؛ حيث أن معالجة تهديد التزييف العميق يتطلب نهجا شاملا يركز على الاستفادة من التكنولوجيا ومحو الأمية الإعلامية والتنظيم، مع تركيز الباحثين على تطوير خوارزميات الذكاء الاصطناعي التي يمكنها اكتشاف التزييف العميق، مما يساعد على تحديد المحتوى المزيف، وهنا ستعمل تقنيات المكافحة يكون رادعًا يجعل من الصعب اكتشاف وإيجاد فرص لإنشاء محتوى مزيف.

وشددوا على أهمية محو الأمية الإعلامية؛ تلعب حملات التثقيف والتوعية دوراً حيوياً في تمكين الأفراد من تقييم المحتوى بشكل نقدي، وفي تعليم أفراد المجتمع كيفية تحديد نقاط التلاعب والتعامل معها، بالإضافة إلى ضرورة توفير منصات للتحقق من صحة المعلومات، على أن تكون أدوات التحقق يتم دمجها التي تقيم مصداقية المحتوى قبل نشره، وتشجع المبدعين على تقييم محتواهم والإشارة إلى ما إذا كان قد تم التلاعب به لتحسين الشفافية والمساءلة.

فرق التكلفة

تختلف تكلفة إنشاء تقنية التزييف العميق اختلافًا كبيرًا عن التقنيات الأخرى، بناءً على عوامل مثل مدى تعقيد المعالجة، وجودة النتائج المطلوبة، والأدوات والتقنيات المستخدمة. قد لا تقتصر التكلفة على إنشاء تقنية التزييف العميق نفسها؛ ويشمل أيضًا تطوير التكنولوجيا والأبحاث الأساسية لتحسين دقتها وموثوقيتها.

الإهانات والمضايقات

تم استخدام تقنيات التزوير العميق في بداية ظهورها للترفيه عن النجوم أو السخرية منهم، وكان من السهل معرفة الفيديو الحقيقي من المزيف لعدم الواقعية، وعندما تطورت وانتشرت تسببت في العديد من حالات التحريف والاتهامات من النساء في مجال الصحافة مشاهد غير أخلاقية في الهند وبعض الدول العام الماضي، واستمرت محاولات نشر الأكاذيب الموثقة بالفيديوهات، كما ارتفعت نسبة الإهانات والتحرشات عبر الإنترنت بشكل ملحوظ.

ماذا تفعل؟

بتوجيهات من الفريق سمو الشيخ سيف بن زايد آل نهيان، نائب رئيس مجلس الوزراء وزير الداخلية، تم وضع خطة للحفاظ على جودة الحياة الرقمية بالتعاون مع وزارة الداخلية، البرنامج الوطني للسعادة وجودة الحياة وهيئة تنظيم الاتصالات لتقديم النصح والمشورة، ولكل من يتعرض للتزييف العميق التواصل مع الجهات المعنية عبر الرقم المجاني (80091).

أهمية التشريع

وأكدت المستشارة القانونية مها الجسمي على أهمية التشريعات لمواجهة التحديات المعقدة التي تفرضها تقنية التزييف العميق، حيث تجرم القوانين إنشاء وتوزيع محتوى مزيف أو تم التلاعب به بقصد خبيث، كما تحدد مسؤولية المنصات والأفراد المشاركين في التصنيع أو النشر. من المحتوى الملفق.

وأشارت إلى أهمية التشريعات لحماية الحقوق؛ حيث أن الأطر القانونية تحمي حقوق الأفراد، وتضمن عدم استغلال صورهم وهوياتهم لأغراض شائنة، بالإضافة إلى أهمية التعاون على المستوى العالمي وتضافر جهود الحكومات للتصدي لهذه الانتهاكات المتوقعة بسبب التزييف العميق. التقنيات. وذكرت أن أي تطور تكنولوجي يجب أن يقابله تحديثات وتطورات في مواد القانون، لردع المخالفين والحد من المخاطر والتجاوزات المتوقعة، معتبرة أن التزوير العميق هو نتيجة طبيعية لتطورات الذكاء الاصطناعي المتلاحقة خلال السنوات القليلة الماضية.