عصر المحتوى المزيّف بـ’القمامة الذكية’

تمهيد

نعيش اليوم في عصر يختلط فيه الحقيقي بالمزيّف بطريقة لم تشهدها البشرية من قبل. مقطع ڤيديو يُظهر قططاً تؤدّي حركات بهلوانية مستحيلة يحصد مئات الملايين من المشاهدات، صور دينية مزيّفة تجمع ملايين التعليقات والإعجابات، وأغان كاملة تُنتج بواسطة الذكاء الاصطناعي تصل إلى قوائم الاستماع العالمية. هذه ليست مجرّد حوادث معزولة، بل جزء من ظاهرة واسعة تُعرف بـ”القمامة الذكية” أو AI Slop – وهي سيل من المحتوى المزيّف الذي يغرق منصّات التواصل الاجتماعي ويعيد تشكيل طبيعة التفاعل الرقمي نفسه.

مع فتحة تطبيقات الذكاء الاصطناعي الجديدة، الإنترنت الذي وُعدنا بأنّه سيكون نافذة لا متناهية على المعرفة والمعلومات الموثوقة، يتحوّل بسرعة مخيفة إلى متاهة من الأكاذيب المصمّمة بعناية لخداع الخوارزميات وجني الأرباح السريعة. أربعة من أكثر عشرين منشوراً مشاهدة على فيسبوك في خريف عام 2024 كانت من إنتاج الذكاء الاصطناعي، مقارنة بصفر في العام السابق. هذا التحوّل الجذري لا يهدّد مصداقية المعلومات فحسب، بل يطرح تساؤلات وجودية حول مستقبل التواصل البشري في العصر الرقمي.

طبيعة الوحش الرقمي الجديد

مصطلح “قمامة الذكاء الاصطناعي” AI Slop يمثّل تطوّراً شديد الْخَطَر لمفهوم البريد المزعج SPAM التقليدي. هذا المحتوى منخفض الجودة يُنتَج بكمّيات هائلة باستخدام تقنيات الذكاء الاصطناعي، ويُصمم خصيصاً للحصول على مشاركة واسعة ومشاهدات عالية دون تقديم أي قيمة حقيقية للمستخدمين. الأشكال متنوّعة ومتطوّرة: من الصور الثابتة إلى مقاطع الڤيديو والموسيقى والمقالات الكاملة.

صورة “يسوع المصنوع من الجمبري” مثال صارخ على هذه الظاهرة. حقّقت هذه الصورة المزيّفة مئات الملايين من التفاعلات على فيسبوك، وعلّق المستخدمون تحتها بكلمة “آمين” دون إدراك أنّها مولّدة بالكامل بواسطة الذكاء الاصطناعي. في حالة أخرى، انتشرت مقاطع ڤيديو مزيّفة تُظهر البابا فرانسيس وهو يرتدي معطفاً أنيقاً من بالنسياگا، خدعت الملايين قبل كشف زيفها.

الموسيقى أيضاً لم تسلم من هذا الطوفان. فرقة Velvet Sundown الوهمية أصدرت ألبومين كاملين في غضون شهرين فقط باستخدام الذكاء الاصطناعي، ووصلت إلى أكثر من مليون مستمع شهريّاً على سپوتيفاي قبل اكتشاف طبيعتها المزيّفة. الأرقام مذهلة ومخيفة في آن: صورة مروحة سرير وهمية حصلت على 35 مليون مشاهدة، صورة “حصان الخبز” حقّقت 50 مليون مشاهدة، وحتّى أنّ مارك زوكربيرگ نفسه تفاعل مع هذا المحتوى المزيّف على حسابه الشخصي.

هذه الأرقام ليست مجرّد إحصائيّات باردة، بل تفضح تحوّلاً جذريّاً في طبيعة المحتوى الذي نستهلكه يوميّاً. خوارزميّات المنصّات الاجتماعية تفضّل المحتوى الذي يحقّق تفاعلاً عالياً بغضّ النظر عن مصدره أو صحّته، والمحتوى المزيّف مُصمم تحديداً لتحقيق هذا الهدف بأقصى كفاءة ممكنة.

مصنع الزيف:
كيف يُصنع هذا المحتوى؟

عملية إنتاج المحتوى المزيّف أصبحت بسيطة لدرجة مرعبة. تتطلّب العملية ثلاث خطوات أساسية فقط: إنشاء حساب، إنتاج المحتوى، ثم تحقيق الربح. منصّات مثل Ideogram 2.0 تمكّن المستخدمين من إنتاج صور عالية الجودة مقابل 7-8 دولارات شهريّاً فقط، أدوات مثل Neural Frames و Suno AI تقدّم إمكانات لإنتاج مقاطع ڤيديو وموسيقى احترافية بسهولة مذهلة.

باتت التقنية في متناول الجميع تماماً. لا تحتاج إلى مهارات تقنية معقّدة أو خبرة في التصميم – فقط كتابة وصف نصّي والضغط على زر، وخلال ثوانٍ معدودة تحصل على محتوى قابل للنشر والانتشار. توفّر هذه المنصّات حتّى قوالب جاهزة مثل خلفيّات لعبة Subway Surfers لتسريع عملية الإنتاج وضمان الجودة البصرية.

الأمر لا يتوقّف عند الأدوات التقنية وحدها. إذ نشأت صناعة كاملة ومربحة لتعليم إنتاج المحتوى المزيّف. دورات تدريبية تُباع بـ17.99 دولار تحت عناوين مثل “أسرار صناعة مقاطع القطط الڤيروسية”، “خبراء” آخرون يبيعون أسرارهم مقابل مئات الدولارات. وتغطّي هذه الدورات كل شيء من استراتيجيّات بناء المتابعين إلى شراء حسابات جاهزة بقواعد متابعين موجودة، وحتى تقنيات التلاعب بالخوارزميات.

مايكل سميث يمثل مثالاً صارخاً على خطورة هذه الصناعة. هذا الرجل، الذي حُكم عليه بالسجن في عام 2024، أنتج خلال سبع سنوات “مئات الآلاف” من الأغاني المزيّفة باستخدام الذكاء الاصطناعي، وحقّق أكثر من 10 ملايين دولار من عائدات الاستماع المزيّفة. استخدم آلاف الحسابات الوهمية لتشغيل الأغاني مليارات المرات، في أوّل قضية جنائية موثّقة تتعلق بالاحتيال في الموسيقى المولّدة بالذكاء الاصطناعي.

التطوّر السريع في هذا المجال مذهل ومخيف. فرقة Velvet Sundown الوهمية أنتجت أكثر من ألبومين في غضون أسابيع قليلة بدلاً من السنوات التي تتطلّبها العملية الإبداعية التقليدية. القوالب والتطبيقات الحديثة تمكّن المستخدمين من إنتاج “عشرات مقاطع الڤيديو يوميّاً” باستخدام نفس الأسلوب والتقنيات. يستحيل تحقيق هذا المعدل الإنتاجي الهائل مع الإبداع البشري التقليدي.

الذهب الرقمي:
الدوافع الاقتصادية وراء الظاهرة

خلف هذا الطوفان من المحتوى المزيّف تكمن دوافع اقتصادية قوية تجعل هذه الصناعة مربحة جدّاً، خاصّة للمبدعين في الدول النامية. منصّات التواصل الاجتماعي تدفع مقابل المحتوى الڤيروسي بمعدّلات مغرية: فيسبوك يدفع حوالي 100 دولار مقابل كل ألف إعجاب، تيك توك يدفع من 400 إلى ألف دولار مقابل كل مليون مشاهدة في برنامجه الجديد للمكافآت.

هذه المبالغ قد تبدو متواضعة للمقيمين في الدول المتقدّمة، لكنّها تحقّق قوّة شرائية هائلة في البلدان ذات تكلفة المعيشة المنخفضة. صانع محتوى واحد حقّق أكثر من 5500 دولار شهريّاً من تيك توك وحده، وهو مبلغ يعادل راتب عدّة أشهر في دول مثل ڤييتنام أو إندونيسيا أو پاكستان.

تتركّز العمليّات بشكل أساسي في الهند وتايلاند وڤييتنام وإندونيسيا وپاكستان. هذا التوزيع الجغرافي غير عشوائي، بل نتيجة حسابات اقتصادية دقيقة. الدولار الواحد المكتسب من الإعلانات الأمريكية يحقّق قوّة شرائية تفوق قيمته الأصلية بـ10-50 مرّة في هذه البلدان، ممّا يخلق حافزاً اقتصاديّاً قويّاً جداً.

يستهدف المبدعون تحديداً الجماهير الأمريكية لأنّ معدّلات الإعلانات أعلى بكثير من أيّ مكان آخر في العالم. كما يوضح إحدى المبدعين في هذا المجال: “عندما يأتي الترافيك من الولايات المتّحدة، ستكون معدّلات CPM عالية جداً، لذا حتى مع مشاهدات أقل، الدخل المحقّق سيكون أعلى بكثير”.

فيسبوك ومنصّات ميتا الأخرى تؤدّي دوراً محوريّاً في تمكين هذه الظاهرة. في عام 2024، غيّرت الشركة خوارزميّتها لتُظهر ثلث المحتوى من حسابات لا يتابعها المستخدم، معتمدة على الاهتمامات المفترضة بدلاً من العلاقات الاجتماعية الحقيقية. ميتا تشجع أيضاً استخدام أدوات الذكاء الاصطناعي في منصّاتها، بل وتدفع للمبدعين في البلدان النامية مقابل المحتوى المولّد بالذكاء الاصطناعي.

هذا التحوّل في السياسات ليس صدفة أو خطأ. في أيّار مايو 2024، تحوّلت ميتا من سياسة حذف المحتوى المزيّف إلى مجرّد وضع تصنيفات عليه، ممّا يحافظ على إمكانية تحقيق الأرباح منه. هذا التغيير جاء بعد انتقادات من مجلس الرقابة بأنّ السياسات السابقة كانت “ضيّقة جدّاً” وتؤثّر على حرية التعبير.

دماء تحت مذبح عالم مزيّف

يتجاوز تأثير المحتوى المزيّف مجرّد إزعاج المستخدمين ليصل إلى أضرار حقيقية وملموسة تمس حياة الناس وسلامة المعلومات بطرق لم نتوقعها. پنترست Pinterest أصبحت “غير قابلة للاستخدام” حَسَبَ تقارير إعلامية متعدّدة، إذ غُرقت المنصّة بصور مزيّفة تصعّب جداً العثور على محتوى حقيقي ومفيد. البحث عن “أفكار وصفات صحّية” يُظهر ستّة من أوّل اثنتي عشرة نتيجة صور مزيّفة، معظمها يوصل إلى مواقع مزيفة مصمّمة فقط لتحقيق عائدات إعلانية.

مستخدمة محبطة تعلّق على هذا الوضع: “كنت أبحث عن إلهام لألوان الشعر وخرجت النتائج كلّها بالذكاء الاصطناعي. لم أتمكّن من العثور على إنسان واحد حقيقي!” هذا التعليق يلخّص معاناة ملايين المستخدمين الذين يجدون أنفسهم يتصفّحون محيطاً من المحتوى المزيّف بحثاً عن قطرة حقيقة.

في عالم الأخبار، الوضع أكثر خطورة. مقاطع ڤيديو إخبارية مزيّفة مدتها 37 دقيقة حقّقت ملايين المشاهدات قبل كشف زيفها. مذيعون مزيّفون بالذكاء الاصطناعي ينشرون قصصاً قضائية كاذبة حول شخصيّات سياسية، نظريّات مؤامرة تنتشر ناراً في الهشيم دون أيّ أساس من الصحّة. ڤيديو واحد عن زلزال مزعوم في روسيا حقّق 3.7 مليون مشاهدة قبل كشف كونه مزيّفاً بالكامل.

في أثناء حرائق لوس أنجلوس في كانون ثاني يناير 2025، انتشرت صور مزيفة تُظهر لافتة هوليوود وهي تحترق، مما أثار ذعراً واسعاً بين السكّان والسيّاح. خلال 24 ساعة فقط من بداية الحرائق الحقيقية، ظهرت الصور المزيفة وانتشرت بسرعة البرق عبر جميع المنصّات. تلقّى {جيف زارينام}، رئيس أمانة لافتة هوليوود، مكالمات “لا تُحصى” من أشخاص قلقين يعتقدون أنّ المعَلَم الشهير محترق، برغم أنّه كان آمناً تماماً. هذه الصور المزيفة أجبرت فرق الطوارئ على صرف موارد ثمينة لتفنيد الشائعات بدلاً من التركيز على مواجهة الكارثة الحقيقية.

الضرر الشخصي والاجتماعي مدمّر بطرق لا يمكن إصلاحها. {تايلور سويفت} كانت ضحية لصور إباحية مزيّفة شاهدها أكثر من 45 مليون شخص قبل حذفها، لكنّ الضرر النفسي والاجتماعي كان قد وقع بالفعل. كما اكتشفت الشاعرة البريطانية {هيلين مورت} صوراً إباحية مزيّفة لها على الإنترنت، أُنتجت من صور شخصية بريئة من عطلتها مع عائلتها. تصف تأثير هذه الصدمة بكلمات مؤلمة: “تشعرين بالعجز التام، كأنّك تُوضعين في مكانك، تُعاقبين لكونك امرأة لها صوت عام”.

في المدارس، الأضرار كارثية ومنتشرة. أكثر من 900 طالب ومدرّس في المدارس الكورية الجنوبية وقعوا ضحايا لجرائم الجنس المزيّفة بين كانون ثاني يناير وتشرين ثاني نوڤمبر 2024. أكثر من 500 مدرسة وجامعة تعرضت لهجمات منسّقة، 60% من ضحايا جرائم الجنس المزيّفة كانوا قُصّراً. والأسوأ من ذلك أنّ أكثر من 80% من المعتقلين كانوا مراهقين، ممّا يعني أنّ الطلّاب يستهدفون زملاءهم في حرب رقمية مدمّرة.

تشهد المحامية الأسرية {ميشيل أونيل} على “زيادة حقيقية ومقلقة” في الأدلّة المزيّفة في قضايا الطلاق والحضانة. يواجه العملاء ذوو الموارد المحدودة “تكاليف إضافية باهظة لمحاولة دحض صور وڤيديوهات الديپ فيك” في المحكمة. حالات موثقة تشمل إباحية انتقامية مزيّفة تُستخدم دليل، ومقاطع ڤيديو مزيّفة تُظهر إساءة معاملة أطفال للتأثير على قرارات الحضانة.

في المنطقة العربية، تكتسب هذه التقنيات خطورة مضاعفة بسبب السياق الاجتماعي المحافظ والتقاليد المتجذّرة حول “شرف العائلة” وبعض التقبّل الاجتماعي لـ “جرائم الشرف”. تواجه النساء في المجتمعات العربية المحافظة خطر الوقوع ضحايا للعنف الأسري أو حتى جرائم الشرف بسبب مجرّد شائعات أو اتّهامات كاذبة، فما بالك عندما تصبح هذه الاتّهامات مدعومة بـ”أدلّة” بصرية مزيّفة لكنّها مقنعة؟

في لبنان، تعرّضت {فاطمة دبس} البالغة من العمر خمسة عشر عاماً للابتزاز الإلكتروني من طريق إنشاء حسابات مزيفة تحمل صورها ومعلوماتها الشخصية مع “عبارات غير لائقة اجتماعيّاً”. ردّة فعل عائلتها كانت اتّهامها بـ”تشويه سمعة العائلة”، فضربوها وأهانوها وحرموها من المدرسة وحبسوها في المنزل سنة كاملة، ثم أجبروها على الزواج من ابن عمّها “للتستّر على الفضيحة”. توضح هذه الحالة كيف يمكن للمحتوى المزيّف أن يدمّر حياة فتاة بريئة حتى لو لم يكن مولّداً بالذكاء الاصطناعي.

الخطر الحقيقي يكمن في أنّ تقنيات الذكاء الاصطناعي المتطوّرة ستجعل هذا النوع من التلاعب أسهل وأكثر إقناعاً. في پاكستان، التي تشترك مع البلدان العربية في كثير من القيم الاجتماعية المحافظة، “مئات النساء يُقتلن كل عام – غالباً على يد عائلاتهن – بتهمة تشويه شرف العائلة”. تخيّل كيف ستصبح الأمور عندما يتمكّن أي شخص من إنتاج “دليل” مزيّف يُظهر امرأة في وضعية “مشبوهة” أو “غير لائقة” بضغطة زر واحدة.

في لبنان، 80% من شكاوى الابتزاز الإلكتروني تطال النساء، وترتفع نسبة القاصرات اللّواتي يتعرّضن للابتزاز. هذه الأرقام مرعبة حتّى مع التقنيات البدائية الحالية، فكيف ستكون عندما تصبح تقنيات الديپ فيك متاحة بسهولة ومجّاناً؟ يحذّر الخبراء من أنّ البلدان العربية قد تشهد موجة من جرائم الشرف المدفوعة بـ”أدلّة” مزيّفة يصعب كشفها، خاصّة في المجتمعات ذات مستوى التعليم التقني المنخفض التي تفتقر لآليّات التحقّق من صحّة المحتوى الرقمي.

وعلى جانب آخر، التأثير البيئي هائل ومتجاهل من معظم الناس. إنتاج صورة واحدة بالذكاء الاصطناعي يستهلك طاقة تكفي لشحن هاتف ذكي بالكامل، إنتاج ألف صورة ينتج كربوناً يعادل قيادة سيارة بنزين لمسافة 4.1 ميل. مع مليارات الصور المزيفة المُنتجة يوميّاً حول العالم، التأثير البيئي الإجمالي مذهل ومدمّر. تضاعف استهلاك مراكز البيانات للكهرباء بين 2017-2023، مع كون الذكاء الاصطناعي المحرّك الأساسي لهذه الزيادة المخيفة.

مكافأة الكذّاب:
عندما يصبح الشكّ سلاحاً

أخطر تأثيرات عصر المحتوى المزيّف قد لا يكون المحتوى الكاذب نفسه، بل قدرة السياسيّين والمتلاعبين على استغلال وجود هذه التقنية للتشكيك في المحتوى الحقيقي. تُعرف هذه الظاهرة باسم “مكافأة الكذّاب” – وهي المنفعة التي يحصل عليها الأشخاص سيّئو النية من مجرّد وجود إمكانية التلاعب بالمحتوى، حتى لو لم يستخدموها فعليّاً.

يمثّل {دونالد ترمپ} المثال الأبرز والأوضح على هذا الاستغلال المنهجي. ادّعى زوراً وبلا أي دليل أنّ ڤيديوهات حقيقية موثّقة لهفواته العامّة كانت مولّدة بالذكاء الاصطناعي، واصفاً إيّاها بـ”إعلانات تلفزيونية مزيّفة” تستخدم “تقنيات الذكاء الاصطناعي المتطوّرة”. كما ادّعى أنّ صوراً أصيلة وموثّقة لحشود كبيرة في تجمّع {كامالا هاريس} في ديترويت كانت مولّدة بالذكاء الاصطناعي.

المفارقة الطريفة أنّ {ترمپ} ينشر في نفس الوقت محتوى مزيّفاً واضح الصنع بالذكاء الاصطناعي، بما في ذلك مقاطع ڤيديو تُظهر اعتقال {أوباما} المزيّف، مواد ترويجية سياحية مزيّفة عن غزّة، صور معدّلة لـ{تايلور سويفت} تدعمه زوراً. يُظهر هذا النهج المزدوج كيف يمكن استخدام التقنية نفسها لنشر الأكاذيب والتشكيك في الحقائق في آن واحد.

في قضايا السادس من كانون ثاني يناير، ادّعى محامو الدفاع أنّ أدلّة الڤيديو التي تُظهر موكّليهم وهم يشاركون في أعمال الشغب كانت مزيّفة، مستشهدين بڤيديو مزيّف قديم لأوباما من عام 2017 سابقة قانونية. برغم أنّ المحاكم رفضت هذه الحجج حتّى الآن، يحذّر الخبراء القانونيّون من أنّ هذه الاستراتيجية تستغلّ شكوك المحلّفين وقد تنجح في المستقبل.

ادّعت {لورا لومر} أنّ صور الحرس الوطني الكاليفورني الأصيلة، التي أكّد صحّتها البنتاگون رسميّاً، كانت مزيّفة بالذكاء الاصطناعي. خلال إعصار هيلين، شاركت صوراً مزيّفة واضحة للكارثة وادعت في نفس الوقت أنّ المحتوى الحقيقي والموثّق مزيف. يُظهر هذا النمط المتكرّر كيف يستغلّ الفاعلون السياسيّون كلّاً من نشر القمامة الذكية وتسليح الشك في الذكاء الاصطناعي ضدّ المحتوى الأصيل.

تآكل الثقة العامّة يتجاوز السياسة ليصل إلى كل جوانب الحياة. بدأ الناس في الشك في المحتوى الحقيقي خوفاً من الوقوع ضحية للمعلومات المضلّلة، ممّا يؤدّي إلى صعوبة متزايدة في التمييز بين الحقيقي والمزيّف. فقدان مرجع معلوماتي موثوق يهدّد قدرة المجتمعات على اتّخاذ قرارات جماعية مدروسة ومبنية على الحقائق.

محاولات المقاومة والتحدّيات التقنية

تحاول منصّات التواصل الاجتماعي مواجهة هذا التحدّي المتنامي، لكنّ جهودها تواجه قيوداً تقنية وعملية شديد الْخَطَر تجعلها أشبه بمحاولة إيقاف شلّال بيدين عاريتين. ميتا بدأت في أيّار مايو 2024 بوضع تصنيفات “مصنوع بالذكاء الاصطناعي” على المحتوى، لكن النظام يغطّي المقاطع الصوتية والمرئية فقط، وليس الصور – وهي أكثر أشكال المحتوى المزيّف انتشاراً وتأثيراً.

يحقّق الكشف التلقائي للمحتوى المزيّف دقّة لا تتجاوز 85-95% في أفضل الحالات المثالية، لا يتجاوز مستوى كثير من الأدوات المتاحة مستوى لعبة «طرّة نقش» بدقّة تتراوح بين 50-53%. الأسوأ من ذلك أنّ قدرة البشر العاديّين على تمييز النص المولّد بالذكاء الاصطناعي لا تتجاوز 53% – بالكاد أفضل من التخمين العشوائي.

تتطوّر “تقنية التوليد” بسرعة أكبر بكثير من تقنيات الكشف، ممّا يخلق “سباق تسلّح” مستمرّ ولا نهاية له. أدوات الكشف المدربة على نماذج ذكاء اصطناعي قديمة مثل GPT-3.5 تفشل فشلاً ذريعاً في التعامل مع الإصدارات الأحدث مثل GPT-4. تتمكّن تقنيات بسيطة ومتاحة للجميع مثل الترجمة عبر گوگل أو إعادة الصياغة الخفيفة من خداع معظم أجهزة الكشف المتطوّرة.

طبّق كلّ من يوتيوب وتيك توك سياسات لوضع تصنيفات على المحتوى المولّد بالذكاء الاصطناعي، لكنّها تعتمد بشكل كبير على الإفصاح الذاتي من المبدعين بدلاً من الكشف التلقائي الموثوق. تيك توك أصبحت أوّل منصّة ڤيديو تطبّق تقنية C2PA لقراءة البيانات الوصفية، لكن يتطلّب هذا أن تكون الأدوات المولّدة للمحتوى تُضمّن هذه البيانات في المقام الأول – وهو أمر غير مضمون أو منتشر بما فيه الكفاية.

الحلول الفردية محدودة الفعالية بشكل محبط. حظر الحسابات التي تنشر محتوى مزيف، أو استخدام خيار “غير مهتم” لتقليل ظهور هذا المحتوى، لها تأثير ضئيل جدّاً ضدّ أنظمة الخوارزميّات المعقّدة التي تقدّم المحتوى. تُظهر البحوث العلمية أنّ الإجراءات الفردية لها تأثير ضئيل أو معدوم ضدّ أنظمة توصيل المحتوى ذات الخوارزمية المتطوّرة.

عبء المراجعة اليدوية غير عملي تماماً للحجم الهائل من المحتوى المُنتج. مع إنتاج مليارات قطع المحتوى المزيّف يوميّاً، المراجعة البشرية الشاملة مستحيلة من الناحية اللّوجستية والاقتصادية. تعتمد المنصّات على أنظمة آلية معيبة أو على تقارير المستخدمين التي تأتي متأخّرة جدّاً بعد انتشار المحتوى وتحقيق الضرّر المطلوب.

دليل البقاء في عصر الخداع الرقمي

في عصر يصبح فيه التمييز بين الحقيقي والمزيّف أصعب يوماً بعد يوم، المعرفة والحذر الذكي هما خطّ الدفاع الأوّل والأهم. هناك علامات تحذيرية يمكن للمستخدمين تعلّم ملاحظتها وتطوير حساسية تجاهها مع الممارسة.

الحيوانات “الجميلة بشكل مفرط” غالباً ما تكون مزيّفة، خاصّة عندما تؤدّي حركات مستحيلة أو تبدو مثالية بشكل غير طبيعي ومصطنع. القطط التي تقفز من ارتفاعات شاهقة دون إصابة، أو تؤدّي حركات بهلوانية معقّدة تتحدّى قوانين الفيزياء، تستحقّ الشكّ الفوري والتدقيق.

النصوص العشوائية في الصور علامة قوية ومؤكّدة على التوليد بالذكاء الاصطناعي. أسماء طائرات غريبة ومختلقة، كتابات غير مفهومة في الخلفية، أو تداخل وتشويه في النصوص – كلّها إشارات واضحة على المحتوى المولّد آليّاً. التكرار مُشْتَبَه فيه بالمحتوى واستخدام قوالب متشابهة بصريّا أيضاً علامات مفضوحة.

استراتيجيّات التحقّق تتضمّن البحث العكسي عن الصور لمعرفة مصادرها الأصلية وتاريخ ظهورها، التحقّق من عدّة مصادر موثوقة قبل تصديق المعلومات، الحذر الشديد من المحتوى المثير للانفعالات بشكل مفرط. المحتوى المصمّم خصّيصاً لإثارة ردود فعل عاطفية قوية – سواء غضب أو حزن أو فرح مفرط – غالباً ما يكون مصمّماً بعناية لتحقيق انتشار واسع بغضّ النظر عن صحّته.

التعامل مع كبار السن يتطلّب نهجاً حسّاساً ومتفهّماً. تفسير هذه المشكلة للأجيال الأكبر سنّاً يحتاج إلى صبر وتواصل تعليمي هادئ، مع تجنّب النبرة المتعالية أو الاستخفاف بخبرتهم. التركيز على أمثلة محدّدة وواضحة من واقعهم، تعليم مهارات التحقّق البسيطة والعملية، والأهمّ من ذلك تطوير عادة التشكيك الصحّي والمتوازن دون الوصول إلى حدّ جنون الارتياب المدمر.

هذا إلى جانب منح الناس فرصة لتجريب أدوات توليد محتوى بالذكاء الاصطناعي، لأنّ هذه التجربة ستقدّم خبرة مناسبة للعين لتمييز المحتوى المزيّف. الدرع الحقيقي هو تطوير حس نقدي متوازن ومرن – عدم تصديق كل شيء بسذاجة، لكن أيضاً عدم الشك في كل شيء لدرجة الشلل المعرفي والعجز عن اتّخاذ أي قرار. الهدف هو اليقظة الذكية وليس الشكّ المرضي.

مفترق طرق الحضارة الرقمية

لم يعد المحتوى المزيّف المولّد بالذكاء الاصطناعي مجرّد ظاهرة تقنية عابرة أو موضة رقمية ستختفي مع الوقت – إنّه تحدٍّ وجوديّ حقيقي لطبيعة الحقيقة والتواصل البشري في العصر الرقمي. تتحدّث الأرقام بوضوح مرعب: من صفر منشور مزيف في أفضل عشرين منشوراً على فيسبوك قبل عامين فقط، إلى أربعة منشورات في خريف 2024، إلى توقّعات علمية بأنّ المحتوى المزيّف قد يهيمن بالكامل على المنصّات بحلول عام 2026.

التأثيرات متعدّدة الأبعاد ومدمّرة بطرق لم نتخيّلها.

• اقتصاديّاً، تخلق صناعة قائمة بالكامل على الخداع تقدّر بمليارات الدولارات وتنمو بوتيرة مخيفة.
• اجتماعيّاً، تدمّر الثقة بين الأشخاص وتهدّد سلامة المؤسّسات التعليمية والأسرية والقضائية.
• سياسيّاً، تمكّن السياسيّين من التهرّب من المساءلة والتلاعب بالرأي العام بطرق لم تكن ممكنة من قبل.
• بيئيّاً، تساهم في أزمة الطاقة والمناخ من طريق الاستهلاك الهائل والمتزايد للكهرباء.

ليست التوقّعات المستقبلية مشجّعة بأيّ حال من الأحوال. المشكلة ستزداد سوءاً وتعقيداً قبل أن تتحسّن، إذا تحسّنت أصلاً. التقنيات المولّدة للمحتوى تتطوّر بسرعة تفوق بكثير قدرات الكشف والمنع والتنظيم. خلال العامين القادمين، يتوقّع خبراء التقنية إنتاج محتوى مزيّف غير قابل للاكتشاف تقنيّاً بأيّ وسيلة متاحة حالياً.

الحاجة ماسة وعاجلة لحلول تقنية وتشريعية شاملة ومبتكرة. منصّات التواصل تحتاج لاستثمار أكبر بكثير في تقنيات الكشف المتطوّرة وآليّات الإبلاغ السريعة. وتحتاج الحكومات لتطوير أطر قانونية متطوّرة تحمي المواطنين دون خنق الإبداع التقني المشروع. كما تحتاج المؤسّسات التعليمية لتطوير مناهج جديدة ومتطوّرة لمحو الأمّية الرقمية وتعليم التفكير النقدي.

لكن الوعي الفردي والجماعي يبقى خطّ الدفاع الأساسي والأكثر أهمّية. كلّ منّا مسؤول عن التحقّق من المعلومات قبل مشاركتها، دعم المبدعين والفنّانين الحقيقيّين، نشر الوعي حول هذه المشكلة المتفاقمة. الصحافة المتخصّصة والمسؤولة تؤدّي دوراً محوريّاً في التعليم العام وكشف آليّات الخداع وتأثيراتها المدمّرة على المجتمع.

نحن اليوم في نقطة تحوّل تاريخية حاسمة. الخيارات التي نتّخذها الآن – أفراد ومجتمعات ومؤسّسات وحكومات – ستحدّد ما إذا كان الإنترنت سيبقى مساحة حيوية للتواصل البشري الأصيل والمعلومات الموثوقة، أم سيتحوّل بشكل لا رجعة فيه إلى مستنقع من الخداع والتلاعب والأكاذيب المصمّمة بعناية. يعتمد المستقبل الرقمي للبشرية على يقظتنا الجماعية واستعدادنا لمواجهة هذا التحدّي الوجودي بالحكمة والحزم والتعاون معاً، قبل أن يصبح الأوان متأخراً جداً.

المراجع والمصادر

• DiResta, R., & Goldstein, J. A. (2024). How spammers and scammers leverage AI-generated images on Facebook for audience growth. Harvard Kennedy School (HKS) Misinformation Review. https://doi.org/10.37016/mr-2020-151
• Simon, F. M., Altay, S., & Mercier, H. (2023). Misinformation reloaded? Fears about the impact of generative AI on misinformation are overblown. Harvard Kennedy School (HKS) Misinformation Review, 4(5). https://doi.org/10.37016/mr-2020-127
• Corsi, G., Marino, B., & Wong, W. (2024). The spread of synthetic media on X. Harvard Kennedy School (HKS) Misinformation Review. https://doi.org/10.37016/mr-2020-140
• Kugler, M. B., & Pace, C. (2021). Deepfake privacy: Attitudes and regulation. Northwestern University Law Review, 116(2), 611-686. https://ssrn.com/abstract=3781968
• Birrer, A., & Just, N. (2024). What we know and don’t know about deepfakes: An investigation into the state of the research and regulatory landscape. New Media & Society. https://doi.org/10.1177/14614448241253138
• Hall, E. (2023). The tensions of deepfakes. New Media & Society. https://doi.org/10.1080/1369118X.2023.2234980
• Vaccari, C., & Chadwick, A. (2020). Deepfakes and disinformation: exploring the impact of synthetic political video on deception, uncertainty, and trust in news. Social Media + Society, 6(1). https://doi.org/10.1177/2056305120903408
• Schaefer, L. M. (2019). Introducing the pervert’s dilemma: A contribution to the critique of deepfake pornography. Ethics and Information Technology, 22(2), 133-140. https://doi.org/10.1007/s10676-019-09522-1
• Strubell, E., Ganesh, A., & McCallum, A. (2019). Energy and policy considerations for deep learning in NLP. Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics, 3645-3650. https://doi.org/10.18653/v1/P19-1355
• Luccioni, A. S., Viguier, S., & Ligozat, A. L. (2022). Estimating the carbon footprint of BLOOM, a 176B parameter language model. Journal of Machine Learning Research, 24(253), 1-15.
• Patterson, D., et al. (2021). Carbon emissions and large neural network training. arXiv preprint arXiv:2104.10350. https://arxiv.org/abs/2104.10350
• Verdoliva, L. (2020). Media forensics and deepfakes: A survey. IEEE Journal of Selected Topics in Signal Processing, 14(5), 910-932. https://doi.org/10.1109/JSTSP.2020.3002101
• Tolosana, R., Vera-Rodriguez, R., Fierrez, J., Morales, A., & Ortega-Garcia, J. (2020). Deepfakes: A survey of facial manipulation and fake face detection. Information Fusion, 54, 131-148. https://doi.org/10.1016/j.inffus.2019.12.008
• Nguyen, T. T., et al. (2022). Deep learning for deepfakes creation and detection: A survey. Computer Vision and Image Understanding, 223, 103525. https://doi.org/10.1016/j.cviu.2022.103525
• Appel, M., & Prietzel, F. (2022). The detection of political deepfakes. Journal of Computer-Mediated Communication, 27(4). https://doi.org/10.1093/jcmc/zmac008
• Ahmed, S. (2021). Who inadvertently shares deepfakes? Analyzing the role of political interest, cognitive ability, and social network size. Telematics and Informatics, 57, 101508. https://doi.org/10.1016/j.tele.2020.101508
• Vaccari, C., & Chadwick, A. (2020). Deepfakes and disinformation: Exploring the impact of synthetic political video on deception, uncertainty, and trust in news. Social Media + Society, 6(1). https://doi.org/10.1177/2056305120903408
• Harris, D. A. (2019). Deepfakes: False pornography is here and the law cannot protect you. Duke Law & Technology Review, 17, 99-128.
• Citron, D. K., & Chesney, R. (2019). Deep fakes: A looming challenge for privacy, democracy, and national security. California Law Review, 107(6), 1753-1820. https://doi.org/10.15779/Z38RV0D15J
• Delfino, R. (2019). Pornographic deepfakes: The case for federal criminalization of revenge porn’s next tragic act. Fordham Law Review, 88(3), 887-926.
• Flynn, A., Powell, A., & Scott, A. J. (2021). Technology-facilitated abuse and digital coercive control: A thematic analysis of an online support forum for victims and survivors. Violence Against Women, 27(15-16), 2648-2671. https://doi.org/10.1177/1077801220985125
• McGlynn, C., Rackley, E., & Houghton, R. (2017). Beyond ‘revenge porn’: The continuum of image-based sexual abuse. Feminist Legal Studies, 25(1), 25-46. https://doi.org/10.1007/s10691-017-9343-2
• Koebler, J. (2023). Facebook is being overrun with stolen, AI-generated images that people think are real. 404 Media. https://www.404media.co/facebook-is-being-overrun-with-stolen-ai-generated-images-that-people-think-are-real/
• Koebler, J. (2024). Facebook’s algorithm is boosting AI spam that links to AI-generated, ad-laden click farms. 404 Media. https://www.404media.co/facebooks-algorithm-is-boosting-ai-spam-that-links-to-ai-generated-ad-laden-click-farms/
• Heaven, W. D. (2023). Making an image with generative AI uses as much energy as charging your phone. MIT Technology Review. https://www.technologyreview.com/2023/12/01/1084189/making-an-image-with-generative-ai-uses-as-much-energy-as-charging-your-phone/
• Heaven, W. D. (2023). AI’s carbon footprint is bigger than you think. MIT Technology Review. https://www.technologyreview.com/2023/12/05/1084417/ais-carbon-footprint-is-bigger-than-you-think/
• Hao, K. (2021). Deepfake porn is ruining women’s lives. Now the law may finally ban it. MIT Technology Review. https://www.technologyreview.com/2021/02/12/1018222/deepfake-revenge-porn-coming-ban/
• Kelly, S. M. (2025). LA’s wildfires prompted a rash of fake images. Here’s why. NPR. https://www.npr.org/2025/01/16/nx-s1-5259629/la-wildfires-fake-images
• Vincent, J. (2025). AI-generated music is here to stay. Will streaming services like Spotify label it? NPR. https://www.npr.org/2025/08/08/nx-s1-5492314/ai-music-streaming-services-spotify
• Yang, A. (2024). Facebook users say ‘amen’ to bizarre AI-generated images of Jesus. NBC News. https://www.nbcnews.com/tech/tech-news/facebook-users-say-amen-bizarre-ai-generated-images-jesus-rcna143965
• Allyn, B. (2024). How AI images of cats and ducks powered the pet-eating rumor mill in Springfield, Ohio. NBC News. https://www.nbcnews.com/tech/misinformation/ai-images-cats-ducks-powered-pet-eating-rumor-mill-rcna171065
• U.S. Department of Justice. (2024). North Carolina musician charged with music streaming fraud aided by artificial intelligence. Southern District of New York. https://www.justice.gov/usao-sdny/pr/north-carolina-musician-charged-music-streaming-fraud-aided-artificial-intelligence
• Bickert, M. (2024). Our approach to labeling AI-generated content and manipulated media. Meta Newsroom. https://about.fb.com/news/2024/04/metas-approach-to-labeling-ai-generated-content-and-manipulated-media/
• Clegg, N. (2024). Labeling AI-generated images on Facebook, Instagram and Threads. Meta Newsroom. https://about.fb.com/news/2024/02/labeling-ai-generated-images-on-facebook-instagram-and-threads/
• Goldstein, J. A., & DiResta, R. (2022). This salesperson does not exist: How tactics from political influence operations on social media are deployed for commercial lead generation. Harvard Kennedy School (HKS) Misinformation Review, 3(5). https://doi.org/10.37016/mr-2020-104
• Karras, T., Laine, S., & Aila, T. (2019). A style-based generator architecture for generative adversarial networks. Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition, 4401-4410. https://doi.org/10.1109/CVPR.2019.00453
• Karras, T., et al. (2020). Analyzing and improving the image quality of StyleGAN. Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition, 8110-8119. https://doi.org/10.1109/CVPR42600.2020.00813
• Li, Y., Yang, X., Sun, P., Qi, H., & Lyu, S. (2020). Celeb-DF: A large-scale challenging dataset for deepfake forensics. Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition, 3207-3216. https://doi.org/10.1109/CVPR42600.2020.00327
• Rossler, A., et al. (2019). FaceForensics++: Learning to detect manipulated facial images. Proceedings of the IEEE/CVF International Conference on Computer Vision, 1-11. https://doi.org/10.1109/ICCV.2019.00009
• Roozenbeek, J., van der Linden, S., Goldberg, B., Rathje, S., & Lewandowsky, S. (2022). Psychological inoculation improves resilience against misinformation on social media. Science Advances, 8(34). https://doi.org/10.1126/sciadv.abo6254
• Wineburg, S., & McGrew, S. (2019). Lateral reading and the nature of expertise: Reading less and learning more when evaluating digital information. Teachers College Record, 121(11), 1-40.
• Munich Security Conference. (2024). A tech accord to combat deceptive use of AI in 2024 elections. https://securityconference.org/en/aielectionsaccord/accord/
• Partnership on AI. (2019). About ML guide: A framework for understanding machine learning. https://www.partnershiponai.org/about-ml/