طوفان الأكاذيب: كيف تصنع المنصات والذكاء الاصطناعي عالمًا موازيًا؟

نستيقظ كل صباح، نمد أيدينا إلى هواتفنا ونطلق العنان للسيل اليومي من الفيديوهات الكاذبة والمختلقة، التي تنقلنا لعالم موازٍ نحقق فيه رغباتنا ونُرضي مِن دوافعنا الطيبَ والخبيثَ، ونحقق العدل كما نراه ونمحق الظلم كما نكرهه.

فيديوهات تصوِّر صواريخ إيرانية وقد دمرت تل أبيب وأخرى تُظِهر جنودًا أمريكيين اعتقلهم الجيش الإيراني. فيديوهات لدمار لم يحدث في لبنان، وأخرى تصور انهيار أبراج في الإمارات. وكلها مصنوعة عن طريق تطبيقات ذكاء اصطناعي متطوِّرة ورخيصة ومتاحة للجميع.

مثل هذه الفيديوهات بدأت مع الحرب الإسرائيلية الأمريكية ضد إيران نهاية الشهر الماضي، تظهر جنبًا إلى جنب مع فيديوهات وصور حقيقية وثقها الناس بكاميرات موبايلاتهم في الشوارع، وهو أمر مفيد للغاية في ضوء الرقابة المفروضة على وسائل الإعلام في إسرائيل وإيران، وتهديدات ترامب بمعاقبة وسائل الإعلام التي لا تلتزم بخط حكومته الزئبقي. 

غير أن مئات ملايين المشاهدات، وفق تقارير متعددة، تذهب إلى فيديوهات وصور مختلقة بشكل فائق الجودة للإيحاء بما يريد الناس أن يروه أو لخلق نسبة مشاهدة تؤثِّر على الرأي العام أو توفر دخلًا نقديًا معتبرًا لأصحاب المحتوى الكاذب والمضلل.

لكن، من يصنع هذا المحتوى ولماذا وكيف؟ لماذا يقبل الناس على هراء يُصوّر دمارًا ساحقًا في إسرائيل أو في بلدان أخرى؟

ولماذا يتبادل الناس صور أقمار صناعية ليس في وصفها ما هو حقيقي سوى أنها صناعية؟ وما هو الضرر الناجم عن كل هذا الكذب وهل يمكن الحدّ منه؟

طوفان الكذب

الكذب قديم والحرب خدعة، غير أن أدوات خلق فيديوهات وصور تبدو حقيقية للغاية، تطوّر بشكل فائق وسريع في السنوات الأخيرة الماضية، وجعل هذا المحتوى الكاذب يبدو صادقًا وحقيقيًا، بل ويمكن إنتاجه في ثوان معدودة.

في الأشهر القليلة الماضية صدرت نسخ محدّثة ومطورة من برامج صنع الفيديوهات المختلقة تقدم لنا صور أشخاص حقيقيين أو مشاهير يقولون ويفعلون ما نريد لها أن يقولوا ويفعلوا، أو مشاهد من شوارع حقيقية، ولكن تتلاعب بها التطبيقات لتظهر بشكل  آخر مدمرة تمامًا أو مُحسّنة ومُطورة.

وقد قدّمت جوجل تطبيق Veo وتقدم Open AI تطبيق Sora وهناك تطبيق صيني يُدعى Seedance، وتقدم منصة X هذه الإمكانيات عن طريق تطبيق Grok، وهذا الأخير اكتسب سمعة سيئة مؤخرًا؛ لأنه سمح للمستخدمين أن يصنعوا من صور حقيقية لنساء وطفلات فيديوهات جنسية.

أرخص هذه التطبيقات يكلف ثماني دولارات شهريًا، أو يمكن استعمالها عن طريق وسيط مقابل أقل من دولار ونصف للدقيقة دون الحاجة لدفع أي اشتراكات.

 وبالتوازي تطوّرت وسائل السوشيال ميديا فصار بمقدور شخص يعيش قرب غابات الأمازون (البرازيل تحتل موقعًا متقدمًا بين صانعي المحتوى من أجل الحصول علي نصيب من الإعلانات) أن يصنع محتوى ناطق باللغة العربية، يُقدِّم فيه ما يدّعى أنه وقع في دبي، فيشاهده الملايين في الشرق الأوسط.

ابحث عن الرابح

تعتمد السوشيال ميديا مثل منصات ميتا وإكس وتيك توك ويوتيوب على الإعلانات، إلى جانب مصادر أخرى، ويضع المعلنون ووكالات الإعلان منتجاتهم على هذه المنصات قرب المحتوى أو لدى الأشخاص الأكثر انتشارًا وتأثيرًا. ويُقاس مدى جاذبية المحتوى للمعلنين والمنصات عادةً بمؤشرات مثل مستوى المشاهدة والمشاركة والتفاعل؛ ولذلك فما يهم هذه المنصات بدرجة كبيرة هو الانتشار والتفاعل والانتباه. 

لذا فهي أيضًا تدفع مقابلا بسيطًا (مقارنة بدخلها الهائل من الإعلانات) لصانعي المحتوى عبر برامج مختلفة، تربط الأهلية أو العائد بمستويات معيّنة من الأداء مثل المشاهدات، ومدة المشاهدة، والتفاعل خلال فترات محددة.

كذلك تعتمد خوارزميات التوصية لهذه المنصات على إعادة النشر والتوصية بالمحتوى الذي تتوقع أنه سيجني مشاهدة أو مشاركة أو تفاعلاً أكبر، وهو ما يمنح أفضلية غالبًا للمحتويات الأكثر إثارة للانتباه. ومع انخفاض كلفة إنتاج المحتوى الاصطناعي، يسهم ذلك جزئيًا في تدفّق محتوى كثيف ورديء أو مكرر على صفحات المستخدمين، وهو ما صار يُسمّى AI slop/هراء الذكاء الاصطناعي.

ويختلف ما يحصل عليه صانع المحتوى من الإعلانات حسب المنصة، وحسب الأسواق التي تأتي منها المشاهدات، لكنه يتراوح في المتوسط مثلًا بين 4 و6 دولارات عن كل ألف مشاهدة على فيسبوك. وسوق صانعي المحتوى ضخمة ويُعتقد أن دخلهم الإجمالي كان 184.9 مليار دولار على الأقل في العام الماضي.

الهند، التي تقدر أرباح صناع المحتوي فيها العام الماضي بين 20 و25 مليار دولار، صارت أحد كبار الموردين لمثل هذه الفيديوهات. ويمكن لبعض صناع المحتوى فيها أن يحققوا دخولًا شهرية تتراوح بين مئات وآلاف الدولارات، بحسب المنصة وحجم الجمهور والسوق الذي تأتي منه المشاهدات.

وهذا في بلد يتراوح فيه متوسط الدخل الشهري للموظفين الدائمين بين 16,538 روبية هندية (ما يعادل 180 دولار تقريبًا) إلى 21,103 روبية هندية (ما يعادل 228 دولار تقريبًا) وفق بيانات عام 2025. ولذا فلا عجب أن الهند صارت من أحد أسرع الأسواق نموًا لصانعي المحتوى.

وإحدى التقنيات التي يلجأ إليها صانعو المحتوى المزيف هو خلق مئات الحسابات والصفحات التي تنشر نفس مقطع الفيديو من مواقع جغرافية مختلفة، في حين إنها ترتبط كلها بشخص واحد أو مجموعة واحدة تحصل على الدخل المادي من تسليع هذا المحتوى. 

وإضافة للباحثين عن الربح يقف وراء الفيديوهات المختلقة مجموعات وشركات تعمل لحساب منظمات أو دول. وهؤلاء يعملون عادة كفرق منتظمة تصنع آلاف الحسابات وتنشر سيلًا مستمرًا من هذا المحتوى لخدمة مصالح مشغليهم. 

وبعد هذا الصانع الباحث عن الربح، والدولة الباحثة عن النفوذ السياسي وشن حملات دعائية من أجل مناصريها في بلادها ولإرباك خصومها، هناك الآلاف وأحيانًا الملايين الذين يصدقون هذا الهراء لأسباب مختلفة فيدقون علامات الأعجاب ويشاركوا هذا المحتوى الذي يصير انتشاره مثل انقسام الفيروس الخبيث داخل الجسد البشري، سريع وقاتل.  

فمثلًا نشر حساب تابع لوزارة الخارجية الإسرائيلية فيديو في نوفمبر/تشرين الثاني 2023 لممرضة يدعى أنها فلسطينية ويبدو عليها الخوف وتقول فيه إن حماس تسيطر على مستشفى الشفاء، وهو المستشفى الذي دمرته إسرائيل في حربها الإبادية فيما بعد، وحصل الفيديو الذي ثبت اختلاقه على أكثر من 16 مليون مشاهدة حتى تم حذفه.

الضرر

يخلق هذا الهراء المصطنع على شاشاتنا حالة معممة من التشويه وحياة موازية نعيش فيها بعيدًا عن الواقع، ليجعل عالمنا "الأونلاين" مفارقًا للعالم الواقعي فتتضارب قدراتنا على الحكم وتتناقض قراراتنا وتوجهاتنا، ونشعر بالخلاص أو بأننا على الطريق الصحيح، في حين أننا نغوص أكثر في بحر من الوهم. بل يساهم هذا الهراء أيضًا في تأجيج العنف والعداء ضد الآخر (ضد المسلمين والعرب والمهاجرين وضد الأقليات الدينية والعرقية والطائفية في كل بلاد العالم) بل وقتله وتدمير مستشفياته وبناه التحتية كما رأينا في غزة.

مع انتشار المعلومات الكاذبة والمضللة ينتشر الشك أيضًا في كل المحتوى على الإنترنت، حتى الصادق منه، وهو فعلًا ما يصدق عليه وصف البلبلة

ويفيض هذا الهراء أكثر خلال الحروب والنزاعات كما شاهدنا في غزة وكما شاهدنا في سوريا مثلًا حيث انتشر استعمال مقاطع فيديو أو صور مزيفة أو مُحرّفة –بعضها مأخوذ خارج سياقه– لنشر محتوى كراهية بهدف التحريض على العنف وإشعال العداوات عبر الطوائف والجماعات السياسية والمناطقية. وبمقتضى الحال فإن كثيراً من المتابعين يتبنون هذا المحتوى وينشرونه، معتقدين أنه صحيح.

وعلى سبيل المثال، سُرّب تسجيل صوتي منسوب لرجل دين درزي يسيء فيه إلى النبي محمد العام الماضي وانتشر فيروسيًا على مواقع التواصل الاجتماعي رغم نفي الشيخ أن هذا صوته، وتأكيد وزارة الداخلية السورية لاحقًا أن التسجيل مفبرك. وانتشر العنف الطائفي في البلاد ضد وخلال أيام قُتل أكثر من 130 شخصًا معظمهم من الدروز جنوب دمشق.

ومع انتشار المعلومات الكاذبة والمضللة ينتشر الشك أيضًا في كل المحتوى على الإنترنت، حتى الصادق منه، وهو فعلًا ما يصدق عليه وصف البلبلة، ويضعف هذا أُسس الثقة حيث يصدق الناس المحتوى الكاذب المضلل بينما يصفون المحتوى الصادق (أي الواقعي) بأنه مجرد أكاذيب إعلامية.

ترامب مثال جيد على وصف كل ما لا يحب بالكذب، ثم الكذب والاختلاق هو نفسه وبشكل فج، مثلما فعل البيت الأبيض عندما استخدم مقتطفات من العاب فيديو داخل إعلان عن إنجازات الهجمات الأمريكية على إيران.

ما الحل؟

لا سفينة نوح هناك تعصمنا من هذا الطوفان، والانقطاع عن الإنترنت يشبه اللجوء إلى جبل لن يعصمنا، بل سيقطعنا عن بقية المجتمع. لا حل سوى المواجهة من جانب الحكومات ومنصات السوشيال ميديا ومن جانب المجتمع المدني وكل فرد منّا يستخدم الإنترنت، وهذه كلها طرق متوازية ويدعم بعضها بعضًا.

يجب ألَّا تصبح الحكومات هي المسيطر الأول على فضاء الإنترنت، بل يقتصر دورها على إجبار شركات التكنولوجيا على رصد أو تقييد مثل هذا المحتوى، فالحكومات نفسها بما فيها الولايات المتحدة وروسيا وإيران وإسرائيل وغيرها تصير، أحيانًا، مصدرًا لهذه الأكاذيب. كما أن حكومات منطقتنا السلطوي والديكتاتوري منها وأيضًا الإبادي والمشارك في صنع هذه التكنولوجيا، لا يمكن إيكال هذا الدور لها.

ومع هذا، هناك أمثلة جيدة على دور الدولة في هذا المضمار، مثل قانوني الخدمات الرقمية والذكاء الاصطناعي المطبقين في دول الاتحاد الأوروبي.

وتشجع هذه القوانين شركات التكنولوجيا (بما فيها صانعي التطبيقات الرقمية والمنصات التي تنشر المحتوى) على وضع علامات مائية على المحتوى المُخلّق ليتعرف المستخدم عليه، وحرمان صانعي مثل هذا المحتوى من حصتهم من دخل الإعلانات المرتبط بالمشاهدات، والحد من انتشار المحتوى المُخلق أو حذفه خاصة إذا زادت احتمالات تسببه في أضرار على أرض الواقع. وتفرض هذه القوانين عقوبات تصل في بعض مخالفات قانون الذكاء الاصطناعي إلى 35 مليون يورو، بينما تصل في قانون الخدمات الرقمية إلى 6% من الإيراد العالمي السنوي.

لا يوجد حل ناجع سوى محو الأمية الرقمية وأن يتمكن المستخدمون من التفريق بين فيديوهات تقدم وقائع وأخرى تختلقها 

ومن ناحية المنصات التي تنشر مثل هذا المحتوى فلديها مسؤولية جسيمة، ولكنها تواجه تحديًا كبيرًا يتمثل في مليارات المشتركين وما ينشرونه يوميًا، والتي يتعين فحصها كلها خاصة الفيديوهات والصور لرصد المختلق منها وهو أمر يستحيل القيام به بشريًا، ولذا صارت تطبيقات الذكاء الاصطناعي أو برامج الكمبيوتر ذاتها هي خط الدفاع الأول من أجل رصد الفيديوهات المخلقة ثم التعامل معها وفقًا لدرجة الخطر أو الأذى المحتمل.

وتحتاج هذه الشركات لرصد ميزانيات أكبر من أجل تطوير برمجيات الرصد ووضع العلامات المائية على كل المحتوى المُخلق اصطناعيًا ثم تقييد مثل هذا المحتوى في حالة الضرورة. وعلى الشركات أيضًا القيام بجهد مضاعف حرصًا على عدم ترويج أو التوصية بهذه الفيديوهات للمستخدمين أو مكافأة صانعيها بنصيب في دخل الإعلانات، خاصة لو كانت مضللة ومؤذية في مناطق النزاع أو الحروب أو خلال الحملات الانتخابية أو في أوضاع التوتر الاجتماعي مثل العداء للمهاجرين.

لن تفعل الشركات هذا دون إجبار قانوني أو ضغط شعبي يهدد أرباحها، أو دون التزام أخلاقي ما يكون هو بدوره مدفوعًا، نسبيًا، بضمان مكانة معينة في السوق، مثلما فعلت شركة أنثروبيك مالكة تطبيق كلود عندما رفضت العمل مع وزارة الحربية الأمريكية في مجالات نظم الأسلحة الآلية أو التجسس على المواطنين الأمريكيين.

مسؤوليتك أيها المتصفِّح

وأخيرًا لا يوجد حل مستدام وناجع سوى محو الأمية الرقمية وأن يتمكن المستخدمون من التفريق بين فيديوهات تقدم وقائع حدثت بالفعل، وفيديوهات وصور تُختلق الوقائع بغض النظر عن الهدف من هذا الاختلاق أو الرغبة الدفينة لدى المشاهد في تمنّي أن يكون ما يراه على الشاشة قد حدث بالفعل.

يجب تمكين المستخدمون من امتلاك القدرة على التعرف بشكل أفضل وسريع على المحتوى الخاطئ والمضلل معتمدين على محتوى الرسائل، طبيعة مرسلها، تماسكها المنطقي، علامات التلاعب في الصور والفيديوهات، إلخ، وبالتالي تكون لهم القدرة على فرز هذا السيل المنهمر واستبعاد الزائف منه.

وهناك عدة نصائح أود أن أقدمها لمستخدمي السوشيال ميديا:

لا تثق بأي مصدر على الإنترنت لمجرد أن لديه موقعًا أو صفحةً ويقدم فيديوهات وصور وتقارير، ولا حتى بأصدقائك الذين يشاركون هذا المحتوى، فكثير مننا نشارك مثل هذا المحتوى في معظم الأحيان لأننا نتمنى أن يكون قد حدث بالفعل، ولنا في القصص المنتشرة حول نتنياهو مؤخرًا درسًا مفيدًا.

ليس صعبًا أن تستقي الأخبار من مصادر محترفة وموثوق بها، جرب بدلًا من استخدام اصبعك لتعدو أمامك على الشاشة صورًا وراء صور وفيديوهات وراء فيديوهات من مصادر عجيبة، تعتقد معها أن "شبكة فلاحي كفر الهنادوة" لديها الفيديو الحقيقي عما يجرى في طهران وتل أبيب.

لا خاب من استشار، وهناك عشرات الحسابات المتخصصة في فضح المحتوى المختلق ومنها حسابات ومؤسسات عربية إقليمية مثل الشبكة العربية لمدققي المعلومات، ومجتمع التحقق العربي، أو تلك التي تركز على بلدان بعينها مثل فتبينوا في الأردن، وتأكد في سوريا، ومتصدقش في مصر.

لا تجتزئ الحقيقة وتشارك مقاطع فيديو أو صورًا تقدم جزءًا مما جرى بطريقة تشوه فعلًا ما جرى. ولا تتسرع فالعالم وأصدقاؤك لا ينتظرون ما ستشاركه بسرعة، وأن تصل متأخرًا وصادقًا خيرًا من أن تكون الأسرع والأول في الأخبار الكاذبة.

دون هذا سنعيش في عالم من المرايا لا نرى فيه إلا ما نريد ونرغب فيه أو تتلاعب بمواقفنا وآرائنا وقراراتنا محتويات كاذبة إما تهدف فعلًا إلى تضليلنا أو لا تبالي بنا على الإطلاق ولا ترغب سوى في الحصول على مقابل التضليل من النظم الآلية للسوشيال ميديا، التي باتت، حتى ولو بدون قصد، تشجع مثل هذه الممارسات، أو من حكومات وسياسيين يستفيدون جميعًا من نشر الضباب الكثيف.