مدونة

صورة مزيفة.. ذاكرة مهددة: سوريا في عصر الذكاء الاصطناعي

صورة مزيفة.. ذاكرة مهددة: سوريا في عصر الذكاء الاصطناعي

في سوريا، لم تكن الحقيقة يوما مجرد معلومة, فالحقيقة هنا قد تكون صورة لقتيل، أو مقطعا من مدينة مدمرة، أو شهادة ناجٍ، أو وثيقة، أو تسجيلاً يوثق لحظة من سنوات الحرب، وقد تتحول هذه المادة بعد سنوات إلى دليل في تحقيق، أو جزء من ذاكرة عائلة، أو وثيقة في قضية عدالة ومحاسبة.

لهذا فإن العبث بالحقيقة في سوريا ليس مجرد "محتوى مضلل" على منصات التواصل، وإنما هو عبث بالذاكرة نفسها، والذكاء الاصطناعي يمنح هذا العبث أدوات لم تكن متاحة بهذه السهولة من قبل.

لم يعد من الضروري أن ينتظر صاحب الرواية المضللة وقوع حدث حقيقي كي يصنع له صورة، فهو يستطيع أن يصنع الصورة أولاً، ثم يبحث عن القصة التي تناسبها، ويمكنه أن يجعل شخصاً يقول ما لم يقله، وأن يضع شخصاً في مكان لم يذهب إليه، وأن يصنع مشهداً لم يحدث أصلاً، وأن يعيد تشكيل تفاصيل حدث حقيقي بحيث يبدو وكأنه حدث بطريقة مختلفة.

لكن الأخطر من كل ذلك أن الذكاء الاصطناعي لا يحتاج إلى صناعة كذبة مثالية، فيكفي أن يصنع كذبة قابلة للتصديق، وهذه نقطة شديدة الأهمية في الحالة السورية.

ففي مجتمع خرج من سنوات طويلة من الحرب والاستقطاب، لا تنتشر الرواية لأنها صحيحة بالضرورة، بل لأنها أحياناً توافق خوفاً موجوداً، أو غضباً متراكماً، أو موقفاً سياسياً، أو رواية سبق أن آمن بها الناس.

وإذا ظهرت صورة مزيفة تتحدث عن مجزرة، فقد لا ينتظر البعض التحقق منها، وإذا ظهر تسجيل صوتي منسوب إلى شخصية سياسية، فقد يكفي أن يبدو الصوت مقنعاً كي يبدأ تداوله، وإذا انتشر مقطع مصور في لحظة توتر أمني، فقد تتحول ثوانٍ قليلة إلى شرارة لخطاب كامل من التحريض والاتهامات.

وهنا لا تعود المشكلة في أن شخصاً ما صدق صورة مزيفة، المشكلة أن الصورة المزيفة قد تؤثر في سلوك أشخاص حقيقيين، وقد تدفع إلى الكراهية، أو الانتقام، أو التخوين الخ.

المشكلة ليست في الصورة وحدها، بل في الرواية التي تحملها

بطاقة قسم «المشكلة ليست في الصورة وحدها، بل في الرواية التي تحملها»: خيط أحمر يربط قصاصة خريطة سوريا وصورة حشد وقصاصة جريدة وصورة زقاق قديم مثبتة على لوح

ربما نخطئ عندما نختصر المشكلة في سؤال: "هل هذه الصورة مولدة بالذكاء الاصطناعي؟"، هذا سؤال مهم، لكن السؤال الأهم هو: هل حدث هذا أصلاً؟، فالذكاء الاصطناعي قد يصنع صورة مزيفة بالكامل، لكنه يستطيع أيضاً أن يعمل بطريقة أكثر خطورة: "أخذ حدث حقيقي وإعادة تفسيره"، مثل: "صورة حقيقية من مكان ما، مع تاريخ خاطئ، فيديو حقيقي من حادثة قديمة، مع رواية جديدة، صوت حقيقي لشخص مركب على كلمات لم يقلها، مشهد حقيقي لكن مع وصف كاذب".

ليست كل صورة مزيفة، وليست كل رواية صحيحة

بطاقة قسم «ليست كل صورة مزيفة، وليست كل رواية صحيحة»: مقص يقص صورة قديمة لسوق شعبي، في نصفها رجل يرفع يده وفي نصفها الآخر طفل يتناول رغيف خبز

ولنعود إلى ما بدأنا به وهو "خطر الذكاء الاصطناعي"، هناك بلدات ومدن وأحداث ما زال السوريون يختلفون على تفاصيل ما جرى فيها، وهناك قتلى لم تُحسم قصصهم، وهناك صور وفيديوهات ووثائق أصبحت جزءاً من ذاكرة الحرب، وهناك أجيال كاملة ستعود يوماً إلى الإنترنت لتبحث عن إجابة عن سؤال بسيط: ماذا حدث؟

ماذا لو وجد هذا الجيل آلاف الصور والفيديوهات المصطنعة إلى جانب المواد الحقيقية؟، ماذا لو لم يعد قادراً على معرفة أيها يوثق حدثاً حقيقيا وأيها صُنع بعد سنوات؟، هنا تصبح التكنولوجيا أكثر من وسيلة للتضليل، وتصبح وسيلة لإعادة كتابة الذاكرة!!.

حين يصبح التزييف تهديداً لذاكرة السوريين

بطاقة قسم «حين يصبح التزييف تهديداً لذاكرة السوريين»: امرأة مسنّة محجبة تتصفح ألبوماً لصور قديمة تبدو بعض وجوهه ممسوحة

والخطر في إعادة كتابة الذاكرة ليس نظرياً، فالذاكرة جزء من العدالة. والعدالة تحتاج إلى أدلة. والأدلة تحتاج إلى ثقة، وعندما تتآكل الثقة في الأدلة، يصبح من السهل على كل طرف أن يصنع روايته الخاصة عن الماضي، ثم يبحث عن "أدلة" تناسبها.

في الماضي، كان إنتاج الدعاية على نطاق واسع يحتاج إلى مؤسسات، ووسائل إعلام، ومطابع، وأموال، وأشخاص، واليوم يمكن لشخص واحد أن ينتج خلال وقت قصير صوراً وأصواتاً ومقاطع متعددة، ثم يوزعها على عشرات الحسابات، وهذا يغير طبيعة المعركة.

لم يعد السؤال فقط: من نشر المعلومة؟، بل: من يستطيع إنتاج آلاف النسخ منها؟، فصورة مختلفة قليلاً، وعنوان مختلف، وصوت مختلف، وحسابات مختلفة، لكن الرواية واحدة، وقد يبدو كل منشور منفرداً، بينما هو في الحقيقة جزء من سردية واحدة.

وهنا يصبح التضليل أكثر خطورة، لأنه لا يحاول فقط إقناع الناس بمعلومة واحدة، بل يحاول إغراق المجال العام بالمعلومات إلى درجة يصبح معها الوصول إلى الحقيقة مرهقاً أو مستحيلاً.

من المنشور المضلل إلى صناعة سردية كاملة

بطاقة قسم «من المنشور المضلل إلى صناعة سردية كاملة»: كومة هائلة من منشورات التواصل تنهال في قمع نحو منشور واحد في الأسفل، ورجل يرفع نظره إليها

ثم تأتي المشكلة الأكبر: "ربما كل شيء مزيف" وهذه، في رأيي، أخطر هدية يمكن أن يقدمها الذكاء الاصطناعي للمضللين، ففي الماضي، كان صاحب الادعاء الكاذب بحاجة إلى دليل، واليوم يستطيع أن يقول ببساطة: "الفيديو الذي يدينني مزيف".

وحتى لو كان الفيديو حقيقياً، فإن مجرد وجود تقنية قادرة على صناعة فيديو مزيف يمنح المشككين مساحة للمراوغة، وهكذا لا يعود المطلوب إثبات الكذبة، يكفي أحياناً إثارة الشك في الحقيقة.

وهذه هي معضلة ما بعد الحقيقة: ليس أن يصدق الناس الكذبة، وإنما أن يصلوا إلى مرحلة لا يعودون فيها قادرين على التمييز بين الحقيقة والكذبة، لذلك لا تكفي مواجهة الذكاء الاصطناعي بالذكاء الاصطناعي.

حين يصبح التشكيك في الحقيقة سلاحاً

بطاقة قسم «حين يصبح التشكيك في الحقيقة سلاحاً»: عدسة مكبرة تحرق وجه طفل في صورة مؤطرة تحملها امرأة محجبة في صورة قديمة

ستتطور أدوات كشف الصور المصطنعة وتقنيات التحقق، لكن المعركة لن تُحسم تقنياً وحدها، لأن أدوات التضليل ستتطور أيضاً. لذلك تبقى الأساسيات الأهم: المصدر، والسياق، والتاريخ، والمكان، والشاهد، ومقارنة الأدلة، والسؤال الأهم: من أين جاءت هذه المعلومة؟

وفي سوريا تحديداً، نحتاج إلى صحافة لا تنشر ما يثير الجمهور فقط، بل ما تستطيع إثباته، ونحتاج إلى جمهور لا يسأل فقط: "هل هذا يتوافق مع ما أؤمن به؟"، وإنما يسأل: "كيف عرفنا أنه حدث؟"، لأن المستقبل قد لا يكون معركة بين الحقيقة والكذب فقط، فقد يكون معركة على حق السوريين في امتلاك ذاكرة يمكن الوثوق بها.

والذكاء الاصطناعي لم يخترع التضليل، لكنه جعل تزوير الصورة، والصوت، والمشهد، والرواية أسهل وأسرع وأرخص، ولهذا فإن أخطر ما قد يفعله في سوريا ليس أن يجعلنا نصدق حدثاً لم يقع، بل أن يجعلنا، بعد سنوات من الآن، غير قادرين على إثبات الأحداث التي وقعت فعلاً.