من انتفاضات العالم العربي إلى الحركة الاحتجاجية في إيران، ومن حركة "احتلوا وول ستريت" وحتى المظاهرات المطالبة بالديمقراطية في هونغ كونغ وحركة "حياة السود مهمة" وقائمة الأحداث المطالبة بالتغيير المجتمعي والسياسي تطول. في كل هذه اللحظات التاريخية لعبت وسائل التواصل الاجتماعي دوراً جوهريا في حرية نقل المعلومات وإتاحة منبر حر للتعبير عن الرأي بعيداً عن وسائل الإعلام العمومية.
تم نشر هذا المحتوى على
17دقائق
التحقت مي بـ swissinfo.ch في عام 2017. عملت من قبل في عدد من المؤسسات الاعلامية مثل دويتشه فيلّه والجزيرة وبي بي سي. حاصلة على درجة البكالوريوس والماجستير في العلوم السياسية من جامعة برلين الحرة، وهي تهتم بالسياسة الدولية والأدب الحديث.
لكن هذه الساحات الالكترونية تملك أيضاً جوانب مظلمة، حيث تغيب فيها القوانين والتشريعات وتستخدم لنشر الأكاذيب والشائعات ونظريات المؤامرة ونشر خطاب الكراهية والتحريض على العنف، ما يفضي إلى خلق احتقان و حالة استقطاب بين أفراد المجتمع. مواقع التواصل الاجتماعي تحولت إلى سلطة أقوى من الحكومات والدول وهي ليست قادرة فقط على “تعبئة وتحريك المستهلكين بل الجماهير الانتخابية”، كما حدث في الانتخابات الأمريكية عام 2016 واقتحام الكونغرس الأمريكي هذا العام.
SWI swissinfo.ch: تُطالبين منذ سنوات بفرض المزيد من القوانين على منصات وسائل التواصل الاجتماعي. ما هي القوانين الأكثر إلحاحًا والتي يتعين تنفيذها؟
ماريتشى ساكى: هناك قضية أساسية تحتاج إلى حل ألا وهي الشفافية والوصول إلى المعلومات. بالنسبة للباحثين والجهات المنظمة والصحفيات، من الصعب جدًا معرفة كيف تصنف الخوارزميات المُصممة بواسطة وسائل التواصل الاجتماعي المعلومات وتحددها بالضبط وكيف يتم جمع البيانات ومن تستهدف.
نحن بحاجة إلى مزيد من البحث العلمي المستقل لفهم التبعات المقصودة وغير المقصودة لهذه الخوارزميات. بدون الوصول إلى هذه المعلومات، من الصعب جدًا معرفة ما إذا كان هناك انتهاك لحقوق الأشخاص وإذا ما كانت الشركات تحترم حتى شروط الاستخدام والقيود أو المعايير والحظر التي وضعتها بنفسها.
SWI swissinfo.ch: هل يمكننا تخيل لوائح مماثلة للنظم المصرفية فيما يتعلق بالشفافية والمساءلة؟
ماريتشى ساكى: نعم، أعتقد أن هذا هو الاتجاه الصحيح. فمن جهة، هناك الالتزامات والمعايير الواضحة من جانب الشركات ومن جهة أخرى ، يجب فرض العقوبات لمواجهة الانتهاكات. نحتاج أيضًا إلى الإشراف من الهيئات المنظمة، التي لديها المعرفة والتفويضات والقدرة على التنفيذ والتحقيق حقًا. لقد ذكرت البنوك ، ولكن يمكننا أيضًا التفكير في لوائح مماثلة لتلك الموجودة في قطاع الأدوية أو صناعة الكيمياويات أو صناعة السيارات.
“هناك أيضًا التحدي الكبير الكامن في “الحرية ما بعد التعبير”، وهذا يعني العواقب المترتبة على التعبير عن الرأي في الدول القمعية”
SWI swissinfo.ch: فيسبوك بدأ بالفعل في تشكيل لجان رقابة. ولكن كيف يمكن التحكم في خطاب الكراهية على منصة تضم أكثر من ملياري مستخدم/ة، ناهيك عن المنصات الأخرى التي لا تخضع لأي سيطرة ؟ كيف يمكن الرد بالسرعة الكافية لمنع وقوع عنف في الأماكن العامة؟
ماريتشى ساكى: هناك عدة عوامل يجب أخذها بعين الاعتبار: في معظم الدول الأوروبية، هناك قيود لحرية التعبير، وإن كانت قليلة لحسن الحظ. هناك حدود لحرية التعبير عندما يتعلق الأمر بالتحريض على الكراهية أو العنف أو إنكار المحرقة اليهودية. هذه الحدود قد تساهم في توضيح ما هو قانوني وما هو غير قانوني. لكن معضلة حرية التعبير تصبح أكثر تعقيداً، عندما يكون لسلوك البعض تأثير ضار، دون أن يخرقوا القانون ، كأولئك الذين يؤمنون بنظريات المؤامرة وتداعيات هذه الآراء على الصحة العامة عندما يتعلق الأمر بمكافحة كوفيد ـ 19. في هذه الحالة، من المهم أن يكون هناك إشراف وفهم لعواقب انتشار هذه الادعاءات وتأثيرها على المجتمع ككل. ما يزال يتعين علينا وضع قواعد والإشراف عليها وتنفيذها. نادرًا ما نسمع عن أشخاص تم محاكمتهم في هذا السياق. أصبحت عواقب وسائل التواصل الاجتماعي غير المنظمة واضحة بشكل لا لبس فيه بعد الهجوم على مبنى الكونغرس الأمريكي في 6 يناير. هذه الواقعة هي جرس إنذار ورسالة تحذيرية من أن الخطاب على شبكة الإنترنت لا يبقى في العالم الافتراضي ، بل له تأثير على العالم الحقيقي.
SWI swissinfo.ch: تعليق حسابات وسائل التواصل الاجتماعي لرئيس في السلطة كانت حادثة غير مسبوقة. بالنسبة للبعض فإن هذه الخطوة جاءت بعد فوات الأوان، فيما اعتبرها البعض الآخر انتهاكًا لحرية في التعبير. ماذا يعني هذا الإجراء بالنسبة لموازين القوى بين الدول والشركات الخاصة في المستقبل؟
ماريتشى ساكى: اللافت في هذا الجدل هو أن أغلب النقاش يدور الآن حول ما إذا كانت هذه القرارات جيدة أم سيئة. لكن في كلتا الحالتين – سواء تركت شركات التكنولوجيا الحسابات على مواقع التواصل الاجتماعي أو أغلقتها – فهذا يوضح مدى القوة التي تتمتع بها هذه الشركات، التي تعاظم نفوذها، ولا سيما اللاعبين العمالقة الذين يديرون منصات التواصل الاجتماعي ومحركات البحث. هذه المنصات ليست قادرة فقط على تحريك جماهير المستهلكين، ولكن أيضًا تحريك جماهير الناخبين. وهذا النفوذ الواسع أصبح أكثر وضوحًا ويجب الحد منه.
SWI swissinfo.ch: لكن هذه المنصات لعبت أيضًا دورًا مهما خلال الربيع العربي ، على سبيل المثال، ألا يتعين علينا أن نقبل بأنها سلاح ذو حدين وأن نؤمن بقوة القيم الديمقراطية الحرة أو ببساطة بالعقل البشري؟
ماريتشى ساكى: ما نميل إلى نسيانه في هذا النقاش هو أننا لا نتحدث فقط عن مجرد التعبير والنقاش على مواقع التواصل الاجتماعي. نحن نتحدث عن التضخم وقدرة أطراف معينة على الدفع مقابل المزيد من الحضور والانتشار والقدرة على التحايل. عندما ننظر فقط إلى مسألة حرية التعبير دون كيفية مشاركة جهات فاعلة معينة، فإننا نخطئ الهدف. على سبيل المثال: هناك فرق بين أن تكتب صحفية عن نظرية المؤامرة أو أن يحاول شخص ما جذب الجمهور بنشر نظريات المؤامرة. هناك أيضًا الروبوتات (ما يسمى بالجيوش الالكترونية) ، أي أشخاص يتظاهرون بتمثيل أصوات مختلفة بينما هم في الواقع يديرون حسابات وهمية أو أطراف تعمل لحساب جهاز استخبارات أجنبي يحاول دفع رسالة معينة بطريقة غير شفافة إلى ساحة النقاش في بلد آخر.
الحق في حرية التعبير مقدسة ولكن هناك أيضًا الحق في عدم التعرض للتمييز أو العنف. وإذا كانت حرية التعبير تتعارض، مع تلك الحقوق الأخرى أو التزامات الدولة كما نشهد الآن، فيجب أن نتصدى لهذا التحدي ويجب أن يدور النقاش حول هذه الإشكالية على أساس ديمقراطي وليس على أساس المصالح التجارية.
“شركات التكنولوجيا ليست قادرة فقط على تحريك جماهير المستهلكين، ولكن أيضًا تحريك جماهير الناخبين. وهذا النفوذ أصبح أكثر وضوحًا ويتعين الآن الحد منه”
SWI swissinfo.ch: اقتحام الكونغرس أصبح تجسيدًا لهذا الوضع غير المسبوق من الصدام بين الآراء على أساس حرية التعبير وهناك أكثر من 70 مليون شخص صوتوا لصالح دونالد ترامب وبعضهم يؤمن بـما يسمى “الحقائق البديلة”. فكيف يمكن إعادة الثقة في الحكومة والإعلام العمومي؟
ماريتشى ساكى: نحن أمام المعضلة السببية البيضة أم الدجاجة أولاً : عندما يدعي رئيس للولايات المتحدة كذباً بأن العملية الانتخابية كانت مزورة، فلا ينبغي أن نتفاجأ بوجود من يصدقه. أعتقد أن التأثير الأكثر ضررًا لما شهدناه خلال السنوات الأربع الماضية هو الهجمات الداخلية على الديمقراطية.
لقد ذكرت الربيع العربي، حيث انخرط الشباب في مظاهرات سلمية من أجل الديمقراطية. ونحن نشهد الآن هجمات على الديمقراطية من قبل أناس تمتعوا بالفعل بكل الحريات التي تضمنها الأنظمة الديمقراطية وهذا تحدٍ كبير. هناك أيضاً عامل آخر وهو أنه يتم نشر العديد من المؤامرات والادعاءات دون أي تحقق ودون رادع منذ فترة طويلة. آمل أن يكون بعض الأمريكيين قد أدركوا الآن تبعات خطاب الكراهية ونشر الأكاذيب والتحريض على العنف على أرض الواقع.
يجب اتخاذ عدة خطوات من أجل إعادة الثقة: أولاً إنفاذ القانون وكذلك الاستثمار في وسائل الإعلام والصحافة من أجل ضمان الرقابة المناسبة. نحتاج أيضًا إلى تقارير أوسع حول ما تفعله السلطات المحلية بالإضافة إلى تدابير مكافحة الاحتكار للسماح بمزيد من المنافسة والمزيد من الخيارات للمستهلكين في سوق المواقع الالكترونية. وأخيرًا ، يجب أن تساعد الشفافية التي تحدثت عنها سابقًا مستخدمي الإنترنت على فهم أفضل للمناورات والحيل التجارية التي يتعرضون لها.
SWI swissinfo.ch: هل تعتقدين أن الدول الأوروبية – بما في ذلك سويسرا – يمكن أن تتعرض لخطر مماثل؟ حيث نشهد الآن صعود وانتشار حركات اجتماعية ضد إجراءات احتواء فيروس كورونا والتطعيم والتغير المناخي، التي تغذيها نظريات المؤامرة؟
ماريتشى ساكى: إنها ليست مخاطرة، إنها حقيقة. أصبح الناس في كل المجتمعات يقضون وقتًا أطول على الإنترنت ولا سيما في هذه اللحظة بسبب الوباء. حتى في سويسرا، يمكنك ملاحظة توسع نفوذ اليمين المتطرف. يجب أن نكون يقظين وسيكون من السذاجة أن ننظر فقط إلى الجانب الآخر من المحيط ونعتقد أن هذه مشكلة تقتصر على الولايات المتحدة الأمريكية فقط.
النقاش في حد ذاته ليس مشكلة. ولكن عندما يتحول النقاش إلى حالة استقطاب عميق ووسيلة لنشر الكراهية وتجريد الأشخاص ذوي الآراء الأخرى من إنسانيتهم، فهناك خطر متزايد من حدوث تصعيد في المجتمع.
SWI swissinfo.ch: خطر إساءة استخدام هذه المنصات من قبل الحكومات هو أيضا قضية مثيرة للقلق. أصبحت هذه المنصات ساحة لما يسمى بـ”مطاردة ساحرات” من قبل الدول على وسائل التواصل الاجتماعي لتحديد واعتقال مواطنين، كما حدث في البحرين خلال الربيع العربي وفي الولايات المتحدة بعد اقتحام الكونغرس الأمريكي. فكيف يمكن للشركات والديمقراطيات أن تحل هذه المعضلة؟
ماريتشى ساكى: لا يُخفي على أحد أن حكومات الدول تستخدم هذه المنصات لأغراض دعائية، كالطبقة الحاكمة في إيران على سبيل المثال. ولكن هناك أيضًا التحدي الكبير المتمثل في الحرية بعد التعبير كما هو الحال في الدول ذات الأنظمة القمعية. القدرة على التعبير عن النفس أمر جيد ، لكن المشكلة هي العواقب التي يواجهها المعارضين والمعارضات بسبب التعبير عن الرأي. كما حدث مع النشطاء المطالبين بالديمقراطية في هونغ كونغ أو المتظاهرات السلميات في دول شمال إفريقيا والشرق الأوسط. منصات التواصل الاجتماعي أتاحت لهؤلاء التعبير عن رأيهم بحرية دون التفكير على الإطلاق في المخاطر الهائلة التي قد يواجهوها عند مشاركة آرائهم أو تنظيم مظاهرة أو تجمع. بعبارة أخرى ، فإن السياق الذي تُستخدم فيه هذه المنصات مهم للغاية.
وفي المجتمعات التي تغيب فيها سيادة القانون تماماً والتي يُترك فيها الناس تحت رحمة السلطات القمعية يصبح دور وسائل التواصل الاجتماعي إشكالياً، فهي لا تتحمل هذه التبعات وهذا الجانب يجب التعاطي معه أيضاً.
SWI swissinfo.ch: محاولة تقنين وسائل التواصل الاجتماعي والنقاشات الدائرة في هذه المنصات، تثير مخاوف من الحد من حرية التعبير وفرض التجانس الفكري، فكيف يمكن ضمان القيم الديمقراطية وعدم الانزلاق إلى النموذج الصيني؟
ماريتشى ساكى: للأسف ، لدينا بالفعل بعض الأنظمة الاستبدادية في أوروبا. بولنداوالمجر تسيران في هذا الاتجاه. يجب ألا نتصور أبدًا بأنه يمكننا أن نهنأ ونتكئ إلى ما حققناه من مكتسبات على مستوى الحريات و نظام الحكم الديمقراطي. لا بد من العمل الدؤوب للحفاظ على هذه القيم.
SWI swissinfo.ch: هل هناك تعاون دولي لتنظيم قطاع التكنولوجيا ؟
لدي أيضاً علم بأن إدارة جو بايدن سيكون لديها الكثير من المهام بعد الهجوم على الكونغرس الأمريكي. الرئيس الأمريكي أعلن بالفعل أنه يريد تنظيم قمة الديمقراطيةرابط خارجي وأن القضايا المتعلقة بالتكنولوجيا تتصدر جدول الأعمال. أعتقد أن الوقت قد حان لتعاون أفضل بين الدول الديمقراطية وأن يتم وضع معايير مشتركة.
قراءة معمّقة
المزيد
آفاق سويسرية
صحيفة سويسرية تكشف تفاصيل رحلة هروب الأسد إلى موسكو
“مزعج.. صادم.. تاريخي”.. هكذا تفاعلت الصحف السويسرية مع أعمال الشغب في الكابيتول
تم نشر هذا المحتوى على
في اليوم التالي لاقتحام مؤيدي الرئيس الأمريكي دونالد ترامب مبنى الكابيتول، أجمعت الصحف السويسرية على أن الحدث يمثل أحد أحلك أيام الديمقراطية الأمريكية وألقت باللائمة بشكل مباشر على ترامب.
الاحتجاجات ضد كورونا في سويسرا: نظريات مؤامرة وحقوق سياسية
تم نشر هذا المحتوى على
خلال عطلات نهاية الأسبوع الثلاث الماضية، خرج الناس في سويسرا إلى الشوارع للاحتجاج متحدين بذلك الحظر المفروض على التظاهرات السياسية – وكذلك الحظر العام على التجمعات التي تزيد عن خمسة أشخاص – وتجمعوا بأعداد صغيرة ولكن أصواتهم ارتفعت للاحتجاج على القيود المفروضة على الحرية. ما الذي يريدونه؟ من ناحية، يشعر النشطاء بالقلق من تعليق الحقوق…
كيف يحاول العلماء السويسريون رصد الوسائط المفبركة باستخدام تقنية “ديبفيك”؟
تم نشر هذا المحتوى على
في مختبر الكمبيوتر التابع للحرَم الشاسع للمعهد التقني الفدرالي العالي بلوزان، يتأمل فريق صغير من المهندسين في صورة رجل مبتسم، وردي البشرة، شعره أسود مجعّد، ويرتدي نظارة.
"نعم، هذا واحد من الأعمال الجيّدة"، كما يقول الباحث البارز توراج إبراهيمي، الذي يحمل تشابهاً عابراً مع مؤسس تسلا إيلون موسك، الظاهرة صورته على الشاشة. قام الفريق بطريقة حرَفية بالتلاعب بصورة رأس إبراهيمي وإسقاطه على صورة على الإنترنت لهذا الرجل، لابتكار صورة رقمية ومقاطع فيديو مفبركة من خلال الذكاء الاصطناعي.
إنها واحدة من الأمثلة المزيفة - وبعضها ما هو أكثر واقعية من غيرها من الصور- والتي قام فريق إبراهيمي بالتعاون مع شركة الأمن الإلكتروني "كوانتوم إنتغريتي" Quantum Integrity (QI) بفبركتها أثناء تطوير برنامج يمكنه اكتشاف الصور التي تم التلاعب بها، بما فيها تلك التي تم تلفيقها باستخدام تقنية "ديبفيك".
ويعمل البرنامج على معرفة الفوارق بين الأصلي والمزور باستخدام تقنية التعلم الآلي، وهي نفس التقنية الكامنة وراء إنشاء "المقاطع بالغة الزيف" أو "ديبفيك": فهناك "مبتكر" يغذي البرنامج بصور مزيفة، ويحاول "كاشف" العثور عليها بعد ذلك.
"مع الكثير من الإعداد والتدريب، يمكن للآلات أن تساعد في اكتشاف عمليات التزوير بالطريقة نفسها التي قد يلجأ إليها الإنسان"، كما يوضح إبراهيمي. ويضيف قائلاً: "كلما زاد استخدام هذه الآلات، كلما جاءت النتائج أفضل."
والجدير بالذكر، أن الصور ومقاطع الفيديو المزيفة موجودة منذ ظهور الوسائط المتعددة، لكن تقنيات الذكاء الاصطناعي الحديثة، لم تسمح للمزيفين سوى بتغيير الوجوه في مقطع فيديو، أو جعل شخص يبدو وكأنه يقول شيئاً، لم يقله مطلقاً. وخلال السنوات القليلة الماضية، فاقت سرعة انتشار تقنية "ديبفيك"، توقع معظم الخبراء.
وفقاً لمجلس الحوكمة الدولية للمخاطر في المعهد التقني الفدرالي العالي بلوزان، فقد أصبح تصنيع مقاطع فيديو، بتقنية "ديبفيك" و"بشكل تصاعدي، أسرع وأسهل وأرخص"، وذلك بفضل توزيع أدوات برمجية سهلة الاستخدام، وتقديم خدمات وتطبيقات ذات صلة، مدفوعة عبر الإنترنت.
"ولأن تطوّرها يجري بسرعة كبيرة تحديدا، بتنا نحتاج إلى معرفة حدود هذا التطور - وما هي القطاعات والمجموعات والبلدان التي قد تتأثر به" بحسب قول نائب مدير المركز، أنجوس كولينز.
وعلى الرغم من أن الكثير من مشاكل تقنية "ديبفيك" الخبيثة، تتعلق باستخدامها في إنتاج المواد الإباحية، فإن هناك حاجة متزايدة إلى الاستعداد لكشف الحالات التي يتم فيها استخدام هذه التقنيات، من أجل التلاعب بالرأي العام.
مجال يتطوّر بسرعة
عندما بدأ الإبراهيمي، منذ ثلاث سنوات، العمل مع "كوانتوم إنتغريتي" Quantum Integrity لأول مرة على برنامج الكشف، لم تكن قضايا المقاطع المزيفة بعمق، على جدول أعمال معظم الباحثين. في ذلك الوقت، كان عملاء قلقين بشأن الصور التي تم تزييفها والتلاعب بها، والمستخدمة عند الحوادث، في مطالبات تعويضات التأمين على السيارات وعلى المنازل. ولكن، بحلول عام 2019، عندما وصلت التقنية المستخدمة إلى مستوى متقدّم من التطور، تم اتخاذ القرار بتكريس المزيد من الوقت لهذه القضية.
يقول أنتوني ساحاكيان، الرئيس التنفيذي لشركة "كوانتوم إنتغريتي": "أنا مندهش، لأنني لم أعتقد أنها [التقنية] ستتطوّر بهذه السرعة الكبيرة".
لقد رأى ساحاكيان بشكل مباشر إلى أي مدى حققت تقنيات "ديبفيك" نتائج بدت واقعية، وكان آخرها تبديل صوَر الوجوه على جواز سفر، بطريقة تركت جميع أختام المستندات سليمة.
والواقع، أن التحسينات في تقنيات التلاعب بالصور والفيديوهات ليست وحدها موضع اهتمام الخبراء من أمثاله، بل أعدادها المتزايدة؛ حيث وصل عدد مقاطع الفيديو المزيّفة بعمق على الإنترنت إلى الضعف تقريباً، وذلك خلال فترة تسعة أشهر، فبلغت 14678 بحلول سبتمبر 2019، وفقاً لتقديرات شركة أمن الإنترنت الهولندية "ديب تريس" Deeptrace.
مواطن الخطر
تستهدف معظم عمليات التزييف العميقة التي تم القيام بها على الإنترنت بغرض الإيذاء، النساء اللواتي تم نقل وجوههن إلى أخريات يظهرن في لقطات أو صور إباحية. ووفقاً لتقديرات شركة أمن الإنترنت الهولندية "ديب تريس" Deeptrace، فإن هذا النوع من الاستخدام استحوذ في عام 2019، على 96 % من مقاطع الفيديو التي استخدمت فيها تقنية "ديبفيك" والموضوعة على الإنترنت. ويظهر البعض من هذه الفيديوهات أو الصور، على مواقع إباحية مخصصة بإنتاج المقاطع بالغة الزيف، بينما ينضوي نشر البعض الآخر منها، تحت ما يسمّى بـ " الانتقام الإباحي" الذي يهدف إلى الإساءة إلى سمعة الضحايا.
يقول كولينز: "الابتزاز والتنمّر عبر شبكة الإنترنت هي من المواضيع المتكررة". في المقابل، تعد الحالات التي استخدمت فيها تقنية "ديبفيك"، من أجل ارتكاب عمليات احتيال، وتمّ التفطّن إليها، قليلة. وقد اتخذت معظم هذه الحالات شكل انتحال صوتي لشخص يعرفه الضحايا، لتحويل أموالهم إلى المزور.
من ناحية أخرى، ما يزال قطاع الأعمال في مرحلة تدوين الملاحظات لأخذ كل هذه الأخطار بعين الاعتبار. وقد أرسلت بعض الشركات ومن يبنها شركة زيورخ للتأمين و شركة "سويس ري Swiss Re " للتأمين وإعادة التأمين ومصرف "بي إن بي باري با BNP Paribas “، ممثلين لها إلى ورشة عمل نظمها مجلس الحوكمة الدولية للمخاطر حول مخاطر تقنية "ديبفيك".
ويقول ساحاكيان إن الاستخدام المحتمل لمقاطع فيديوهات مفبركة باستخدام هذه التقنية في مطالبات تعويضات الحوادث، على سبيل المثال، هو مصدر قلق في أوساط شركات التأمين، التي يعمل معها.
ويضيف: "إن التكنولوجيا الآن موجودة لجعل عملية KYC [أعرف عميلك] بائدة وعديمة الجدوى"، في إشارة منه، إلى عملية التحقق من هوية العملاء ونواياهم، التي تتبعها المؤسسات التجارية، من أجل تجنب إمكانية وقوعها ضحية الاحتيال.
كما أدى تنامي انتشار تقنية "ديبفيك" أيضاً إلى بروز مخاوف حول إمكانية استخدامها للتدخل في العمليات السياسية.
وقد تأكدت هذه المخاوف عندما ظهر شريط فيديو تم التلاعب به، تبدو فيه نانسي بيلوسي رئيسة مجلس النواب الأمريكي، لتشويه خطابها. كانت التكنولوجيا المستخدمة في التلاعب بالفيديو ذات نوعية منخفضة، أو ما يسمى بـ"التزييف الرخيص". ولكن كما يقول إبراهيمي، "إنها علامة على ما يمكن القيام به، والنوايا التي تكمن وراء هذا النوع من التلاعب بالإعلام."
التكيف مع واقع رقمي جديد
ومع ذلك، يحذر خبير المخاطر كولينز من أن استخدام وسائل الإعلام الاصطناعية في السياسة يجب أن يوضع في سياقه. ويحذر قائلاً: "من المحتمل أن تلعب تقنية "الديبفيك" دوراً في زعزعة نتائج الانتخابات، لكنني أتوخّى الحذر من التشديد المفرط على خطر هذه التقنية، لأنك بذلك تُخاطر بتجاهل الصورة الكاملة".
ويقول إن ما تفعله "الديبفيك" هو "الفجوة المحتملة الناشئة بين سرعة تطور النظام الإيكولوجي للمعلومات الرقمية وقدرة المجتمع على التكيّف معه".
ولإعطاء مثال على هذا، يعود كولينز إلى استخدام تقنية "الديبفيك" كأداة للتنمّر الإلكتروني؛ فيقول: "هذا الأمر يثير أسئلة حول مدى استجابة النظم القانونية للأذى الفردي عبر الإنترنت". ويضيف: "كيف يمكنك التخلّص من المحتوى الرقمي المسيء بعد مجرد ابتكاره، وكيف تجد مبتكره الأصلي أو تتخذ بحقه أية إجراءات قانونية، خاصة إذا كان يخضع لسلطة قضائية أخرى؟".
يمكن أن تساعد تقنية "الديبفيك" أيضاً في حملات التضليل، مما يؤدي إلى تآكل حلقة الوصل بين الحقيقة والثقة بها.
الذكاء الاصطناعي لتزييف المقاطع ولكشف التزييف
قد يسبب استخدام هذه التقنية حالة من الذعر في بعض الأوساط، لكنه لا يوجد إجماع على أن مقاطع الفيديو المفبركة واقعية لدرجة أن تخدع معظم المستخدمين. يقول الخبراء إن جودة هذه التقنية اليوم لا تزال تعتمد إلى حد كبير على مهارات المبتكر. ويوضح خبير أمن المقاييس الحيوية سيباستيان مارسيل، أن تبديل الوجوه على فيديو ما، يسبب حتماً وجود بعض العيوب في الصورة.
ويقول: "ستكون الجودة متباينة بدرجة كبيرة، بحسب العمل اليدوي الذي تم القيام به لتعزيز الصورة. فإذا بذل المبتكر جهداً لمواءمة النتيجة مع النسخة الأصلية، فقد يكون من الصعب جداً اكتشاف التزييف".
يعمل مارسيل وزملاؤه في معهد أبحاث "أي دياب Idiap " في مارتيني - جنوب غرب سويسرا، على برنامج للكشف خاص بهم، في مشروع كان نتيجة الجهود المبذولة للكشف عن التلاعب في الوجوه والأصوات في لقطات الفيديو.
ويقوم معهد “Idiap " بالعمل في هذا المجال على المدى الطويل. يقول مارسيل: "لن يتم حل هذه المشكلة في الحال". "إنه موضوع بحث متنامي ولذا فإننا نخطط لكيفية رصد المزيد من الموارد في هذا المجال."
ويشارك هذا المعهد غير الهادف للربح، في تحدٍ أطلقه موقع فيسبوك لإنتاج برنامج اكتشاف للصور والفيديوهات المزيفة بتقنية "الديبفيك"، من أجل مساعدة هذا الأخير على الاستفادة من بعض النتائج الأولية التي حصل عليها. وتعهد عملاق وسائل التواصل الاجتماعي بالمساهمة، بأكثر من 10 ملايين دولار للباحثين في مجال الكشف عن الحقائق المزيّفة، في جميع أنحاء العالم (انظر الحاشية).
ولكن ما قد يحدثه الكشف عن الفارق بين الحقيقة المجردة والحقيقة المزيّفة، هو موضوع مطروح للنقاش.
يقول كولينز: "من غير المحتمل إيجاد حل سحري؛ فمهما امتلكنا من تقنيات لكشف التزوير، فإن الخصم سوف يجد طريقة للتغلب عليها."
لعبة القط والفأر
يقول كل من إبراهيمي ومارسيل إن هدفهما ليس التوصل إلى أداة تشكل مفتاح أمان؛ فجزء من وظيفة الكاشف هو توقع المنحى الذي قد يسلكه المتلاعبون بالحقائق، وضبط أساليبهم وفقاً لذلك.
ويتوقع مارسيل من معهد "Idiap" مستقبلاً يتمكن فيه مبتكري المقاطع بالغة الزيف، ليس فقط من تغيير جانب واحد من الفيديو، مثل الوجوه، وإنما الصورة بأكملها.
ويقول: " إن جودة تقنيات "الديبفيك" آخذة في التحسن، لذا يتعين علينا مواكبة الأمر بتحسين أجهزة الكشف كذلك"، حتى لا تعود نسبة التكلفة إلى العائد، والناتجة عن صنع مقاطع خبيثة بالغة الزيف، في صالح المبتكر.
يعتقد إبراهيمي من المعهد التقني الفدرالي العالي بلوزان أن حدثاً كبيراً، مثل الانتخابات الرئاسية في الولايات المتحدة، يمكن أن يمنح الجهات الفاعلة الخبيثة حافزاً لتسريع عملها في هذا المضمار، مع وضع هدف واضح في الاعتبار.
"قد يستغرق الأمر شهوراً أو أعواماً" قبل أن تصبح العين المدربة قادرة على اكتشاف ما هو زائف، وفي هذه المرحلة، ستكون الأجهزة هي فقط، من تملك القدرة على القيام بذلك.منصات وسائل الإعلام الاجتماعية ضد المقاطع البالغة الزيف
أدخل تويتر Twitter قاعدة جديدة في مارس 2020 ضد مشاركة محتوى الوسائط الاصطناعية أو التلاعب الذي يمكن أن يسبب بأذية الآخرين. من بين الإجراءات التي ستتخذها، هي وسم هذه التغريدات وتحذير المستخدمين منها. كما تعهدت شركة يوتيوب YouTube، المملوكة لشركة غوغل Google، بأنها لن تتسامح مع مقاطع الفيديو البالغة الزيف ذات الصلة بالانتخابات أو بالإحصاءات في الولايات المتحدة عام 2020، والتي تم تصميمهما لتضليل الجمهور. وقد أطلق فيسبوك Facebook تحدياً بقيمة تزيد عن 10 ملايين دولار لدعم الباحثين في مجال الكشف عن الحقائق المزيّفة حول العالم. كما أصدر كل من فيسبوك Facebook وغوغل Google مجموعات بيانات لمقاطع بالغة الزيف، لمساعدة الباحثين على تطوير تقنيات الكشف. المقاطع البالغة الزيف للترفيه والمحاكاة الساخرة
بحسب مجلس الحوكمة الدولية للمخاطر (IRGC): "فإن المصنفات الأكثر تداولاً على نطاق واسع تميل إلى السخرية، حيث تتضمن شخصيات بارزة" مثل المشاهير والسياسيين، مما يشير إلى أنه "لا يتم ابتكار كل المقاطع بقصد خبيث". وقد انخرطت هوليوود أيضاً في تقنية "الديبفيك"، للسماح على سبيل المثال، بعودة الممثلين المتوفين منذ وقت طويل إلى الشاشة الفضية. ويقول إبراهيمي من EPFL إنه إذا سار كل شيء وفقاً للخطة الموضوعة، فقد تكون النتيجة الثانوية لمشروع EPFL / QI لتطوير برنامج الكشف عن المقاطع بالغة الزيف هو الاستخدام النهائي لنفس التكنولوجيا لإنشاء مؤثرات خاصة للأفلام.
وتشمل الاستخدامات الإيجابية المحتملة الأخرى لتقنيات "الديبفيك" التوليف الصوتي للأغراض الطبية والطب الشرعي الرقمي في التحقيقات الجنائية، وفقاً لمجلس الحوكمة الدولية للمخاطر.
يمكنك العثور على نظرة عامة على المناقشات الجارية مع صحفيينا هنا . ارجو أن تنضم الينا!
إذا كنت ترغب في بدء محادثة حول موضوع أثير في هذه المقالة أو تريد الإبلاغ عن أخطاء واقعية ، راسلنا عبر البريد الإلكتروني على arabic@swissinfo.ch.