Trump: Trump arrested? Putin jailed? Fake AI images spread online
نيويورك: الرئيس الأمريكي السابق دونالد ورقة رابحة تتعامل مع عصابة من قبل ضباط شرطة مدينة نيويورك الذين يرتدون معدات الشغب. الرئيس الروسي فلاديمير بوتين في السجن خلف قضبان زنزانة خرسانية خافتة الإضاءة. غمرت الصور المثيرة المفصلة للغاية موقع تويتر ومنصات أخرى في الأيام الأخيرة ، وسط أنباء عن أن ترامب يواجه اتهامات جنائية محتملة وأصدرت المحكمة الجنائية الدولية مذكرة توقيف بحق بوتين.
لكن أيًا من المرئيات ليست حقيقية عن بعد. تم إنتاج الصور – وعشرات الأشكال المتناثرة على وسائل التواصل الاجتماعي – باستخدام مولدات صور متطورة بشكل متزايد ويمكن الوصول إليها على نطاق واسع مدعومة بالذكاء الاصطناعي.
يحذر خبراء المعلومات المضللة من أن الصور تنذر بواقع جديد: موجات من الصور ومقاطع الفيديو المزيفة تغمر وسائل التواصل الاجتماعي بعد الأحداث الإخبارية الكبرى والمزيد من الحقائق المشوشة والخيال في الأوقات الحاسمة للمجتمع.
قال جيفين ويست ، الأستاذ في جامعة واشنطن في سياتل الذي يركز على انتشار المعلومات المضللة: “إنها تضيف ضوضاء أثناء أحداث الأزمات. كما أنها تزيد من مستوى السخرية”. “تبدأ في فقدان الثقة في النظام والمعلومات التي تحصل عليها.”
في حين أن القدرة على معالجة الصور وإنشاء صور مزيفة ليست جديدة ، فإن أدوات إنشاء الصور بالذكاء الاصطناعي ميدجورنيو DALL-E وغيرها أسهل في الاستخدام. يمكنهم إنشاء صور واقعية بسرعة – كاملة بخلفيات مفصلة – على نطاق واسع مع ما يزيد قليلاً عن مطالبة نصية بسيطة من المستخدمين.
كانت بعض الصور الحديثة مدفوعة بإصدار هذا الشهر لنسخة جديدة من نموذج تخليق النص إلى صورة من Midjourney ، والذي يمكنه الآن ، من بين أمور أخرى ، إنتاج صور مقنعة تحاكي نمط صور وكالات الأنباء.
في أحد خيوط Twitter المنتشرة على نطاق واسع ، استخدم إليوت هيغينز ، مؤسس Bellingcat ، وهي مجموعة صحفية استقصائية مقرها هولندا ، أحدث نسخة من الأداة لاستحضار عشرات الصور الدرامية لاعتقال ترامب الوهمي.
وأظهرت الصور ، التي تمت مشاركتها وإعجابها عشرات الآلاف من المرات ، حشدًا من الضباط الذين يرتدون الزي الرسمي يمسكون بالملياردير الجمهوري ويسحبونه بعنف على الرصيف.
هيغينز ، الذي كان أيضًا وراء مجموعة من الصور ضعه في بعد إلقاء القبض عليه ومحاكمته ثم سجنه ، يقول إنه نشر الصور دون نية سيئة. حتى أنه ذكر بوضوح في خيط Twitter الخاص به أن الصور تم إنشاؤها بواسطة الذكاء الاصطناعي.
ومع ذلك ، كانت الصور كافية لإغلاقه من خادم Midjourney ، وفقًا لهيجينز. لم يستجب مختبر الأبحاث المستقل ومقره سان فرانسيسكو لرسائل البريد الإلكتروني التي تطلب التعليق.
وكتب هيغينز في رسالة بالبريد الإلكتروني: “صورة اعتقال ترامب كانت في الحقيقة تظهر بشكل عرضي مدى جودة وسيئة ميدجورني في عرض المشاهد الحقيقية”. “بدأت الصور في تشكيل نوع من السرد حيث قمت بتوصيل رسائل التوجيه إلى Midjourney ، لذلك قمت بتجميعها في سرد ، وقررت إنهاء القصة.”
وأشار إلى أن الصور أبعد ما تكون عن الكمال: ففي بعضها ، يظهر ترامب بشكل غريب وهو يرتدي حزام الشرطة. في حالات أخرى ، تكون الوجوه والأيدي مشوهة بشكل واضح.
لكن لا يكفي أن يذكر المستخدمون مثل Higgins بوضوح في منشوراتهم أن الصور تم إنشاؤها بواسطة الذكاء الاصطناعي ولأغراض الترفيه فقط ، كما تقول شيرين أنلين ، خبيرة تكنولوجيا الإعلام في ويتنس ، وهي منظمة حقوقية مقرها نيويورك تركز على الأدلة المرئية.
في كثير من الأحيان ، يتم إعادة مشاركة العناصر المرئية بسرعة من قبل الآخرين دون هذا السياق المهم ، كما قالت. في الواقع ، حصل منشور على Instagram يشارك بعض صور Higgins لترامب كما لو كانت أصلية على أكثر من 79000 إعجاب.
قال أنلين: “أنت ترى فقط صورة ، وبمجرد أن ترى شيئًا ، لا يمكنك أن تراه”.
في مثال حديث آخر ، شارك مستخدمو وسائل التواصل الاجتماعي صورة اصطناعية يُفترض أنها تصور بوتين راكعًا وتقبيل يد الزعيم الصيني شي جين بينغ. الصورة ، التي تم تداولها مع ترحيب الرئيس الروسي بشي في الكرملين هذا الأسبوع ، سرعان ما أصبحت ميمًا فظًا.
ليس من الواضح من الذي أنشأ الصورة أو الأداة التي استخدموها ، لكن بعض الأدلة كشفت عن التزوير. كان رأسا وأحذية الزعيمين مشوهين قليلاً ، على سبيل المثال ، ولم يتطابق الجزء الداخلي للغرفة مع الغرفة التي عُقد فيها الاجتماع الفعلي.
يقول الخبراء إنه مع تزايد صعوبة تمييز الصور التركيبية عن الأشياء الحقيقية ، فإن أفضل طريقة لمكافحة التضليل البصري هي تحسين الوعي العام والتعليم.
قال ويست: “لقد أصبح صنع هذه الصور أمرًا سهلاً للغاية ورخيصة جدًا لدرجة أنه ينبغي علينا القيام بكل ما في وسعنا لتوعية الجمهور بمدى جودة هذه التكنولوجيا”.
يقترح هيغينز أن شركات وسائل التواصل الاجتماعي يمكن أن تركز على تطوير التكنولوجيا لاكتشاف الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي ودمجها في أنظمتها الأساسية.
لدى تويتر سياسة تحظر “الوسائط التركيبية أو التي تم التلاعب بها أو خارج السياق” مع إمكانية الخداع أو الإضرار. تم إرفاق التعليقات التوضيحية من Community Notes ، وهو مشروع التحقق من صحة الحقائق الخاص بتويتر من مصادر جماهيرية ، ببعض التغريدات لتضمين سياق صور ترامب التي تم إنشاؤها بواسطة الذكاء الاصطناعي.
عندما تم الوصول إلى التعليق يوم الخميس ، قامت الشركة بإرسال رد آلي فقط عبر البريد الإلكتروني.
ورفضت ميتا ، الشركة الأم لفيسبوك وإنستغرام ، التعليق. تم تصنيف بعض صور ترامب الملفقة على أنها إما “خاطئة” أو “سياق مفقود” من خلال برنامج التحقق من الحقائق التابع لجهة خارجية ، والذي تشارك فيه أسوشيتد برس.
قال آرثر هولاند ميشيل ، زميل في مجلس كارنيجي لأخلاقيات الشؤون الدولية في نيويورك والذي يركز على التقنيات الناشئة ، إنه قلق من أن العالم ليس جاهزًا للفيضان الوشيك.
إنه يتساءل كيف سيتم تنظيم عمليات التزييف العميق التي تنطوي على أشخاص عاديين – مثل الصور المزيفة الضارة لشريك سابق أو زميل ، على سبيل المثال -.
كتب ميشيل في رسالة بالبريد الإلكتروني: “من منظور السياسة ، لست متأكدًا من استعدادنا للتعامل مع هذا الحجم من المعلومات المضللة على كل مستوى من مستويات المجتمع”. “إحساسي هو أن الأمر سيستغرق اختراقًا تقنيًا لم يتم تصوره بعد لوضع حد نهائي لهذا الأمر.
لكن أيًا من المرئيات ليست حقيقية عن بعد. تم إنتاج الصور – وعشرات الأشكال المتناثرة على وسائل التواصل الاجتماعي – باستخدام مولدات صور متطورة بشكل متزايد ويمكن الوصول إليها على نطاق واسع مدعومة بالذكاء الاصطناعي.
يحذر خبراء المعلومات المضللة من أن الصور تنذر بواقع جديد: موجات من الصور ومقاطع الفيديو المزيفة تغمر وسائل التواصل الاجتماعي بعد الأحداث الإخبارية الكبرى والمزيد من الحقائق المشوشة والخيال في الأوقات الحاسمة للمجتمع.
قال جيفين ويست ، الأستاذ في جامعة واشنطن في سياتل الذي يركز على انتشار المعلومات المضللة: “إنها تضيف ضوضاء أثناء أحداث الأزمات. كما أنها تزيد من مستوى السخرية”. “تبدأ في فقدان الثقة في النظام والمعلومات التي تحصل عليها.”
في حين أن القدرة على معالجة الصور وإنشاء صور مزيفة ليست جديدة ، فإن أدوات إنشاء الصور بالذكاء الاصطناعي ميدجورنيو DALL-E وغيرها أسهل في الاستخدام. يمكنهم إنشاء صور واقعية بسرعة – كاملة بخلفيات مفصلة – على نطاق واسع مع ما يزيد قليلاً عن مطالبة نصية بسيطة من المستخدمين.
كانت بعض الصور الحديثة مدفوعة بإصدار هذا الشهر لنسخة جديدة من نموذج تخليق النص إلى صورة من Midjourney ، والذي يمكنه الآن ، من بين أمور أخرى ، إنتاج صور مقنعة تحاكي نمط صور وكالات الأنباء.
في أحد خيوط Twitter المنتشرة على نطاق واسع ، استخدم إليوت هيغينز ، مؤسس Bellingcat ، وهي مجموعة صحفية استقصائية مقرها هولندا ، أحدث نسخة من الأداة لاستحضار عشرات الصور الدرامية لاعتقال ترامب الوهمي.
وأظهرت الصور ، التي تمت مشاركتها وإعجابها عشرات الآلاف من المرات ، حشدًا من الضباط الذين يرتدون الزي الرسمي يمسكون بالملياردير الجمهوري ويسحبونه بعنف على الرصيف.
هيغينز ، الذي كان أيضًا وراء مجموعة من الصور ضعه في بعد إلقاء القبض عليه ومحاكمته ثم سجنه ، يقول إنه نشر الصور دون نية سيئة. حتى أنه ذكر بوضوح في خيط Twitter الخاص به أن الصور تم إنشاؤها بواسطة الذكاء الاصطناعي.
ومع ذلك ، كانت الصور كافية لإغلاقه من خادم Midjourney ، وفقًا لهيجينز. لم يستجب مختبر الأبحاث المستقل ومقره سان فرانسيسكو لرسائل البريد الإلكتروني التي تطلب التعليق.
وكتب هيغينز في رسالة بالبريد الإلكتروني: “صورة اعتقال ترامب كانت في الحقيقة تظهر بشكل عرضي مدى جودة وسيئة ميدجورني في عرض المشاهد الحقيقية”. “بدأت الصور في تشكيل نوع من السرد حيث قمت بتوصيل رسائل التوجيه إلى Midjourney ، لذلك قمت بتجميعها في سرد ، وقررت إنهاء القصة.”
وأشار إلى أن الصور أبعد ما تكون عن الكمال: ففي بعضها ، يظهر ترامب بشكل غريب وهو يرتدي حزام الشرطة. في حالات أخرى ، تكون الوجوه والأيدي مشوهة بشكل واضح.
لكن لا يكفي أن يذكر المستخدمون مثل Higgins بوضوح في منشوراتهم أن الصور تم إنشاؤها بواسطة الذكاء الاصطناعي ولأغراض الترفيه فقط ، كما تقول شيرين أنلين ، خبيرة تكنولوجيا الإعلام في ويتنس ، وهي منظمة حقوقية مقرها نيويورك تركز على الأدلة المرئية.
في كثير من الأحيان ، يتم إعادة مشاركة العناصر المرئية بسرعة من قبل الآخرين دون هذا السياق المهم ، كما قالت. في الواقع ، حصل منشور على Instagram يشارك بعض صور Higgins لترامب كما لو كانت أصلية على أكثر من 79000 إعجاب.
قال أنلين: “أنت ترى فقط صورة ، وبمجرد أن ترى شيئًا ، لا يمكنك أن تراه”.
في مثال حديث آخر ، شارك مستخدمو وسائل التواصل الاجتماعي صورة اصطناعية يُفترض أنها تصور بوتين راكعًا وتقبيل يد الزعيم الصيني شي جين بينغ. الصورة ، التي تم تداولها مع ترحيب الرئيس الروسي بشي في الكرملين هذا الأسبوع ، سرعان ما أصبحت ميمًا فظًا.
ليس من الواضح من الذي أنشأ الصورة أو الأداة التي استخدموها ، لكن بعض الأدلة كشفت عن التزوير. كان رأسا وأحذية الزعيمين مشوهين قليلاً ، على سبيل المثال ، ولم يتطابق الجزء الداخلي للغرفة مع الغرفة التي عُقد فيها الاجتماع الفعلي.
يقول الخبراء إنه مع تزايد صعوبة تمييز الصور التركيبية عن الأشياء الحقيقية ، فإن أفضل طريقة لمكافحة التضليل البصري هي تحسين الوعي العام والتعليم.
قال ويست: “لقد أصبح صنع هذه الصور أمرًا سهلاً للغاية ورخيصة جدًا لدرجة أنه ينبغي علينا القيام بكل ما في وسعنا لتوعية الجمهور بمدى جودة هذه التكنولوجيا”.
يقترح هيغينز أن شركات وسائل التواصل الاجتماعي يمكن أن تركز على تطوير التكنولوجيا لاكتشاف الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي ودمجها في أنظمتها الأساسية.
لدى تويتر سياسة تحظر “الوسائط التركيبية أو التي تم التلاعب بها أو خارج السياق” مع إمكانية الخداع أو الإضرار. تم إرفاق التعليقات التوضيحية من Community Notes ، وهو مشروع التحقق من صحة الحقائق الخاص بتويتر من مصادر جماهيرية ، ببعض التغريدات لتضمين سياق صور ترامب التي تم إنشاؤها بواسطة الذكاء الاصطناعي.
عندما تم الوصول إلى التعليق يوم الخميس ، قامت الشركة بإرسال رد آلي فقط عبر البريد الإلكتروني.
ورفضت ميتا ، الشركة الأم لفيسبوك وإنستغرام ، التعليق. تم تصنيف بعض صور ترامب الملفقة على أنها إما “خاطئة” أو “سياق مفقود” من خلال برنامج التحقق من الحقائق التابع لجهة خارجية ، والذي تشارك فيه أسوشيتد برس.
قال آرثر هولاند ميشيل ، زميل في مجلس كارنيجي لأخلاقيات الشؤون الدولية في نيويورك والذي يركز على التقنيات الناشئة ، إنه قلق من أن العالم ليس جاهزًا للفيضان الوشيك.
إنه يتساءل كيف سيتم تنظيم عمليات التزييف العميق التي تنطوي على أشخاص عاديين – مثل الصور المزيفة الضارة لشريك سابق أو زميل ، على سبيل المثال -.
كتب ميشيل في رسالة بالبريد الإلكتروني: “من منظور السياسة ، لست متأكدًا من استعدادنا للتعامل مع هذا الحجم من المعلومات المضللة على كل مستوى من مستويات المجتمع”. “إحساسي هو أن الأمر سيستغرق اختراقًا تقنيًا لم يتم تصوره بعد لوضع حد نهائي لهذا الأمر.
