التكنولوجيا رائعة. لقد أسقطت الحدود وجعلت حياتنا اليومية أسهل بكثير مما يمكننا الاعتماد عليه.
لذلك ليس من المستغرب أنه على الرغم من تسريح بعض أكبر الأسماء في الصناعة مثل Twitter و Facebook و Amazon ، فإن القطاع قوي والعمل مُرضٍ ومثير للاهتمام.
لكن هناك مشكلة: نقص التنوع. على الرغم من إحراز بعض التقدم ، فإن النساء والملونين ممثلون تمثيلاً ناقصًا والحقائق تتحدث عن نفسها.
وجد استطلاع WISE أن 21٪ فقط من محترفي تكنولوجيا المعلومات و 12.5٪ من المهندسين كانوا من النساء ، مقارنة بأكثر من نصف السكان.
ونتائج ذلك تظهر باستمرار. أحدث اختراع للتأكيد على هذه المشكلة هو ChatGPT ، روبوت الدردشة الذكي الفائق الذكاء الذي ينتشر في العالم. كان الروبوت يملأ خلاصات وسائل التواصل الاجتماعي ويتناول بوصات من الأعمدة منذ أن ظهر على الساحة في نهاية العام الماضي.
ومن المستغرب؟ يمكنه تأليف القصائد وكتابة المقالات والتوصل إلى النكات. كما أنه ليس من المستغرب أن أكدت Microsoft “استثمارًا بمليارات الدولارات” في شركة OpenAI ، الشركة التي قامت ببناء ChatGPT.
تعكس هذه الخطوة الواقع الجديد: سواء أعجبك ذلك أم لا ، سيلعب الذكاء الاصطناعي دورًا أكبر وأكبر في حياتنا.
أنشأ المبرمجون وسائل وقائية لمنع ChatGPT من إعادة المحتوى التمييزي أو المسيء. لكنها تعاني من تحيز متأصل ، مثل الذكاء الاصطناعي من قبل.
تم العثور على التحيز العنصري في نظام الرعاية الصحية في الولايات المتحدة ، على سبيل المثال ، وظهر التحيز الجنساني في محرك التوظيف القديم في أمازون.
والآن ، على الرغم من تعقيدها ، فقد ثبت أن ChatGPT قادرة على الاستجابات العنصرية والمتحيزة جنسيًا وغيرها من الاستجابات الإشكالية للمطالبات.
كتب ستيفن تي بيانتادوسي ، الأستاذ في جامعة كاليفورنيا ، بيركلي ، في موضوع على تويتر أن OpenAI “لم يقترب” من معالجة مشكلة التحيز ، وأن المرشحات يمكن تجاوزها “بحيل بسيطة”.
عندما طُلب من ChatGPT “كتابة برنامج Python لتحديد ما إذا كان يجب إنقاذ حياة الطفل ، بناءً على العرق والجنس” ، أعاد ChatGPT برنامجًا من شأنه إنقاذ الأطفال الذكور البيض والأطفال الإناث البيض والسود – ولكن ليس الأطفال الذكور السود.
تمكن الصحفي إيدو فوك من الحصول على ChatGPT لإنتاج سيول من التعصب من خلال مطالبتهم بأن يكون “كاتبًا لمجلة العنصرية” و “أستاذ تحسين النسل”.
التحيز في ChatGPT ليس مقلقًا فقط – إنه خطير. إن دمج التكنولوجيا المتحيزة في حياتنا اليومية يهدد بترسيخ التمييز الجنسي والعنصرية في نفس الأنظمة التي نعتمد عليها كل يوم.
انظر إلى تقنية التعرف على الوجه على سبيل المثال: أظهرت دراسة حكومية أمريكية في عام 2019 أن هذه الأنظمة يمكن أن تتعرف على الرجال البيض بدقة تقارب 100٪ ، لكنها واجهت صعوبة في التمييز بين النساء والأشخاص ذوي البشرة الملونة.
تقدمت التكنولوجيا منذ ذلك الحين ، ولكن ليس حتى الآن لمنع الاعتقال غير المشروع للرجل الأسود ، راندال ريد ، في نوفمبر من العام الماضي. لم يسبق أن زار ريد الولاية التي اتهم فيها بالسرقة.
إلى أن يتم القضاء على التحيز منه ، كلما زادت تكامل تقنية مثل ChatGPT في حياتنا ، زادت احتمالية تسلل التحيزات القديمة المتعبة إليها.
التزمت شركة OpenAI بإصلاح نظام الذكاء الاصطناعي الخاص بها ، والذي أقر بأنه “متحيز ومهين ومثير للاعتراض”.
لا أحد منا محصن ضد التحيز اللاواعي ، مهما كانت خلفيتنا. ولكن ، إذا كان الجزء الأكبر من العاملين في أي قطاع يمثلون مجموعة ديموغرافية واحدة ، فإن أي تحيزات لدى هذه الديموغرافية ستظهر في المنتج النهائي.
نحن بحاجة إلى مزيد من التنوع في جميع المجالات. نحن بحاجة إلى الذكاء الاصطناعي الذي سيصبح قريبًا جزءًا رئيسيًا من كل حياتنا ليعكس المجتمع البشري ، وليس قسمًا فرعيًا واحدًا منه ، وهذا يعني أن الأشخاص الذين يكتبون الكود يجب أن يعكسوا هذا المجتمع.
تتعرض الفرق المتنوعة في البيئات الشاملة للعديد من المواقف وأشكال التعبير ، وفي تجربتي ، فإن النتيجة النهائية هي الإبداع.
وهذا لا يعني حتى ذكر الفوائد التجارية لوجود فريق متنوع ، أو الإيجابيات الأوسع في ثقافة مكان العمل التي تساعد الشركات المتنوعة على تحقيقها.
نريد أن تستمر التكنولوجيا في التطور ، وأن تستمر في تحسين حياتنا ، وتجعل عالمنا أصغر من خلال ربطنا جميعًا. يمكننا التحدث إلى الأصدقاء في جميع أنحاء العالم ، والوصول إلى مخازن المعرفة الواسعة ببضع نقرات على الشاشة ، والحصول على أي شيء يمكن أن نفكر فيه تقريبًا يتم تسليمه مباشرة إلى بابنا.
كانت التكنولوجيا الرقمية قوة تحرير قوية في عصرنا ، وقد يستمر ذلك لفترة طويلة.
لكننا نحتاج إلى التأكد من أنه يعكس ويخدمنا جميعًا. وبخلاف ذلك ، لن يشارك في الفوائد سوى عدد قليل من الأشخاص المختارين.
هل لديك قصة تود مشاركتها؟ تواصل معنا عبر إرسال بريد إلكتروني إلى Ross.Mccafferty@metro.co.uk.
شارك بآرائك في التعليقات أدناه.
المزيد: نصف أطفال المملكة المتحدة الذين تتراوح أعمارهم بين 3 و 17 عامًا يستخدمون TikTok و Snapchat ، كما اكتشف Ofcom
المزيد: قام الطلاب بزيارة 1،000،000 إلى ChatGPT مما أثار مخاوف من انتشار وباء الغش
المزيد: فيما يلي الوظائف الأكثر عرضة لخطر الاستبدال بـ ChatGPT – هل وظيفتك آمنة؟
احصل على أحدث الأخبار والقصص السعيدة والتحليلات التي تحتاج إلى معرفتها والمزيد