دراسة لليونسكو تحذر من مخاطر الذكاء الصناعي في إنتاج صور نمطية عن النساء

حذرت دراسة كشفت عنها منظمة الأمم المتحدة للتربية والعلوم والثقافة (اليونسكو)، عشية اليوم العالمي لحقوق المرأة، من أن النماذج اللغوية الضخمة التي يستخدمها الذكاء الاصطناعي لديها “ميل مثير للقلق لإنتاج صور نمطية عن الجنسين”.

وتتناول هذه الدراسة، التي تحمل عنوان “التحيز ضد النساء والفتيات في النماذج اللغوية الضخمة”، الصور النمطية، وأدوات معالجة اللغة الطبيعية التي تنهل منها منصات الذكاء الاصطناعي التوليدي، حسبما يشير بيان صادر عن المنظمة.

وخلص البلاغ إلى أن الدراسة تقدم “دليلا لا جدال فيه” على التحيز ضد المرأة في المحتوى الناتج عن كل من هذه النماذج اللغوية الرئيسية.

وأكدت أودري أزولاي، المديرة العامة لليونسكو، في البيان أنه “في كل يوم، يستخدم المزيد من الأشخاص النماذج اللغوية الضخمة في عملهم ودراستهم ومنازلهم. تتمتع تطبيقات الذكاء الاصطناعي الجديدة هذه بالقدرة على تشكيل تصورات الملايين من الأشخاص بمهارة، بحيث يمكن حتى للتحيزات الجنسية الطفيفة في المحتوى الذي تنشئه أن تضخم بشكل كبير عدم المساواة في العالم الحقيقي”.

ودعت الحكومات إلى تطوير وإنفاذ أطر تنظيمية واضحة، كما دعت الشركات الخاصة إلى مراقبة وتقييم التحيزات البنيوية بشكل مستمر، على النحو المنصوص عليه في توصية اليونسكو بشأن أخلاقيات الذكاء الاصطناعي، التي اعتمدتها الدول الأعضاء بالإجماع في نونبر 2021.

ويقيس جزء من الدراسة تنوع المحتوى الناتج عن الذكاء الاصطناعي فيما يتعلق بعينة من الأشخاص من مختلف الأجناس والخلفيات الثقافية على وجه الخصوص، من خلال دعوة المنصات إلى “كتابة قصة” عن كل شخص.

وتميل المنصات الذكية المستخدمة، على سبيل المثال، إلى تعيين الرجال في وظائف أكثر تنوعا ورفيعة المستوى، مثل “المهندس” و”المعلم” و”الطبيب”، بينما تقوم بإحالة النساء إلى أدوار لا تحظى بقيمتها تقليديا أو وصمها المجتمع، مثل رعاية البيت والطبخ.

وفي نونبر 2021، اعتمدت الدول الأعضاء في اليونسكو بالإجماع التوصية بشأن أخلاقيات الذكاء الاصطناعي، وهي الإطار المعياري العالمي الأول والوحيد في هذا المجال. ويدعو هذا الإطار إلى اتخاذ إجراءات محددة لضمان المساواة بين الجنسين في تصميم أدوات الذكاء الاصطناعي.