جدول المحتويات:
- استخدام الخوارزميات لتصنيف الناس
- آثار الاعتراف التلقائي بالجنس
- الخصوصية والشفافية
- إنشاء أنظمة آلية شاملة
فيديو: هل يمكن حساب الجنس؟
يثير استخدام الخوارزميات لتخمين جنس الشخص بناءً على الصور أو الفيديو أو الصوت مخاوف اجتماعية وأخلاقية كبيرة لم يتم استكشافها بالكامل بعد.
تمت إعادة طباعة المقال التالي بإذن من.
المحادثة ، وهي نشرة على الإنترنت تغطي أحدث الأبحاث.
تخيل أنك تمشي في الشارع وترى شاشات إعلانية تغير محتواها بناءً على طريقة مشيك ، أو طريقة حديثك ، أو حتى شكل صدرك. تعتمد هذه الشاشات على الكاميرات والميكروفونات وأجهزة الكمبيوتر المخفية لتخمين ما إذا كنت ذكراً أم أنثى. قد يبدو هذا أمرًا مستقبليًا ، لكن العملاء في مطعم بيتزا نرويجي اكتشفوا أن هذا بالضبط ما كان يحدث: كانت النساء يشاهدن إعلانات للسلطة والرجال يشاهدون إعلانات لخيارات اللحوم. البرنامج الذي يدير لوحة إعلانات رقمية انسكب الفاصوليا عندما تحطمت وعرض الكود الأساسي الخاص بها. ربما كان الدافع وراء استخدام هذه التكنولوجيا هو تحسين جودة الإعلان أو تجربة المستخدم. ومع ذلك ، فقد فوجئ العديد من العملاء به بشكل غير سار.
هذا النوع من المواقف ليس مجرد زاحف وغزوي. الأمر الأسوأ: إن الجهود المبذولة في التعرف التلقائي على النوع - باستخدام الخوارزميات لتخمين جنس الشخص بناءً على الصور أو الفيديو أو الصوت - تثير مخاوف اجتماعية وأخلاقية كبيرة لم يتم استكشافها بالكامل بعد. تركز معظم الأبحاث الحالية حول تقنيات التعرف التلقائي على الجنس بدلاً من ذلك على التفاصيل التكنولوجية.
وجد بحثنا الأخير أن الأشخاص الذين لديهم هويات جنسانية متنوعة ، بما في ذلك أولئك الذين يعتبرون متحولين جنسياً أو غير ثنائيي الجنس ، قلقون بشكل خاص من أن هذه الأنظمة يمكن أن تصنفهم بشكل خاطئ. الأشخاص الذين يعبرون عن جنسهم بشكل مختلف عن القواعد النمطية للذكور والإناث يتعرضون بالفعل للتمييز والأذى نتيجة سوء التصنيف أو سوء الفهم. من الناحية المثالية ، يجب على مصممي التكنولوجيا تطوير أنظمة لجعل هذه المشكلات أقل شيوعًا ، وليس أكثر.
استخدام الخوارزميات لتصنيف الناس
نظرًا لأن التقنيات الرقمية أصبحت أكثر قوة وتعقيدًا ، يحاول مصمموها استخدامها لتحديد الخصائص البشرية المعقدة وتصنيفها ، مثل التوجه الجنسي والجنس والعرق. الفكرة هي أنه من خلال التدريب الكافي على بيانات المستخدم الوفيرة ، يمكن للخوارزميات أن تتعلم تحليل مظهر الناس وسلوكهم - وربما في يوم من الأيام تميز الناس كما يفعل البشر الآخرون ، أو حتى أفضل منهم.
.
الجنس موضوع يصعب على الناس التعامل معه. إنه مفهوم معقد له أدوار مهمة كبناء ثقافي وجانب أساسي من هوية الفرد. يكشف الباحثون والعلماء والناشطون بشكل متزايد عن الجوانب المتنوعة والمتغيرة والمتعددة الأوجه للنوع الاجتماعي. في هذه العملية ، وجدوا أن تجاهل هذا التنوع يمكن أن يؤدي إلى تجارب ضارة وظلم اجتماعي. على سبيل المثال ، وفقًا لاستطلاع National Transgender Survey لعام 2016 ، ذكر 47٪ من المتحولين جنسيًا أنهم تعرضوا لشكل من أشكال التمييز في مكان عملهم بسبب هويتهم الجنسية. حاول أكثر من نصف المتحولين جنسيًا الذين تعرضوا للمضايقة أو الاعتداء أو الطرد بسبب هويتهم الجنسية الانتحار.
لقد تفاجأ الكثير من الناس ، في وقت أو آخر ، أو شعروا بالارتباك أو حتى الغضب ليجدوا أنفسهم مخطئين بالنسبة لشخص من جنس آخر. عندما يحدث ذلك لشخص متحول جنسيًا - كما يقدر 0.6 في المائة من الأمريكيين ، أو 1.4 مليون شخص - يمكن أن يسبب توترًا وقلقًا كبيرين.
آثار الاعتراف التلقائي بالجنس
في بحثنا الأخير ، أجرينا مقابلات مع 13 شخصًا من المتحولين جنسيًا وغير متوافقين مع الجنس ، حول انطباعاتهم العامة عن تقنية التعرف التلقائي على النوع الاجتماعي. كما طلبنا منهم وصف استجاباتهم لسيناريوهات مستقبلية خيالية حيث قد يواجهونها. كان جميع المشاركين الـ 13 قلقين بشأن هذه التكنولوجيا وشككوا فيما إذا كان بإمكانها تقديم أي فوائد لمجتمعهم.
ومما يثير القلق بشكل خاص احتمال أن تكون قد أساءت نوع الجنس من قبلها ؛ في تجربتهم ، يعتبر الجنس إلى حد كبير خاصية داخلية ذاتية ، وليس شيئًا يتم التعبير عنه خارجيًا بالضرورة أو كليًا. لذلك ، لا يستطيع البشر ولا الخوارزميات قراءة الجنس بدقة من خلال السمات الجسدية ، مثل الوجه أو الجسم أو الصوت.
لقد وصفوا كيف يمكن أن تشعر الخوارزميات بكونها مضللة في النوع الاجتماعي أسوأ مما لو فعلها البشر. غالبًا ما يُنظر إلى التكنولوجيا أو يُعتقد أنها موضوعية وغير متحيزة ، لذا فإن تصنيفها بشكل خاطئ بواسطة خوارزمية من شأنه أن يؤكد على الاعتقاد الخاطئ بأن هوية المتحولين جنسيًا غير صحيحة. وصف أحد المشاركين كيف سيشعرون بالأذى إذا قررت "قطعة برمجية بملايين الدولارات تم تطويرها من قبل العديد من الأشخاص" أنهم ليسوا من يعتقدون أنهم هم أنفسهم.
الخصوصية والشفافية
شارك الأشخاص الذين قابلناهم القلق العام المشترك بأن الكاميرات الآلية يمكن استخدامها للمراقبة دون موافقتهم أو علمهم ؛ لسنوات ، رفع الباحثون والناشطون أعلامًا حمراء حول التهديدات المتزايدة للخصوصية في عالم تسكنه أجهزة الاستشعار والكاميرات.
لكن المشاركين وصفوا كيف يمكن أن تكون تأثيرات هذه التقنيات أكبر بالنسبة للأشخاص المتحولين جنسياً. على سبيل المثال ، قد يتم تمييزها على أنها غير عادية لأنها تبدو أو تتصرف بشكل مختلف عما تتوقعه الخوارزميات الأساسية. حتى أن بعض المشاركين كانوا قلقين من أن الأنظمة قد تحدد بشكل خاطئ أنها تحاول أن تكون شخصًا آخر وتخدع النظام.
امتدت مخاوفهم أيضًا إلى الأشخاص المتوافقين مع الجنس الذين قد يبدو أو يتصرفون بشكل مختلف عن الأغلبية ، مثل الأشخاص من أعراق مختلفة ، والأشخاص الذين تعتبرهم الخوارزميات مخنثين ، والأشخاص الذين لديهم هياكل وجه فريدة. يحدث هذا بالفعل لأشخاص من خلفيات عرقية وإثنية أقلية ، والذين يتم التعرف عليهم بشكل خاطئ من خلال تقنية التعرف على الوجه. على سبيل المثال ، تفشل تقنية التعرف على الوجه الموجودة في بعض الكاميرات في اكتشاف وجوه المستخدمين الآسيويين بشكل صحيح وإرسال رسائل لهم للتوقف عن الوميض أو فتح أعينهم.
أراد الأشخاص الذين تمت مقابلتهم معرفة المزيد حول كيفية عمل أنظمة التعرف التلقائي على الجنس وما يتم استخدامها من أجله. لم يرغبوا في معرفة التفاصيل الفنية العميقة ، لكنهم أرادوا التأكد من أن التكنولوجيا لن تعرض خصوصيتهم أو هويتهم للخطر. لقد أرادوا أيضًا المزيد من المتحولين جنسيًا المشاركين في المراحل الأولى من تصميم وتطوير هذه الأنظمة ، قبل نشرها بوقت طويل.
إنشاء أنظمة آلية شاملة
توضح نتائجنا كيف يمكن لمصممي تقنيات التصنيف التلقائي أن يتسببوا عن غير قصد في ضرر من خلال وضع افتراضات حول بساطة الخصائص البشرية وإمكانية التنبؤ بها. يضيف بحثنا إلى مجموعة متزايدة من الأعمال التي تحاول دمج النوع الاجتماعي بشكل أكثر تفكيرًا في التكنولوجيا.
تاريخياً ، تم استبعاد الأقليات من المحادثات حول نشر التكنولوجيا على نطاق واسع ، بما في ذلك الأقليات العرقية والأشخاص ذوي الإعاقة. ومع ذلك ، يعرف العلماء والمصممين على حد سواء أن تضمين مدخلات من مجموعات الأقليات أثناء عملية التصميم يمكن أن يؤدي إلى ابتكارات تقنية تعود بالنفع على جميع الأشخاص. ندعو إلى اتباع نهج أكثر شمولاً بين الجنسين ومتمحورًا حول الإنسان للأتمتة الذي يتضمن وجهات نظر متنوعة.
مع تطور التقنيات الرقمية ونضجها ، يمكن أن تؤدي إلى ابتكارات رائعة. لكن بينما يوجه البشر هذا العمل ، يجب عليهم تجنب تضخيم التحيزات البشرية والأحكام المسبقة السلبية والمقيدة. في حالة التعرف التلقائي على الجنس ، لا نستنتج بالضرورة أنه يجب التخلي عن هذه الخوارزميات. بدلاً من ذلك ، يجب أن يكون مصممو هذه الأنظمة شاملين وحساسين لتنوع وتعقيد الهوية البشرية.
