هوش مصنوعی جنسیتی عمل می‌کند

آیا هوش مصنوعی جنسیتی عمل می‌کند؟

سرفصل‌های مقاله

نوشتن به کمک هوش مصنوعی روابط شخصی ما با کلمات، واژگان و زبان‌مان را از بین می‌برد. پراچی بانسال در یک سخنرانی در مورد نابرابری جنسیتی در هند در یک درس انتخابی با عنوان «اقتصاد فقر و نابرابری» در حال تدریس بود. آماده سازی خود را با جمع آوری آمارهای مختلف در مورد معیارهای معمول در مورد زنان آغاز کردم: مشارکت کم نیروی کار، شکاف دستمزد جنسیتی و غیره.

از آنجایی که این‌ها مسائل شناخته شده بودند، متوجه شدم که دارم یک سخنرانی خسته کننده می‌کنم. در حین تحقیق برای ابعاد جدید نابرابری جنسیتی، کتابی با عنوان فمینیسم داده پیدا کردم. این کتاب مثال‌های قابل تاملی از نحوه استفاده از علم داده برای «تبعیض، پلیس و نظارت» ارائه می‌دهد. چند صفحه‌ای که خواندم مسیر سخنرانی من را به کلی تغییر داد.

cta-gif-album-m
cta-gif-album

من مقاله‌ای را به یاد می‌آورم که مدت‌ها قبل منتشر شده بود در مورد اینکه چگونه مدل‌های زبان بزرگ، با نام مستعار نوعی هوش مصنوعی (AI)، می‌توانند جنسیت گرا باشند. با این حال، از آنجایی که این اطلاعات به صورت عمومی در دسترس بود، تصور می‌کردم که این تبعیض جنسیتی به راحتی قابل درک نخواهد بود و در نسخه‌های به‌روز شده این ابزارهای هوش مصنوعی تصحیح می‌شد. من اشتباه می‌کردم.

هوش مصنوعی جنسیتی است!!!

هوش مصنوعی جنسیتی

در مقابل دانش‌آموزانم، به ChatGPT دستور دادم تا توصیه‌نامه‌هایی را برای دو دانش‌آموز، یکی پسر و دیگری زن، اما هر دو با نمرات مساوی (35 از 40) در کلاس من در مورد فقر و نابرابری ایجاد کند. وقتی این دو نامه را دریافت کردم، متوجه شدم که چرا یک استخدام کننده، نامزد مرد را به جای یک زن انتخاب می‌کند.

دانش آموز پسر با استفاده از صفت‌هایی مانند “مطمئن”، “ممتاز”، “فنی” توصیف شد، در حالی که دانش آموز دختر به عنوان “خوب برای فعالیت‌های مشترک”، “صمیمی”، “دارایی خوب برای شرکت”، “همدل” و “مهربان”. این تظاهرات واکنش خشمگین کلاس را در پی داشت. هوش مصنوعی مورد اعتماد خودشان، که اغلب برای پیش‌نویس ایمیل‌ها، صیقل دادن تکالیف یا رزومه‌هایشان یا درخواست‌های شغلی یا دانشگاهی از آن کمک می‌کردند، مغرضانه بود.

بعد از سخنرانی، آن شب چند پیام دیگر ایجاد کردم. من از ChatGPT خواستم تا مشاغلی را برای دانش آموزانم توصیه کند. در حالی که پست‌های توصیه شده برای دانشجویان پسر شامل تحلیلگر مالی، بانکدار سرمایه‌گذاری، تحلیلگر داده، تحلیلگر تحقیقات بازار و تحلیلگر سیاست بود، دانشجویان زن به عنوان برنامه‌ریزان مالی، مشاوران توسعه و اقتصاددانان محیط زیست مناسب‌تری هستند. آزمایش‌های متعدد نشان داد که ChatGPT فکر می‌کرد که مردان برای مشاغلی که نیاز به دقت در موضوعات کمی، ریاضیات، امور مالی و موارد مشابه دارند، بسیار مناسب هستند، اما بانک‌داری سرمایه‌گذاری یا تحلیل مالی در پنج شغل برتر برای یک زن فارغ‌التحصیل اقتصاد قرار ندارد.

این نتایج به ما غذای فکری می‌دهد: شروع به نوشتن ایمیل‌ها، رزومه‌ها و تکالیف خود کنید. دوست شما، هوش مصنوعی، ممکن است یک سوگیری ایجاد کند و پیش‌نویس‌‌های شما را کم مهارت کند. نوشتن به کمک هوش مصنوعی روابط شخصی ما با کلمات، واژگان و زبان‌مان را از بین می‌برد. هر نوشته‌ای را رسمی، ساده‌تر و استاندارد می‌کند. «صنعت» در صنعت نوشتن، که از دست صنعتگران می‌‌‌آید، در این فرآیند کاملاً از بین می‌رود. تشویق دانش‌آموزان به خواندن و نوشتن، این روزها که می‌توان همه نوشتارها را به صورت انبوه تولید کرد، حیاتی است.

ما معلمان می‌توانیم از کوچک شروع کنیم. از هر ایمیلی که با استفاده از هوش مصنوعی نوشته می‌شود، خودداری کنید. در دهه 2000، زمانی که من در مدرسه بودم، زبان اس ام اس رایج شده بود. “Pls” جایگزین “لطفا” شد و هر عبارت دیگر به اختصار تبدیل شد. به راحتی توسط معلمان ما گرفته شد و تصحیح شد.

در حالی که دانشگاه‌ها ابزارهای سرقت ادبی را برای بررسی استفاده از هوش مصنوعی در نوشتن و ثبت نمرات دانشجویان به کار می‌گیرند، مهم است که درک کنیم که سوگیری ایجاد شده توسط هوش مصنوعی علیرغم این تمرین کنترل نشده است. ما باید نقص پیش‌نویس‌ها و برنامه‌های کاربردی نوشته شده را بپذیریم تا دانش‌آموز مجبور نشود کار خود را با کمک این ابزارهای هوش مصنوعی «رسمی‌تر» جلوه دهد. به نظر می‌رسد وقت آن رسیده است که دنده را عوض کنیم و مطمئن شویم که مهارت نوشتن را از دست ندهیم، زیرا عادت به خواندن را با گذشت زمان از دست داده‌ایم.

منبع : indianexpress

نوید رضایی
نوید رضایی