چرا هوش مصنوعی گاهی نژادپرست می‌شود؟

هوش مصنوعی در سال‌های اخیر به یکی از تاثیرگذارترین فناوری‌ها در زندگی روزمره ما تبدیل شده است. بااین‌حال، همان‌طور که هوش مصنوعی پیشرفت می‌کند، نگرانی‌هایی درباره سوگیری‌های جنسیتی، نژادی و اجتماعی آن نیز افزایش یافته است.

چرا یک فناوری که به نظر می‌رسد خنثی و بی‌طرف باشد، می‌تواند نژادپرست یا تبعیض‌آمیز باشد؟ در این مقاله به بررسی این مسئله، عوامل مؤثر بر آن و راهکارهای کاهش این سوگیری‌ها می‌پردازیم.

چگونه هوش مصنوعی زاینده آموزش می‌بیند و کار می‌کند؟

برای درک دلیل سوگیری‌های هوش مصنوعی، ابتدا باید بدانیم که این فناوری چگونه آموزش می‌بیند و تصمیم‌گیری می‌کند.

۱. داده‌های آموزشی

هوش مصنوعی زاینده از حجم عظیمی از داده‌ها برای یادگیری استفاده می‌کند. این داده‌ها می‌توانند متنی، تصویری، صوتی یا عددی باشند و از منابع مختلفی مثل اینترنت، مقالات علمی، گفتگوها و داده‌های تاریخی جمع‌آوری شوند.

۲. مدل‌های یادگیری ماشینی

مدل‌های یادگیری ماشینی، مانند شبکه‌های عصبی عمیق، این داده‌ها را پردازش می‌کنند تا الگوها، روابط و مفاهیم را تشخیص دهند. برای مثال، یک مدل هوش مصنوعی زاینده مثل  ChatGPT، از داده‌های متنی استفاده می‌کند تا پاسخ‌هایی مناسب و مشابه انسان ارائه دهد.

۳. هدف مدل: پیش‌بینی و تولید

هدف نهایی هوش مصنوعی زاینده، پیش‌بینی متن یا تولید داده‌های جدید بر اساس آن چیزی است که از داده‌های آموزشی خود یاد گرفته است. این فرآیند اغلب شامل یادگیری الگوهای زبانی، قواعد دستوری و حتی مفاهیم فرهنگی و اجتماعی می‌شود.

۴. نقش داده‌ها در کیفیت آموزش

کیفیت و تنوع داده‌های آموزشی نقش بسیار مهمی در عملکرد مدل دارد. داده‌های محدود، ناقص یا متعصب می‌توانند به مدل یاد بدهند که همان سوگیری‌ها یا نژادپرستی را بازتولید کند.

چرا هوش مصنوعی دچار سوگیری یا نژادپرستی می‌شود؟

۱. کیفیت و سوگیری در داده‌های آموزشی

داده‌های آموزشی اغلب منعکس‌کننده جهان واقعی هستند و اگر جامعه‌ای که داده‌ها از آن جمع‌آوری شده‌اند دارای نابرابری‌ها، تبعیض‌ها یا سوگیری‌ها باشد، این مسائل به مدل هوش مصنوعی منتقل می‌شود.

• مثال: اگر داده‌های آموزشی حاوی اطلاعات نژادپرستانه باشند، مدل ممکن است پاسخ‌هایی تولید کند که این تبعیض را بازتولید کند.

۲. الگوریتم‌های یادگیری

الگوریتم‌های یادگیری ماشینی بر اساس احتمال و الگوهای آماری عمل می‌کنند. اگر الگوهای تبعیض‌آمیز در داده‌ها وجود داشته باشد، الگوریتم‌ها ممکن است این الگوها را تقویت کنند.

• مثال: در یک مدل شغلی، اگر داده‌ها نشان دهند که مشاغل مدیریتی بیشتر به مردان اختصاص دارند، مدل ممکن است همین تبعیض را در توصیه‌های شغلی بازتاب دهد.

۳. عدم درک از زمینه‌های فرهنگی و اجتماعی

هوش مصنوعی نمی‌تواند مفاهیم اخلاقی، فرهنگی یا اجتماعی را همانند انسان‌ها درک کند. بنابراین، ممکن است بدون توجه به تاثیرات منفی، اطلاعات سوگیرانه را ارائه دهد.

۴. خطاهای انسانی در طراحی

برنامه‌نویسان و توسعه‌دهندگان هوش مصنوعی نیز ممکن است به‌صورت ناخودآگاه سوگیری‌های خود را به مدل منتقل کنند. این مسئله به‌ویژه در تنظیم اهداف و معیارهای آموزش مدل مشهود است.

مطالعه موردی: سوگیری در هوش مصنوعی COMPAD

یکی از شناخته‌شده‌ترین موارد سوگیری در هوش مصنوعی، مربوط به استفاده از سیستم هوش مصنوعی COMPAS (Correctional Offender Management Profiling for Alternative Sanctions)  در سیستم قضایی ایالات متحده است. این سیستم که برای ارزیابی خطر تکرار جرم توسط متهمان طراحی شده بود، نشان‌دهنده چالش‌ها و پیامدهای واقعی سوگیری در هوش مصنوعی است.

COMPAS چیست و چگونه کار می‌کند؟

COMPAS یک ابزار پیش‌بینی است که برای کمک به قاضی‌ها در تصمیم‌گیری درباره آزادسازی مشروط متهمان یا تعیین میزان وثیقه استفاده می‌شود. این سیستم با استفاده از داده‌های متهمان، از جمله سوابق کیفری، سن، و اطلاعات جمعیت‌شناختی، پیش‌بینی می‌کند که آیا یک فرد احتمال ارتکاب جرم مجدد دارد یا خیر.

روش کار:

1. جمع‌آوری داده‌های تاریخی از متهمان و محکومین.
2. استفاده از این داده‌ها برای آموزش مدل یادگیری ماشینی.
3. پیش‌بینی احتمال ارتکاب جرم مجدد برای متهمان جدید.

سوگیری سیستم COMPAS: چه اتفاقی افتاد؟

در سال 2016، تحقیقی توسط سازمان ProPublica  نشان داد که COMPAS به‌طور چشمگیری علیه افراد سیاه‌پوست سوگیری دارد. این تحقیق نشان داد که:

• افراد سیاه‌پوست به اشتباه به‌عنوان خطر بالای ارتکاب جرم مجدد دسته‌بندی شده بودند، حتی زمانی که جرم اولیه آن‌ها کم‌اهمیت بود.
• در مقابل، افراد سفیدپوست بیشتر به‌اشتباه به‌عنوان خطر کم دسته‌بندی شده بودند، حتی اگر سوابق جنایی بیشتری داشتند.

آمار قابل توجه:

• 43%  از افراد سیاه‌پوست به‌اشتباه به‌عنوان خطر بالا دسته‌بندی شدند، درحالی‌که این عدد برای سفیدپوستان 23% بود.
• افراد سفیدپوست بیشتر از افراد سیاه‌پوست در دسته خطر پایین قرار گرفتند، حتی اگر احتمال بیشتری برای ارتکاب جرم مجدد داشتند.

چرا COMPAS دچار سوگیری شد؟

• داده‌های آموزشی سوگیرانه

داده‌هایی که برای آموزش COMPAS استفاده شدند، بازتاب‌دهنده تاریخچه‌ای از نابرابری‌ها در سیستم قضایی ایالات متحده بودند.

• برای مثال، سیاه‌پوستان در گذشته به دلایل مختلفی، از جمله تبعیض نژادی و سیاست‌های سخت‌گیرانه‌تر علیه جوامع محروم، بیشتر دستگیر و محکوم شده بودند. این نابرابری در داده‌ها باعث شد که مدل هوش مصنوعی، الگوهای سوگیرانه را بازتولید کند.

•  استفاده از داده‌های غیرمرتبط

COMPAS  از عواملی مثل محل سکونت و وضعیت اقتصادی برای پیش‌بینی استفاده می‌کرد. این عوامل به‌طور غیرمستقیم نژاد را بازتاب می‌دادند، چراکه جوامع سیاه‌پوست اغلب در مناطقی با فقر بالا زندگی می‌کنند.

•  عدم درک زمینه اجتماعی

سیستم هوش مصنوعی نمی‌تواند زمینه‌های اجتماعی یا تاریخی را درک کند. برای آن، داده‌ها فقط اعداد و الگوهایی برای یادگیری هستند، نه انعکاسی از یک تاریخچه پیچیده از تبعیض.

پیامدهای سوگیری  COMPAS

آسیب به عدالت اجتماعی

سیاه‌پوستان بیشتری بدون دلیل موجه به‌عنوان خطر بالا معرفی شدند، که به تصمیم‌گیری‌های ناعادلانه در سیستم قضایی منجر شد.

افزایش بی‌اعتمادی به سیستم قضایی

وقتی مردم متوجه شدند که این سیستم به‌طور سیستماتیک علیه یک گروه خاص سوگیری دارد، اعتماد عمومی به عدالت و فناوری کاهش یافت.

بازتولید نابرابری‌ها

سیستم COMPAS به‌جای کاهش نابرابری‌ها، آن‌ها را تقویت کرد. افراد بی‌گناه بیشتری از دسترسی به آزادی مشروط یا وثیقه منصفانه محروم شدند.

راه‌حل‌ها برای کاهش سوگیری در سیستم‌های مشابه

• ارزیابی دقیق داده‌ها

داده‌های مورد استفاده برای آموزش مدل‌های هوش مصنوعی باید از نظر سوگیری بررسی و اصلاح شوند. در مورد COMPAS، حذف داده‌هایی که منعکس‌کننده تبعیض‌های تاریخی هستند می‌توانست به کاهش سوگیری کمک کند.

• شفافیت در الگوریتم‌ها

شرکت‌هایی که سیستم‌های هوش مصنوعی طراحی می‌کنند، باید فرآیندهای الگوریتمی خود را شفاف‌تر کنند تا امکان بررسی مستقل فراهم شود.

• نظارت انسانی

استفاده از هوش مصنوعی نباید به‌صورت خودکار و بدون دخالت انسانی باشد. قاضی‌ها می‌توانند به‌جای اتکا کامل به پیش‌بینی‌های  COMPAS، آن را به‌عنوان یکی از عوامل در تصمیم‌گیری در نظر بگیرند.

• ایجاد قوانین و مقررات جدید

تدوین چارچوب‌های قانونی برای اطمینان از عادلانه بودن سیستم‌های هوش مصنوعی ضروری است. این چارچوب‌ها می‌توانند الزامات دقیقی برای نحوه استفاده از داده‌ها و ارزیابی سوگیری‌ها تعیین کنند.

چگونه بفهمیم آیا هوش مصنوعی سوگیری دارد؟

برای تشخیص سوگیری در هوش مصنوعی، می‌توان از روش‌های زیر استفاده کرد:

۱. تحلیل پاسخ‌ها

یکی از ساده‌ترین راه‌ها برای شناسایی سوگیری هوش مصنوعی، تحلیل پاسخ‌های آن است. اگر پاسخ‌ها حاوی کلیشه‌ها، پیش‌داوری‌ها یا اطلاعاتی باشند که به یک گروه خاص آسیب می‌رسانند، مدل سوگیری دارد.

• مثال: اگر یک مدل تصویری، زنان را بیشتر در نقش‌های خانه‌داری و مردان را در نقش‌های مدیریتی نشان دهد، احتمالاً مدل دارای سوگیری جنسیتی است.

۲. ارزیابی داده‌های آموزشی

بررسی داده‌هایی که مدل بر اساس آن‌ها آموزش دیده است می‌تواند اطلاعات زیادی درباره سوگیری‌های احتمالی ارائه دهد.

۳. مقایسه نتایج در شرایط مختلف

برای مثال، می‌توانید از هوش مصنوعی بخواهید تا اطلاعات مشابهی را برای گروه‌های مختلف ارائه دهد و تفاوت‌ها را تحلیل کنید.

• مثال: اگر مدل برای گروهی از افراد اطلاعات بیشتری ارائه دهد یا برای گروه دیگر محدودتر عمل کند، ممکن است سوگیری داشته باشد.

۴. استفاده از ابزارهای ارزیابی

امروزه ابزارهایی وجود دارند که می‌توانند سوگیری‌های مدل‌های هوش مصنوعی را شناسایی و تحلیل کنند.

چگونه می‌توان سوگیری‌های هوش مصنوعی را کاهش داد؟

۱. بهبود کیفیت داده‌های آموزشی

داده‌های متنوع و متوازن می‌توانند به کاهش سوگیری‌های هوش مصنوعی کمک کنند.

• مثال: استفاده از داده‌هایی که نماینده تمامی گروه‌های اجتماعی و فرهنگی باشند.

۲. نظارت و ارزیابی مداوم

مدل‌های هوش مصنوعی باید به‌صورت دوره‌ای ارزیابی شوند تا از کاهش سوگیری‌ها اطمینان حاصل شود.

۳. استفاده از تکنیک‌های ضد سوگیری

تکنیک‌های پیشرفته یادگیری ماشینی می‌توانند برای شناسایی و حذف سوگیری‌ها از مدل استفاده شوند.

۴. افزایش شفافیت

شفافیت در فرآیند آموزش و عملکرد مدل‌های هوش مصنوعی می‌تواند به تشخیص و اصلاح سوگیری‌ها کمک کند.

۵. استفاده از تیم‌های متنوع در توسعه

داشتن تیم‌هایی با پیشینه‌های مختلف فرهنگی و اجتماعی می‌تواند به شناسایی و کاهش سوگیری‌ها کمک کند.

هوش مصنوعی: صلح‌آفرین یا تفرقه‌انداز؟

در حالی که هوش مصنوعی پتانسیل زیادی برای بهبود زندگی انسان‌ها دارد، سوگیری‌های آن می‌توانند پیامدهای اجتماعی، اقتصادی و اخلاقی جدی داشته باشند. برای بهره‌برداری کامل از این فناوری، باید به‌طور جدی به شناسایی و کاهش این سوگیری‌ها پرداخت. تنها از طریق آموزش بهتر، نظارت دقیق‌تر و طراحی مسئولانه است که می‌توانیم از هوش مصنوعی به‌عنوان ابزاری بی‌طرف و مفید استفاده کنیم.

با توجه به پیشرفت سریع فناوری، مسئولیت ما در هدایت هوش مصنوعی به سمت برابری و انصاف بیشتر از همیشه است.

منبع: گردآوری توسط تیم محتوای زیگپ