هوش مصنوعی
تحقیقات درباره هوش مصنوعی

آیا اعتماد به هوش مصنوعی کار درستی است؟

سرفصل‌های مقاله

آیا هوش مصنوعی (AI) و یادگیری ماشین (ML) به سنگ بنای تجارت مدرن تبدیل شده‌اند و پیامدهای این تغییر پارادایم چیست؟ اعتماد به هوش مصنوعی تا کجا درست خواهد بود؟

بر اساس گزارش جامع هوش مصنوعی و یادگیری ماشین 2024 که توسط پلتفرم کنترل هوش مصنوعی Aporia منتشر شده است، روند رو به رشدی از توهم و سوگیری در محصولات هوش مصنوعی وجود دارد. این کشف چالش‌های مهمی را در صنعت به سرعت در حال رشد ایجاد می‌کند و بر اهمیت نظارت قوی و قابلیت مشاهده در سیستم‌های هوش مصنوعی تاکید می‌کند.

این گزارش که بر اساس یک نظرسنجی از 1000 متخصص یادگیری ماشین در صنایعی مانند مالی، مراقبت‌های بهداشتی، مسافرتی، بیمه، نرم افزار و خرده فروشی در آمریکای شمالی و بریتانیا است، نشان می‌دهد که 93 درصد از مهندسان ML به طور مکرر با چالش‌های مدل تولید مواجه هستند که تعدادی از آنها با برخی از آنها مواجه می‌شوند. این مشکلات از اشکالات فنی گرفته تا مسائل مربوط به مسائلی مانند توهمات هوش مصنوعی، که در آن مدل‌های هوش مصنوعی محتوای نادرست یا مغرضانه تولید می‌کنند، متغیر است.

اعتماد به هوش مصنوعی

هوش مصنوعی
اعتماد به هوش مصنوعی

در بحث اعتماد به هوش مصنوعی، موضوع توهمات هوش مصنوعی نگران کننده است، به طوری که 89 درصد از مهندسان در شرکت‌ها از مدل‌های زبان بزرگ (LLM) استفاده می‌کنند و مدل‌های هوش مصنوعی مولد نشانه‌هایی از این پدیده را گزارش می‌دهند. این توهمات می‌تواند از نادرستی صرفاً واقعی تا محتوای مغرضانه و بالقوه خطرناک متفاوت باشد.

علاوه بر این، این نظرسنجی بر واقعیت سوگیری در هوش مصنوعی تأکید می‌کند، به طوری که 83 درصد از پاسخ‌دهندگان، نظارت بر تعصب هوش مصنوعی در پروژه‌ها را در اولویت قرار می‌دهند. این چالش با مشکلات شناسایی داده‌های مغرضانه و ابزارهای نظارتی ناکافی تشدید می‌شود. پیامدهای سوگیری در هوش مصنوعی عمیق است و همه چیز از تصمیمات فردی گرفته تا هنجارهای اجتماعی گسترده تر را تحت تأثیر قرار می‌دهد.

88 درصد از پزشکان، به بی‌توجهی خود نسبت یادگیری ماشینی و مسائلی که در تولید بدون آن رخ می‌دهد، اعتراف می‌کنند، قابلیت مشاهده در زمان واقعی بسیار مهم است. با این حال، برخی از شرکت‌ها هنوز فاقد ابزارهای اتوماسیون برای نظارت و مشاهده کارآمد هستند.

نگرانی مهم دیگری که در این گزارش به آن اشاره شده، زمان و منابع صرف شده برای توسعه ابزارهای نظارت داخلی و داشبورد است. به طور متوسط، شرکت‌ها حدود چهار ماه در این پروژه‌ها سرمایه‌گذاری می‌کنند و سوالاتی در مورد کارایی و مقرون به صرفه بودن آنها ایجاد می‌کنند.

لیران هاسون، مدیر اجرایی آپوریا، بر فوریت این وضعیت تأکید کرد و اظهار داشت: گزارش ما یک اجماع واضح در بین صنعت را نشان می‌دهد، محصولات هوش مصنوعی با سرعت بالایی در حال استقرار هستند و اگر این مدل‌های ML تحت نظارت نباشند، عواقبی در پی خواهد داشت.

او افزود: مهندسینی که پشت این ابزارها هستند صحبت کرده‌اند، مشکلاتی در فناوری وجود دارد و می‌توان آنها را برطرف کرد. اما ابزارهای قابل مشاهده صحیح مورد نیاز است تا اطمینان حاصل شود که شرکت‌ها و مصرف‌کنندگان به طور یکسان بهترین محصول ممکن را بدون توهم و سوگیری دریافت می‌کنند.

نظر شما چیست؟ آیا اعتماد به هوش مصنوعی به صورت کامل، عواقب بدی در پی خواهد داشت؟ شما هم همین حالا می‌توانید از هوش مصنوعی مولد با زبان فارسی استفاده کنید. زیگپ اولین دستیار هوش مصنوعی مولد ایرانی است. پس تا دیر شده نشده شما هم اپلیکیشن زیگپ را دانلود کنید و وارد دنیای هوش مصنوعی شوید. در ضمن با زیگپ می‌توانید به آسانی و با زبان فارسی از ChatGPT و سرویس تبدیل متن به تصویر لئوناردو استفاده کنید.

نوید رضایی
نوید رضایی