چگونه هوش مصنوعی می‌تواند از انتشار شایعات جلوگیری کند؟

اطلاعات نادرست و دستکاری‌شده یا اخبار جعلی، می‌تواند در مدت کوتاهی اثرات مخربی بر تعداد زیادی از مردم داشته باشد. اگرچه مفهوم شایعات قبل از پیشرفت‌های تکنولوژیکی هم وجود داشته است، اما اکنون شبکه‌های اجتماعی این مشکل را تشدید کرده‌اند.

مطالعه‌ای در توییتر در سال ۲۰۱۸ نشان داد که شایعات بیشتر از ربات‌ها توسط انسان‌ها بازتوییت می‌شوند و ۷۰ درصد بیشتر از داستان‌های واقعی ری‌توییت می‌شوند. همان مطالعه نشان داد که دستیابی به داستان‌های واقعی تقریباً شش برابر بیشتر طول می‌کشد. انتخابات ریاست جمهوری 2020 ایالات متحده، واکسن‌های کووید-19 و تغییرات آب و هوایی همگی موضوع شایعات گسترده با عواقب شدید بوده است. تخمین زده می‌شود که شایعات در مورد کووید-19 روزانه بین 50 تا 300 میلیون دلار هزینه داشت. هزینه اطلاعات غلط سیاسی می‌تواند بی‌نظمی مدنی، خشونت یا حتی کاهش اعتماد عمومی به نهادهای دموکراتیک باشد.

جلوگیر از از انتشار شایعات توسط هوش مصنوعی

تشخیص شایعه را می‌توان با ترکیبی از الگوریتم‌ها، مدل‌های یادگیری ماشینی و انسان انجام داد. یک سوال مهم این است که چه کسی مسئول کنترل و جلوگیری از انتشار اطلاعات نادرست، پس از شناسایی است. فقط شبکه‌های اجتماعی واقعاً در موقعیتی هستند که بر انتشار اطلاعات از طریق شبکه‌های خود کنترل داشته باشند.

یک رویکرد چند وجهی برای شناسایی اطلاعات نادرست آنلاین به منظور کنترل رشد و گسترش آن مورد نیاز است. ری‌توییت یا لایک یک پست نشان دهنده ارتباط بین دو نقطه است. در این مدل شبکه، پخش‌کننده‌های شایعات تمایل دارند ساختارهای متراکم‌تر از کاربرانی که حقیقت را منتشر می‌کنند، تشکیل دهند.

یک گروه تحقیقاتی، الگوریتم‌های کارآمدی را برای تشخیص ساختارهای متراکم از شبکه‌های ارتباطی ایجاد کرده است. شناسایی مقالات دستکاری شده به تجزیه و تحلیل دقیق نیاز دارد.

اما تشخیص اطلاعات نادرست فقط نیمی از راه است. برای جلوگیری از گسترش آن اقدام قاطعانه‌ای لازم است. راهبردهای مبارزه با انتشار شایعات در شبکه‌های اجتماعی هم شامل مداخله پلتفرم‌های اینترنتی است. الگوریتم‌ها و شبکه‌های مبتنی بر هوش مصنوعی 100 درصد قابل اعتماد نیستند. مداخله اشتباهی روی یک کالای واقعی و همچنین عدم مداخله روی یک کالای جعلی هزینه دارد. برای این منظور، یک رویکرد مداخله هوشمند داریم که به طور خودکار تصمیم می‌گیرد که آیا بر روی یک آیتم بر اساس صحت پیش‌بینی‌شده و محبوبیت پیش‌بینی‌شده مداخله کند یا خیر.

پیشرفت‌های اخیر در هوش مصنوعی مولد، به‌ویژه آن‌هایی که با مدل‌های زبان بزرگی مانند ChatGPT ارائه می‌شوند، ایجاد مقالات با سرعت بالا و حجم قابل‌توجه را آسان‌تر از همیشه کرده است و چالش شناسایی اطلاعات نادرست و مقابله با گسترش آن در مقیاس و زمان واقعی را بالا می‌برد. از همین رو استفاده از این نوع هوش مصنوعی مولد می‌تواند یکی از بهترین راه‌کارها برای جلوگیری از انتشار شایعات باشد. با این حال مطالعات در این زمینه همچنان ادامه دارد.

نظر شما چیست؟ آیا هوش مصنوعی می‌تواند در آینده از انتشار شایعات جلوگیری کند؟ شما می‌توانید به راحتی و از طریق زبان فارسی با ChatGPT و سایر سرویس‌های هوش مصنوعی صحبت کنید. تنها کافی است اپلیکیشن زی‌گپ را دانلود و به راحتی از آن استفاده کنید. همچنین شما می‌توانید نظرات خود را با ما و سایر کاربران در شبکه‌های اجتماعی ما در اینستاگرام و تلگرام به اشتراک بگذرید.