[vc_row][vc_column][vc_column_text]تاثیر هوش مصنوعی مولد بر روی مدل‌های هوش مصنوعی در آینده می‌تواند بسیار زیاد باشد. همانطور که محتوای تولید شده توسط هوش مصنوعی مولد اینترنت را پر می‌کند، به راحتی ممکن است که داده‌های آموزشی مدل‌های آینده را خراب کند.
به لطف رشد زیاد هوش مصنوعی مولد، برنامه‌هایی که می‌توانند متن، کد کامپیوتری، تصاویر و موسیقی تولید کنند، به راحتی در دسترس افراد عادی قرار دارند. محتوای هوش مصنوعی مولد اینترنت را در دست گرفته است و متن‌های تولید شده توسط «مدل‌های زبان بزرگ» صدها وب‌سایت از جمله CNET و Gizmodo را پر می‌کند.[/vc_column_text][vc_btn title=”فارسی از هوش مصنوعی استفاده کن” style=”3d” color=”primary” align=”center” link=”url:https%3A%2F%2Fzigap.ir%2F|target:_blank”][/vc_column][/vc_row]
تاثیر هوش مصنوعی مولد
ریک سارکار، دانشمند کامپیوتر در دانشکده انفورماتیک در دانشگاه ادینبورگ، می‌گوید: «در حالی که ممکن است در حال حاضر یا چند ماه دیگر مشکلی در مورد داده‌های هوش مصنوعی مولد وجود نداشته باشد، اما من معتقدم که در چند سال آینده، تاثیر آن بسیار زیاد است.
احتمال آلوده شدن مدل‌های هوش مصنوعی ممکن است کمی مشابه معضل قرن بیستم باشد. پس از انفجار اولین بمب‌های اتمی در پایان جنگ جهانی دوم، چندین دهه آزمایش هسته‌ای جو زمین را با موجی از امواج رادیواکتیو پر کرد. هنگامی که آن هوا وارد فولاد تازه ساخته شده شد، تشعشعات بالایی را با خود به همراه آورد.
اکنون برخی بر این باورند که چرخه مشابهی در مورد تاثیر هوش مصنوعی مولد با داده‌های آموزشی به جای فولاد تکرار می‌شود. محققان می‌توانند مسمومیت هوش مصنوعی را در عمل تماشا کنند. به عنوان مثال، با یک مدل زبان آموزش داده شده بر روی داده‌های تولید شده توسط انسان شروع کنید. حالا از آن برای تولید مقداری خروجی هوش مصنوعی استفاده کنید.
سپس از آن خروجی برای آموزش یک نمونه جدید از مدل استفاده کنید و از خروجی به دست آمده برای آموزش نسخه سوم و غیره استفاده کنید. با هر تکرار، خطاها بیشتر می‌شوند. اگر همین‌طور ادامه پیدا کندمدل دهم، که باید در مورد معماری تاریخی انگلیسی بنویسد، در مورد خرگوشه‌ها حرف می‌زند. ایلیا شومیلوف، محقق یادگیری ماشین در دانشگاه آکسفورد می‌گوید: این اتفاق به نقطه‌ای می‌رسد که مدل شما عملاً بی‌معنی است.
شومیلوف و همکارانش این پدیده را “فروپاشی مدل” می‌نامند. آنها آن را در یک مدل زبانی به نام OPT-125m، و همچنین یک مدل هوش مصنوعی متفاوت که اعداد دست‌نویس تولید می‌کند و حتی یک مدل ساده، مشاهده کردند. شومیلوف می‌گوید: حتی در ساده‌ترین مدل‌ها، این اتفاق در حال حاضر رخ می‌دهد. من به شما قول می‌دهم، در مدل‌های پیچیده‌تر هم، صددرصد این اتفاق می‌افتد.
هوش مصنوعی مولد ممکن است هوش مصنوعی را از بین ببرد؟
شومیلوف می‌گوید: «کاملاً واضح است که مدل‌ها در آینده مغرضانه‌تر می‌شوند. پس برای محدود کردن آن باید تلاش زیادی صورت گیرد. شاید همه اینها حدس و گمان باشد، اما محتوای تولید شده توسط هوش مصنوعی در حال حاضر شروع به ورود به قلمروهایی کرده است که مهندسان یادگیری ماشین برای آموزش داده‌ها به آنها اعتماد می‌کنند.
مدل‌های زبانی را در نظر بگیرید که حتی رسانه‌های خبری اصلی شروع به انتشار مقالات تولید شده توسط هوش مصنوعی کرده‌اند و برخی از سردبیران ویکی‌پدیا می‌خواهند از مدل‌های زبان برای تولید محتوا برای سایت استفاده کنند.
ونیامین وسلوفسکی، دانشجوی فارغ التحصیل در موسسه فناوری فدرال سوئیس، می‌گوید: «احساس می‌کنم در یک نقطه عطف هستیم که بسیاری از ابزارهای موجود که برای آموزش این مدل‌ها استفاده می‌کنیم، به سرعت از متن مصنوعی اشباع می‌شوند. علائم هشدار دهنده‌ای مبنی بر اینکه داده‌های تولید شده توسط هوش مصنوعی ممکن است از جاهای دیگر نیز آموزش ببینند، وجود دارد.
مهندسان یادگیری ماشین مدت‌هاست که برای حاشیه‌نویسی داده‌های آموزشی مدل‌های خود یا بررسی خروجی‌ها به پلت‌فرم‌های پرجمعیت مانند آمازون Mechanical Turk متکی بوده‌اند. وسلوفسکی و همکارانش در EPFL از کارمندان Mechanical Turk خواستند چکیده‌های تحقیقات پزشکی را خلاصه کنند. آنها دریافتند که حدود یک سوم خلاصه‌ها تاثیراتی از ChatGPT داشتنه‌اند.
بنابراین، این چالش ممکن است بسیار عمیق‌تر باشد. در دنیایی که فتوشاپ به کاربران خود اجازه می‌دهد تصاویر را با هوش مصنوعی مولد ویرایش کنند، آیا نتیجه یک تصویر تولید شده توسط هوش مصنوعی است یا انسان؟
نظر شما در مورد تاثیر هوش مصنوعی مولد چیست؟ آیا ممکن است در آینده خبری از اطلاعات درست وجود نداشته باشد؟ شما می‌توانید همین حالا از طریق زبان فارسی به موتور‌های هوش مصنوعی مولد مانند ChatGPT و سرویس متن به عکس لئوناردو دسترسی پیدا کنید. تنها کافی است اپلیکیشن زیگپ را دانلود و به راحتی از آن استفاده کنید. همچنین شما می‌توانید نظرات خود را با ما و سایر کاربران در شبکه‌های اجتماعی ما در اینستاگرام و تلگرام به اشتراک بگذارید.
