دانلود زیگپ 
OpenAI یک سیستم واترمارک مختص برای متون تولیدشده توسط ChatGPT به همراه ابزاری تشخیص آن ایجاد کرده که بحث‌های زیادی را به همراه داشته است. در حالی که این فناوری آماده است، نگرانی در مورد تاثیرات تجاری آن باعث تردید در شرکت شده است.
واترمارک شامل تنظیم پیش‌بینی کلمات هوش مصنوعی برای ایجاد یک الگوی قابل تشخیص بدون تاثیر بر کیفیت متن است.
این شیوه می‌تواند به معلمان کمک کند تا محتوای تولید شده توسط هوش مصنوعی را در تکالیف دانش‌آموزان شناسایی کنند. یک نظرسنجی توسط OpenAI نشان داد که مردم در سراسر جهان از ابزارهای تشخیصی هوش مصنوعی با اختلاف چهار به یک پشتیبانی می‌کنند.
ویژگی‌های کلیدی واترمارکینگ OpenAI
- اثربخشی: گزارش شده است که واترمارک OpenAI 99.9٪ موثر است.
- دور زدن: سیستم را می‌توان از طریق بازنویسی با مدل‌های دیگر دور زد.
- تاثیر کاربر: تقریبا 30٪ از کاربران ChatGPT گفتند که اگر واترمارکینگ اجرا شود، کمتر از نرم‌افزار استفاده می‌کنند.
بحث داخلی درباره واترمارکینگ
نگرانی‌های تجاری
علی‌رغم دقت بالای این سیستم، می‌توانید با بازنویسی با سایر مدل‌های هوش مصنوعی، واترمارکینگ را دور بزنید. OpenAI همچنین نگران این است که چگونه واترمارکینگ ممکن است بر استفاده‌کنندگان و سخنرانان خارجی که به ابزارهای هوش مصنوعی متکی هستند تاثیر بگذارد.
علاوه بر این، تقریبا 30 درصد از کاربران ChatGPT نشان دادند که در صورت اجرای، کمتر از این نرم‌افزار استفاده خواهند کرد. برخی از کارمندان OpenAI بر این باورند که واترمارکینگ موثر خواهد بود. با این حال، آن‌ها خواهان روش‌های کمتر بحث‌برانگیز، هرچند اثبات نشده، هستند.
راه‌حل‌های جایگزین
این شرکت در حال بررسی تعبیه اَبَرداده به عنوان جایگزینی است که می‌تواند به صورت رمزنگاری امضا شود تا از نتایج مثبت کاذب برای متون تولیدشده جلوگیری کند. با این حال، این فناوری هنوز در مراحل اولیه و موفقیت آن نامشخص است.
تاثیرات بالقوه در حوزه آموزش
واترمارکینگ می‌تواند یک تغییر دهنده بازی برای معلمان و اساتید باشد. شناسایی محتوای تولید شده توسط هوش مصنوعی در تکالیف دانش‌آموز یکپارچگی تحصیلی را تضمین می‌کند. با این حال، دانش‌آموزان ممکن است راه‌هایی برای دور زدن سیستم پیدا و سوالاتی در مورد اثربخشی بلندمدت آن ایجاد کنند.
مزایای واترمارکینگ برای آموزش‌دهندگان
- صداقت: به حفظ صداقت تحصیلی کمک می‌کند.
- شناسایی: تشخیص کارهای تولیدشده توسط هوش مصنوعی را آسان‌تر می‌کند.
- پشتیبانی: نظرسنجی‌ها نشان‌دهنده حمایت جهانی از چنین ابزارهایی است.
چالش‌ها
- دور زدن: دانش‌آموزان می‌توانند محتوا را با استفاده از مدل‌های هوش مصنوعی دیگر بازنویسی کنند.
- سازگاری: دانش‌آموزان و معلمان باید با سیستم جدید سازگار شوند.
واکنش‌ها و نگرانی‌های کاربران
تاثیر بر افراد غیر بومی
افراد غیر بومی آمریکا نیز اغلب به ابزارهای هوش مصنوعی متکی هستند. اجرای واترمارکینگ ممکن است بر توانایی آن‌ها در استفاده موثر از این ابزارها تاثیر بگذارد و نگرانی‌هایی را در مورد فراگیری آن ایجاد کند.
کاهش استفاده
تقریباً 30 درصد از کاربران ChatGPT گفتند که در صورت اجرای آن، کمتر از این نرم‌افزار استفاده خواهند کرد. این امر خطرات تجاری بالقوه و نیاز به بررسی دقیق را برجسته می‌کند.
جمع‌بندی
سیستم واترمارک OpenAI برای متن ایجاد شده توسط ChatGPT گام مهمی به سوی شفافیت است، اما با چالش‌هایی همراه است. در حالی که می‌تواند به معلمان کمک و یکپارچگی محتوا را تضمین کند، نگرانی‌ها در مورد تاثیر آن بر افراد غیر بومی و کاهش احتمالی استفاده، سوالات مهمی را ایجاد می‌کند.
همان‌طور که OpenAI راه‌حل‌های جایگزین مانند جاسازی ابرداده را بررسی می‌کند، بحث بر سر بهترین رویکرد برای شفافیت هوش مصنوعی ادامه دارد.
منبع: autogpt