هوش مصنوعی
شرکت OpenAI

OpenAI ابزار تشخیص هوش مصنوعی خود را تعطیل می‌کند

سرفصل‌های مقاله

با ناامید کردن توسعه‌دهندگان، OpenAI ابزار تشخیص هوش مصنوعی خود را به دلیل دقت کم آن، از بین خواهد برد. در ژانویه، شرکت هوش مصنوعی OpenAI ابزاری را معرفی کرد که می‌تواند جهان را نجات دهد، یا حداقل سلامتی اساتید و معلمان را با تشخیص اینکه آیا یک قطعه محتوا با استفاده از ابزارهای هوش مصنوعی تولید شده یا خیر، حفظ کند.

شش ماه بعد اما این ابزار از لیست کمپانی خارج شد، زیرا نتوانست کاری را که برای آن طراحی شده بود انجام دهد.

تعطیلی ابزار تشخیص هوش مصنوعی OpenAI

ابزار تشخیص هوش مصنوعی
تعطیلی ابزار تشخیص هوش مصنوعی OpenAI

سازنده ChatGPT، بی سر و صدا ابزار تشخیص هوش مصنوعی خود، به نام AI Classifier را به دلیل «پایین بودن دقت آن»، تعطیل کرد. توضیح دقیقی در مورد آن گفته نشد، فقط در یادداشت‌های پست وبلاگی که برای اولین بار این ابزار را اعلام کرد، اضافه شد: ابزار تشخیص هوش مصنوعی OpenAI دیگر در دسترس نیست.

OpenAI نوشت: ما در حال حاضر در حال تحقیق در مورد تکنیک‌های مؤثرتری برای متن هستیم و متعهد شده‌ایم که مکانیسم‌هایی را توسعه و به کار ببریم که کاربران را قادر می‌سازد بفهمند محتوای صوتی یا بصری توسط هوش مصنوعی تولید شده است یا خیر.

شش ماه پیش، OpenAI از راه اندازی ابزار هوش مصنوعی جدیدی خبر داد و ادعا کرد که می‌تواند بین متن نوشته شده توسط یک انسان و یک هوش مصنوعی تمایز قائل شود. با این حال، حتی در آن زمان، OpenAI این ابزار را بدون خطا نمی‌دانست و اضافه کرد که ارزیابی‌های آنها فعلا نشان می‌دهد که تا ۲۶ درصد در متون انگلیسی از متن‌های نوشته‌شده با هوش مصنوعی را به‌عنوان «احتمالاً نوشته‌شده با هوش مصنوعی» شناسایی می‌کنند، در حالی که در 9 درصد مواقع به اشتباه متن نوشته‌شده توسط انسان را به‌عنوان نوشته‌شده با هوش مصنوعی برچسب‌گذاری می‌کنند.

OpenAI گفت محدودیت‌های ابزار تشخیص هوش مصنوعی شامل غیرقابل اعتماد بودن در متن با کمتر از 1000 کاراکتر، برچسب‌گذاری نادرست متن نوشته شده توسط انسان به‌صورتی که توسط هوش مصنوعی نوشته شده است، و متن‌های مبتنی بر شبکه‌های عصبی که خارج از داده‌های آموزشی آن‌ها عملکرد ضعیفی دارند، است.

یکی از بخش‌هایی که علاقه شدیدی به تشخیص دقیق هوش مصنوعی دارد، آموزش است. از زمان راه‌اندازی ChatGPT در نوامبر، اساتید زنگ خطر را برای دانش‌آموزانی که از ربات‌چت برای نوشتن مقاله استفاده می‌کنند به صدا درآورده‌اند.

OpenAI گفت: ما می‌دانیم که شناسایی متن نوشته شده با هوش مصنوعی موضوع مهمی برای بحث در بین معلمان بوده است. و افزود که این شرکت همچنان در پی راه‌های دیگر برای تشخیص بهتر اینکار است.

نظر شما چیست؟ آیا امکان تشخیص نوشته‌های هوش مصنوعی در آینده وجود دارد؟ شما می‌توانید همین حالا از طریق زبان فارسی به موتور‌های هوش مصنوعی مولد مانند ChatGPT و لئوناردو دسترسی پیدا کنید. تنها کافی است اپلیکیشن زی‌گپ را دانلود و به راحتی از آن استفاده کنید. همچنین شما می‌توانید نظرات خود را با ما و سایر کاربران در شبکه‌های اجتماعی ما در اینستاگرام و تلگرام به اشتراک بگذارید.

نوید رضایی
نوید رضایی