برچسب‌گذاری عکس‌های جعلی هوش مصنوعی
عکس و تصویر با هوش مصنوعی

برچسب‌گذاری اینستاگرام بر روی عکس‌های فیک هوش مصنوعی

سرفصل‌های مقاله

«متا» می‌گوید فناوری‌ای را معرفی خواهد کرد که می‌تواند تصاویر تولید شده توسط ابزارهای هوش مصنوعی دیگر شرکت‌ها را شناسایی و برچسب‌گذاری کند.

این فناوری بر روی پلتفرم های فیسبوک، اینستاگرام و Threads فعال خواهد شد. متا در حال حاضر نیز تصاویر هوش مصنوعی تولید شده توسط سیستم‌های خود را برچسب‌گذاری می‌کند. این شرکت می‌گوید امیدوار است فناوری جدیدی که هنوز در حال ساخت آن است، «تحرکی» برای صنعت برای مقابله با جعلی‌سازی هوش مصنوعی ایجاد کند.

اما یک کارشناس هوش مصنوعی به بی‌بی‌سی گفته است که چنین ابزارهایی به راحتی قابل دور زدن هستند.

در پست وبلاگی که توسط مدیر ارشد اجرایی متا «نیک کلگ» نوشته شده است، متا می‌گوید که قصد دارد برچسب‌گذاری عکس‌های جعلی هوش مصنوعی را «در ماه‌های آینده» گسترش دهد.

شاید این مطلب هم برای‌تان جالب باشد: هوش مصنوعی گوگل (جمینی)

وی در مصاحبه‌ای با خبرگزاری رویترز اذعان کرد که این فناوری هنوز به بلوغ کامل نرسیده است، اما گفت که این شرکت می خواهد “احساس حرکت و انگیزه‌ای برای بقیه صنعت ایجاد کند.

دور زدن آسان برچسب‌گذاری عکس‌های جعلی هوش مصنوعی

برچسب‌گذاری عکس‌های جعلی هوش مصنوعیاما پروفسور «سهیل فیضی» مدیر آزمایشگاه هوش مصنوعی قابل اعتماد در دانشگاه مریلند، می‌گوید که چنین سیستمی می‌تواند به راحتی قابل دور زدن باشد.

او به بی‌بی‌سی گفت: «متا صرفا ممکن است بتوانند فناوری تشخیص خود را طوری آموزش دهد که بتواند برخی از تصاویر را که به طور خاص توسط برخی مدل‌های خاص تولید می‌شوند، پرچم‌گذاری کند.»

به گفته فیضی اما این تشخیص‌دهنده‌ها را می‌توان به‌راحتی با برخی پردازش‌های سبک در بالای تصاویر دور زد و تشخیص آن‌ها می‌تواند دارای نرخ بالایی از مثبت کاذب باشد.

فیضی می‌گوید: «بنابراین فکر نمی‌کنم این تکنولوژی برای طیف وسیعی از تصاویر کاربردی باشد.»

متا اذعان کرده است که ابزار آن برای صدا و تصویر کار نمی‌کند؛ علی‌رغم این‌که این صوت و تصویر، رسانه‌هایی هستند که بیشتر نگرانی‌ها در مورد موارد جعلی هوش مصنوعی روی آن‌ها متمرکز شده است.

این شرکت می‌گوید در عوض از کاربران می‌خواهد که پست‌های صوتی و تصویری خود را برچسب‌گذاری کنند و «اگر این کار را انجام ندهند ممکن است جریمه‌هایی برای‌شان اعمال شود».

نیک کلگ همچنین اعتراف کرد که آزمایش متونی که توسط ابزارهایی مانند ChatGPT تولید شده است غیرممکن است و نمی‌توان جلوی تولید محتواهای متنی تولیدی توسط هوش‌های مصنوعی زاینده (مولد) را گرفت.

خط‌مشی رسانه‌ای نامنسجم

روز دوشنبه، هیئت نظارت متا از این شرکت به دلیل سیاست آن در مورد تصاویر دستکاری شده انتقاد کرد و آن را “نامنسجم، فاقد توجیه متقاعدکننده و تمرکز نامناسب بر نحوه ایجاد محتوا” خواند.

بودجه هیئت نظارت توسط متا، اما مستقل از شرکت تامین می‌شود.

این انتقاد در پاسخ به حکمی درباره ویدئویی از جو بایدن، رئیس‌جمهور آمریکا صورت گرفت که در آن بایدن حرکات نامناسبی انجام می‌دهد.

از آن‌جایی که این ویدئو با استفاده از هوش مصنوعی دستکاری نشده بود و آقای بایدن را به گونه‌ای نشان می‌داد که در حال انجام دادن حرکتی است که واقعا انجام نداده، ویدئو ناقض قوانین متا تشخیص داده نشد و آن را حذف نکردند.

هیئت تصمیم گرفت که ویدیو قوانین فعلی متا درباره تصاویر جعلی را نقض نکرده است، اما گفت که قوانین متا در این حوزه باید به‌روزرسانی شوند.

نیک کلگ اعلام کرد که به طور کلی با این حکم موافق است، اما اعتراف کرد که خط مشی موجود متا “در محیطی که در آن محتوای ترکیبی بیشتری نسبت به قبل دارید، به سادگی مناسب نیست.”

از ژانویه سال جاری، این شرکت سیاستی را در نظر گرفته است که می گوید تبلیغات سیاسی باید هنگام استفاده از تصاویر یا ویدیوهای تغییر یافته دیجیتالی علامت دهند.

مهران
مهران