دانلود زیگپ 
بزرگ‌ترین شرکت‌های فناوری جهان متعهد شده‌اند که با محتوای «فریبنده» تولید شده توسط هوش مصنوعی از تداخل در انتخابات جهانی امسال در کشورهای مختلف مبارزه کنند، زیرا نگرانی‌ها از تاثیر اطلاعات نادرست با تصاویر جعلی هوش مصنوعی بر دموکراسی افزایش یافته است.
آمازون، گوگل، متا، مایکروسافت، تیک‌تاک و OpenAI از جمله 20 شرکت فناوری بودند که روز جمعه در جریان کنفرانس امنیتی مونیخ اعلام کردند که برای مبارزه با ایجاد و انتشار محتوایی که برای گمراه کردن رای‌دهندگان طراحی شده است، مانند تصاویر، صوت و ویدیوهای «دیپ‌فیک» همکاری خواهند کرد.
بر اساس توافق داوطلبانه امضا شده توسط این شرکت‌ها، توسعه سریع هوش مصنوعی «فرصت‌های جدید و همچنین چالش‌هایی را برای فرایند دموکراتیک ایجاد می‌کند» و انتشار محتوای فریبنده می‌تواند «یکپارچگی فرایندهای انتخاباتی را به خطر بیندازد».
مبارزه با تصاویر جعلی هوش مصنوعی
«نیک کلگ» رئیس امور جهانی در متا گفت: «با توجه به بسیاری از انتخابات مهمی که امسال برگزار می‌شود، بسیار مهم است که ما هر کاری که می‌توانیم برای جلوگیری از فریب مردم توسط محتوای تولید شده توسط هوش مصنوعی انجام دهیم. این کار بسیار عظیم است و به تلاش زیادی در صنعت، دولت و جامعه مدنی نیاز دارد.»
«برد اسمیت» نایب‌رئیس و مدیرعامل مایکروسافت، اضافه کرد که شرکت‌ها «مسئولیت دارند تا اطمینان حاصل کنند که این ابزارها در انتخابات به سلاح تبدیل نمی‌شوند».
این توافق در چارچوب تشدید نگرانی‌ها در میان قانون‌گذاران و کارشناسان در مورد پتانسیل هوش مصنوعی مولد برای به خطر انداختن انتخابات برجسته‌ای که قرار است امسال برگزار شود، از جمله در ایالات متحده، بریتانیا و هند به دست آمده است.
شرکت‌های فناوری که پلتفرم‌های اصلی رسانه‌های اجتماعی مانند فیس‌بوک، ایکس و تیک‌تاک را اداره می‌کنند، سال‌ها در مورد وجود محتوای مضر و تصاویر جعلی هوش مصنوعی در سایت‌های خود و نحوه مقابله با آن‌ها مورد بررسی قرار گرفته‌اند.
اما افزایش علاقه و در دسترس بودن ابزارهای هوش مصنوعی زاینده (مولد)، نگرانی‌هایی را در مورد این‌که چگونه فناوری می‌تواند به ویژه انتخابات را تضعیف کند، افزایش داده است.
در ماه ژانویه، یک فراخوان خودکار برای رای‌دهندگان ایالات متحده در نیوهمپشایر ارسال شد که ادعا می‌کرد از طرف رئیس جمهور «جو بایدن» است و از آن‌ها خواسته بود در انتخابات مقدماتی رای ندهند.
سال گذشته، کلیپ‌های جعلی از سیاستمدارانی که گفته می‌شود با استفاده از تصاویر جعلی هوش مصنوعی ایجاد شده و سپس به صورت آنلاین منتشر شده‌اند، در بریتانیا، هند، نیجریه، سودان، اتیوپی و اسلواکی پیدا شد.
20 شرکت فناوری که توافق‌نامه روز جمعه را امضا کردند، گفتند که “به طور مشترک” روی ابزارهایی برای ریشه‌کنی انتشار محتوای مضر هوش مصنوعی مرتبط با انتخابات در پلتفرم های خود کار و به روش‌های “سریع و متناسب” اقدام خواهند کرد.
این تلاش‌ها می‌تواند شامل افزودن واترمارک به تصاویر باشد که منشا تصاویر یا جعلی بودن آن‌ها را برچسب‌گذاری می‌کند.
این شرکت‌ها همچنین متعهد شدند که در مورد نحوه مقابله با چنین محتوای فریبنده‌ای شفاف باشند و گفتند که مدل‌های هوش مصنوعی تولیدی خود – مانند مدل‌های پشت چت‌بات ChatGPT را ارزیابی خواهند کرد تا خطرات مربوط به انتخابات را که ممکن است ایجاد شود، بهتر درک کنند.
این توافق آخرین مورد از یک سری تعهدات داوطلبانه در مورد هوش مصنوعی است که شرکت‌های بزرگ فناوری در ماه‌های اخیر انجام داده‌اند.
سال گذشته، گروه‌هایی از جمله OpenAI، Google DeepMind و Meta توافق کردند که مدل‌های هوش مصنوعی تولیدی خود را برای بررسی توسط موسسه ایمنی هوش مصنوعی بریتانیا باز کنند.
در این ماه، به عنوان بخشی از پیوستن به ائتلاف برای روشن کردن منشا و اصالت محتوا، گوگل گفت که «به طور فعال در حال بررسی» است که آیا می‌تواند ابزارهای واترمارکی که نحوه ایجاد یک تصویر یا را نشان می‌دهند، ارائه کند یا نه.
متا هم در ماه فوریه اعلام کرد که در ماه‌های آینده برچسب‌گذاری تصاویر تولید‌شده توسط هوش مصنوعی را که کاربران در فیس‌بوک، اینستاگرام و Threads ارسال می‌کنند، آغاز خواهد کرد.
