سریال اشتباهات هوش مصنوعی اپل

صدور هشدارهای خبری «نادرست» در هوش مصنوعی اپل

فهرست مطالب

اپل با درخواست‌های جدیدی مواجه شده است که از آن می‌خواهند ویژگی بحث‌برانگیز هوش مصنوعی (AI) خود را که هشدارهای خبری نادرستی در آیفون‌های جدید تولید کرده است، حذف کند.

این محصول قرار است که خبرهای فوری را خلاصه‌سازی کند، اما در برخی موارد ادعاهای کاملا غلط را از خودش ساخته است.

بی‌بی‌سی در دسامبر گذشته ابتدا از غول فناوری شکایت کرد که اخبارش به اشتباه در این ویژگی بازتاب یافته است، اما اپل تا دوشنبه این هفته پاسخی نداده بود، زمانی که اعلام کرد در حال کار برای روشن کردن این موضوع است که خلاصه‌ها توسط هوش مصنوعی تولید می‌شوند.

«آلن رسبریجر» سردبیر سابق گاردین، به بی‌بی‌سی گفت که اپل باید اقدامات بیشتری انجام دهد و محصولی که به گفته او “واضحا آماده نیست” را از بازار خارج کند.

آقای رسبریجر که عضو هیئت نظارت متا نیز است و به بررسی اعتراضات در مورد تصمیمات نظارتی محتوای این شرکت می‌پردازد، افزود که این تکنولوژی “از کنترل خارج شده” و تهدید قابل توجهی در زمینه اطلاعات غلط است.

او به برنامه امروز در رادیو چهار بی‌بی‌سی گفت: “اعتماد به اخبار به اندازه کافی پایین است، بدون اینکه شرکت‌های بزرگ آمریکایی وارد شوند و از آن به عنوان یک محصول آزمایشی استفاده کنند.”

اتحادیه ملی روزنامه‌نگاران  (NUJ)، یکی از بزرگترین اتحادیه‌های روزنامه‌نگاران در جهان، گفت که اپل باید “سریع عمل کند” و هوش مصنوعی اپل را حذف کند تا از گمراه کردن عمومی جلوگیری کند؛ این خواسته پیش‌تر توسط سازمان خبرنگاران بدون مرز (RSF) نیز مطرح شده بود.

«در زمانی که دسترسی به گزارش‌گری دقیق بیش از هر زمان دیگری اهمیت دارد، عموم مردم نباید در موقعیتی قرار بگیرند که دقت اخبار دریافتی خود را دچار شک و تردید کنند»، این را «لورا دیویسون» دبیرکل اتحادیه ملی روزنامه‌نگاران (NUJ) گفت.

سازمان خبرنگاران بدون مرز (RSF) نیز اعلام کرد که مداخله اپل کافی نبوده است و درخواست خود برای حذف این محصول از دسترس را تکرار کرده است.

سریال اشتباهات هوش مصنوعی اپل

سریال اشتباهات هوش مصنوعی اپل

بی‌بی‌سی ماه گذشته پس از آنکه خلاصه‌ای تولید شده توسط هوش مصنوعی اپل از تیتر خبری‌اش به اشتباه به برخی از خوانندگان گفته بود که «لوئیجی منجونه»، مردی که متهم به کشتن برایان تامپسون، مدیرعامل یونایتدهلث است، خود را به قتل رسانده اس، از این شرکت شکایت کرد.

روز جمعه، هوش مصنوعی اپل به اشتباه خلاصه‌ای از اعلان‌های اپلیکیشن بی‌بی‌سی ارائه داد که ادعا می‌کرد لوک لیتلر ساعت‌ها پیش از آغاز، قهرمان مسابقات جهانی دارت PDC شده است و رافائل نادال، تنیسور اسپانیایی، به عنوان فردی همجنس‌گرا معرفی شده است.

این اولین بار است که اپل به طور رسمی به نگرانی‌های مطرح شده از سوی بی‌بی‌سی در مورد این اشتباهات که به نظر می‌رسد از درون اپلیکیشن سازمان آمده است، پاسخ می‌دهد.

«این خلاصه‌های هوش مصنوعی توسط اپل منعکس‌کننده محتوای اصلی بی‌بی‌سی نیستند و در برخی موارد کاملا با آن مغایرت دارند»، بی‌بی‌سی روز دوشنبه اعلام کرد.

«این بسیار حیاتی است که اپل فورا به این مسائل رسیدگی کند چرا که دقت اخبار ما برای حفظ اعتماد ضروری است.»

بی‌بی‌سی تنها سازمان خبری نیست که تحت تاثیر قرار گرفته است.

در نوامبر، یک روزنامه‌نگار پروپابلیکا اشتباهات خلاصه‌سازی‌های هوش مصنوعی اپل را از اعلان‌های اپلیکیشن نیویورک تایمز برجسته کرد که پیشنهاد می‌کرد این روزنامه گزارش داده که بنیامین نتانیاهو، نخست‌وزیر اسرائیل، بازداشت شده است.

یک خلاصه نادرست دیگر از یک گزارش نیویورک تایمز به نظر می‌رسد که در تاریخ 6 ژانویه منتشر شده باشد و مربوط به سالگرد چهارم شورش‌های کاپیتول است.

نیویورک تایمز از اظهار نظر خودداری کرده است.

سازمان خبرنگاران بدون مرز گفت که تیتر نادرست تولید شده توسط هوش مصنوعی در مورد آقای منجونه در دسامبر نشان می‌دهد که «خدمات هوش مصنوعی مولد هنوز به اندازه کافی بالغ نیستند که اطلاعات قابل اعتماد برای عموم تولید کنند.»

سرمایه‌گذاری اپل

سه‌شنبه، این سازمان اعلام کرد که طرح اپل برای به‌روزرسانی این ویژگی و روشن کردن اینکه کدام اعلان‌ها با هوش مصنوعی خلاصه‌سازی می‌شوند، مشکل را اصلا حل نمی‌کند.

وینسنت برتیه، رئیس بخش فناوری و روزنامه‌نگاری RSF گفت: «این فقط مسئولیت را به دوش کاربران می‌اندازد که در یک فضای اطلاعاتی از پیش گیج‌کننده، انتظار می‌رود که صحت اطلاعات را بررسی کنند»

اپل اعلام کرد که به‌روزرسانی این ویژگی «در هفته‌های آینده» منتشر خواهد شد.

این شرکت پیش‌تر گفته بود که خلاصه‌سازی‌های اعلان‌های خود که پیش‌نمایش‌های چندین اعلان اخیر اپلیکیشن را جمع‌آوری کرده و به صورت یک هشدار واحد در صفحه قفل کاربران نمایش می‌دهد هدف دارد تا کاربران بتوانند «برای جزئیات» کلیدی اسکن کنند.

«ویژگی‌های هوش مصنوعی اپل در حالت بتا هستند و ما به طور مستمر با کمک بازخورد کاربران در حال بهبود آن‌ها هستیم»، این شرکت در بیانیه‌ای در روز دوشنبه اعلام کرد و افزود که دریافت این خلاصه‌ها اختیاری است.

«یک به‌روزرسانی نرم‌افزاری در هفته‌های آینده به وضوح نشان خواهد داد که متن نمایش داده شده، خلاصه‌ای است که توسط هوش مصنوعی اپل فراهم شده است. ما از کاربران می‌خواهیم که در صورتی که خلاصه اعلان غیرمنتظره‌ای مشاهده کردند، نگرانی خود را گزارش دهند.»

این ویژگی، به همراه دیگر ابزارهای هوش مصنوعی که به عنوان بخشی از مجموعه گسترده‌تری از ابزارهای اپل منتشر شده است، در دسامبر در بریتانیا راه‌اندازی شد. این ویژگی فقط بر روی مدل‌های آیفون 16، آیفون 15 پرو و پرو مکس که سیستم‌عامل iOS 18.1 یا بالاتر را اجرا می‌کنند و همچنین برخی آی‌پدها و مک‌ها در دسترس است.

اپل تنها شرکتی نیست که ابزارهای هوش مصنوعی زاینده را که می‌توانند متن، تصویر و محتوای دیگر را بر اساس درخواست کاربران تولید کنند، راه‌اندازی کرده است اما با نتایج متفاوت.

ویژگی خلاصه‌سازی هوش مصنوعی گوگل که یک خلاصه نوشتاری از اطلاعات نتایج در بالای موتور جستجوی این شرکت در پاسخ به درخواست‌های کاربران ارائه می‌دهد، سال گذشته با انتقاداتی مواجه شد، چرا که برخی پاسخ‌های غیرقابل پیش‌بینی تولید کرده بود.

در آن زمان، سخنگوی گوگل گفته بود که این‌ها «نمونه‌های جداگانه» هستند و این ویژگی به طور کلی به خوبی کار می‌کند.

منبع: BBC

شبیه به همین مقاله

نظرت رو برامون بنویس

زیگپ: دستیار صوتی هوشمند

دستیار صوتی هوشمند

بازار

دانلود زیگپ