خشم کاربران از خطاهای جستجوی هوش مصنوعی گوگل

آخرین ویژگی جستجوی هوش مصنوعی گوگل، به اشتباه به کاربران گفته است که چسب و سنگ بخورند که باعث واکنش شدید کاربران شده است.

هفته گذشته، گوگل بزرگ‌ترین تغییر خود را در جستجوی سال‌های اخیر رونمایی کرد و قابلیت‌های هوش مصنوعی جدیدی را به نمایش گذاشت که به درخواست مردم در تلاش این شرکت برای رسیدن به رقبای خود یعنی مایکروسافت و OpenAI پاسخ می‌دهد.

دانلود زیگپ

×

دانلود زیگپ

×

اما این فناوری جدید از آن زمان تا کنون انبوهی از اشتباهات را ایجاد کرده است، از جمله توصیه به اضافه کردن چسب به عنوان بخشی از دستور پخت پیتزا و خوردن سنگ برای مواد مغذی که باعث بدنامی گوگل و ایجاد خشم کاربران شده است.

اشتباهات در جستجوی هوش مصنوعی گوگل

پاسخ‌های نادرست در این ویژگی که نمای کلی هوش مصنوعی نام دارد، اعتماد به موتور جستجویی را که بیش از دو میلیارد نفر برای کسب اطلاعات معتبر به آن مراجعه می‌کنند، تضعیف کرده است. در حالی که سایر چت‌بات‌ها هم دروغ می‌گویند و عجیب رفتار می‌کنند، اما واکنش‌های بیشتری در این مورد بوده و گوگل تحت فشار بیشتری برای ترکیب ایمن هوش مصنوعی است که وارد موتور جستجوی آن می‌شود.

این راه‌اندازی همچنین الگویی از مشکلات گوگل با جدیدترین ویژگی‌های هوش مصنوعی خود بلافاصله پس از عرضه آن‌ها را گسترش می‌دهد. در فوریه 2023، زمانی که گوگل Bard را معرفی کرد، یک ربات‌چت برای مبارزه با ChatGPT، اطلاعات نادرستی در مورد فضای بیرونی به اشتراک گذاشت. ارزش بازار این شرکت متعاقباً 100 میلیارد دلار کاهش یافت.

در فوریه امسال، این شرکت جانشین بارد، جمینی، یک ربات چت را منتشر کرد که می‌توانست تصاویر تولید کند و به عنوان دستیار دیجیتالی صدا عمل کند. کاربران به سرعت متوجه شدند که این سیستم در بیشتر موارد از تولید تصاویر سفیدپوستان امتناع می‌ورزد و تصاویری نادرست از شخصیت‌های تاریخی ترسیم می‌کند.

اما تحلیلگران مالی گفتند که گوگل باید به سرعت حرکت کند تا از رقبای خود عقب نماند، حتی اگر این به معنای دردسرهای بیشتر باشد.

توماس مونتیرو، تحلیلگر گوگل در Investing.com در مصاحبه ای گفت: گوگل در حال حاضر انتخابی ندارد. شرکت‌ها باید خیلی سریع حرکت کنند، حتی اگر این شامل پرش از چند قدم در طول مسیر باشد. تجربه کاربر فقط باید به آن برسد.”

لارا لوین، سخنگوی گوگل، در بیانیه‌ای گفت که اکثریت قریب به اتفاق پرس و جوهای مروری بر هوش مصنوعی منجر به “اطلاعات با کیفیت بالا، با پیوندهایی برای جستجوی عمیق‌تر در وب” شده است. نتیجه ایجاد شده توسط جستجوی هوش مصنوعی گوگل از ابزار معمولاً در بالای صفحه نتایج ظاهر می‌شود. او افزود: «بسیاری از نمونه‌هایی که دیده‌ایم، پرسش‌های غیرمعمول بوده‌اند، و همچنین نمونه‌هایی را دیده‌ایم که بررسی شده‌اند یا نتوانستیم آن‌ها را بازتولید کنیم». این شرکت از “نمونه‌های مجزا” از پاسخ‌های مشکل‌ساز برای اصلاح سیستم خود استفاده خواهد کرد.

از زمانی که OpenAI چت‌ربات ChatGPT خود را در اواخر سال 2022 منتشر کرد و یک شبه به یک حس تبدیل شد، گوگل برای ادغام هوش مصنوعی در برنامه‌های محبوب خود تحت فشار بوده است. اما چالش‌هایی در رام کردن مدل‌های زبان بزرگ وجود دارد، که به جای برنامه‌ریزی مانند نرم‌افزارهای سنتی، از حجم عظیمی از داده‌های گرفته‌شده از وب باز، از جمله دروغ‌ها و پست‌های طنزآمیز، یاد می‌گیرند.

گوگل در کنفرانس سالانه توسعه دهندگان خود، I/O، در هفته گذشته، AI Overview را معرفی کرد. برای اولین بار، این شرکت Gemini، آخرین مدل هوش مصنوعی زبان بزرگ خود را به مهم‌ترین محصول خود، یعنی موتور جستجو، متصل کرد.

AI Overview عبارات ایجاد شده از مدل‌های زبان خود را با قطعه‌هایی از پیوندهای زنده در سراسر وب ترکیب می‌کند. می‌تواند منابع خود را ذکر کند، اما نمی‌داند چه زمانی آن منبع نادرست است. این سیستم برای پاسخ به سوالات پیچیده‌تر و خاص‌تر از جستجوی معمولی طراحی شده است. به گفته شرکت، نتیجه این بود که عموم مردم می‌توانند از تمام کارهایی که جمینی می‌توانست انجام دهد، بهره‌مند شوند و بخشی از کار جستجوی اطلاعات را کنار بگذارند.

اما همه چیز به سرعت خراب شد و کاربران اسکرین شات‌هایی از نمونه‌های مشکل ساز جستجوی هوش مصنوعی گوگل را در پلتفرم‌های رسان‌های اجتماعی مانند X ارسال کردند. AI Overview به برخی از کاربران دستور داد تا چسب غیر سمی را در سس پیتزا خود مخلوط کنند تا از لیز خوردن پنیر جلوگیری کنند، دستور العمل جعلی که به نظر می‌رسید از یک پست 11 ساله ردیت قرض گرفته شده و قصد شوخی داشته باشد. هوش مصنوعی به سایر کاربران گفت که حداقل یک سنگ در روز برای ویتامین‌ها و مواد معدنی بخورند، توصیه‌ای که در یک پست طنز از The Onion نشات گرفته است.

مردم همچنین نمونه‌هایی را به اشتراک گذاشتند که گوگل با فونت درشت به کاربران می‌گفت ماشین‌های لباسشویی خود را با استفاده از سفیدکننده کلر و سرکه سفید تمیز کنند، مخلوطی که در صورت ترکیب می‌تواند گاز کلر مضر ایجاد کند. در یک فونت کوچکتر، به کاربران می‌گفت که با یکی و سپس دیگری تمیز کنند.

کاربران رسانه‌های اجتماعی سعی کرده‌اند تا با افرادی که می‌توانند عجیب‌ترین پاسخ‌های جستجوی هوش مصنوعی گوگل را به اشتراک بگذارند، یکدیگر را بشناسند. در برخی موارد، آنها نتایج را دکتر کردند. به نظر می‌رسد یک اسکرین شات دستکاری شده گوگل را نشان می‌دهد که به نقل از یکی از کاربران Reddit می‌گوید که یک درمان خوب برای افسردگی پریدن از روی پل گلدن گیت است. خانم لوین، سخنگوی گوگل، گفت که سیستم‌های این شرکت هرگز این نتیجه را برنمی‌گردانند.

منبع: nytimes