تحقیقات درباره هوش مصنوعی

هشدار درباره خطر هوش مصنوعی My AI اسنپ‌چت برای امنیت کودکان

سرفصل‌های مقاله

سازمان «دیده‌بان داده بریتانیا» اپلیکیشن اسنپ‌چت را به «شکست نگران‌کننده» در ارزیابی خطرات احتمالی حریم خصوصی که چت‌بات هوش مصنوعی آن برای کاربران – به ویژه کودکان ایجاد می‌کند، متهم کرده است.

دفتر کمیساریای اطلاعات (ICO) بریتانیا هشدار داده که ممکن است پس از انجام تحقیقات اولیه، قابلیت My AI (هوش مصنوعی من) اسنپ‌چت را در بریتانیا تعطیل کند.

شرکت آمریکایی اسنپ‌چت اعلام کرده که یافته‌های موقت درباره نقض حریم خصوصی کودکان را با دقت و پیگیرانه بررسی خواهد کرد.

خطرات هوش مصنوعی My AI

هوش مصنوعی
هوش مصنوعی My AI

ابزار My AI اسنپ‌چت به کاربران این امکان را می‌دهد که به رایانه‌ای که مکالمات انسانی را تقلید می‌کند، پیام ارسال کنند. اسنپچت این ابزار را به عنوان یک “ویژگی در حال تکامل” توصیف می‌کند که توسط ChatGPT پشتیبانی می‌شود.

اسنپ، شرکت مادر اسنپ‌چت، در اوایل سال جاری به اولین پلتفرم رسانه اجتماعی تبدیل شد که از امکان چت مبتنی بر هوش مصنوعی استفاده کرد.

این اپلیکیشن ۲۱ میلیون کاربر در بریتانیا دارد که بسیاری از آن‌ها کودک هستند. ICO اعلام کرد که به مورد خطرات بالقوه حریم خصوصی، به‌خصوص برای کاربران 13 تا 17 ساله نگران است.

اسنپ ​​گفت که پس از صدور اخطار اولیه علیه این شرکت، با ICO به‌شکل سازنده‌ای تعامل خواهد کرد و افزود که قبل از عمومی شدن چت‌بات هوش مصنوعی اسنپ‌چت، بررسی‌های قوی حقوقی و حفظ حریم خصوصی را در مورد آن انجام داده است.

در حین حال سازمان دیده‌بان داده بریتانیا هم اعلام کرده که یافته‌های این سازمان هنوز نهایی نیست و هنوز در مورد نقض قوانین حریم شخصی توسط اسنپ‌چت به نتیجه قطعی نرسیده است.

در این مرحله، این اخطار یک سیگنال به اسنپ‌چت است تا اطمینان حاصل کند که My AI با قوانین حفاظت از داده‌ها که شامل کد حفاظت از حریم کودکان است، مطابقت دارد.

کد حفاظت شامل 15 استاندارد است که تمامی خدمات آنلاین باید از آن‌ها پیروی کنند. این قوانین حفاظتی تضمین می‌کند که شرکت‌ها به تعهدات خود تحت قانون حفاظت از داده‌ها برای نگهبانی از داده‌های کودکان به صورت آنلاین، عمل می‌کنند.

ICO اعلام کرده است که اگر یک اخطار اجرایی نهایی اتخاذ شود، تا زمانی که اسنپ‌چت ارزیابی ریسک کافی را درباره خطرات این چت‌بات را انجام نداده، ممکن است از ارائه امکان My AI را به کاربران محروم شود.

My AI چیست؟

این شرکت My AI را به عنوان یک چت‌بات آزمایشی و دوستانه توصیف می‌کند که قرار است دستیار تمام کاربران اسنپ‌چت باشد.

به گفته «ایوان اشپیگل» رئیس اسنپ، این ویژگی که می‌تواند به عنوان دستیاری برای تمام امور روزمره در اختیار کاربران باشد، روزانه میزبان بیش از دو میلیون چت است.

My AI پس از آن‌که نسخه پولی آن در ماه فوریه راه‌اندازی شد، در ماه آوریل در دسترس همه کاربران اسنپ‌چت قرار گرفت.

از آن زمان اسنپ‌چت گفته “پیشرفت‌های زیادی” در قابلیت‌های آن حاصل شده است، اگرچه اعتراف کرد که “ممکن است اشتباهاتی نیز رخ دهد”.

این شرکت گفت: «My AI ممکن است اشتباه پاسخ دهد، پاسخ‌های مغرضانه ارائه یا اعلام کند که از پاسخ‌ها مطمئن نیست، بنابراین به توصیه‌های آن اعتماد نکنید.»

اسنپ ​​همچنین به دلیل نامشخص بودن این‌که آیا چت‌بات آن می‌تواند به اطلاعات خصوصی مانند داده‌های موقعیت مکانی دسترسی داشته باشد، مورد انتقاد قرار گرفته است.

این شرکت گفته: «اسنپ‌چت تنها زمانی می‌تواند به موقعیت مکانی شما دسترسی داشته باشد که شما در مورد اشتراک‌گذاری آن رضایت داشته باشید.»

یکی از نگرانی‌های دیگر در مورد My AI این است کاربران نوجوان ممکن است درکی از ماهیت نحوه جمع‌آوری داده‌های شخصی و حساس توسط هوش مصنوعی نداشته باشند.

این پلتفرم تاکید کرد: «حریم خصوصی برای ما یک ارزش اساسی است و برای کاربری اصلی ما در راستای کمک به مردم برای برقراری ارتباط بصری با دوستان و خانواده خود بسیار مهم است.»

«جان ادواردز» کمیسر حوزه اطلاعات می‌گوید: «یافته‌های موقت تحقیقات ما حاکی از شکست نگران‌کننده اسنپ‌چت در شناسایی و ارزیابی خطرات حریم خصوصی کودکان و سایر کاربران قبل از راه‌اندازی My AI است.»

او همچنین افزوده: « ما به وضوح گفته‌ایم که سازمان‌ها باید خطرات مرتبط با هوش مصنوعی را در کنار مزایای آن در نظر بگیرند. اعلامیه اجرایی اولیه امروز نشان می‌دهد که ما برای محافظت از حقوق حریم خصوصی مصرف‌کنندگان بریتانیا اقدام خواهیم کرد.»

در صورت هرگونه نقض جدی، ICO این اختیار را دارد که جریمه‌هایی به میزان 17.5 میلیون پوند یا 4درصد از گردش مالی سالانه یک شرکت در سراسر جهان از سال مالی قبل صادر کند، هرکدام که بیشتر باشد.

سخنگوی اسنپ می‌گوید: «ما از نزدیک تصمیم موقت ICO را بررسی می‌کنیم و مانند این سازمان به محافظت از حریم خصوصی داده‌ها متعهدیم.»

نوید رضایی
نوید رضایی