[vc_row][vc_column][vc_column_text]متخصصان معمولاً دو طرز فکر کلی را در مورد هوش مصنوعی دارند. یا زندگی ما را بسیار بهبود می‌بخشد یا همه ما را نابود می‌کند. و به همین دلیل است که بحث پارلمان اروپا در این هفته در مورد نحوه قانون‌گذاری این فناوری بسیار مهم است. اما چگونه می‌توان امنیت هوش مصنوعی را تضمین کرد؟
برای یافتن پاسخ این سوال در ادامه همراه ما باشید تا پنج چالش کلیدی در بحث امنیت هوش مصنوعی را بررسی کنیم.[/vc_column_text][vc_btn title=”مترجم هوش مصنوعی” style=”3d” color=”primary” align=”center” link=”url:https%3A%2F%2Fzigap.ir/smart-translation-assistant%2F|target:_blank”][/vc_column][/vc_row]
۵ چالش اصلی در امنیت هوش مصنوعی
هوش مصنوعی واقعا چیست؟
پارلمان اروپا دو سال طول کشید تا تعریفی از یک سیستم هوش مصنوعی ارائه دهد، نرم افزاری که می‌تواند برای مجموعه معینی از اهداف تعریف شده توسط انسان با خروجی‌هایی مانند محتوا، پیش بینی‌ها یا توصیه‌ها تاثیر بگذارد.
این هفته، پارلمان اروپا در مورد قانون‌های هوش مصنوعی رای می‌دهد. اولین قوانین قانونی در نوع خود در مورد هوش مصنوعی، که فراتر از کدهای داوطلبانه است و شرکت‌ها را ملزم به رعایت آن می‌کند.
رسیدن به توافق جهانی
ثنا خراغانی، رئیس سابق دفتر هوش مصنوعی بریتانیا اشاره می‌کند که این فناوری هیچ احترامی برای مرزها قائل نیست. او به بی‌بی‌سی نیوز گفت: «ما باید در این زمینه همکاری بین‌المللی داشته باشیم. می‌دانم که سخت خواهد بود. این یک موضوع داخلی نیست. این فناوری در محدوده یک کشور قرار نمی‌گیرند.
اما هیچ برنامه‌ای برای قانون‌گذار جهانی هوش مصنوعی به سبک سازمان ملل وجود ندارد. اگرچه برخی آن را پیشنهاد کرده‌اند و افراد ایده‌های متفاوتی در مورد آن دارند:
- پیشنهادات اتحادیه اروپا سخت‌گیرانه‌ترین هستند و شامل درجه‌بندی محصولات هوش مصنوعی بسته به تأثیر آنها می‌شود. برای مثال، فیلتر اسپم ایمیل، مقررات سبک‌تری نسبت به ابزار تشخیص سرطان دارد.
- بریتانیا مقررات هوش مصنوعی را به قانونگذاران موجود ارجاع می‌دهد. برای مثال کسانی که می‌گویند این فناوری علیه آنها تبعیض قائل شده است، به کمیسیون برابری بریتانیا مراجعه می‌کنند.
- ایالات متحده هنوز به نتیجه کاملی نرسیده است و قانونگذاران در جلسه اخیر کمیته هوش مصنوعی نگرانی خود در مورد اینکه آنها نمی‌توانند نقشی در آینده داشته باشند را بازگو کردند.
- چین هم قصد دارد شرکت‌ها را وادار کند هر زمان که از الگوریتم هوش مصنوعی استفاده می‌شود، به کاربران اطلاع دهند.
تامین اعتماد عمومی
ژان مارک لکلرک، رئیس امور نظارتی اتحادیه اروپا در شرکت ماشین‌های تجاری بین‌المللی (IBM) می‌گوید: «اگر مردم به آن اعتماد کنند، از آن استفاده خواهند کرد». فرصت‌های بزرگی برای هوش مصنوعی وجود دارد تا زندگی مردم را به روش‌های باورنکردنی بهبود بخشد. در حال حاضر این فناوری کمک کرده به:
- کشف آنتی بیوتیک‌ها
- افراد فلج تا دوباره راه بروند
- حل مسائلی مانند تغییرات آب و هوا و بیماری‌های همه‌گیر
اما پیش بینی میزان احتمال ارتکاب جرم توسط یک فرد با هوش مصنوعی چه می‌شود؟ پارلمان اروپا از مردم می‌خواهد که در مورد خطرات هر محصول هوش مصنوعی آگاه شوند. شرکت‌هایی که قوانین آن را زیر پا بگذارند ممکن است بیش از 30 میلیون یورو یا 6 درصد از گردش مالی سالانه خود را جریمه شوند. اما آیا توسعه دهندگان می‌توانند نحوه استفاده از محصول خود را پیش‌بینی یا کنترل کنند؟ امنیت هوش مصنوعی مسئله اصلی آن است
تصمیم‌گیری در مورد اینکه چه کسی قوانین را بنویسد
تا کنون، هوش مصنوعی تا حد زیادی خود‌مختار بوده است. به گفته سام آلتمن، رئیس OpenAI خالق ChatGPT، شرکت‌های بزرگ می‌گویند که با مقررات دولتی موافق هستند که برای کاهش خطرات احتمالی بسیار مهم است. اما اگر سود آنها تامین شود باز هم درگیر نوشتن بیش از حد قوانین می‌شوند؟
می‌توان پیش‌بینی کرد که آنها می‌خواهند تا حد امکان به قانونگذارانی که وظیفه تنظیم مقررات را دارند نزدیک باشند. بارونس لین فاکس، بنیانگذار Lastminute.com می‌گوید که تنها نباید به شرکت‌ها گوش دهیم، ما باید جامعه مدنی، دانشگاه، افرادی که تحت تأثیر این مدل‌ها و دگرگونی‌های مختلف قرار گرفته‌اند را هم درگیر کنیم.
سریع عمل کردن
مایکروسافت که میلیاردها دلار در ChatGPT سرمایه‌گذاری کرده است، می‌خواهد این فناوری به سریع‌ترین شکل ممکن ادامه پیدا کند. آقای آلتمن در مورد هوش مصنوعی می‌گوید که A.I پاسخ‌های متنی شبیه انسان ایجاد می‌کند، اما در نهایت یک ابزار است، نه یک موجود.
قرار است چت‌بات‌ها باعث بهره‌وری بیشتر انسان‌ها شوند. در برخی از صنایع، هوش مصنوعی ظرفیت ایجاد شغل را دارد. اما کارمندان زیادی شغل خود را تا به حال از دست داده‌اند. ماه گذشته، اعلام شد که هوش مصنوعی جایگزین 10000 شغل خواهد شد.
ChatGPT کمی بیش از شش ماه است که مورد استفاده عمومی قرار گرفته و اکنون می‌تواند متن بنویسد، تعطیلات مردم را برنامه‌ریزی کند و امتحانات حرفه‌ای را پشت سر بگذارد. قابلیت این مدل‌های زبانی در مقیاس بزرگ با سرعتی خارق العاده در حال رشد است.
دو تن از سه پدرخوانده هوش مصنوعی، جفری هینتون و پروفسور یوشوا بنجیو، از جمله کسانی بودند که هشدار دادند این فناوری پتانسیل زیادی برای آسیب دارد. مارگرت وستاگر، رئیس فناوری اتحادیه اروپا می‌گوید، قانون هوش مصنوعی حداقل تا سال ۲۰۲۵ اجرایی نخواهد شد.
نظر شما چیست؟ آیا موضوع امنیت هوش مصنوعی می‌تواند در کوتاه مدت حل شود؟ شما می‌توانید به راحتی و از طریق زبان فارسی با ChatGPT و سایر سرویس‌های هوش مصنوعی صحبت کنید. تنها کافی است اپلیکیشن زیگپ را دانلود و به راحتی از آن استفاده کنید. همچنین شما می‌توانید نظرات خود را با ما و سایر کاربران در شبکه‌های اجتماعی ما در اینستاگرام و تلگرام به اشتراک بگذرید.
