هوش مصنوعی
تحقیقات درباره هوش مصنوعی

تبعات هوش مصنوعی را باید به اندازه بحران آب‌وهوایی زمین جدی گرفت

سرفصل‌های مقاله

یکی از چهره‌های برجسته حوزه هوش مصنوعی هشدار داده است که جهان باید با تبعات هوش مصنوعی، به‌اندازه بحران آب‌وهوایی جدی برخورد کند و نمی‌تواند اقدامات لازم را به تعویق بیندازد.

«دمیس حسابیس» مدیر هوش مصنوعی Google DeepMind در حالی‌که دولت بریتانیا برای میزبانی نشستی درباره ایمنی هوش مصنوعی آماده می‌شود، گفت که نظارت بر این صنعت می‌تواند با نهادی مشابه هیئت بین‌دولتی تغییرات آب‌وهوایی (IPCC) آغاز شود.

حسابیس مدیر اجرایی بریتانیایی واحد هوش مصنوعی گوگل می‌گوید که جهان باید فورا برای مقابله با تبعات هوش مصنوعی که می‌تواند شامل کمک به ایجاد سلاح‌های خطرناک و تهدید وجودی ناشی از سیستم‌های فوق‌هوشمند باشد، اقدام کند.

تبعات هوش مصنوعی چقدر جدی است؟

تبعات هوش مصنوعی
تبعات هوش مصنوعی چقدر جدی است؟

او هشدار داده: «ما باید خطرات هوش مصنوعی را به اندازه سایر چالش‌های بزرگ جهانی مانند تغییرات آب‌وهوا جدی بگیریم. جامعه بین‌المللی برای هماهنگ کردن یک واکنش موثر جهانی به بحران آب‌وهوا خیلی درنگ کرد و حالا تبعات آن تعلل گریبان‌گیر ما شده است. ما نمی‌توانیم همان تعلل را در مورد هوش مصنوعی هم تحمل کنیم.»

حسابیس که واحدش برنامه انقلابی AlphaFold را توسعه داده که می‌تواند ساختارهای پروتئینی را به تصویر بکشد، در عین حال تاکید می‌کند که هوش مصنوعی می‌تواند «یکی از مهم‌ترین و مفیدترین فناوری‌هایی باشد که تاکنون اختراع شده است».

با این حال او به گاردین گفت که یک سیستم نظارتی بر هوش مصنوعی لازم است و دولت‌ها باید از ساختارهای بین‌المللی مانند IPCC برای شکل دادن به یک نهاد بین‌المللی برای کنترل هوش مصنوعی الهام بگیرند.

حسابیس پیشنهاد می‌کند: «من فکر می‌کنم ما باید با چیزی مانند IPCC شروع کنیم، جایی که یک توافق علمی و تحقیقاتی مبتنی بر آمار و گزارش‌ها شکل گرفته است. و سپس از آن نقطه شروع کنیم به ساختن. ما باید برای افزایش ایمنی هوش مصنوعی، چیزی شبیه به پروژه علمی Cern داشته باشیم. شاید روزی هم لازم باشد مثل آژانس بین‌المللی انرژی اتمی، نهادی برای بازدارندگی جهت استفاده‌های نابجا از هوش مصنوعی ایجاد شود.»

با این وجود حسابیس تاکید می‌کند که هیچ‌یک از تشابه‌های نظارتی مورد استفاده برای هوش مصنوعی، مستقیما برای این فناوری قابل اجرا نیستند، اگرچه می‌توان «درس‌های ارزشمندی» را از موسسات و نهادهای بین‌المللی موجود استخراج کرد.

هفته گذشته «اریک اشمیت» مدیر اجرایی سابق گوگل و مصطفی سلیمان یکی از بنیان‌گذاران DeepMind، خواستار ایجاد یک پنل به سبک IPCC برای هوش مصنوعی شدند. اگرچه مقامات بریتانیا از چنین اقدامی حمایت می‌کنند، اما تصور می‌شود که آن‌ها معتقدند ایجاد چنین نهادی باید تحت نظارت سازمان ملل انجام شود.

حسابیس اعتقاد دارد که هوش مصنوعی می‌تواند “فرصت‌هایی باورنکردنی” را در زمینه‌هایی مانند پزشکی و علم به ارمغان بیاورد، اما نگرانی‌های موجود در مورد این فناوری را هم تصدیق می‌کند. 

این نگرانی‌ها، بر توسعه احتمالی هوش عمومی مصنوعی (AGI) متمرکز هستند؛ سیستم‌هایی با سطوح هوش انسانی یا بالاتر از انسان که می‌توانند از کنترل انسان فرار کنند.

حسابیس یکی از امضاکنندگان نامه سرگشاده‌ ماه «می» بود که هشدار می‌داد خطر انقراض ناشی از هوش مصنوعی باید خطری در مقیاس اجتماعی و هم‌تراز با پاندمی‌ها و جنگ هسته‌ای در نظر گرفته شود.

حسابیس می‌گوید: «ما باید این تفکر و تحقیق را از هم‌اکنون آغاز کنیم. اگرچه شاید همین امروز هم دیر باشد. به همین دلیل من آن نامه را امضا کردم و بسیاری از افراد فعال حوزه فناوری هم آن را امضا کردند. ما می‌خواستیم به این موضوع که بحث معقولی است، اعتبار بدهیم.»

برخی از خودی‌های صنعت فناوری نگران هستند که AGI یا هوش مصنوعی «خداگونه» تنها چند سال با ظهور فاصله داشته باشد؛ اگرچه این دیدگاه نیز وجود دارد که ترس‌ها در مورد تهدید وجودی چنین پدیده‌ای، اغراق‌شده است و بیش از حد مورد توجه قرار گرفته.

مدیر اجرایی گوگل دیپ‌مایند اعتقاد دارد که جهان مدت زیادی از توسعه سیستم‌های AGI فاصله داشت، اما اکنون می‌توان خطر ظهور آن را دید و به همین دلیل باید در موردش حرف زد.»

به اعتقاد حسابیس سیستم‌های هوش مصنوعی کنونی «خطرناک» نیستند، اما در چند نسل بعدی ممکن است زمانی فرا برسد که هوش‌های مصنوعی قابلیت‌های اضافی مانند برنامه‌ریزی و حافظه و موارد دیگر داشته باشند. در صورت اضافه شدن این قابلیت‌ها اتفاقات بسیار خوبی رقم خواهد خورد، اما امکان بروز خطر هم وجود دارد.

گفتنی است واحد تحت مدیریت «دمیس حسابیس» در گوگل، به پیشرفت‌های قابل توجهی در فناوری هوش مصنوعی دست یافته است، مانند ایجاد برنامه AlphaGo AI که بهترین بازیکن جهان را در بازی بردگیم چینی Go شکست داد.

آن‌ها همچنین پروژه پیشگامانه AlphaFold را توسعه دادند که تغییر شکل پروتئین‌ها را به شکل سه‌بعدی پیش‌بینی و زمینه را برای حدس و درمان بسیاری از بیماری‌ها در آینده نزدیک فراهم می‌کند.

این دانشمند بریتانیایی گفت که به هوش مصنوعی به دلیل پتانسیل آن برای متحول کردن زمینه‌هایی مانند پزشکی و علم خوش‌بین است، اما باید یک «راه میانی» برای مدیریت این فناوری پیدا کرد.

مهران
مهران