تکینگی
پیش‌بینی آینده با هوش مصنوعی

تکینگی هوش مصنوعی چیست؟ کنترل دنیا در دستان ربات‌ها

سرفصل‌های مقاله

ChatGPT و سایر برنامه‌های هوش مصنوعی، در یک‌سال اخیر موضوعات داغ در اخبار بوده‌اند و به طور همزمان ما را با امکانات جدید در علم پزشکی، گوشی‌های همراه و اتومبیل‌ها آشنا کرده و هم باعث نگرانی‌ ما درباره تبعات پیشرفت این فناوری شده است. اما آیا شما می‌‌دانید تکینگی هوش مصنوعی چیست؟

در مورد هوش مصنوعی نگرانی‌های عمده‌ای وجود دارد: آیا امنیت شغلی ما را به خطر می‌اندازد؟ آیا قرار است به دست ربات‌های هوشمند کشته شویم؟ و سوالاتی از این دست.

با وجود این نگرانی‌ها، آیا باید از هوش مصنوعی که با سرعت سرسام‌آوری در حال پیش‌روی است فاصله بگیریم؟ نظرات متفاوت است، اما هر پاسخی به موضوع «تکینگی هوش مصنوعی» برمی‌گردد.

اما تکینگی هوش مصنوعی چیست؟ تکینگی زمانی است که این فناوری از کنترل انسان خارج شده و هوشمندتر از ما رفتار کند.

برخی تخمین زده‌اند که تا رسیدن به نقطه تکینگی هوش مصنوعی حدود هفت سال فاصله داریم؛ این زمان کم و نگرانی‌های متعاقب آن باعث شده تا برویم سراغ متخصصان مختلف و ببینیم تکینگی دقیقا چیست و چقدر با آن فاصله داریم.

تکینگی هوش مصنوعی چیست؟

هوش مصنوعی
تکینگی هوش مصنوعی

تکینگی هوش مصنوعی لحظه‌ای است که هوش ماشینی برابر هوش انسانی می‌شود یا از هوش ما فراتر می‌رود؛ مفهومی که رویاپردازانی مانند «استیون هاوکینگ» و «بیل گیتس» برای مدت طولانی به آن اعتقاد داشتند. هوش ماشینی ممکن است پیچیده به نظر برسد، اما به سادگی به عنوان محاسبات پیشرفته‌ای تعریف می‌شود که به دستگاه اجازه می‌دهد (از طریق رایانه، تلفن یا حتی یک الگوریتم) تعامل داشته باشد و با محیط خود به طور هوشمند ارتباط برقرار کند.

اینکه تکینگی هوش مصنوعی چیست، سال‌ها است که وجود داشته است. «آلن تورینگ» ریاضیدان انگلیسی – که به طور گسترده به عنوان پدر علم نظری کامپیوتر و هوش مصنوعی شناخته می‌شود – امکان چنین چیزی را در دهه 1950 آزمایش کرد. 

او با «تست تورینگ» معروف خود آمد تا دریابد که آیا ماشین‌ها می‌توانند خودشان فکر کنند یا خیر. ارزیابی یک انسان را در مقابل یک کامپیوتر قرار می‌دهد و سیستم را به چالش می‌کشد تا ما را فریب دهد تا فکر کنیم در واقع خود انسان است. ظهور اخیر چت‌بات‌های هوش مصنوعی بسیار پیشرفته مانند ChatGPT، آزمون تورینگ را دوباره در کانون توجه قرار داده است. 

«ایشانی پریادارشینی» محقق فوق دکتری در دانشگاه کالیفرنیا با تخصص در هوش مصنوعی کاربردی و تکینگی فناوری می‌گوید: «تفاوت بین هوش ماشینی و هوش انسانی این است که هوش ما ثابت است، اما این در مورد ماشین‌ها صدق نمی‌کند. در مورد ماشین‌ها، پایانی برای هوش وجود ندارد، همیشه می‌توانید آن را افزایش دهید، که در مورد انسان‌ها صدق نمی‌کند.برخلاف مغز ما، سیستم‌های هوش مصنوعی را می‌توان چندین برابر گسترش داد. تنها محدودیت واقعی، فضایی است که تمام توان محاسباتی را در خود جای دهد.»

چه زمانی به تکینگی هوش مصنوعی خواهیم رسید؟

در حالی‌که ادعاها مبنی بر این‌که ما در دهه آینده به تکینگی خواهیم رسید در سراسر اینترنت منتشر می‌شود، این زمان‌بندی در بهترین حالت، حدس و گمان است. 

«پریادارشینی» معتقد است که تکینگی در حال حاضر به صورت تکه تکه وجود دارد؛ تقریبا مانند یک پازل که هنوز باید آن را کامل کنیم. او جزء دسته‌ای است که اعتقاد دارد بشر پس از سال 2030 قادر به رسیدن به تکینگی است، هرچند اضافه می‌کند که با توجه به اطلاعات کم ما درباره فناوری‌های هوش مصنوعی موجود، نمی‌شود درباره این زمان کاملا اطمینان داشت.

 این احتمال وجود دارد که رسیدن به “افق رویداد” تکینگی بسیار بیشتر از این زمان طول بکشد. زمانی که سیستم‌های کامپیوتری فوق‌هوشمند را آزاد کنیم، دیگر نقطه بازگشتی در کار نخواهد بود.

با این حال، ما قبلا نشانه‌هایی از تکینگی را در طول زندگی خود دیده‌ایم. پریادارشینی می‌گوید: «بازی‌هایی وجود دارند که انسان‌ها هرگز نمی‌توانند در آن‌ها بر ماشین‌ها پیروز شوند، و این نشانه‌ای مطمئن از تکینگی است. برای ارائه دیدگاهی، ابرکامپیوتر “Deep Blue” IBM در سال 1997 اولین هوش مصنوعی بود که یک شطرنج‌باز انسانی را شکست داد. این ابرکامپیوتر توانست «گری کاسپاروف» بهترین شطرنج‌باز تاریخ را شکست دهد!»

“بازی‌هایی وجود دارند که انسان‌ها هرگز نمی‌توانند در آن‌ها بر ماشین‌ها پیروز شوند، و این نشانه مطمئنی از تکینگی است.”

اندازه‌گیری تکینگی هنوز یک مفهوم بسیار دشوار است. حتی امروز، ما در تلاش برای یافتن نشان‌گرهای پیشرفت خود در این مسیر هستیم. 

بسیاری از کارشناسان ادعا می‌کنند که ترجمه زبان «سنگ روزتا» (کتیبه‌ مهمی که کشف زبان آن نقش مهمی در شناسایی و رمزگشایی زبان هیروگلیف داشت) برای سنجش پیشرفت ماست. به عنوان مثال وقتی هوش مصنوعی قادر است گفتار را در همان سطح یا بهتر از یک انسان ترجمه کند، این نشانه خوبی است که ما یک قدم به تکینگی نزدیک‌تر شده‌ایم.

با این حال پریادارشینی معتقد است که «میم‌ها» (طنزهای تصویری اینترنتی) می‌توانند نشان‌گر دیگری از میزان پیشرفت ما به سمت تکینگی باشند، زیرا هوش مصنوعی در درک آن‌ها بسیار بد است.

وقتی هوش مصنوعی به تکینگی رسید چه اتفاقاتی می‌افتد؟

027 technological singularity header 1200x750 1

ما هیچ ایده‌ای نداریم که یک سیستم فوق‌ هوشمند قادر به انجام چه کاری است. «رومن یامپولسکی» دانش‌یار مهندسی کامپیوتر و علوم کامپیوتر در دانشگاه لوئیزویل می‌گوید: «ما باید خودمان فوق هوشمند باشیم. ما فقط با استفاده از سطح هوش فعلی خود قادر به حدس و گمان هستیم.»

یامپولسکی اخیرا مقاله‌ای در مورد اینکه تکینگی هوش مصنوعی چیست نوشت که  تصمیماتی را که هوش مصنوعی می‌تواند اتخاذ کند را پیش‌بینی کرد و حاصل کارش نسبتا آزاردهنده بود:

«شما باید حداقل آ‌ن‌قدر باهوش باشید تا بتوانید پیش‌بینی کنید که سیستم چه خواهد کرد. . . اگر ما در مورد سیستم‌هایی صحبت می‌کنیم که از انسان‌ها باهوش‌تر هستند [فوق‌هوشمند]، پیش‌بینی اختراعات یا تصمیمات آن‌ها برای ما غیرممکن است.»

پریادارشینی می‌گوید سخت است که بگوییم هوش مصنوعی قصد بدی دارد یا خیر. او می‌گوید که یاغی‌گری هوش مصنوعی می‌تواند به دلیل وجود سوگیری در کدنویسی آن باشد  که اساسا یک عارضه جانبی پیش‌بینی نشده برنامه‌نویسی است. 

در شرایط سخت و پرچالش، هوش مصنوعی چیزی نیست جز تصمیم‌گیری بر اساس مجموعه‌ای از قوانین و پارامترها. پریادارشینی می‌گوید: «ما ماشین‌های خودران می‌خواهیم، ​​فقط نمی‌خواهیم از چراغ قرمز رد شوند و با مسافران برخورد کنند. اساسا اتومبیل های خودران ممکن است تصمیم بگیرند که رد شدن از روی یک انسان سریع‌ترین مسیر ممکن برای رسیدن به مقصد است.»

بیشتر این‌ها به مفهوم مجهولات ناشناخته مربوط می‌شود، جایی که ما فاقد قدرت مغزی برای پیش‌بینی دقیق توانایی سیستم‌های فوق هوشمند هستیم. 

در واقع، IBM در حال حاضر تخمین می‌زند که تنها یک‌سوم توسعه‌دهندگان می‌دانند چگونه این سیستم‌ها را برای هرگونه سوگیری احتمالی که می‌تواند مشکل‌ساز باشد، به درستی آزمایش کنند.

 برای پر کردن این شکاف، این شرکت راه‌حل جدیدی به نام FreaAI ایجاد کرد که می‌تواند با بررسی برش‌های داده‌های «قابل تفسیر توسط انسان» نقاط ضعف را در مدل‌های یادگیری ماشین پیدا کند. مشخص نیست که آیا این سیستم می‌تواند ماجرای تعصب یا سوگیری در هوش مصنوعی را کاهش دهد یا خیر، اما به وضوح یک قدم جلوتر از ما انسان‌هاست.

پریادارشینی می‌گوید: «محققان هوش مصنوعی می‌دانند که ما نمی‌توانیم سوگیری را 100% از کدهای ماشین حذف کنیم. بنابراین ساخت یک هوش مصنوعی 100% بی‌طرف که هیچ اشتباهی انجام نمی‌دهد بسیار دشوار است.»

آیا هوش مصنوعی می‌تواند به ما آسیب برساند؟

شاید اینکه تکینگی هوش مصنوعی چیست دیگر سوال اصلی نیست. هوش مصنوعی در حال حاضر حساس نیست؛ به این معنی که در حال حاضر قادر به فکر کردن، درک و احساس کردن مانند انسان نیست. تکینگی و احساس اغلب با هم ترکیب می شوند، اما ارتباط نزدیکی با هم ندارند.

حتی اگر هوش مصنوعی در حال حاضر حساس نباشد هم این ویژگی ما را از عواقب ناخواسته هوش مصنوعی سرکش مبرا نمی‌کند. 

این به سادگی به این معناست که هوش مصنوعی انگیزه‌ای برای سرکشی ندارد. ما هیچ راهی برای تشخیص، اندازه‌گیری یا تخمین نداریم که آیا سیستم‌ها وضعیت‌های داخلی مانند انسان را تجربه می‌کنند یا خیر.  اما آن‌ها مجبور نیستند که بسیار توانا و فوق خطرناک شوند. حتی اگر راهی برای اندازه‌گیری حس وجود داشته باشد هم ما نمی‌دانیم که آیا بروز احساس در ماشین‌ها ممکن است یا نه.

معنی این حرف این است که ما خبر نداریم که آیا ربات‌های هوش مصنوعی مانند فیلم‌های هالیوودی روزی علیه ما انسان‌ها قیام خواهند کرد یا نه.

پریادارشینی می‌گوید: «یک چیزی که من نسبتا معتقدم این است که هوش مصنوعی چیزی جز کد نیست. ممکن است هیچ انگیزه‌ای علیه انسان نداشته باشد، اما ماشینی که فکر می‌کند انسان‌ها عامل اصلی برخی مشکلات هستند، ممکن است ناگهان علیه انسان انگیزه پیدا کند.» 

هر خطری که هوش مصنوعی برای انسان‌ها ایجاد می‌کند، صرفا به دلیل وجود سوگیری در کدی است که ممکن است آن را از قلم انداخته باشیم. راه‌هایی برای دور زدن این موضوع وجود دارد، اما ما فقط از درک خود از هوش مصنوعی استفاده می‌کنیم که بسیار محدود است.

ما نمی‌دانیم هوش مصنوعی می‌تواند حساس شود یا خیر. بدون حساسیت، هوش مصنوعی واقعا دلیلی برای اذیت کردن ما ندارد. تنها استثنای قابل توجه در این مورد، مورد« سوفیا سوفیا» یک چت‌بات هوش مصنوعی است که می‌گوید می‌خواهد انسان‌ها را نابود کند. با این حال اعتقاد بر این بود که این یک خطا در کدنویسی این چت‌بات باعث بروز این رفتار شده است.

پریادارشینی می‌گوید: «تا زمانی که کد بد وجود داشته باشد، سوگیری وجود خواهد داشت و هوش مصنوعی همچنان به سمت اشتباهی خواهد رفت.»

چگونه می‌توانیم از فاجعه تکنیگی هوش مصنوعی جلوگیری کنیم؟

ما هرگز نمی‌توانیم هوش مصنوعی را از شر عوامل ناشناخته‌ آن خلاص کنیم. این‌ها عوارض جانبی ناخواسته‌ای هستند که قابل پیش‌بینی نیستند، زیرا مانند هوش مصنوعی فوق‌هوشمند نیستیم. تقریبا غیرممکن است که بفهمیم این سیستم‌ها چه توانایی‌هایی دارند.

پریادارشینی می‌گوید: «ما واقعً به دنبال تکینگی هستیم که منجر به تولید انبوهی از ماشین‌های سرکش می‌شود. اگر به نقطه بی بازگشت برسد، هیچ چیز قابل بازگشت نیست. هنوز ناشناخته‌های زیادی در مورد آینده هوش مصنوعی وجود دارد، اما همه ما می‌توانیم با علم به این که متخصصانی در سراسر جهان، متعهد به برداشت خوبی از هوش مصنوعی بدون رقم خوردن سناریوهای روز رستاخیز هستند، نفس راحتی بکشیم.»

مهران
مهران