هوش مصنوعی
تحقیقات درباره هوش مصنوعی

جعبه سیاه هوش مصنوعی چیست؟

سرفصل‌های مقاله

مدل‌های جعبه سیاه هوش مصنوعی به دلیل نتایج بسیار دقیق، به راه‌حل‌های پرکاربرد در سیستم‌های هوش مصنوعی تبدیل شدند. با این حال، آنها اغلب به دلیل ماهیت پنهان موروثی عملیات خود فاقد مشروعیت هستند.

محققان در تلاشند تا با ترکیب آنها با مدل‌های جعبه سفید کاملاً پذیرفته شده و قابل درک، به سیستم تاریک آنها نفوذ کنند.

جعبه سیاه هوش مصنوعی چیست؟

aae21e31 eed3 446e 963a

در سال‌های اخیر، بحث‌های مداومی در جامعه علمی درباره استفاده کافی از مدل‌های جعبه سیاه هوش مصنوعی (BAI) وجود دارد. BAI به سیستم‌های هوش مصنوعی اطلاق می‌شود که در آن عملکرد داخلی الگوریتم‌های هوش مصنوعی حتی برای طراحان پنهان یا ناشناخته است.

مدل‌های BAI اغلب در انجام پیش‌بینی‌ها بسیار دقیق و مؤثر هستند، اما به دلیل عدم شفافیت و قابلیت همکاری، همیشه در بخش‌ها و صنایع خاصی مانند مالی، بهداشت و درمان یا ارتش مورد استقبال قرار نمی‌گیرند.

حتی محدودیت های غیرمستقیم قانونی وجود دارد که کاربرد آنها را محدود می‌کند. به عنوان مثال، در ایالات متحده، قانون فرصت‌های اعتباری برابر، رد اعتبار به مشتریان را در صورتی که دلیل انکار غیرقابل توضیح باشد، اجازه نمی‌دهد، و استفاده از مدل‌های جعبه سیاه هوش مصنوعی را دشوار می‌کند.

یک مثال مشابه برای مقررات غیرمستقیم مقررات عمومی حفاظت از داده اتحادیه اروپا یا قانون حفظ حریم خصوصی مصرف کنندگان کالیفرنیا است. آنها به طور غیرمستقیم بر استفاده از مدل‌های جعبه سیاه با محدود کردن جمع آوری، ذخیره‌سازی و پردازش داده‌های شخصی تأثیر می‌گذارند. آنها همچنین برای استفاده از داده‌ها به رضایت ضمنی نیاز دارند تا افراد حق درک نحوه استفاده از داده‌هایشان را داشته باشند.

جعبه سیاه هوش مصنوعی BAI چگونه کار می‌کند؟

عبارت جعبه سیاه به روش خاصی اشاره نمی‌کند، بلکه یک اصطلاح توصیفی و جامع برای گروهی از مدل‌ها است که تفسیر آنها بسیار سخت یا غیرممکن است. با این حال، چند دسته از مدل‌ها را می‌توان نام برد که بیشتر به عنوان BAI توصیف می‌شوند. یکی از آن دسته‌بندی‌ها بر اساس فضای چند بعدی است، مانند ماشین‌های بردار پشتیبان (SVM). دسته دیگر شبکه‌های عصبی هستند که از نقشه برداری از عملکردهای مغز الهام گرفته شده اند.

ماشین بردار پشتیبان یک مدل یادگیری ماشینی نظارت شده است که می‌تواند برای کارهای طبقه بندی و رگرسیون استفاده شود. در حل مسائل طبقه بندی باینری، که در آن هدف جداسازی نقاط داده به دو کلاس، موثر است. هدف SVM یافتن یک ابر صفحه بهینه است که نقاط داده کلاس‌های مختلف را تقسیم می‌کند. از تکنیکی به نام ترفند هسته استفاده می‌کند که به SVM اجازه می‌دهد داده‌های ورودی را به فضایی با ابعاد بالاتر تبدیل کند، جایی که داده‌ها حتی اگر در فضای اصلی نبوده باشند، به‌طور خطی قابل تفکیک می‌شوند.

SVM اغلب به عنوان یک مدل جعبه سیاه هوش مصنوعی در نظر گرفته می‌شود زیرا جداسازی واضحی را بین کلاس‌ها فراهم می‌کند، اما درک ویژگی‌های خاص یا ترکیبی از ویژگی‌هایی که در تصمیم گیری نقش دارند حتی برای متخصصانی که مدل را ایجاد کرده‌اند قابل درک نیست. SVM با موفقیت در زمینه‌های مختلف از جمله طبقه بندی متن و تشخیص تصویر استفاده شده است.

شبکه‌های عصبی یا شبکه‌های عصبی مصنوعی، دسته‌ای از مدل‌های یادگیری ماشینی هستند که از ساختار شبکه‌های عصبی بیولوژیکی در مغز الهام گرفته شده‌اند. آنها از گره‌های به هم پیوسته تشکیل شده‌اند که نورون‌ها یا واحدهای مصنوعی نامیده می‌شوند و در لایه‌هایی سازماندهی شده‌اند. شبکه‌های عصبی قادر به یادگیری و استخراج الگوها از داده‌ها با تنظیم وزن و بایاس اتصالات بین نورون‌ها هستند. شبکه‌های عصبی می‌توانند بسیار پیچیده باشند و به دلیل کدورت ذاتی، اغلب مدل‌های جعبه سیاه هوش مصنوعی در نظر گرفته می‌شوند.

شما هم همین حالا می‌توانید از هوش مصنوعی مولد با زبان فارسی استفاده کنید. زیگپ اولین دستیار هوش مصنوعی مولد ایرانی است. پس تا دیر شده نشده شما هم اپلیکیشن زیگپ را دانلود کنید و وارد دنیای هوش مصنوعی شوید. در ضمن با زیگپ می‌توانید به آسانی و با زبان فارسی از ChatGPT و سرویس تبدیل متن به تصویر لئوناردو استفاده کنید.

نوید رضایی
نوید رضایی