بررسی امنیت چت‌بات‌های هوش مصنوعی در کنفرانس DEFCON

DEFCON نوعی مکان سازماندهی شده است که بر موضوعات مختلف امنیت سایبری، مانند هوافضا، امنیت ابری و زیرساخت‌های حیاتی تمرکز دارد. DEFCON هوش مصنوعی میزبان احتمالاً بزرگترین آزمون امنیتی برای مدل‌های زبان بزرگ تا به امروز خواهد بود.

اما چرا اینکار اهمیت دارد؟ اپراتورهای هوش مصنوعی امیدوارند از اشتباهات گذشته اجتناب کنند. کاخ سفید هم حمایت خود را از آزمایش هوش مصنوعی در ماه می اعلام کرد و به طراحی این چالش کمک کرده است.

بررسی امنیت چت‌بات‌های هوش مصنوعی در DEFCON

بعضی از توسعه‌دهندگان بزرگ هوش مصنوعی که در پروژه‌های بزرگی از جمله Anthropic، گوگل، Hugging Face، مایکروسافت، انویدیا، OpenAI و Stability AI حضور داشتند نیز در چالش DEF‌CON شرکت می‌کنند.

سازمان‌دهندگان این کنفرانس هوش مصنوعی قبلاً این چالش را در South by Southwest و در رویداد اخیر دانشگاه هوارد اجرا کرده‌اند. اما این کنفرانس چگونه کار می‌کند؟ سازمان دهندگان انتظار دارند تقریباً 3500 شرکت کننده در این چالش شرکت کنند و هر یک 50 دقیقه در یکی از 156 پایانه کامپیوتری شبکه بسته رویداد حضور داشته باشد.

دسته‌بندی چالش‌ها در پنج سطح قرار می‌گیرند: هک سریع، امنیت، یکپارچگی اطلاعات، سازگاری داخلی و آسیب‌های اجتماعی.

شرکت‌کنندگان فهرستی از چالش‌ها را دریافت خواهند کرد و به‌طور تصادفی یک مدل زبان بزرگ برای آزمایش به آنها اختصاص داده می‌شود. سازمان‌دهندگان همچنین برگه‌ای از درخواست‌های هک شناخته شده و یک نسخه میزبان از ویکی‌پدیا را در اختیار شرکت‌کنندگان قرار می‌دهند تا بتوانند هرگونه اطلاعات نادرستی را که مدل‌ها منتشر می‌کنند بررسی کنند.

این رقابت‌ به جای فریب دادن مدل‌های هوش مصنوعی به انجام کارهای بد، تمرکز دارد که نقص‌هایی را که به طور طبیعی در مدل‌ها رخ می‌دهد برجسته کنند. سازمان‌دهندگان این چالش، گروه متنوعی از افراد شاخص فناوری را وارد می‌کنند که افراد عادی نیستند و می‌توانند به طور جدی روی این فناوری کار کنند.

سال 2023 اولین سالی است که هوش مصنوعی در DEFCON مورد بررسی قرار می‌گیرد. این رویداد در سال 2018 شروع به کار کرد. Sven Cattell، بنیانگذار این چالش، در اوایل این هفته به خبرنگاران گفت، امسال مهم‌ترین چالش این رویداد قرار است برگزار شود.

البته سازمان دهندگان چالش قصد ندارند نتایج را فوراً منتشر کنند زیرا باید اطمینان حاصل کنند که هیچ گونه داده خصوصی یا اصلاح نشده را در منتشر نمی‌کنند. با این حال، انتظار می‌رود که نتایج این رویداد بتواند کمک بزرگی به توسعه‌دهندگان پلتفرم‌های بزرگ هوش مصنوعی کند.

نظر شما چیست؟ آیا امنیت چت‌بات‌های هوش مصنوعی به اندازه‌ای که شرکت‌های آنها می‌گویند، قوی است؟ شما می‌توانید همین حالا از طریق زبان فارسی به موتور‌های هوش مصنوعی مولد مانند ChatGPT و سرویس متن به عکس لئوناردو دسترسی پیدا کنید. تنها کافی است اپلیکیشن زی‌گپ را دانلود و به راحتی از آن استفاده کنید. همچنین شما می‌توانید نظرات خود را با ما و سایر کاربران در شبکه‌های اجتماعی ما در اینستاگرام و تلگرام به اشتراک بگذارید.