گزارش تست‌های ایمنی
تحقیقات درباره هوش مصنوعی

الزام شرکت‌های هوش مصنوعی به گزارش تست‌های ایمنی به دولت آمریکا

سرفصل‌های مقاله

دولت «جو بایدن» اجرای یک الزام جدید را برای توسعه‌دهندگان سیستم‌های بزرگ هوش مصنوعی را آغاز می‌کند که طی آن شرکت‌های هوش مصنوعی موظفند نتایج تست‌های ایمنی خود را به دولت ارسال کنند.

شورای هوش مصنوعی کاخ سفید قرار است روز دوشنبه برای بررسی پیشرفت‌های حاصل‌شده در فرمان اجرایی که رئیس‌جمهور بایدن سه ماه پیش برای مدیریت این فناوریِ به سرعت در حال تکامل امضا کرد، تشکیل جلسه دهد.

از جمله اهداف 90 روزه این فرمان، دستوری بر اساس قانون تولید دفاعی بود که طی آن شرکت‌های هوش مصنوعی باید اطلاعات حیاتی از جمله آزمایش‌های ایمنی را با وزارت بازرگانی ایالات متحده به اشتراک بگذارند.

گزارش تست‌های ایمنی ابزارهای هوش مصنوعی

CompanyPPT.pptx 5 1024x576 1«بن بوکانن» مشاور ویژه کاخ سفید در زمینه هوش مصنوعی، در مصاحبه‌ای گفت که دولت می‌خواهد “پیش از انتشار عمومی سیستم‌های هوش مصنوعی، نسبت به ایمنی آن‌ها مطمئن باشد؛ رئیس‌جمهور به وضوح گفته است که شرکت‌ها باید این محدودیت را رعایت کنند.”

شرکت‌های نرم‌افزاری متعهد به مجموعه‌ای از دسته‌بندی‌ها برای تست‌های ایمنی هستند، اما شرکت‌ها هنوز مجبور نیستند استانداردهای مشترکی را در آزمایش‌ها رعایت کنند. موسسه ملی استاندارد و فناوری دولت چارچوبی یکسان برای ارزیابی ایمنی، به عنوان بخشی از دستوری که بایدن در اکتبر امضا کرد، ایجاد خواهد کرد.

با توجه به سرمایه‌گذاری‌ها و عدم قطعیت‌های ناشی از راه‌اندازی ابزارهای جدید هوش مصنوعی مانند ChatGPT که می‌تواند متن، تصویر و صدا تولید کند، هوش مصنوعی به عنوان یک ملاحظه اقتصادی و امنیت ملی پیشرو برای دولت فدرال ظاهر شده است. دولت بایدن همچنین در حال بررسی قوانین کنگره و همکاری با سایر کشورها و اتحادیه اروپا درباره قوانین مدیریت این فناوری است.

وزارت بازرگانی ایالات متحده پیش‌نویس قانون را در مورد شرکت‌های ابری ایالات متحده که سرورهایی را به توسعه‌دهندگان هوش مصنوعی خارجی ارائه می‌دهند، تهیه کرده است.

9 آژانس فدرال، از جمله دپارتمان‌های دفاع، حمل‌ونقل، خزانه‌داری و بهداشت و خدمات انسانی، ارزیابی‌های خطرات را در مورد استفاده از هوش مصنوعی در زیرساخت‌های مهم ملی مانند شبکه برق تکمیل کرده‌اند.

دولت همچنین استخدام کارشناسان هوش مصنوعی و دانشمندان داده در آژانس‌های فدرال را افزایش داده است.

بوکانن می‌گوید: «ما می‌دانیم که هوش مصنوعی دارای اثرات و پتانسیل تحول‌آفرینی است. ما در تلاش نیستیم تا این قطار در حال حرکت را متوقف کنیم، اما تلاش می‌کنیم مطمئن شویم که قانون‌گذارها برای مدیریت این فناوری آماده هستند.»

مهران
مهران