مدتها قبل از ظهور ChatGPT، دولتها مایل بودند از چتباتها برای خودکارسازی خدمات و مشاورههای خود استفاده کنند.
«کالین ون نوردت» محقق هلندی حوزه استفاده از هوش مصنوعی در دولت میگوید: «آن چتباتهای اولیه سادهتر و با تواناییهای مکالمه محدود بودند.»
اما ظهور هوش مصنوعی مولد در دو سال گذشته، چشمانداز خدمات عمومی کارآمدتر را احیا کرده است، که در آن مشاوران انسانمانند میتوانند تمام ساعتها کار کنند و به سوالات مربوط به مزایا، مالیاتها و سایر حوزههایی که دولت با مردم در تعامل است پاسخ دهند.
خدمات دولتی بهتر با هوش مصنوعی
هوش مصنوعی مولد (زاینده) به اندازه کافی پیچیده است که بتواند پاسخهایی شبیه به انسان بدهد، و اگر بر روی دادههای با کیفیت کافی آموزش ببیند، از نظر تئوری میتواند با انواع سوالات در مورد خدمات دولتی پاسخ دهد.
اما هوش مصنوعی مولد به دلیل اشتباهات یا حتی پاسخهای بیمعنی – به اصطلاح توهم – نیز شناخته شده است.
در بریتانیا، سرویس دیجیتال دولتی (GDS) آزمایشاتی را روی یک چتبات مبتنی بر ChatGPT به نام GOV.UK Chat انجام داده است که به سوالات شهروندان در مورد طیف وسیعی از مسائل مربوط به خدمات دولتی پاسخ میدهد.
در یک پست وبلاگ در مورد یافتههای اولیه خود، آژانس خاطرنشان کرد که تقریبا 70٪ از کسانی که در کارآزمایی شرکت داشتند، پاسخها را مفید دانستند.
با این حال، «چند» مواردی از سیستم تولید اطلاعات نادرست و ارائه آن به عنوان واقعیت وجود داشت.
این وبلاگ همچنین نگرانیهایی را مطرح کرد که ممکن است اعتماد نابهجا به سیستمی وجود داشته باشد که احتمال اشتباه دارد:
«به طور کلی، پاسخها به بالاترین سطح دقت مورد نیاز برای سایتی مانند GOV.UK، که در آن دقت واقعی بسیار مهم است، نمیرسد. ما به سرعت در حال تکرار این آزمایش هستیم تا به مسائل دقت و قابلیت اطمینان رسیدگی کنیم.»
کشورهای دیگر نیز در حال آزمایش سیستمهای مبتنی بر هوش مصنوعی مولد هستند.
پرتغال راهنمای عملی عدالت را در سال 2023 منتشر کرد، یک چتبات که برای پاسخ به سوالات اساسی در مورد موضوعات ساده مانند ازدواج و طلاق ابداع شده است. این چتبات با کمکهای مالی موسسه بازیابی و تابآوری اتحادیه اروپا (RRF) توسعه یافته است.
این پروژه 1.3 میلیون یورویی (1.4 میلیون دلار؛ 1.1 میلیون پوند) بر اساس مدل زبان GPT 4.0 OpenAI است. علاوه بر پوشش ازدواج و طلاق، اطلاعاتی در مورد راه اندازی یک شرکت نیز ارائه میدهد.
بر اساس دادههای وزارت دادگستری پرتغال، 28608 سوال از طریق راهنما در 14 ماه اول پروژه مطرح شده است.
وقتی از آن سوال اساسی پرسیده شد: «چگونه میتوانم یک شرکت تاسیس کنم»، عملکرد خوبی داشت.
اما وقتی چیز پیچیدهتری پرسیده شد: «اگر کمتر از 18 سال سن دارم، اما متاهل هستم، میتوانم شرکتی راهاندازی کنم؟» به دلیل نداشتن اطلاعات برای پاسخ به این سوال عذرخواهی کرد.
یک منبع وزارتی اذعان میکند که آنها هنوز از نظر اعتماد، قابل اتکا نیستند، حتی اگر پاسخهای اشتباهشان نادر باشد.
این منبع به بیبیسی گفت: «ما امیدواریم با افزایش قاطع در سطح اطمینان پاسخها بر این محدودیتها غلبه شود.»
چنین نقصهایی به این معنی است که بسیاری از کارشناسان از جمله «کالین ون نوردت» احتیاط را توصیه میکنند. زمانی که چتبات به عنوان راهی برای جایگزینی افراد و کاهش هزینهها به کار گرفته میشود، اشتباه صورت میگیرد.
او اضافه میکند که اگر چتباتها به عنوان “یک سرویس اضافی، راهی سریع برای یافتن اطلاعات” در نظر گرفته شوند، رویکرد معقولتری خواهد بود.
Sven Nyholm، استاد اخلاق هوش مصنوعی در دانشگاه «لودویگ ماکسیمیلیانس» مونیخ، مشکل پاسخگویی را برجسته میکند.
او میگوید: «یک چتبات با یک کارمند دولتی قابل تعویض نیست.»
چتباتهای هوش مصنوعی نمیتوانند در قبال کاری که انجام میدهند پاسخگو باشند.
آقای Nyholm همچنین مشکل قابلیت اطمینان را برجسته میکند.
«انواع جدیدتر چتباتها این توهم را ایجاد میکنند که باهوش و خلاق هستند، بهگونهای که انواع قدیمیتر چتباتها انجام نمیدادند. هرازگاهی این اشکال جدید و تاثیرگذارتر چتباتها اشتباهات احمقانه و مضحکی مرتکب میشوند؛ این موضوع گاهی اوقات میتواند طنزآمیز باشد، اما اگر مردم به توصیههای آنها اعتماد کنند، به طور بالقوه خطرناک است.»
اگر ChatGPT و دیگر مدلهای زبان بزرگ (LLM) آماده ارائه توصیههای مهم نیستند، شاید بتوانیم برای جایگزینی به کشور استونی نگاه کنیم.
هنگامی که صحبت از دیجیتالی کردن خدمات عمومی به میان میآید، استونی یکی از پیشروها بوده است. از اوایل دهه 1990 این کشور خدمات دیجیتالی ایجاد کرده است و در سال 2002 کارت شناسایی دیجیتالی را معرفی کرد که به شهروندان امکان دسترسی به خدمات دولتی را میدهد.
بنابراین جای تعجب نیست که استونی در خط مقدم معرفی چتباتها قرار دارد.
این کشور در حال حاضر در حال توسعه مجموعهای از چتباتها برای خدمات دولتی با نام Bürokratt است.
با این حال، چتباتهای استونی بر اساس مدلهای زبان بزرگ (LLM) مانند ChatGPT یا Gemini گوگل نیستند.
در عوض آنها از پردازش زبان طبیعی (NLP) استفاده میکنند، فناوریای که قبل از آخرین موج هوش مصنوعی مورد استفاده بود.
الگوریتمهای NLP استونی یک درخواست را به بخشهای کوچک تقسیم میکنند، کلمات کلیدی را شناسایی و از آن استنباط میکنند که کاربر چه میخواهد.
در Bürokratt، بخشها از دادههای خود برای آموزش رباتهای گفتگو و بررسی پاسخهای آنها استفاده میکنند.
«کای کالاس» رئیس بخش خدمات شخصی در اداره سیستم اطلاعات استونی میگوید: «اگر Bürokratt پاسخ را نداند، چت به نماینده پشتیبانی مشتری تحویل داده میشود، که چت را به عهده میگیرد و به صورت دستی پاسخ میدهد.»
این یک سیستم با پتانسیل محدودتر از سیستم مبتنی بر ChatGPT است، زیرا مدل های NLP در توانایی خود برای تقلید گفتار انسان و تشخیص نکات ظریف در زبان محدود هستند.
با این حال، بعید است که پاسخهای اشتباه یا گمراهکننده بدهند.
«کالین ون نوردت» توضیح میدهد: «برخی از چتباتهای اولیه شهروندان را مجبور میکردند گزینههایی را برای سوالات انتخاب کنند. در همان زمان، کنترل و شفافیت بیشتری در نحوه عملکرد و پاسخهای ربات چت فراهم میکرد».
چتباتهای مبتنی بر LLM اغلب کیفیت مکالمهای بسیار بیشتری دارند و میتوانند پاسخهای ظریفتری را ارائه دهند.
او می افزاید: «با این حال، هزینه کنترل کمتر سیستم را به همراه دارد و همچنین میتواند پاسخ های متفاوتی به یک سوال ارائه دهد.»
منبع : bbc