صدای ما یکی از ویژگیهای منحصربهفرد ماست. از صدای یک خواننده مشهور بگیرید، تا صدای یک سرمربی فوتبال موقع فریاد زدن و حتی گریه نوزادان. حال تصور کنید یک ویژگی منحصربهفرد مانند صدا که همانند اثر انگشت یگانه است، توسط یک نرمافزار شبیهسازی صدا با هوش مصنوعی (AI) قابل تقلید باشد. میتوانید تصور کنید چه اتفاقی خواهد افتاد؟
شبیهسازی صدا با هوش مصنوعی حالا امکانی است که به آسانی و ارزانی در اختیار میلیونها نفر قرار دارد. چندی پیش افراد صرفا از روی تفنن صدای خوانندگان مختلف یا افراد مشهور را با هوش مصنوعی شبیهسازی میکردند، اما امروز همه میدانند که با این نرمافزارها میتوان صدای هرکسی را تقلید یا شبیهسازی کرد.
از آنجایی هم که جهان ما خالی از افراد کلاهبردار و شیطانصفت نیست، این فناوری اگر با نیت شیطانی استفاده شود ممکن است برای همه ما خطرآفرین باشد.
«کریس کارلیس» مشاور شرکت امنیتی Dolos Group میگوید: «سوءاستفاده از این هوش مصنوعی کار را ترسناک و دفاع در برابر آن را سخت میکند.»
شبیهسازی صدا با هوش مصنوعی تشخیص کلاهبرداریها را دشوارتر کرده
فکرش را بکنید فرزند یا نوهتان یا حتی دوستتان با شما تماس میگیرد، میگوید در فلانجا گیر افتاده و به پول احتیاج دارد. کلاهبردارها قبلا با استفاده از هک اکانتهای پیامرسان افراد از این ترفند استفاده میکردند، منتها این ترفند را میشد با برقراری تماس صوتی با فردی که درخواست پول کرده و شنیدن صدای او خنثی کرد.
اما حالا چه؟ حالا اگر تماس هم بگیرید، صدای آشنای رفیق یا عزیزتان را میشنوید و خیالتان راحت میشود که کسی قصد کلاهبرداری ندارد! غافل از اینکه فرد کلاهبردار از نرمافزار شبیهسازی صدا با هوش مصنوعی برای خالی کردن جیب شما استفاده کرده است.
کارلیس میگوید که شبیهسازی صوتی با هوش مصنوعی، بسیاری را متقاعد به واریز سهوی پول کرده و به بسیاری از مشاغل آسیب زده است.
کارلیس با استفاده از صدای «پاتریک فازیو» خبرنگار NBC، صدای او را برای ادای این جملات خطاب به یکی از دوستانش شبیهسازی کرد: «یه فاکتور برات ایمیل کردم، لطفا فوری پرداختش کن.»
کارلیس علاوه بر شبیهسازی صدای پاتریک، افکت جعلی و محوی از سروصدای فرودگاه را هم به پسزمینه پیام اضافه کرد تا دوست پاتریک خیال کند ماجرا فوری است.
کل فرایند شبیهسازی صدا از طریق یک نرمافزار، فقط 5 دلار هزینه داشت! یعنی افراد با کمی خلاقیت شیطانصفتانه و پرداخت 5 دلار میتوانند هزاران دلار کلاهبرداری کنند.
در عین حال توانایی هوش مصنوعی برای فریب دادن افراد به پیغام صوتی و ضبط صدا محدود نمیشود. کارلیس خاطرنشان کرد: «امکان شبیهسازی صدا در زمان واقعی وجود دارد و در حال بهتر شدن هم است».
کمیسیون تجارت فدرال و اداره تحقیقات فدرال هر دو هشدارهایی در مورد توانایی فناوری هوش مصنوعی در زمینه سوءاستفاده و کلاهبرداری دادهاند.
«سیوبان جانسون»، مامور ویژه FBI گفته است: «پیدا کردن افرادی که مرتکب این جنایات میشوند میتواند بسیار چالش برانگیز باشد، زیرا آنها عموما در استفاده از فناوری بسیار باهوش هستند.»
او هشدار داده که ردیابی مجرمان سایبری، از جمله کسانی که از هوش مصنوعی استفاده میکنند، ممکن است بیشتر از مجرمان عادی طول بکشد.
جانسون میافزاید: «این فناوری واقعا خیلی جدید است و تازه شروع به نفوذ کرده، اما این نگرانی وجود دارد که در آینده نزدیک سوءاستفاده از آن فراگیر شود.»
گزارش جنایات اینترنتی FBI نشان داده که آمریکاییها در سال گذشته بیش از 10 میلیارد دلار از کلاهبرداری های اینترنتی که شامل هوش مصنوعی و یا شبیهسازی صدا با هوش مصنوعی بوده از دست دادند.
حال چگونه باید از خود محافظت کرد؟ بهخصوص در برابر ترفند شبیهسازی صدا؟
جانسون راهکار را اینچنین شرح میدهد: «همین حالا آنلاین شوید، ببینید آیا اکانتهای شما در شبکههای اجتماعی خصوصی است؟ آیا کسی میتواند ویدئوهای شما را ببینید و صدا یا محتوای بصری آن را بدزدد یا نه؟»
کریس کارلیس، کارشناس امنیتی نیز توصیههایی برای افرادی دارد که فکر میکنند ممکن است تماس شبیهسازی صوتی دریافت کنند.
«هوشیار باشید. عجله نکنید، بعد از دریافت تماس یا پیام صوتی درباره محتوای آن فکر کنید و وقتی بحث ارسال پول در میان است، یکبار دیگر موضوع را با شخصی که به شما پیام داده شخصا چک کنید. به جای از دست دادن پول باید فکر کرد.»
متاسفانه موضوع دیگر فقط منحصر به شبیهسازی صدا با هوش مصنوعی نخواهد بود. کارشناسان امنیتی بر این باورند که دستکاری ویدیو با استفاده هوش مصنوعی تا جایی پیش میرود که کلاهبرداران میتوانند هویت شخص دیگری را با چهره و تعویض صدا، کاملا متقاعدکننده از آب دربیاورند و تشخیص جعلی بودن آن کار بسیار دشواری خواهد بود.