# فناوری های نوین

دیپ‌فِیک و بحران جعل واقعیت در عصر هوش مصنوعی

کد خبر: ۳۲۳۸۸۷

تاریخ: ۱۷ آذر ۱۴۰۴ - ۲۱:۱۷

هوش مصنوعی از یک ‌سو به یک دستیار مفید و از سویی دیگر به سلاحی خطرناک برای جعل واقعیت تبدیل شده است. دیپ‌فِیک، پدیده‌ای که مرز بین حقیقت و دروغ را محو می‌کند، جهان را با چالش‌هایی بی‌سابقه‌ روبه‌رو کرده است.
به گزارش ایرنا، وبگاه تِک‌اِکسپلور در گزارشی آورده است: در عصر فناوری، پدیده‌ای نگران‌کننده به نام «دیپ‌فِیک» (Deepfake) در حال دگرگون‌سازی ماهیت واقعیت است. این فناوری که با بهره‌گیری از هوش مصنوعی عمل می‌کند، قادر است محتوای ویدیویی و صوتی را به گونه‌ای جعل کند که تشخیص واقعیت از ساختگی تقریباً غیرممکن شود.
از تخیل تا واقعیت: تولد دیپ‌فیک
دیپ‌فیک در سال ۲۰۱۷ میلادی با جعل چهره افراد مشهور در فیلم‌های غیراخلاقی به رسانه‌های جریان اصلی راه یافت. این فناوری اکنون به حدی پیشرفت کرده که حتی متخصصان نیز گاهی در تشخیص محتوای اصلی از جعلی دچار تردید می‌شوند.
فناوری دیپ‌فیک با استفاده از هوش مصنوعی و یادگیری ماشین، محتوای ویدیویی، تصویری و صوتی را به‌گونه‌ای تولید یا تغییر می‌دهد که رویدادهایی را نمایش دهد که هرگز در واقعیت رخ نداده‌اند.
سازوکار تولید دیپ‌فیک
ریچارد ناک (Richard Nock)، متخصص یادگیری ماشین، در این زمینه توضیح می‌دهد: هوش مصنوعی با تحلیل هزاران فریم ویدیویی، الگوهای حرکتی و ظاهری فرد را می‌آموزد. سپس می‌تواند صحنه‌های کاملاً جدیدی تولید کند که در واقعیت هرگز اتفاق نیفتاده‌اند.
ساخت دیپ‌فیک نیازمند حجم انبوهی از محتوای دیجیتال اصلی از قربانی، همچنین رایانه‌های قدرتمند و بودجه چشمگیر است. تشخیص دیپ‌فیک برای کاربران عادی دشوار، اما برای متخصصان دارای دسترسی به اطلاعات عمومی ممکن است.
تهدیدهای فزاینده
آزار و اذیت برخط (آنلاین): دیپ‌فیک اکنون به ابزاری خطرناک در دست سودجویان تبدیل شده است. در فضای برخط، از این فناوری برای آزار و اذیت افراد استفاده می‌شود؛ از جمله ساخت تصاویر مستهجن جعلی که حیثیت قربانیان را خدشه‌دار می‌کند. همچنین با گسترش برنامه‌های تغییر چهره، امکان فریب و کلاهبرداری در فضای مجازی به‌شدت افزایش یافته است.
تأثیرگذاری سیاسی: در عرصه سیاسی، دیپ‌فیک به ابزاری برای تأثیرگذاری بر افکار عمومی تبدیل شده است که نمونه بارز آن، دستکاری ویدیوهای برخی سیاستمداران است. کارشناسان هشدار می‌دهند که این فناوری حتی می‌تواند بر نتایج انتخابات‌های مهم تأثیر بگذارد.
گسترش بی‌اعتمادی: پیامد نگران‌کننده دیگر، فرسایش اعتماد عمومی است. با گسترش محتوای جعلی، اعتماد مردم به رسانه‌های رسمی کاهش می‌یابد و در عوض، افراد به حلقه‌های محدود دوستان و شبکه‌های خصوصی روی آورده‌اند که این خود می‌تواند به شکاف اطلاعاتی و اجتماعی بیشتری بینجامد.
راه‌های مقابله
برای مقابله با این تهدیدها می‌توان از راهکارهایی بهره برد که عبارت‌اند از:
فناوری بلاک‌چین: از جمله راهکارهای فنی، استفاده از فناوری بلاک‌چین برای تأیید اصالت محتواست که در برابر تغییرات، مقاوم عمل می‌کند؛
یادگیری ماشین: سامانه‌های مبتنی‌بر یادگیری ماشین طراحی شده‌اند که با تحلیل حرکات منحصربه‌فرد سر و صورت، دیپ‌فیک را با دقتی ۹۲درصدی شناسایی می‌کنند؛
راهکارهای اجتماعی
افزایش سواد رسانه‌ای در جامعه امری ضروری است. با آموزش مهارت‌های تشخیص محتوای جعلی و ترویج فرهنگ راستی‌آزمایی، می‌توان مردم را در برابر این تهدیدها مصون کرد. همچنین ایجاد سکوهای نظارت جمعی بر محتوا می‌تواند به شناسایی و حذف سریع‌تر دیپ‌فیک‌ها کمک کند. همان‌طور که دکتر ناک هشدار می‌دهد، اگر اعتماد به رسانه‌های رسمی از دست برود، مردم به اطلاعات شبکه‌های اجتماعی روی خواهند آورد که اغلب گمراه‌کننده است. بنابراین، تقویت نهادهای رسانه‌ای و شفافیت آن‌ها نیز بخشی مهم از راه‌حل است.
آینده هوش مصنوعی
دیپ‌فیک تهدیدی جدی محسوب می‌شود، اما هوش مصنوعی مزایای چشمگیری در حوزه‌های سلامت، حمل‌ونقل و امنیت سایبری دارد. نکته کلیدی، توسعه این فناوری در چارچوب اصول اخلاقی و با در نظرگیری حریم خصوصی است.
در پایان، همان‌طور که دکتر ناک تأکید می‌کند؛ ما در آستانه عصر جدیدی از چالش‌های اخلاقی و فناورانه قرار داریم که نیازمند هوشیاری جمعی است.