دیپ فیک بلای جان بشریت

“دیگر به چشمانتان هم نمی‌توانید اعتماد کنید!” تیتر خبری بود که یکی دو روز پیش بی‌بی‌سی جان برای خبر جدید و جنجالی خود انتخاب کرده بود. ظاهرا که نه، واقعا یک تکنولوژی جدید توانسته است کاری بکند که شما دیگر نتوانید حتی به چشمان خود هم اعتماد کنید. اما این تکنولوژی جدید چیست و بر چه اساسی کار می‌کند؟

قبل از اینکه بخواهیم در مورد این موضوع صحبت کنیم، باید خدمتتان عرض کنیم که تا قبل از این تکنولوژی، نهایت کاری که برای عموم جامعه خارق‌العاده بود، این بود که از روی عکس می‌توانستند اثر انگشت شخص موردنظر را تشخیص دهند و از هویت او سوءاستفاده کنند و کلا کارهایی از این قبیل. اما این تکنولوژی جدید دیگه نوبرشه. چشمتون روز بد نبینه، اجازه بدهید که بدون فوت وقت دیگه بریم سراغ اصل مطلب و توضیح بدهیم که این شترگاوپلنگ چی هست و چه کاری انجام می‌دهد.

دیپ فیک

دیپ فیک یا همان جعل عمیق اسم این تکنولوژی جدید می‌باشد. از اسمش هم می‌توان حدس زد که تا چه اندازه می‌تواند وحشتناک و فاجعه بار باشد و چه کارهایی با این تکنولوژی قابل انجام است. بر اساس این تکنولوژی دیپ فیک، که مبتنی بر هوش مصنوعی می‌باشد، می‌توانیم عکس هر فردی را به عنوان ورودی به دیپ فیک عزیز اعمال کنیم و در خروجی از شیر گنجشک تا جون آدمی‌زاد ازش درخواست کنیم. بر این اساس، فقط با یک عکس می‌توانیم هر فیلم با هر صدایی، در هر نقشی که ما بخواهیم را در خروجی داشته باشیم.

این تکنولوژی جدید به کسی رحم نکرده و همه‌ی چهره‌های مشهور را از لبه تیغ خود گذر داده است. از پرزیدنت ترامپ بگیر تا مستر اوباما. همینطور از مارک زاکربرگ مدیر فیسبوک تا کیم کارداشیان سلبریتی معروف آمریکایی. شما نمونه‌ای از این موارد را می‌توانید در کلیپی که بی‌بی‌سی منتشر کرده است در پایان همین مقاله مشاهده نمائید.

دیپ فیک نگرانی‌های زیادی را برای متخصصین ایجاد کرده است، تصور کنید با استفاده از نرم‌افزارهایی که وجود دارد، دولت‌ها برای ساخت و پخش پروپاگاندا، یا بعضی افراد به هر دلیلی برای ساخت فیلم‌های پ.و.ر.ن از شخصیت‌های سیاسی ومعروف از دیپ فیک استفاده کنند.

اما ما چطور می‌توانیم در برابر دیپ فیک از خود مواظبت کنیم؟ ظاهرا تا این لحظه هیچ راه موثری برای مقابله با این فاجعه وجود ندارد و تنها راهی که به نظر می‌رسد این است که حکومت‌ها قوانینی برای مجازات افراد وضع نمایند. حالا سوالی که پیش می‌آید این است که، زمانی که خود دولت‌ها برای ساخت و پخش پروپاگاندا از دیپ فیک استفاده کنند، چه کسی باید دولت‌ها را مجازات کند؟ شما اگر راه‌حلی به ذهنتان می‌رسد با سیسوگ به اشتراک بگذارید.

دکتر فیروز نادری از دانشمندان ایرانی ناسا، در یک پست اینستاگرامی، نقد و تحلیل جالبی در رابطه با دیپ فیک نوشته است، که ما ترجمه این پست را که توسط یکی از کاربران اینستاگرام در زیر همین پست نوشته شده است را تقریبا بدون هیچ گونه تغییری در ادامه برای شما خواهیم آورد.

“جعل عمیق! زمانی که تکنولوژی می‌تواند برای صدمه زدن استفاده شود. هوش مصنوعی این قول را داده بود که زندگی ما را به طور خوبی تغییر دهد، اما در دستان تروریست‌های سایبری توانمند، می‌تواند به عنوان اسلحه برای انتشار اخبار کذب استفاده شود. عبارت “دیپ فیک” به این اشاره دارد که به طور ماهرانه، یک ویدئو از یک شخص شناخته شده را طوری تغییر دهد که با صدای جعلی هماهنگ شود (همگام‌سازی لب‌ها). این تکنولوژی به سرعت در حال پیشرفت است و هر روز برای یک غیرمتخصص سخت‌تر می‌شود که فرق یک ویدئوی واقعی را از جعلی تشخیص دهد. این تکنیک همچنین می‌تواند به این صورت استفاده شود چهره‌ی شخصی را روی بدن شخصی دیگر بیندازد و اعمالی را انجام بدهد که هیچگاه انجام نشده است. این برای آبروریزی چند شخص معروف و سلیبریتی استفاده شده است. پس چکار کنیم؟ من چکارمی‌کنم؟ اگر مهم است و شک دارم چندین منبع را چک می‌کنم.”

خبری مرتبط با همین خبر نیز یک سری نگرانی‌های دیگر ایجاد کرده است که شاید با شنیدن این خبر عمق فاجعه را به خوبی درک کنید. در 93 اُمین پادکست کیبرد آزاد از جادی عزیز، که در سایت جادی دات نت منتشر شده است به مقوله‌ای نگران کننده اشاره می‌کند که در زیر به صورت خلاصه به شرح آن می‌پردازیم.

یک آقا یا یک خانم اومده بر اساس هوش مصنوعی یک چیزی ساخته است که اگر با دیپ فیک ترکیب شود می‌تواند فاجعه‌ای دوچندان به بار آورد. البته ساخته‌ی این فرد دیگر چیزی را جعل نمی‌کند و بر اساس واقعیت است، اما دیپ فیک به راحتی می‌تواند در آن دخیل باشد.

خب حالا این ساخته چکار می‌کند؟ بر این اساس یک نرم‌افزار فیلم‌های پ.و.ر.ن.ی که معمولا کاربران آپلود می‌کنند (فکر کنم به فیلم پ.و.ر.ن درجه 2 معروف هستند) را با اکانت‌های شبکه‌های اجتماعی افراد مختلف مورد تجزیه و تحلیل قرار می‌دهد و در نهایت اکانت شبکه اجتماعی بازیگر فیلم پ.و.ر.ن را به شما می‌گوید، البته اگر وجود داشته باشد. برعکس این عمل نیز امکان‌پذیر است، به این صورت که شما یک اکانت شبکه اجتماعی را به این نرم‌افزار می‌دهید، سپس نرم‌افزار فیلم پ.و.ر.ن این فرد را اگر وجود داشته باشد در اختیار شما قرار می‌دهد.

(البته این دغدغه بیشتر مربوط به خارج از کشور می‌باشد و مربوط به ایران نمی‌باشد)

خب فرض کنید شما اکانت دوست‌دخترتان را به این نرم‌افزار می‌دهید تا ببینید آیا قبلا در فیلم پ.و.ر.ن.ی بوده است یا خیر. آیا این مورد،حریم خصوصی دوست‌دختر ما را نقض می‌کند؟ جواب این سوال را بر عهده شما می‌گذاریم، ولی اگر نظر شخصی من را بخواهید بله، قطعا حریم خصوصی نقض خواهد شد. ما می‌توانیم از خودش بپرسیم، ایشان هم اگر دوست داشتن می‌تونن در مورد گذشتشون توضیح بدن.

فاجعه جایی به وجود می‌آید که دیپ فیک یک نفر را جایگزین پ.و.ر.ن‌استارها بکند و نرم‌افزار هم به اشتباه گزارش بدهد که قضیه از این قرار است و …

همه‌ی ما خوب می‌دانیم قبل از اینکه یک تکنولوژی تجاری شود و در اختیار عموم قرار بگیرد، به احتمال زیاد این تکنولوژی در اختیار مراکز نظامی بوده است. و در این بین معمولا سیاست‌مداران بیشترین سوءاستفاده را علیه رقبای خود می‌کنند و معلوم نیست چنددرصد اخباری که پروپاگانداهای خبری مانند بی‌بی‌سی تا به حال با اسناد خیلی قوی منتشر کرده‌اند، دیپ فیک بوده باشند.

الی‌الحال این نرم‌افزار هنوز پایش به ایران باز نشده است و ظاهرا فقط دیتابیس شبکه‌های اجتماعی چین را در اختیار دارد، و در آن‌جا می‌تواند رسوایی به بار بیاورد. تنها از این جهت است که می‌توانیم کمی خوشحال باشیم، ولی هیچ تضمینی وجود ندارد که در آینده‌ای نزدیک وارد ایران نیز بشود.