چین در حال سرکوب دیپ فیک ها در داخل کشور و در عین حال سود بردن از آنها در خارج از کشور است.
برنامههای Deepfake توسعهدهندگان مستقر در چین میلیونها بار در ایالات متحده دانلود شدهاند و حتی پس از وضع قوانین سختگیرانه چین در سال جاری برای تنظیم ویدیوهای دیپفیک در اینترنت خود، همچنان در فروشگاههای اپلیکیشن در دسترس هستند.
این برنامهها به توسعهدهندگان چینی اجازه میدهند از دادهها و دلارهایی که از طریق بازار فناوری عمدتاً کنترلنشده آمریکا به دست میآیند سود ببرند، در حالی که قانونگذاران آمریکایی بر اهداف دیگری مانند TikTok تمرکز کردهاند. این بررسی به سایر برنامههای مستقر در چین، مانند بازارهای آنلاین Shein و Temu که در ایالات متحده و سایر نقاط جهان محبوب هستند، تعمیم داده نشده است.
دیپ فیک ها رسانه های دستکاری شده ای هستند که اغلب با فناوری هوش مصنوعی ایجاد می شوند و در آن چهره ها، ظاهر و صداها تغییر کرده اند. این فناوری در سالهای اخیر بهبود یافته است و از آن برای ساختن ویدیوهای ویروسی استفاده شده است، برخی برای هشدار در مورد توانایی این فناوری برای ایجاد اطلاعات نادرست.
اما بیش از هر چیز دیگری، فناوری دیپ فیک به اقتصاد آنلاین مبتنی بر ایجاد پورنوگرافی جعلی دامن زده است. Sensity، یک شرکت مستقر در آمستردام که رسانههای مصنوعی توسعهیافته با هوش مصنوعی را برای صنایعی مانند بانکداری و فینتک شناسایی و نظارت میکند، دریافت که ۹۶ درصد از دیپفیکها از نظر جنسی صریح هستند و زنانی را نشان میدهند که با ایجاد آنها موافقت نکردهاند.
در بررسی NBC News از برنامههای دیپفیک رایگان در اپ استور اپل و فروشگاه Google Play، بیش از 17 برنامه دیپفیک از شرکتهای مستقر در سراسر جهان، از جمله روسیه، اوکراین، بریتانیا، ایالات متحده، ایتالیا و چین برای دانلود در دسترس هستند.
برخی از برنامههایی که توسط NBC News بررسی میشوند، مانند FaceApp محبوب قبرس و Facee مستقر در چین، ویژگیهایی را ارائه نمیدهند که امکان تولید فیلمهای مستهجن را فراهم کند. چنین برنامه هایی برای تغییر تصاویر چهره ها با فیلترهای از پیش تعیین شده طراحی شده اند. اما سایر برنامهها به طور خاص تواناییهای خود را برای ایجاد پورنوگرافی عمیق جعلی غیرموافقانه بازاریابی میکنند.
بر اساس بررسی تبلیغات NBC News، یکی از برنامههای مستقر در چین، FaceMagic، در محبوبترین وبسایت پورنو دیپفیک، تبلیغات جنسی با مضمون «در یک ثانیه پورن عمیقفعل بسازید» اجرا میکند. طبق دادههای Apptopia، شرکتی که بازار اپلیکیشنها را ردیابی میکند، از ماه می سال ۲۰۲۱ بیش از ۲.۴ میلیون بار دانلود شده است.
یکی دیگر از اپلیکیشنهای دیپفیک مستقر در چین، FaceMega، اخیراً پس از اینکه NBC News دریافت که بیش از 260 آگهی در فیسبوک منتشر کرده است، از فروشگاههای اپلیکیشن اپل و گوگل حذف شده است که شباهت اما واتسون را با ماهیت وسوسهانگیز جنسی نشان میدهد.
این برنامهها تقریباً به طور قطع با قوانین دیپفیک جدید چین که در ژانویه اجرایی شد، مغایرت خواهند داشت. قوانین ایجاد دیپ فیک را بدون رضایت افرادی که شبیههایشان دستکاری میشود ممنوع میکند و باید برچسبگذاری دیپفیکها را بهعنوان تولیدشده توسط هوش مصنوعی انجام داد.
ایالات متحده چنین قوانین فدرالی ندارد، اگرچه برخی از ایالت ها مجازات های مدنی را برای ایجاد پورن های غیرقانونی و دیپ فیک هایی که اطلاعات نادرست سیاسی را به تصویر می کشند، اعمال می کنند. برخی از فعالان حریم خصوصی قوانین جدیدی را در مورد دیپ فیک اعمال کرده اند، اما بیشتر سیاستمداران در عوض بر روی TikTok تمرکز کرده اند.
سمیر جین، مدیر سیاستگذاری در مرکز گفت: «همانطور که ما از مقررات حریم خصوصی عقب هستیم، من فکر می کنم هنوز در مراحل اولیه تعیین مقرراتی که باید در مورد دیپ فیک داشته باشیم، هستیم. برای دموکراسی و فناوری، یک سازمان غیرانتفاعی که از حقوق دیجیتال و بیان آزاد دفاع می کند.
نگرانیها در مورد دسترسی خارجی به دادههای کاربران ایالات متحده از طریق برنامهها در سالهای اخیر در سراسر چین و TikTok ادغام شده است. منتقدان TikTok استدلال کردهاند که این یک تهدید امنیتی فوری است، زیرا چین میتواند آن را مجبور به افشای دادههای کاربران آمریکایی خود کند.
مدیر عامل TikTok، Shou Zi Chew ماه گذشته در یک جلسه استماع کنگره گفت که ByteDance، مادر چینی TikTok، یک شرکت خصوصی است و تحت کنترل دولت چین نیست.
او در اظهارات آماده شده گفت: «TikTok هرگز اطلاعات کاربران ایالات متحده را با دولت چین به اشتراک گذاشته یا درخواستی دریافت نکرده است. «و نه TikTok چنین درخواستی را در صورتی که چنین درخواستی مطرح می شد، رعایت نمی کرد.»
چین که می گوید با هرگونه فروش اجباری TikTok در ایالات متحده «قاطعانه مخالفت می کند»، می گوید که حریم خصوصی و امنیت داده ها را بسیار جدی می گیرد و ایالات متحده هیچ مدرکی مبنی بر اینکه TikTok امنیت ملی خود را تهدید می کند ارائه نکرده است.
مائو نینگ، سخنگوی وزارت امور خارجه چین در ماه گذشته گفت: «دولت چین هرگز از هیچ شرکت یا فردی نخواسته و نخواهد خواست که دادهها، اطلاعات یا اطلاعاتی را که در خارج از کشور قرار دارد بر خلاف قوانین محلی جمعآوری یا ارائه کند».
به درخواستی برای اظهار نظر ارسال شده به سفارت چین در آمریکا پاسخی داده نشد.
کشورهای دیگر گامهای گستردهای برای رسیدگی به مسائل مربوط به حریم خصوصی دادهها و همچنین نگرانیهای مربوط به گسترش دیپفیک برداشتهاند. اتحادیه اروپا قوانین سختگیرانه ای برای حفظ حریم خصوصی دارد که آنها را علیه بسیاری از شرکت های بزرگ فناوری از جمله آمازون، متا و گوگل اجرا کرده است. اتحادیه اروپا همچنین قوانینی را ایجاد کرد تا پلتفرمهای فناوری بزرگ را مجبور به محدود کردن گسترش دیپفیک کنند.
هیچ کدام به اندازه چین با قوانین دیپ فیک اخیر خود پیش نرفته اند.
مایکل کارانیکولاس، مدیر اجرایی مؤسسه قانون و سیاست فناوری UCLA گفت: چین به عنوان قطب توسعه هوش مصنوعی به طور فزاینده ای به دنبال صدور دیدگاه خود از معنای حکمرانی هوش مصنوعی است. با وجود تمام تمرکز بر برنامه های چینی که اقتصاد آمریکا را مختل می کنند، چین می گوید ما به قوانینی در مورد این موارد نیاز داریم.
مری آن فرانک، استاد حقوق و رئیس ابتکار حقوق مدنی سایبری، یک گروه غیرانتفاعی که با فیلم های مستهجن غیرقانونی مبارزه می کند، گفت که مدل تجاری تقریباً برای هر برنامهای که در ایالات متحده کار میکند شامل فروش دادههای کاربر است و این آسیبپذیریهای قانونی با ناحیه خاکستری قانونی همپوشانی دارند که به اقتصاد دیپفیک اجازه میدهد شکوفا شود.
وبسایتهای پورنو دیپفیک پدیدهای هستند که اخیراً در حال رشد هستند و در اوایل امسال علاقهی جستجو به طور تاریخی بالا بوده است.
فرانکس گفت: «اگر قدرتهای واقعی به این بحران توجه میکردند و پیشبینی میکردند که روزی این فناوری خام نخواهد بود و قابل تشخیص نخواهد بود، ما در این موقعیت قرار نمیگرفتیم.
Franks گفت که شکایات قانونی در مورد TikTok وجود دارد، همانطور که برای بسیاری از برنامه های دیگر وجود دارد. برنامههای Deepfake همچنین دادههای کاربر را جمعآوری میکنند که میتواند با هر کسی به اشتراک گذاشته و فروخته شود.
با این حال، یافتن این اطلاعات به خصوص سخت نیست. و ممنوعیت TikTok تغییر زیادی نخواهد کرد.
کارانیکولاس گفت: «اگر چین به این اطلاعات علاقه مند باشد، می تواند آن را آزادانه در بازار ثانویه خریداری کند. “شما می توانید یک برنامه را ممنوع کنید، اما واقعاً بر مشکل گسترده تر تأثیر نمی گذارد.”