Reutersگذشتہ سال ٹیلر سوئفٹ کی ڈیپ فیک آنے کے بعد اس کے متعلق امریکہ میں قانون متعارف کرائے گئے
آن لائن جنسی استحصال کے خلاف آواز اٹھانے والی قانونی ماہر کا کہنا ہے کہ دنیا کی سب سے امیر شخصیت ایلون مسک کے ویڈیو بنانے والے اے آئی سافٹ ویئر ’گروک امیجن‘ نے جان بوجھ کر اور اپنی مرضی سے ایسا مواد تیار کیا جس کی ان سے فرمائش بھی نہیں کی گئی تھی۔
ان کا کہنا ہے کہ اس ایپ نے عالمی سطح کی معروف گلوکارہ ٹیلر سوئفٹ کی غیر قانونی پورنوگرافک ڈیپ فیک ویڈیوز تیار کیں، یعنی ایسی جعلی ویڈیوز جن میں ایک شخص کو برہنہ یا جنسی عمل میں دکھایا جاتا ہے۔
برطانیہ میں فحش ڈیپ فیکس کو غیر قانونی قرار دیے جانے سے متعلق قانون سازی میں شامل قانونی ماہر کلیئر مک گلین کا کہنا ہے کہ ’یہ عورت دشمنی اتفاقاً یا لاپرواہی کا نتیجہ نہیں بلکہ دانستہ ہے۔‘
یہ پہلا موقع نہیں جب ٹیلر سوئفٹ کی تصویر یا ویڈیو کا اس طرح استعمال کیا گیا ہو۔
جنوری سنہ 2024 میں ان کے چہرے والے جنسی نوعیت کے ڈیپ فیک بڑے پیمانے پر سوشل میڈیا پلیٹ فارم ایکس اور ٹیلیگرام پر پھیلائے گئے تھے جنھیں لاکھوں بار دیکھا گيا۔
ڈیپ فیک کمپیوٹر سے تیار کردہ ایسا عکس ہے جس میں کسی شخص کے چہرے کو کسی دوسرے کے چہرے سے بدل دیا جاتا ہے۔
نیوز ویب سائٹ ’ورج‘ کے مطابق ایلون مسک کا اے آئی سافٹ ویئر ’گروک امیجن‘ اس گلوکارہ کی برہنہ اور بغیر سینسر کی گئی ویڈیوز تیار کر رہا ہے۔ یہ سافٹ ویئر مصنوعی ذہانت کی مدد سے نئی ویڈیوز یا تصاویر بنا سکتا ہے۔
رپورٹ میں یہ بھی کہا گیا ہے کہ اس پروگرام میں صارفین کی عمر کی تصدیق کا وہ درست اور قانونی طریقہ موجود نہیں جو رواں سال جولائی سے لازمی قرار دیا گیا ہے۔
Getty Imagesٹیلر سوئفٹ آج بھی مقبول ترین گلوکارہ کی فہرست میں سرفہرست ہیں
کمپنی ’ایکس اے آئی‘ اس سافٹ ویئر کی مالک ہے اور اس سے مطالبہ کیا گیا ہے کہ وہ اس معاملے پر وضاحت دے۔
قانون کے مطابق یہ کمپنی کسی بھی شخص کی جنسی نوعیت کی تصاویر یا ویڈیوز نہیں دکھا سکتی۔
برطانیہ کی ڈرہم یونیورسٹی میں پروفیسر کلیئر مک گلین کہتی ہیں کہ ایسے مواد کا بغیر درخواست تیار کیا جانا اس بات کی علامت ہے کہ کئی اے آئی ٹیکنالوجیز میں ’عورت دشمنی کا رجحان پایا جاتا ہے۔‘
انھوں نے مزید کہا: ’ایکس جیسے پلیٹ فارم اس کو روک سکتے تھے لیکن انھوں نے جان بوجھ کر ایسا نہ کرنے کا فیصلہ کیا۔‘
اس سے قبل گذشتہ سال امریکی سیاست دانوں نے ٹیلر سوئفٹ کی واضح طور پر جعلی تصاویر لاکھوں بار آن لائن دیکھے جانے کے بعد ڈیپ فیک تصاویر کی تخلیق کو جرم قرار دینے کے لیے نئے قوانین متعارف کرانے کا مطالبہ کیا تھا۔
اور امریکی نمائندے جو موریل نے ڈیپ فیک تصاویر کے پھیلاؤ کو ’خوفناک‘ قرار دیا۔
اس وقت ایک بیان میں ایکس نے کہا کہ وہ تصاویر کو ’فعال طریقے سے ہٹا رہا ہے‘ اور انھیں پھیلانے میں ملوث اکاؤنٹس کے خلاف ’مناسب کارروائی‘ کر رہا ہے۔
ڈیپ فیک کی اچھی اور بری باتیں: ڈیپ فیک کیا ہے اور اسے پکڑنا کتنا مشکل ہے؟ڈیپ فیک: جب ایک ’دوست‘ نے ساتھ گزرے ہر لمحے کو پورن میں بدل دیاڈیپ فیک پورن: ’جب طلبا میری طرف دیکھتے ہیں تو میں سوچتی ہوں کہ کہیں انھوں نے میری تصویر تو نہیں دیکھ لی‘’آپ کی تصاویر لیک ہو گئی ہیں‘: ٹیلی گرام پر ڈیپ فیک کی خفیہ دنیا جس نے خواتین اور بچوں کو شدید خوف میں مبتلا کر دیا
اس نے مزید کہا تھا کہ ’ہم اس بات کو یقینی بنانے کے لیے صورتحال پر گہری نظر رکھے ہوئے ہیں کہ مزید خلاف ورزیوں کا فوری طور پر ازالہ کیا جائے، اور مواد کو ہٹا دیا جائے۔‘
اگرچہ بہت سی تصاویر کو ہٹا دیا گیا تھا لیکن ٹیلر سوئفٹ کی ایک تصویر کو اتارے جانے سے پہلے 47 ملین بار دیکھا گیا تھا۔
بہر حال اب اگر آپ ایکس پر ٹیلر سوئفٹ اے آئی یا ٹیلر اے آئی تلاش کریں گے تو آپ کو کوئی مواد نہیں ملے گا۔
AFP via Getty Imagesایلن مسک کی مصنوعی ذہانت گروک صارفین کے لیے فی الحال مفت میں دستیاب ہےگروک امیجن
ایلون مسک نے اعلان کیا ہے کہ ان کے گروک اے آئی چیٹ بوٹ کا نیا امیجن ویڈیو اور امیج جنریشن فیچر اب تمام صارفین کے لیے مفت دستیاب ہے۔
پہلے یہ صرف پیڈ صارفین کے لیے تھا۔ اسے گذشتہ دنوں نئے فیچرز کے ساتھ لانچ کیا گیا لیکن مسک اور ایکس اے آئی ٹیم نے جمعرات کو اوپن اے آئی کے اپنے چیٹ بوٹ چیٹ جی پی ٹی-5 ماڈل کے جاری کیے جانے کے بعد اپنے نئے فیچر کو صارفین کے لیے مفت جاری کرنے کا فیصلہ کیا۔
گروک امیجن کا استعمال کرتے ہوئے پہلے صارف کوئی تصویر اپ لوڈ کرتا ہے اور پھر چیٹ بوٹ اسے ویڈیو میں تبدیل کرنے کا آپشن فراہم کرتا ہے۔ اس میں کئی قسم تخلیقی موڈز ہیں جن میں نارمل، فن کسٹم اور سپائسی وغیرہ شامل ہیں۔
Getty Imagesڈیپ فیک نے کئی مشہور شخصیتوں کو نشانہ بنایا ہےڈیپ فیک ویڈیو کیا ہے؟
اگر آسان زبان میں کہا جائے تو ڈیپ فیک ایک ایسی ٹیکنالوجی ہے جس کے ذریعے کسی ایک شخص کے چہرے پر کسی دوسرے شخص کا چہرا اور آواز لگا دی جاتی ہے جسے دیکھنے والے کو لگتا ہے کہ وہ ایک ایسے شخص کی ویڈیو دیکھ رہا ہے جو دراصل اس کی ہے ہی نہیں۔
تو اکثر لوگوں کے ذہن میں یہ بات آتی ہے کہ فوٹوشاپ یا اس طرح کے دیگر ایڈیٹنگ سافٹ ویئر بھی تو یہی کام کرتے ہیں تو کیا وہ بھی ڈیپ فیک ہیں یا نہیں۔ تو جواب ہے نہیں۔
فوٹو شاپ جیسے سافٹ ویئرز کی مدد سے ہم اکثر خود ایک تصویر کو ایڈیٹ کرتے ہیں جبکہ ڈیپ فیک ٹیکنالوجی میں مصنوعی ذہانت کے ذریعے سافٹ ویئر فراہم کیے گئے ڈیٹا کی مدد سے ایسا کرنا سیکھتا ہے، جو کہ تصاویر اور ویڈیوز کی شکل میں ہوتا ہے۔
مثلاً اگر میں نے مائیکل جیکسن کی ڈیپ فیک ویڈیو بنانی ہو تو میں مائیکل جیکسن کی متعدد تصاویر اور ویڈیوز اکٹھی کروں گی اور جس کی مدد سے ڈیپ فیک بنانے والا سافٹ ویئر ان کے چہرے کی حرکت اور تاثرات کا معائنہ کرے گا اور جب میں مائیکل جیکسن کی شکل اپنے چہرے پر لگاؤں گی تو ڈیپ فیک ٹیکنالوجی نہ صرف میرے چہرے کو مائیکل جیکسن کے چہرے سے بدل دے گی بلکہ میرے چہرے کی حرکت اور تاثرات کو بھی مائیکل جیکسن کے چہرے اور تاثرات جیسا بنا دے گی۔
AFP via Getty Imagesمصنوعی ذہانت سے تیار کردہ مواد سے اصلی اور نقلی کی پہچان مٹتی جا رہی ہے
سوشل میڈیا پر اس کے متعلق مباحثہ جاری ہے اور لوگ مصنوعی ذہانت کے ذریعے تیار کردہ نقلی شناخت کے منفی اور مثبت پہلوؤں پر بات کر رہے ہیں۔
ڈیپ فیک کوٹس نامی ایک صارف نے لکھا: ’پال ہاروی نے ہمیں خبردار کیا تھا۔ اور ہم نے بھی۔ دہائیوں پہلے، پال ہاروی نے کہا تھا کہ ’اگر میں شیطان ہوتا۔‘ اور پچھلے سال، کسی گمنام شخص نے لفظ بہ لفظ اس کا حوالہ دیا۔ یہ صرف ہوا نہیں بلکہ مستقل ہو رہا ہے۔ سوال یہ ہے کہ کیا ہمیں بر وقت اس کا ادراک ہے تاکہ ہم راستہ بل سکیں؟ بڑے پیمانے پر ہجرت، اخلاقی زوال، یا بنایا گيا زوال ہے۔ یہ خیر کے لیے تو کبھی نہیں تھا البتہ یہ کنٹرول کے بارے میں ہے۔‘
دی کولسٹ کول نامی ایک صارف نے لکھا: ’ہر کوئی اس بارے میں بات کر رہا ہے کہ کس طرح اے آئی صد فیصد ڈیپ فیک ویڈیوز بنانا آسان بنا رہا ہے۔ ہر کوئی اس کے بارے میں بات کر رہا ہے کہ اے آئی کس طرح دنوں میں 200 بلاگ پوسٹس لکھنا آسان بنا رہا ہے۔ لیکن یہاں حقیقت یہ ہے کہ جب سب کچھ اے آئی کی طرح محسوس ہونے لگے تو وہ چیزیں جو انسان لگے جیت ان کی ہوگی۔‘
اے آئی پر یہ بھی الزام لگتا رہا ہے کہ وہ عورت مخالف ہے اور یہ کہ اسے سفید فاموں پر تیار کیا گیا ہے اس لیے وہ سیاہ فام مخالف ہے۔
’آپ کی تصاویر لیک ہو گئی ہیں‘: ٹیلی گرام پر ڈیپ فیک کی خفیہ دنیا جس نے خواتین اور بچوں کو شدید خوف میں مبتلا کر دیاڈیپ فیک: جب ایک ’دوست‘ نے ساتھ گزرے ہر لمحے کو پورن میں بدل دیاسابق بوائے فرینڈ کا ’انتقام‘: ’بے بی ڈول آرچی‘ کا اکاؤنٹ جس پر برسوں ایک خاتون کی تصاویر سے فحش مواد بنایا اور وائرل کیا گیا’یہ کسی کے بھی کپڑے اتار سکتی ہیں‘: ایپل نے بی بی سی کی تحقیقات کے بعد ’برہنہ تصاویر‘ بنانے والی ایپس ہٹا دیںڈیپ فیک پورن: ’جب طلبا میری طرف دیکھتے ہیں تو میں سوچتی ہوں کہ کہیں انھوں نے میری تصویر تو نہیں دیکھ لی‘’اصلی نظر آنے والے جعلی وی پی این اور چیٹ بوٹ‘: پاکستان میں انٹرنیٹ پر ’مشکوک‘ براؤزر ایکسٹنشنز سے خبردار کیوں کیا گیا؟