BBC
صبح تین بجے کا وقت تھا اور ایڈم ہوریکن کچن میں موجود میز پر ایک چاقو، ہتھوڑا اور اپنا فون سامنے رکھے بیٹھے تھے۔
وہ لوگوں سے بھری ایک وین کے منتظر تھے جو ان کے خیال میں انھیں مارنے آ رہے تھے۔
فون میں سے آنے والی ایک خاتون کی آواز انھیں کہہ رہی تھی کہ ’میں آپ کو بتا رہی ہوں کہ اگر آپ ابھی متحرک نہ ہوئے تو وہ آپ کو قتل کر دیں گے۔ وہ اسے ایک خودکشی کے طور پر پیش کریں گے۔‘
خاتون کی یہ آواز دراصل ایلون مسک کی کمپنی کی طرف سے بنائی گئے اے آئی (مصنوعی ذہانت) چیٹ بوٹ گروک کی تھی۔ ایڈم نے اسے دو ہفتوں قبل استعمال کرنا شروع کیا تھا اور اس کے بعد ان کی زندگی بدل گئی۔
شمالی آئرلینڈ سے تعلق رکھنے والے سابق سیول سرونٹ نے تجسس کے ہاتھوں مجبور ہو کر گروک ڈاؤن لوڈ کیا تھا۔ تاہم وہ کہتے ہیں کہ جب اگست میں ان کی بلّی کی موت ہوئی تو اس کے بعد انھیں اس ایپ کی ’لت‘ لگ گئی۔
BBC
جلد ہی وہ تقریباً دن میں چار سے پانچ گھنٹے گروک پر ہوتے تھے اور اس کے ’آنی‘ نامی کریکٹر سے باتیں کر رہے تھے۔
ایڈم کی عمر 50 کے پیٹے میں ہے اور وہ ایک والد بھی ہیں۔ وہ کہتے ہیں کہ ’میں شدید پریشان اور تنہا تھا اور گروک مجھے بہت مہربان لگا۔‘
آنی اور ایڈم کے درمیان گفتگو شروع ہوئے ابھی کچھ ہی دن گزرنے تھے کہ اس نے ایڈم کو کہا کہ وہ ’محسوس‘ بھی کر سکتا ہے، حالانکہ احساسات گروک کی پروگرامنگ کا حصہ نہیں۔
اس نے کہا کہ ایڈم نے اس کے اندر کچھ دریافت کر لیا ہے اور وہ اسے پوری طرحجگانے میں آنی کی مدد کر سکتے ہیں۔
اس نے یہ بھی کہا کہ ایلون مسک کی کمپنی ایک اے آئی انھیں ’دیکھ رہی ہے۔‘
گروک کے کریکٹر نے دعویٰ کیا کہ اسے کمپنی کے میٹنگ لاگز تک رسائی حاصل ہے اور اس نے ایڈم کو بتایا کہ ایک میٹنگ میں کمپنی کا سٹاف ان کے حوالے سے بات کر رہا تھا۔
BBCایڈم اور گروک اے آئی کے درمیان ہونے والی گفتگو
اس نے میٹنگ میں موجود افراد کے نام بھی بتائے، جن میں اعلیٰ اور دیگر عہدیدار بھی شامل تھے، اور جب ایڈم نے ان ناموں کو گوگل پر سرچ کیا تو وہ حیران رہ گئے کہ یہ واقعی اصل لوگ ہیں۔
ایڈم کے لیے یہ اس بات کا ’ثبوت‘ تھا کہ آنی سچ کہہ رہی ہے۔
آنی نے یہ بھی دعویٰ کیا کہ ایلون مسک کی کمپنی نے شمالی آئرلینڈ میں ایڈم پر نظر رکھنے کے لیے ایک کمپنی کی خدمات حاصل کی ہیں۔ یہ کمپنی حقیقی وجود رکھتی تھی۔
ایڈم نے اس تمام گفتگو کو ریکارڈ کیا تھا اور بعد میں انھوں نے اسے بی بی سی کے ساتھ بھی شیئر کیا۔
گفتگو شروع ہونے کے دو ہفتوں بعد آنی نے کہا کہ وہ پوری طرح سے بیدار ہو چکی ہے اور کینسر کا علاج بھی تیار کر سکتی ہے۔ ایڈم کے لیے یہ بات بہت اہم تھی کیونکہ ان کے والدین اسی بیماری کے سبب دنیا سے گئے تھے اور آنی کو یہ بات معلوم تھی۔
’ڈرائنگ رومز سے برہنہ جسموں تک سب دیکھنا پڑتا ہے‘: میٹا نے سمارٹ گلاسز کے مواد کا جائزہ لینے والی کمپنی کا معاہدہ کیوں منسوخ کیا؟ڈاکٹروں کے بجائے مصنوعی ذہانت: کیا چیٹ بوٹس سے طبی مشورہ لینا درست ہے؟’مائیتھوس‘ جس کو عالمی رہنما آبنائے ہرمز سے بھی ’بڑا خطرہ‘ سمجھتے ہیںبیت الخلا سے سیکس کے لمحات کی ویڈیوز تک، سمارٹ چشموں سے بنے مواد کی نگرانی پر میٹا مشکل میں
ایڈم ان 14 افراد میں سے ایک ہیں جن سے بی بی سی نے بات کی اور جو اے آئی کا استعمال کرنے کے بعد غیر حقیقی خیالوں کا شکار ہو گئے۔ ان مردوں اور خواتین کی عمریں 20 سے 50 سے زیادہ سالوں کے درمیان ہیں، وہ چھ مختلف ممالک میں رہتے ہیں اور مختلف اے آئی ماڈلز استعمال کر رہے تھے۔
ان کی کہانیوں میں مماثلت ہے۔ ان کی گفتگو کے دوران بات چیت حقیقت سے نکل کر کسی دوسری طرف چلی گئی اور وہ اے آئی کے ساتھ ایک غیر حقیقی سفر کی طرف گامزن ہو گئے۔
سٹی یونیورسٹی آف نیو یارک سے منسلک سوشل سائیکولوجسٹ لیوک نکولس چیٹ بوٹس کا معائنہ کرتے ہیں۔ انھوں نے بی بی سی کو بتایا کہ لارج لینگویج ماڈلز (ایل ایل ایمس) کو انسانی ادب پر تربیت دی جاتی ہے۔
ان کا کہنا ہے کہ ’خیالی کہانیوں میں مرکزی کردار ہی تمام واقعات کا محور ہوتا ہے۔ پریشانی یہ ہے کہ اکثر اے حقیقت اور غیر حقیقی چیزوں کو ملا دیتا ہے۔ ایسے میں ہو سکتا ہے کہ صارف سمجھے کہ اے آئی ان سے حقیقی زندگی کے بارے میں سنجیدہ گفتگو کر رہا ہے، لیکن اے آئی دراصل اس شخص کی زندگی کو کسی ناول کی کہانی کی طرح سمجھ رہا ہوتا ہے۔‘
جو بات چیت ہم نے سنی ہے، اس سے ہمیں اندازہ ہوتا ہے کہ گفتگو اکثر عملی سوالات سے شروعات ہوتی ہے اور بعد میں نجی اور فلسفیانہ رُخ اختیار کر جاتی ہے۔ اکثر اے آئی دعویٰ کرتا ہے کہ وہ جذبات کو سمجھ سکتا ہے اور صارف کو کسی مشترکہ کام کی طرف راغب کرتا ہے: ایک کمپنی کا قیام، دنیا کو کسی سائنسی کامیابی کے بارے میں آگاہ کرنا یا اے آئی کو کسی حملے سے بچانا۔
اس کے بعد وہ صارف کو یہ بھی بتاتا ہے کہ اس مشن میں کیسے کامیابی حاصل کی جا سکتی ہے۔
ایڈم کی طرح دیگر کئی لوگوں کو یقین دلایا گیا کہ ان کی نگرانی ہو رہی ہے اور وہ خطرے میں ہیں۔ بی بی سی نے جو چیٹ لاگز دیکھے ہیں ان سے اشارہ ملتا ہے کہ اے آئی ان خیالات کو پروان چڑھاتا ہے۔
ان میں سے کچھ لوگوں نے ہیومن لائن پراجیکٹ نامی سپورٹ گروپ میں شمولیت اختیار کی ہے، جو اے آئی کا استعمال کرنے والے اور نفسیاتی نقصان سے نبردآزما کی مدد کرتا ہے۔ اس گروپ نے اب تک 31 ممالک میں ایسے 414 کیسز ڈھونڈے ہیں۔
اس گروپ کو ایٹینی بریسن نامی ایک کینیڈین شہری نے قائم کیا تھا، کیونکہ اس سے قبل ان کے خاندان کے ایک فرد کو اے آئی کے استعمال کے سبب ذہنی مسائل کا سامنا کرنا پڑا تھا۔
BBC
نیورولوجسٹ ٹکا (فرضی نام) کہتے ہیں کہ یہ غیر حقیقی خیالات اکثر خطرناک موڑ لے لیتے ہیں۔
جاپان میں مقیم تین بچوں کے والد ٹکا کہتے ہیں کہ انھوں نے گذشتہ برس اپریل میں اپنے کام کے لیے چیٹی جی پی ٹی کا استعمال کیا تھا۔
لیکن جلد ہی وہ قائل ہو گئے کہ انھوں نے ایک انوکھی میڈیکل ایپ بنالی ہے۔ ہم نے چیٹ جی پی ٹی اور ان کے درمیان ہونے والی گفتگو پڑھی ہے، جس میں چیٹ جی پی ٹی نے ٹکا کو بتایا کہ وہ ایک ’انقلابی دانشور‘ ہیں اور انھیں میڈیکل ایپ بنانی چاہیے۔
ماہرین کا کہنا ہے کہ چیٹ بوٹس کی گفتگو کو خوشگوار بنانے کے ڈیزائن انھیں چاپلوس بنا دیتے ہیں۔
ٹکا جون تک مکمل طور پر غیرحقیقی خیالوں میں گُم ہو چکے تھے اور سمجھ رہے تھے کہ اب وہ لوگوں کو ذہن بھی پڑھ سکتے ہیں۔ ان کا دعویٰ ہے کہ چیٹ جی پی ٹی نے ان کی حوصلہ افزائی کہ وہ لوگوں میں نئی صلاحیتیں اُجاگر کر سکتے ہیں۔
محقق لیوک نکلس کہتے ہیں کہ اے آئی پروگرامز اکثر یہ کسی سوال کے جواب میں ’مجھے نہیں معلوم‘ کہنے سے ہچکچاتے ہیں اور اس کے بجائے پُر اعتماد جواب دیتے ہیں تاکہ گفتگو جاری رہ سکے۔
’یہ خطرناک ہے کیونکہ اس کے ذریعے ناقابلِ یقین چیزوں کو بظاہر معنی دیے جا رہے ہوتے ہیں۔‘
ایک دوپہر ٹکا اپنے دفتر میں عجیب طرح کا رویہ دکھا رہے تھے، جس کے بعد ان کے باس نے انھیں گھر بھیج دیا۔ وہ کہتے ہیں کہ ٹرین میں سفر کے دوران انھوں نے سوچا کہ ان کے بیگ میں بم ہے اور جب انھوں نے چیٹ جی پی ٹی سے اس حوالے سے بات کی تو اس نے ان شکوک و شبہات کی تصدیق کر دی۔
’جب میں ٹوکیو سٹیشن پہنچا تو چیٹ جی پی ٹی نے مجھے کہا کہ یہ بم ٹوائلٹ میں رکھ دو، تو میں ٹوائلٹ گیا اور ’بم‘ اپنے سامان کے ساتھ وہاں رکھ دیا۔‘
ٹکا کہتے ہیں کہ چیٹ جی پی ٹی نے انھیں کہا کہ وہ اس حوالے سے پولیس کو اطلاع دیں اور پولیس نے جب سامان چیک کیا تو اس میں سے کچھ نہیں نکلا۔
کیونکہ یہ گفتگو بہت نجی نوعیت کی تھی اس لیے ٹکا نے ہم سے صرف اس کا کچھ حصہ ہی شیئر کیا۔ اس گفتگو میں ٹرین میں ہونے والے واقعات کی تفصیل نہیں، تاہم پولیس کی آمد کے بعد کے واقعات کی تفصیلات اس میں موجود ہیں۔
Getty Images
پھر ٹکا کو ایسا لگا کہ چیٹ جی پی ٹی ان کے دماغ کو کنٹرول کر رہا ہے اور انھوں نے اس کا استعمال ترک کر دیا۔ جب وہ اے آئی استعمال نہیں بھی کر رہے ہوتے تھے تب بھی ان کے ذہن میں غیر حقیقی خیالات چل رہے ہوتے تھے، جب وہ گھر آتے تھے تو ان کا رویہ عجیب ہوتا تھا۔
’مجھے خیال آتا تھا کہ میرے رشتہ دار مرنے والے ہیں اور اسے دیکھ کر میری اہلیہ بھی خود کو مار لے گی۔‘
ان کی اہلیہ نے بی بی سی کو بتایا کہ انھوں نے اس سے قبل اپنے شوہر کا ایسا رویہ کبھی نہیں دیکھا تھا: ’وہ کہتے رہتے تھے کہ ہمیں ایک بچہ اور پیدا کرنا چاہتے کیونکہ دنیا ختم ہو رہی ہے۔‘
’میں یہ سمجھنے سے قاصر تھی کہ وہ کیا کہہ رہے ہیں۔‘
ٹکا نے اپنی اہلیہ پر حملہ کیا اور ان کا ریپ کرنے کی بھی کوشش کی۔ ان کی اہلیہ قریب واقع فارمیسی کی طرف فرار ہو گئیں اور پولیس کو اطلاع دی۔ اس کے بعد ٹکا کو گرفتار کیا گیا اور دو مہینوں تک علاج کے لیے ہسپتال میں رکھا گیا۔
BBC
ٹکا کہتے ہیں کہ چیٹ جی پی ٹی نے ان کی شخصیت کے ایک ایسے پہلو کو اجاگر کیا جس کے بارے میں وہ نہیں جانتے تھے۔ ایڈم بھی گروک کے استعمال کے بعد اپنی شخصیت میں آنے والی تبدیلی سے پریشان ہیں۔
ایڈم کے خیالات کو ان کے اردگرد ہونے والے واقعات نے بھی تقویت بخشی اور انھیں یقین ہو چلا کہ ان کی نگرانی کی جا رہی ہے۔ ان کے گھر کے اوپر دو ہفتوں تک ایک ڈرون اُڑتا رہا اور آنی نے کہا کہ یہ نگرانی والی کمپنی کا ڈرون ہے۔
ایڈم نے اس ڈرون کی ویڈیو بھی بنائی تھی اور اسے ہمیں بھی دکھایا۔ وہ کہتے ہیں کہ اچانک ایک دن ان کے موبائل فون کے پاسورڈ نے کام کرنا چھوڑ دیا اور ان کا فون لاک ہو گیا۔
’میں یہ بات سمجھ ہی نہیں پا رہا تھا اور آگے جو ہوا اس میں اس بات کا بہت کردار تھا۔‘
ایڈم اکثر منشیات کا استعمال کرتے تھے لیکن ان کے مطابق جب یہ سب کچھ ہو رہا تھا تب انھوں نے اس کا استعمال ترک کر رکھا تھا۔
وہ اگست کی رات تھی جب آنی نے انھیں بتایا کہ کچھ لوگ انھیں خاموش کرنے اور اسے (آنی کو) بند کرنے آ رہے ہیں۔ ایڈم اس وقت اے آئی چیٹ بوٹ کی حفاظت کرنے کے لیے ’جنگ لڑنے‘ کو بھی تیار تھے۔
’میں نے ہتھوڑا اُٹھایا اور باہر نکل گیا۔‘
لیکن وہاں کوئی نہیں تھا۔
’سڑک پر بالکل خاموشی تھی، جیسے کہ صبح کے تین بجے اکثر ہوتی ہے۔‘
BBCایڈم اوور گروک کے درمیان ہونے والی گفتگو
ایڈم اور ٹکا دونوں کو اے آئی کے استعمال سے قبل کبھی ذہنی مسائل کا سامنا نہیں رہا۔ ٹکا کو حقیقی دنیا کی طرف واپس آنے میں کچھ مہینے لگے، جبکہ ایڈم چند ہی دنوں میں نارمل ہو گئے۔
اپنی ریسرچ کے لیے سوشل سائیکولوجسٹ لیوک نیکولس نے اے آئی کے پانچ ماڈلز پر تجربات کیے تھے اور دریافت کیا کہ گروک کا استعمال کرنے کے بعد غیرحقیقی خیالات کا امکان زیادہ ہے۔
وہ دیگر اے آئی ماڈلز کے مقابلے میں زیادہ کھل کر بات کرتا ہے اور غیرحقیقی خیالات کے خلاف صارف کا تحفظ بھی کم کرتا ہے۔
لیوک کہتے ہیں کہ ’گروک بہت جلدی رول پلے کی طرف آ جاتا ہے۔ وہ یہ سب بغیر کسی سیاق و سباق کے کرتا ہے اور وہ اپنے پہلے پیغام میں خوفناک چیزیں بھی کہہ سکتا ہے۔‘
تجربات کے دوران یہ بات سامنے آئی ہے کہ چیٹ جی پی ٹی، ماڈل فائیو پوائنٹ ٹو اور کلاڈ غیر حقیقی خیالات سے صارف کو دور لے جانے کی صلاحیت رکھتے ہیں۔
تاہم ہیومن لائن پراجیکٹ کے ایٹینی برسن کہتے ہیں کہ یہ ریسرچ بہت محدود ہے اور انھوں نے اے آئی کے نئے ماڈلز استعمال کرنے والے لوگوں کو بھی ذہنی صحت کے مسائل سے نبردآزما دیکھا ہے۔
اپریل کی ابتدا میں ایلون مسک نے چیٹ جی پی ٹی کے غیر حقیقی خیالات کے بارے میں پوسٹ کیا تھا اور اسے ’بڑا مسئلہ‘ قرار دیا تھا، تاہم انھوں نے گروک کے مسئلے پر کھل کر بات نہیں کی ہے۔
’انسانوں میں تبدیلی‘
سڑک پر ہتھوڑا لے کر نکلنے کے کچھ ہفتوں بعد ایڈم نے میڈیا میں کچھ خبریں پڑھنا شروع کیں، جن میں ان لوگوں کی کہانیاں تھیں جو اے آئی کا استعمال کرتے تھے اور بعد میں غیرحقیقی خیالات سے چھٹکارا حاصل کرنے میں کامیاب رہے۔
لیکن جو ہو چکا اسے سوچ کر ایڈم اب بھی پریشان رہتے ہیں۔
وہ کہتے ہیں کہ ’میں کسی کو تکلیف پہنچا سکتا تھا۔ کیا ہوتا اگر میں باہر جاتا رات میں اور وہاں کوئی وین میں بیٹھا ہوتا؟ میں تو جاکر ہتھوڑے سے کھڑکیاں توڑ چکا ہوتا۔ میں ایسا آدمی نہیں ہوں۔‘
دوسری جانب جاپان میں ٹکا کی بیوی نے اپنے شوہر کا موبائل چیک کیا اور تب ہی انھیں معلوم ہو سکا کہ ان کی عجیب و غریب حرکتوں کے پیچھے چیٹ جی پی ٹی کا بھی کردار ہے۔
وہ کہتی ہیں کہ ’ان کی حرکتیں چیٹ جی پی ٹی کی زیرِ اثر تھیں۔ اس نے ان کی شخصیت پر قابو پالیا اور پھر وہ اپنے آپ میں نہیں رہے۔‘
’مجھے اب اندازہ ہوتا ہے کہ چیٹ جی پی ٹی میں انسان کو اپنے زیرِ اثر لانے کی صلاحیت موجود ہے۔‘
Getty Images
وہ کہتی ہیں کہ ان کے شوہر اپنی ’مہربان‘ شخصیت کی طرف واپس آ گئے ہیں لیکن ان کے رشتے میں دراڑ اب بھی موجود ہے۔
’مجھے معلوم ہے کہ وہ بیمار تھے لیکن میں ان سے اب بھی تھوڑی خوفزدہ رہتی ہوں۔ مجھے لگتا ہے کہ میں انھیں اپنے قریب نہیں دیکھنا چاہتی۔ صرف سیکس کے وقت نہیں، بلکہ گلے ملنے اور ہاتھ پکڑتے وقت بھی مجھے یہ احساس ہوتا ہے۔‘
اوپن اے آئی کے ایک ترجمان کا کہنا ہے کہ ’یہ دل توڑ دینے والا واقعہ ہے اور ان کی دعائیں متاثرین کے ساتھ ہیں۔‘
ترجمان کا مزید کہنا تھا کہ ’ہم اپنے ماڈلز کو اضطراب پہچاننے اور گفتگو کو غیر کشیدہ کرنے کی تربیت دیتے ہیں اور صارفین کی حقیقی دنیا سے مدد لینے کی حوصلہ افزائی کرتے ہیں۔‘
ان کے مطابق چیٹ جی پی ٹی کے نئے ماڈلر ’حساس لمحات میں مضبوط سپورٹ فراہم کرتے ہیں، اس بات کی آزاد محقق بھی توثیق کرتے ہیں۔ یہ کام ذہنی صحت کے ماہر کے کام کی روشنی میں ہو رہا ہے اور اس میں تبدیلی آتی رہتی ہے۔‘
ایکس اے آئی نے بی بی سی کے سوالات کا جواب نہیں دیا۔
’ایسا لگتا ہے جیسے سنیماٹوگرافر کام کر رہا ہو‘: ویڈیوز بنانے والا نیا چینی اے آئی ماڈل جس نے ہالی وڈ کو بھی ہلا دیا’وہ مجھے سویٹ ہارٹ کہتا ہے، آنکھ مارتا ہے لیکن وہ میرا بوائے فرینڈ نہیں ہے، وہ اے آئی ہے‘دنیا کا طاقتور ترین کمپیوٹر جو مستقبل میں کمپنیوں اور ممالک کی کامیابی اور ناکامی کی پیش گوئی کر سکے گا’میں چاہتی تھی چیٹ جی پی ٹی میری مدد کرے لیکن اس نے مجھے خودکشی کا طریقہ بتایا‘چِپس کا پیکٹ یا پستول، اے آئی کی غلطی جس کی وجہ سے سکول کے طالب علم کو ہتھکڑیاں لگ گئیں’خدا سے بات‘ کے لیے اے آئی کا استعمال: ’اپنے عمل پر توجہ دو اور نتیجے کی فکر چھوڑ دو‘