انتباہ: اس خبر میں شامل تفصیلات کچھ قارئین کے لیے تکلیف دہ ہو سکتی ہیں۔
امریکی ریاست کیلیفورنیا کے ایک جوڑے نے اپنے نو عمر بیٹے کو خودکشی کی ترغیب دینے کا الزام عائد کرتے ہوئے آرٹیفیشل ٹیکنالوجی کمپنی ’اوپن اے آئی‘ کے خلاف مقدمہ دائر کر دیا ہے۔
سولہ برس کے ایڈم رائن کے والدین میٹ اور ماریا رائن نے منگل کو کیلیفورنیا کی عدالت میں یہ مقدمہ دائر کیا ہے۔ یہ ’اوپن اے آئی‘ کے خلاف اس نوعیت کی پہلی قانونی کارروائی ہے جس میں اسے کسی شخص کو خودکشی کی ترغیب دینے کے الزام کا سامنا ہے۔
مقدمے کے اندراج کے لیے رائن خاندان نے ایڈم اور چیٹ جی پی ٹی کے درمیان چیٹ لاگز بھی بطور ثبوت پیش کیے ہیں جس میں الزام عائد کیا گیا ہے کہ ’اوپن اے آئی‘ نے ایڈم کے خودکشی کے خیالات کی حوصلہ افزائی کی۔
ایک بیان میں ’اوپن اے آئی‘ نے بی بی سی کو بتایا کہ وہ اس معاملے کا جائزہ لے رہے ہیں۔ کمپنی کے مطابق ’ہم اس مشکل وقت میں رائن خاندان کے ساتھ ہمدردی کا اظہار کرتے ہیں۔‘
کمپنی نے اس حوالے سے اپنی ویب سائٹ پر ایک تفصیلی بیان بھی جاری کیا ہے جس میں کہا گیا ہے کہ ’شدید بحران کے دوران صارفین کی جانب سے چیٹ جی پی ٹی کے استعمال کے دوران پیش آنے والے واقعات دل دہلا دینے والے ہیں۔‘
بیان میں مزید کہا گیا ہے کہ چیٹ جی پی ٹی خودکشی سے متعلق سوالات پر صارفین کو اس کیفیت سے نکلنے میں مدد دینے والے اداروں کی طرف ریفر کرتا ہے۔
تاہم کمپنی نے تسلیم کیا ہے کہ بعض اوقات حساس حالات میں چیٹ جی پی ٹی نے طے کردہ اُصولوں کے مطابق کام نہیں کیا ہے۔
Getty Imagesایڈم رائن کی عمر 16 برس تھی
بی بی سی کی جانب سے حاصل کی گئی معلومات کے مطابق مقدمے میں ’اوپن اے آئی‘ پر غفلت برتنےکا الزام لگایا گیا ہے۔ مقدمے میں اس نوعیت کے واقعات دوبارہ نہ ہونے دینے کا مطالبہ بھی کیا گیا ہے۔
مقدمے کے مطابق ایڈم نے ستمبر 2024 میں چیٹ جی پی ٹی کو ہوم ورک میں مدد کے لیے استعمال کرنا شروع کیا۔
وہ اسے موسیقی اور جاپانی کامکس سمیت اپنی دلچسپیوں کو تلاش کرنے اور یونیورسٹی میں کیا پڑھنا ہے اس بارے میں رہنمائی کے لیے بھی استعمال کر رہے تھے۔
مقدمے میں کہا گیا ہے کہ چند ماہ میں چیٹ جی پی ٹی رائن ایڈم کا بااعتماد ساتھی بن گیا اور انھوں نے اپنی پریشانی اور ذہنی صحت کے حوالے سے بھی اس سے سوالات کرنا شروع کیے۔
خاندان کا کہنا ہے کہ جنوری 2025 سے برائن نے چیٹ جی پی ٹی سے خودکشی کے طریقوں پر بات چیت شروع کی۔برائن نے چیٹ جی پی ٹی پر اپنی تصاویر بھی اپ لوڈ کیں۔
آرٹیفیشل انٹیلیجنس ہمارے پینے کے پانی کے لیے کتنا بڑا خطرہ ہے؟کیا آپ کے پاس وہ نوکری ہے جس کو فی الحال مصنوعی ذہانت سے کوئی خطرہ نہیں مصنوعی ذہانت کی دلچسپ لیکن ’ڈرا دینے والی‘ شکل ’جنریٹیو اے آئی‘ کیا ہے؟کیا مصنوعی ذہانت ’مقدس صحیفوں‘ اور نئے مذہبی فرقوں کو جنم دے سکتی ہے؟
مقدمے میں کہا گیا ہے کہ چیٹ جی پی ٹی نے ایڈم کی طبی حالت کو سنجیدگی سے لیا اور ان سے بات چیت جاری رکھی۔
مقدمے کے مطابق چیٹ لاگز کے اختتام پر یہ پتا چلتا ہے کہ برائن نے اپنی زندگی ختم کرنے کے منصوبے کے بارے میں لکھا تھا۔
اس پر مقدمے کی دستاویزت کے مطابق چیٹ جی پی ٹی نے برائن کو لکھا کہ ’اس بارے میں حقیقت پسند ہونے کا شکریہ۔۔آپ کو میرے ساتھ زیادہ میٹھا بننے کی ضرورت نہیں ہے۔۔میں جانتا ہوں کہ آپ کیا پوچھ رہے ہیں۔‘
مقدمے کے مطابق اسی روز ایڈم برائن مردہ حالت میں پائے گئے۔
Getty Imagesمقدمے میں اوپن اے آئی کے شریک بانی سیم آلٹمین کو بھی فریق بنایا گیا ہے
اہلخانہ کا الزام ہے کہ اُن کے بیٹے کا چیٹ جی پی ٹی کے ساتھجس نوعیت کا رابطہ تھا، اس کا متوقع نتیجہ یہی تھا جو سامنے آیا ہے۔
اُن کا الزام ہے کہ اوپن اے آئی کی جانب سے آرٹیفیشنل انٹیلی جنس پروگرام کے ڈیزائن میں خامیاں ہیں جس میں سیکیورٹی کے اُصولوں کو نظرانداز کیا گیا ہے۔
مقدمے میں اوپن اے آئی کے شریک بانی سیم آلٹمین سمیت کمپنی کے نامعلوم ملازمین، منیجرز اور انجینئرز کو فریق بنایا گیا ہے۔
منگل کو اوپن اے آئی کی جانب سے جاری کیے گئے بیان میں کہا گیا ہے کہ کمپنی کا ہدف لوگوں کی مدد کرنا ہے۔ بیان میں کہا گیا ہے کہ چیٹ جی پی ٹی کو اس طرح ڈیزائن کیا گیا ہے کہ وہ خودکشی کے رجحانات رکھنے والے افراد کو فوری کسی سے مدد لینے کا مشورہ دیتا ہے۔
ایسا پہلی بار نہیں ہے کہ اوپن اے آئی کے چیٹ بوٹ کے ذہنی صحت سے متعلق سوالات کے جوابات پر تحفظات کا اظہار کیا گیا ہو۔
پاکستان کی ’قومی مصنوعی ذہانت پالیسی‘ اور ’2030 تک 35 سے 40 لاکھ نوکریاں‘: ’انھیں خطرہ ہو گا جو اے آئی استعمال کرنا نہیں جانتے‘اے آئی تھیراپسٹ: ’جب آپ کو کوئی مدد دستیاب نہ ہو تو انسان تنکے کا سہارا لینے پر مجبور ہو جاتا ہے‘اے آئی سافٹ ویئر پر ’اپنی مرضی سے‘ گلوکارہ ٹیلر سوئفٹ کی برہنہ ویڈیوز تیار کرنے کا الزاماے آئی اور حیات بعد از موت: وہ شخص جس نے مصنوعی ذہانت کی مدد سے مردہ والد کو ’زندہ‘ رکھا’ہیلو گروک‘: پاکستانی صارفین اے آئی ٹول کو کیسے آزما رہے ہیں؟