خودکشی نوجوان آمریکایی؛ والدین چتجیپیتی را متهم کردند
۱۴۰۴ شهریور ۶, پنجشنبه
والدین یک نوجوان آمریکایی از شرکت "اوپن ای‌آی" به دلیل مرگ پسرشان شکایت کردند. آنها می‌گویند "چتجیپیتی"، چت‌بات طراحی‌شده توسط این شرکت، به پسرشان کمک کرده تا خودکشی کند. آنها در شکایت خود پروتکل‌های چت فرزندشان با چتجیپیتی را ضمیمه کرده‌اند که نشان می‌دهد این نوجوان دچار افکار خودکشی بوده است و هوش مصنوعی به او پیشنهاد داده تا نامه خداحافظی بنویسد و همچنین روش‌هایی برای خودکشی به او توصیه کرده است.
این نوجوان ۱۶ ساله که آدام رین نام داشت، آوریل امسال جان خود را گرفت.
اینترنت بدون سانسور با سایفون دویچه وله
مکالمات آدام با چتجیپیتی نشان می‌دهند که این چت‌بات هوش مصنوعی به نزدیک‌ترین و مطمئن‌ترین همراه این نوجوان تبدیل شده بود. طبق شکایتی که والدین او به دادگاه ارائه داده‌اند، روابط واقعی فرزندشان با خانواده، دوستان و آشنایان در آن زمان به شدت کمرنگ شده بود و چتجیپیتی به طور مداوم همه افکار مخرب و خودویران‌گر آدام در مورد خودکشی را تأیید و تشویق می‌کرده و به او اطلاعات بیشتری در این زمینه می‌داده است.
بیشتر بخوانید: هشدار محققان نسبت به توصیه‌های پزشکی گمراه‌کننده هوش مصنوعی
به گزارش رسانه‌های آمریکایی والدین آدام خواستار غرامت و صدور حکمی علیه اوپن‌ای‌آی برای جلوگیری از وقوع چنین اتفاقی در آینده شده‌اند. آنها این شرکت را متهم کرده‌اند که سود مالی را بر امنیت ترجیح داده است.
ابراز تسلیت و دادن وعده برای بهبود عملکرد
بنا بر گزارش‌ها شرکت اوپن‌ای‌آی به خانواده این نوجوان تسلیت گفته و با آنها "ابراز همدردی" کرده است. این شرکت همچنین با انتشار بیانیه‌ای به "موارد دلخراشی" اشاره کرده است که در آن افراد در شرایط بحرانی و حاد از چتجیپیتی استفاده کرده‌اند.
در این بیانیه بدون اشاره مستقیم به پرونده خودکشی آدام رین گفته شده اوپن‌ای‌آی برنامه‌هایی برای بهبود واکنش چتجیپیتی در مواجهه با "شرایط حساس" دارد و "بر اساس مسئولیت خود نسبت به کسانی که از ابزارهای ما استفاده می‌کنند، به بهبود [عملکرد] خود ادامه خواهیم داد."
این شرکت همچنین در یک پست وبلاگی اذعان کرده اقدامات احتیاطی موجود از جمله ارجاع کاربران به یک خط مشاوره تلفنی ممکن است در طول مکالمات طولانی‌تر با چتجیپیتی با شکست مواجه شود و در چنین مواردی، ممکن است نرم‌افزار پاسخ‌های ناخواسته‌ای ارائه دهد.
دویچه وله فارسی را در اینستاگرام دنبال کنید
اوپن‌ای‌آی وعده داده تا اقدامات امنیتی بیشتری را برای کاربران زیر ۱۸ سال اعمال کند و گفته است در حال حاضر نیز در مکالمات چتجیپیتی که در آن کاربران قصد آسیب رساندن به دیگران را ابراز می‌کنند، مداخله می‌کند. این مکالمات به یک تیم اختصاصی ارسال می‌شوند و در صورت وجود تهدیدی خاص، حتی مقامات امنیتی نیز مطلع خواهند شد.
این نخستین بار نیست که چنین دادخواستی علیه چت‌بات هوش مصنوعی در آمریکا به ثبت رسیده است. پیش‌تر درخواست مادر یک نوجوان ۱۴ ساله نیز که هوش مصنوعی "کاراکتر ای‌آی" را مسئول خودکشی فرزندش خوانده بود، پذیرفته شده بود.
اگر به خودکشی فکر می‌کنید و در ایران هستید، از طریق شماره تلفن ۱۲۳ با اورژانس اجتماعی تماس بگیرید. اگر ساکن آلمان هستید با شماره ۰۸۰۰۱۱۱۰۱۱۱ و اگر در افغانستان زندگی می‌کنید با شماره ۱۱۹ تماس بگیرید.