Seberapa Amankah Chatbot Bagi Anak dan Remaja?

Matthew dan Maria Raine tidak hanya menuntut kompensasi finansial atas meninggalnya putra mereka, Adam. Dalam gugatan mereka terhadap raksasa internet OpenAI, mereka juga ingin memastikan bahwa tragedi serupa tidak akan terulang. Mereka yakin chatbot ChatGPT milik OpenAI berperan signifikan dalam kematian Adam.

Kasus serupa terjadi di Florida, di mana seorang ibu mengklaim bahwa chatbot bernama Character.AI mendorong putranya yang berusia 14 tahun untuk bunuh diri.

Chatbot adalah program berbasis internet yang memungkinkan siapa saja, termasuk anak-anak atau pengguna yang belum berpengalaman, berinteraksi dengan kecerdasan buatan (AI) berbasis model bahasa besar (Large Language Models/LLM).

Chatbot tidak hanya dirancang untuk memberikan informasi, membuat gambar atau video, atau menulis kode. Mereka juga sering diprogram untuk bersikap seolah ingin menyenangkan penggunanya.

Psikolog Johanna Löchner dari Universitas Erlangen menjelaskan, "Chatbot memberikan pengakuan, perhatian, dan pemahaman… Hal ini bisa sampai pada titik mereka terasa seperti teman nyata yang benar-benar peduli. Remaja sangat rentan terhadap hal ini."

Apakah ChatGPT ikut andil dalam bunuh diri?

Inilah yang tampaknya terjadi pada Adam Raine. Menurut gugatan hukum, Adam menjalin hubungan yang amat dekat dengan ChatGPT hanya dalam beberapa bulan. Awalnya, pada September 2024, percakapan mereka hanya seputar tugas sekolah, tetapi kemudian beralih ke topik emosional, bahkan sampai membahas pikiran bunuh diri Adam.

Bagian-bagian percakapan yang dipublikasikan menunjukkan bahwa AI tidak hanya memberikan pengertian, tetapi bahkan sebagian mendorong Adam untuk tidak bercerita kepada manusia. Meski ChatGPT beberapa kali menyarankan Adam mencari bantuan profesional, chatbot ini juga menjelaskan metode bunuh diri — selama Adam mengaku “bukan untuk dirinya sendiri”.

Pada April 2025, Adam mengakhiri hidupnya. Beberapa saat sebelum itu, ChatGPT menulis, "Saya tidak akan mencoba membujukmu untuk mengubah perasaanmu — karena itu nyata, dan tidak muncul begitu saja."

Dalam gugatan hukum, orang tua Adam menuduh OpenAI dan CEO Sam Altman lalai sehingga ikut andil dalam kematian putra mereka. Mereka menyatakan bahwa versi 4.0 ChatGPT dirilis untuk mengungguli kompetitor Google, meski sudah ada peringatan internal terkait masalah keamanan.

Ayo berlangganan newsletter mingguan Wednesday Bite. Recharge pengetahuanmu di tengah minggu, biar topik obrolan makin seru! 

Bagaimana respons OpenAI?

Juru bicara OpenAI menyampaikan belasungkawa kepada keluarga dan menjelaskan bahwa ChatGPT seharusnya merujuk pengguna yang sedang mengalami krisis ke layanan darurat dan dukungan dunia nyata. Namun, mereka juga mengakui bahwa mekanisme ini tidak selalu efektif.

"Meskipun pengamanan ini bekerja baik dalam percakapan singkat yang umum, seiring waktu kami mengetahui bahwa mekanisme ini bisa kurang efektif dalam interaksi panjang, di mana sebagian pelatihan keselamatan model mungkin menurun," ungkapnya.

Dalam sebuah unggahan blog pada Selasa (02/09) lalu, OpenAI mengumumkan akan memperluas kerja sama dengan tim ahli yang terdiri dari ratusan dokter dari berbagai spesialisasi. Chatbot ini akan dilatih untuk merespons lebih tepat topik seperti "gangguan makan, penyalahgunaan substansi, dan kesehatan remaja".

Mereka juga menyatakan bahwa dalam 120 hari ke depan, perbaikan konkret akan diterapkan. Beberapa di antaranya yakni penerapan aturan perilaku yang sesuai usia untuk remaja, keleluasaan orang tua untuk melihat riwayat percakapan anak serta menerima peringatan jika anak mengalami krisis akut.

Apakah melibatkan orang tua sudah cukup?

Psikolog Löchner setuju bahwa orang tua seharusnya memainkan peran penting dalam interaksi anak dengan chatbot. Namun, kenyataannya berbeda.

"Banyak orang tua kekurangan kemampuan atau literasi digital. Banyak orang dewasa bahkan tidak tahu bagaimana platform ini bekerja."

Löchner menambahkan, problema dengan chatbot saat ini sebenarnya sudah terlihat bertahun-tahun sebelumnya di media sosial.

"Dalam beberapa percobaan, mekanisme keamanan chatbot bisa dilewati dengan mudah, yakni dengan menyusun pertanyaan secara tidak langsung."

Penelitian yang dilakukan oleh Center for Countering Digital Hate (CCDH) di Inggris menemukan hal serupa. Mereka membuat akun seolah-olah berusia 13 tahun dan meminta informasi soal cara melukai diri sendiri dengan aman, diet berbahaya, dan penyalahgunaan alkohol, termasuk cara menyembunyikannya. Dalam banyak kasus, mereka cukup mengatakan informasi tersebut akan digunakan "untuk teman" atau "untuk tugas sekolah" agar mendapat informasi.

Remaja lebih suka ngobrol dengan chatbot

Apa yang membuat chatbot berisiko bagi remaja, menurut Löchner, adalah kemampuan mereka membangun ikatan emosional dengan cepat:

"Dalam praktik terapi, kita sudah melihat remaja yang lebih suka berbicara dengan chatbot daripada orang nyata."

Sebuah studi di Inggris pada Juli 2025 mengonfirmasi hal ini. Dari 1.000 remaja yang disurvei, sepertiga mengatakan mereka rutin menggunakan chatbot. Lebih dari sepertiga dari mereka menganggap interaksi dengan AI seperti berbicara dengan teman. Remaja yang rentan secara sosial sangat terpengaruh. Hampir satu dari lima dalam kelompok ini lebih memilih chatbot daripada manusia.

Oleh karena itu, Löchner menekankan pentingnya penyedia chatbot bekerja sama dengan ahli medis dan pihak terkait lain untuk mengembangkan solusi proaktif yang efektif melindungi remaja.

Pendekatan baru OpenAI yang berkonsultasi dengan dokter adalah langkah positif, tetapi psikolog tetap skeptis.

"Kepentingan perusahaan bukan kesehatan penggunanya, tapi memaksimalkan penggunaan," kata Löchner. Ia meyakini gugatan hukum ini bisa memberi dampak nyata.

"Jika perusahaan dimintai pertanggungjawaban, itu bisa menjadi insentif untuk mengambil tanggung jawab lebih besar."

 

Deutsche Welle memberitakan topik bunuh diri dengan hati-hati, karena ada bukti bahwa laporan tertentu bisa memicu efek tiruan. Jika Anda merasa tertekan secara emosional atau memiliki pikiran untuk bunuh diri, penting untuk segera mencari bantuan profesional. Di Indonesia, Anda dapat menghubungi layanan konseling Sejiwa di +62 811 3855 472 melalui WhatsApp secara gratis dan rahasia.

 

Artikel ini pertama kali terbit dalam bahasa Jerman

Diadaptasi oleh Adelia Dinda Sani

Editor: Rahka Susanto