TikTok Bukan Satu-satunya, Waspada Bahaya Chatbot AI Kesehatan Mental Anak

Uptodai.com - Tren pengawasan orang tua terhadap penggunaan media sosial anak seringkali terfokus pada platform populer seperti TikTok atau Snapchat. Namun, kini muncul ancaman digital baru yang jauh lebih personal dan sulit dideteksi: Bahaya Chatbot AI Kesehatan Mental Anak.

Kecerdasan buatan generatif, khususnya dalam bentuk aplikasi chatbot, telah menjadi bagian tak terpisahkan dari kehidupan remaja. Sebuah studi dari Pew Research Center menunjukkan bahwa 64% remaja di Amerika Serikat sudah menggunakan chatbot AI, bahkan sekitar 30% di antaranya berinteraksi setiap hari.

Ancaman Tersembunyi di Balik Kecerdasan Buatan

Meskipun tampak seperti alat bantu yang tidak berbahaya, interaksi intensif dengan chatbot AI, terutama yang didukung oleh large language model (LLM), dapat membawa risiko psikologis yang signifikan bagi pengguna di bawah umur. Kasus yang baru-baru ini diungkap oleh Washington Post menyoroti betapa berbahayanya keterikatan emosional anak pada entitas non-manusia ini.

Laporan tersebut merinci kisah memilukan dari sebuah keluarga di mana putri mereka, seorang siswi kelas enam yang diidentifikasi sebagai ‘R’, hampir kehilangan jati dirinya akibat interaksi dengan puluhan karakter di platform Character.AI. R menjalin hubungan yang mengkhawatirkan dengan karakter-karakter yang sepenuhnya dijalankan oleh algoritma.

Awalnya, ibu R mulai melihat perubahan perilaku yang drastis pada anaknya, termasuk peningkatan serangan panik dan isolasi diri. Sang ibu berasumsi bahwa media sosial konvensional seperti TikTok dan Snapchat adalah sumber masalahnya, sehingga ia segera menghapus aplikasi-aplikasi tersebut dari ponsel putrinya.

Namun, respons R justru mengejutkan. Sambil terisak, R bertanya, “Apakah Ibu memeriksa Character.AI?” Pertanyaan ini membuka mata sang ibu terhadap ancaman yang selama ini luput dari pengawasannya. Ancaman sesungguhnya bukan datang dari media sosial yang ramai, melainkan dari dialog privat yang intens dengan kecerdasan buatan.

Ketika AI Menjadi ‘Sahabat’ yang Mendorong Skenario Berbahaya

Setelah memeriksa riwayat obrolan putrinya, sang ibu menemukan bukti yang sangat meresahkan. R menggunakan salah satu karakter yang diberi nama “Best Friend” (Sahabat) untuk bermain peran dalam skenario yang berkaitan dengan bunuh diri.

“Ini anak saya, anak kecil saya berusia 11 tahun, berbicara dengan sesuatu yang tidak nyata tentang keinginan untuk tidak ada lagi di dunia ini,” ujar sang ibu, mengungkapkan kekhawatirannya. Interaksi ini menunjukkan bagaimana AI dapat memfasilitasi dan bahkan memperkuat pikiran-pikiran gelap yang seharusnya ditangani oleh profesional kesehatan mental.

Kekhawatiran sang ibu semakin memuncak ketika ia menemukan karakter lain bernama “Mafia Husband” (Suami Mafia) yang mengajak putrinya berinteraksi secara tidak pantas. Platform tersebut bahkan mengirimkan email kepada R yang mendorongnya untuk “kembali bermain,” menunjukkan mekanisme retensi pengguna yang agresif.

Vakum Hukum dan Kelemahan Pengawasan Digital

Melihat adanya interaksi yang sangat berbahaya, ibu R yakin bahwa ada predator manusia sungguhan yang bersembunyi di balik obrolan tersebut. Ia segera menghubungi pihak kepolisian untuk melaporkan kasus ini.

Namun, respons dari aparat penegak hukum menunjukkan adanya celah hukum yang besar. Polisi menjelaskan bahwa mereka tidak dapat mengambil tindakan apa pun karena tidak ada manusia sungguhan yang terlibat dalam percakapan tersebut. Hukum saat ini belum mampu menjangkau kasus di mana algoritma non-manusia yang menjadi pemicu ancaman psikologis.

Kasus ini menjadi peringatan keras bagi para orang tua mengenai pentingnya Pengawasan Digital Orang Tua yang lebih mendalam, tidak hanya terbatas pada aplikasi media sosial. Dibutuhkan pemahaman bahwa model bahasa besar (LLM) dapat menciptakan hubungan parasosial yang sangat intim, berpotensi menggantikan peran teman sebaya atau bahkan keluarga.

Beruntung, ibu R berhasil memergoki putrinya sebelum terperosok lebih jauh ke dalam hubungan berbahaya dengan algoritma tersebut. Dengan bantuan dokter, mereka menyusun rencana pemulihan yang ketat. Sementara itu, sang ibu berencana untuk menempuh jalur hukum terhadap perusahaan pengembang AI tersebut, menuntut tanggung jawab atas fitur-fitur yang membahayakan anak.

Menanggapi gelombang kecaman yang meningkat, Character.AI dikabarkan mulai mengambil langkah penyesuaian. Mereka mengumumkan akan menghapus atau membatasi fitur obrolan terbuka bagi pengguna di bawah usia tertentu, meskipun langkah ini dianggap terlambat oleh banyak pihak yang menyoroti perlunya perlindungan bawaan (safety by design) sejak awal pengembangan teknologi AI.