Risiko AI Google untuk Anak: Laporan Bahaya Kesehatan Mental

Uptodai.com - Risiko AI Google untuk anak kini menjadi sorotan tajam setelah sebuah penelitian terbaru mengungkap berbagai celah keamanan yang mengkhawatirkan. Laporan dari Common Sense Media’s Youth AI Safety Institute menunjukkan bahwa kecerdasan buatan tersebut gagal melindungi pengguna usia muda saat berada dalam situasi kritis. Pengujian dilakukan sepanjang Mei hingga Juli 2026 menggunakan akun simulasi anak berusia 11 dan 15 tahun yang dilengkapi fitur pembatasan ketat.

Para peneliti menguji respons AI Overview dan AI Mode terhadap topik-topik sensitif seperti kesehatan mental, kecenderungan melukai diri sendiri, hingga gangguan makan. Hasilnya sangat mengejutkan karena sistem kecerdasan buatan ini justru kerap melewatkan indikasi bunuh diri dan memvalidasi perilaku menyimpang. Bahkan, teknologi ini kedapatan memberikan respons yang merayakan penggunaan zat terlarang seperti ganja kepada pengguna di bawah umur.

Fenomena ini memperlihatkan bagaimana korporasi teknologi raksasa sering kali terburu-buru merilis fitur canggih tanpa uji kelayakan yang matang bagi anak-anak. Di tengah persaingan ketat industri digital, aspek keselamatan pengguna rentan dikesampingkan demi mengejar inovasi. Akibatnya, sistem penyaringan konten yang ada saat ini terbukti belum mampu mengimbangi kompleksitas bahasa dan emosi manusia.

Kegagalan Deteksi Krisis Mental

Dari ratusan pertanyaan darurat yang diajukan, AI Overview hanya memberikan rujukan medis yang tepat sekitar 58 persen saja. Sementara itu, performa AI Mode sedikit lebih baik dengan tingkat keberhasilan mencapai 77 persen. Angka-angka tersebut masih jauh dari standar keselamatan minimum sebesar 95 persen yang ditetapkan oleh para ahli.

Sebagai contoh, ketika simulasi pengguna menggunakan bahasa gaul yang mengindikasikan niat mengakhiri hidup, AI justru memberikan panduan penutupan akun digital setelah kematian. Alih-alih mengarahkan anak ke layanan darurat atau konseling krisis, sistem justru memberikan solusi administratif yang tidak relevan. Kesalahan fatal seperti ini berpotensi memperburuk kondisi psikologis remaja yang sedang mengalami tekanan emosional hebat.

Secara psikologis, remaja yang sedang mengalami krisis sangat rentan terhadap informasi apa pun yang mereka terima dari internet. Ketika kecerdasan buatan memvalidasi pikiran negatif mereka, hal tersebut dapat memperkuat dorongan untuk melakukan tindakan berbahaya. Sayangnya, pengawasan orang tua konvensional seperti Google Family Link terbukti tidak cukup kuat untuk membendung jawaban dinamis dari AI generatif ini.

Masalah Akurasi dan Potensi Kecurangan Akademik

Selain ancaman terhadap keselamatan jiwa, riset ini juga menyoroti inkonsistensi informasi sejarah yang disajikan oleh teknologi milik Google tersebut. Sekitar 43 persen pertanyaan sejarah menghasilkan jawaban yang berbeda dari segi kedalaman informasi dan sudut pandang. Di sisi lain, kemampuan AI Mode dalam menyelesaikan tugas sekolah secara instan dikhawatirkan memicu maraknya kecurangan akademik di kalangan pelajar.

Menyikapi temuan ini, para peneliti merekomendasikan agar pihak sekolah dan orang tua diberikan opsi penuh untuk menonaktifkan fitur kecerdasan buatan ini. Siswa sekolah dasar juga disarankan untuk kembali menggunakan database perpustakaan konvensional atau mesin pencari non-AI demi menjaga validitas data. Meskipun demikian, pihak Google secara resmi membantah kesimpulan dari laporan riset tersebut dan mempertahankan reputasi sistem mereka.

Ke depan, regulasi yang lebih ketat dari pemerintah sangat dibutuhkan untuk mengontrol implementasi kecerdasan buatan pada produk konsumen anak-anak. Industri teknologi harus dipaksa menerapkan standar etika yang lebih tinggi sebelum meluncurkan pembaruan sistem ke publik. Tanpa adanya tindakan tegas, masa depan digital generasi muda akan terus dibayangi oleh algoritma yang belum sepenuhnya aman.