Konten Eksplisit di YouTube Muncul Terang-terangan, Kenapa Lolos?

Uptodai.com - Dunia maya kembali dihebohkan oleh laporan mengkhawatirkan mengenai konten eksplisit di YouTube yang berhasil muncul secara terang-terangan tanpa melalui proses sensor. Temuan ini bukan hanya sekadar video yang terselip, melainkan konten pornografi tanpa sensor yang terpasang pada foto profil pengguna dan mudah diakses melalui kata kunci pencarian spesifik.

Situasi ini menimbulkan pertanyaan besar tentang efektivitas sistem moderasi konten yang selama ini diandalkan oleh platform video raksasa milik Google tersebut. Sebab, konten sensitif ini tetap terlihat jelas bahkan setelah pengguna keluar (log out) dari akun mereka, yang secara langsung mengancam keamanan pengguna di bawah umur.

Modus Baru Bot Pelaku untuk Lolos Moderasi Konten YouTube

Salah satu pengguna Reddit dengan nama akun “coreynj” menjadi yang pertama melaporkan celah keamanan dan moderasi ini. Ia menemukan bahwa foto profil yang memuat pornografi dapat dicari dengan sangat mudah, hanya dengan menggunakan kata kunci tertentu yang merujuk pada platform media sosial ‘X’ (sebelumnya Twitter).

Ironisnya, sebagian besar kanal yang bermasalah tersebut tidak secara eksplisit menampilkan video pornografi di halaman utama mereka. Mereka justru menyisipkan klip-klip pendek berlabel NSFW (Not Safe for Work) di antara konten-konten biasa, sebuah taktik cerdik untuk menghindari deteksi otomatis oleh sistem AI YouTube.

Strategi ini memungkinkan akun-akun tersebut beroperasi lebih lama sebelum akhirnya terdeteksi dan dihapus. Modus operandi ini menunjukkan adanya upaya terorganisir untuk mengeksploitasi algoritma dan moderasi konten YouTube yang berfokus pada pemindaian video, bukan foto profil.

Jaringan Bot Terdeteksi Menggunakan Konten Eksplisit

Aktivitas yang terdeteksi pada kanal-kanal ini juga mengarah kuat pada pola operasional bot yang canggih. Dilaporkan bahwa kanal-kanal bermasalah ini cenderung saling terhubung satu sama lain dalam sebuah jaringan terstruktur untuk memaksimalkan visibilitas.

Para pengguna juga mengklaim bahwa mencari video eksplisit dengan pencarian tertentu di YouTube kini menjadi semakin mudah. Hal ini memperkuat dugaan bahwa ada koordinasi terpusat di balik penyebaran pornografi tanpa sensor YouTube ini, memanfaatkan celah di fitur-fitur yang kurang diawasi ketat.

Celah pada foto profil ini sangat mengkhawatirkan karena gambar profil umumnya tidak melalui saringan AI seketat pemindaian thumbnail atau isi video. Akibatnya, konten eksplisit bisa dipajang secara permanen dan dilihat oleh siapa saja yang mengakses kanal tersebut, termasuk anak-anak.

Respons YouTube: Uji Coba Fitur Pengaburan Thumbnail

Temuan yang mengkhawatirkan ini muncul di tengah upaya YouTube untuk meningkatkan keamanan pencarian, terutama terkait isu konten dewasa. Pihak platform diketahui tengah menguji coba fitur baru yang berfungsi mengaburkan thumbnail secara otomatis pada video yang memiliki konten sensitif.

Fitur ini bekerja mirip dengan strategi yang telah lama diterapkan oleh Instagram untuk menyembunyikan gambar sensitif di linimasa. Dalam pengujian awal, fitur tersebut hanya diaktifkan pada hasil pencarian yang menggunakan kata kunci bertema seksual, demi memberikan pengalaman pencarian yang lebih aman.

Namun demikian, fitur ini memiliki batasan signifikan karena tidak menyembunyikan judul video, nama kanal, atau deskripsi. Meskipun YouTube menyediakan opsi untuk mengembalikan thumbnail seperti semula, fitur ini baru tersedia untuk sebagian kecil pengguna dan belum jelas apakah akan diperluas ke laman utama pengguna atau hanya terbatas pada hasil pencarian saja.

Pihak Google sendiri telah diminta komentar oleh beberapa media terkait temuan profil yang memuat konten eksplisit di YouTube. Publik kini menanti langkah konkret yang lebih tegas dari raksasa teknologi tersebut, mengingat kerentanan ini sangat membahayakan keamanan digital, terutama bagi anak-anak dan remaja yang menjadi pengguna aktif platform ini.