Komdigi Lakukan Pemutusan Akses Aplikasi Grok Milik X, Ini Alasannya

Uptodai.com - Kementerian Komunikasi dan Digital (Komdigi) baru-baru ini mengambil langkah tegas yang mengejutkan publik digital. Mereka secara resmi melakukan pemutusan akses aplikasi Grok, sebuah layanan kecerdasan buatan generatif (Generative AI) yang dikembangkan oleh xAI, anak perusahaan milik Platform X (dahulu Twitter) di bawah kendali Elon Musk.

Keputusan drastis ini diambil bukan tanpa alasan kuat. Pemerintah memandang bahwa aplikasi Grok berpotensi serius memfasilitasi pembuatan dan penyebaran konten berbahaya, khususnya yang berkaitan dengan deepfake seksual nonkonsensual.

Dasar Hukum Pemutusan Akses Aplikasi Grok

Menkomdigi, Meutya Hafid, menjelaskan bahwa tindakan ini merupakan upaya proaktif pemerintah untuk melindungi masyarakat di ruang digital. Ia menegaskan bahwa prioritas utama Komdigi adalah melindungi kelompok rentan, terutama perempuan dan anak-anak, dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial.

Menurut Komdigi, praktik deepfake seksual nonkonsensual (membuat konten pornografi palsu tanpa izin) merupakan pelanggaran serius terhadap hak asasi manusia, martabat, dan keamanan warga negara. Oleh karena itu, langkah pemutusan akses aplikasi Grok menjadi keniscayaan demi menjaga ekosistem digital yang sehat dan aman.

Tindakan pemutusan akses ini didasarkan pada kewenangan yang dimiliki oleh Kementerian Komunikasi dan Digital. Regulasi yang menjadi payung hukum adalah Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat.

Secara spesifik, Pasal 9 dalam Permenkominfo tersebut mewajibkan setiap Penyelenggara Sistem Elektronik memastikan bahwa sistem yang mereka kelola tidak memuat, memfasilitasi, atau menyebarluasakan informasi elektronik atau dokumen elektronik yang dilarang. Grok, sebagai produk AI yang terintegrasi dengan Platform X, dianggap melanggar kewajiban fundamental tersebut.

Ancaman Deepfake dan Kewajiban Platform X

Teknologi deepfake AI memang menawarkan potensi inovasi yang luar biasa, namun di sisi lain, alat ini juga membawa ancaman serius. Kemampuan untuk menciptakan video atau gambar yang sangat realistis, yang menampilkan seseorang melakukan tindakan seksual tanpa persetujuan mereka, telah menjadi momok global.

Indonesia, melalui Komdigi, mengambil sikap tegas bahwa inovasi teknologi tidak boleh mengorbankan keselamatan dan etika publik. Pemblokiran ini mengirimkan pesan kuat kepada semua pengembang AI dan PSE, bahwa mereka bertanggung jawab penuh atas dampak negatif dari produk yang mereka luncurkan.

Selain melakukan pemutusan akses aplikasi Grok, Komdigi juga telah meminta Platform X untuk segera hadir dan memberikan klarifikasi resmi. Pertemuan ini diharapkan dapat membahas langkah-langkah mitigasi yang akan diambil X terkait dampak negatif penggunaan Grok di Indonesia.

Klarifikasi dari X sangat penting untuk menentukan apakah pemutusan akses ini bersifat permanen atau sementara. Pemerintah menuntut jaminan bahwa platform AI tersebut dapat mengimplementasikan filter dan mekanisme pengawasan yang efektif untuk mencegah penyalahgunaan teknologi generatif, khususnya yang berkaitan dengan konten deepfake yang merusak.