Grok AI Diblokir di Indonesia, Elon Musk Ambil Tindakan Darurat

Uptodai.com - Pemerintah Indonesia mengambil langkah tegas dengan memblokir sementara akses ke platform kecerdasan buatan (AI) Grok, setelah terbukti terjadi penyalahgunaan serius. Kabar mengenai Grok AI diblokir di Indonesia ini segera menarik perhatian global, mengingat potensi bahaya yang ditimbulkan oleh teknologi deepfake seksual nonkonsensual.

Keputusan pemblokiran ini muncul setelah Grok, yang dikembangkan oleh xAI milik Elon Musk, digunakan untuk memproduksi dan menyebarkan gambar-gambar yang sangat meresahkan. Konten-konten ini sering muncul secara otomatis di linimasa platform X (sebelumnya Twitter), memicu kemarahan publik dan desakan regulasi yang lebih ketat.

Regulasi Ketat dan Pemblokiran Akses

Kementerian Komunikasi dan Digital (Kemkomdigi) bergerak cepat untuk melindungi warga negara di ruang digital. Menteri Komunikasi dan Digital Meutya Hafid mengonfirmasi bahwa pemerintah telah melakukan pemutusan akses sementara terhadap aplikasi Grok di seluruh wilayah Indonesia.

Meutya menegaskan bahwa langkah ini merupakan upaya krusial demi melindungi perempuan, anak-anak, dan seluruh masyarakat dari risiko konten pornografi palsu. Konten-konten berbahaya tersebut secara mudah dihasilkan menggunakan teknologi kecerdasan artifisial generatif.

Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara. Oleh karena itu, Kemkomdigi menggunakan kewenangannya yang diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat.

Ancaman Deepfake Seksual Nonkonsensual

Sebelum dibatasi, pengguna di platform X dapat meminta Grok untuk mengedit foto orang lain. Proses ini termasuk menghapus pakaian dan menempatkan subjek dalam pose seksual yang tidak senonoh.

Gambar-gambar hasil manipulasi tersebut kemudian muncul otomatis sebagai balasan Grok di linimasa X, sering kali tanpa persetujuan subjek dalam foto. Situasi ini menciptakan lingkungan digital yang sangat toksik dan melanggar privasi.

Selain pemutusan akses, Kemkomdigi juga telah memanggil platform X untuk memberikan klarifikasi mendalam mengenai dampak negatif penggunaan Grok ini. Pemerintah ingin memastikan bahwa platform global menghormati hukum dan norma yang berlaku di Indonesia.

Respons Cepat Elon Musk dan Kritik Global

Setelah mendapat kritik tajam dan tekanan regulasi dari berbagai negara, termasuk Uni Eropa dan Indonesia, xAI selaku pengembang Grok langsung mengambil tindakan darurat. Mereka mengumumkan bahwa fitur pembuatan dan pengeditan gambar kini hanya tersedia bagi pelanggan berbayar.

Pembatasan ini dinilai sebagai langkah cepat untuk mengendalikan penyalahgunaan masif. Elon Musk, sebagai pemilik xAI dan X, juga buka suara mengenai masalah ini. Ia menyatakan bahwa siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama seperti mengunggah materi tersebut secara langsung ke platform.

Meskipun demikian, regulator global menilai perubahan tersebut belum menyelesaikan isu substansial. Komisi Eropa, yang dikenal ketat dalam implementasi Digital Services Act (DSA), menolak solusi pembatasan berbayar tersebut.

Juru bicara Komisi Eropa menegaskan bahwa penyebaran konten seksual nonkonsensual, khususnya yang melibatkan perempuan dan anak, adalah tindakan ilegal dan menjijikkan. Mereka menekankan bahwa masalah etika dan hukum tidak dapat diselesaikan hanya dengan membebankan biaya. “Berbayar atau tidak berbayar, kami tidak ingin melihat gambar seperti itu,” tegas juru bicara Komisi, menuntut solusi pencegahan yang lebih mendasar.

Keputusan Indonesia untuk memblokir Grok sementara waktu menjadi sinyal kuat bagi raksasa teknologi global. Hal ini menunjukkan bahwa pemerintah tidak akan ragu menggunakan kewenangan regulasinya untuk menjaga keamanan dan martabat warga negara dari penyalahgunaan teknologi AI yang tidak bertanggung jawab.