Komdigi Blokir Grok AI Elon Musk Demi Lindungi Warga Digital

Uptodai.com - Kementerian Komunikasi dan Digital (Komdigi) mengambil langkah tegas dengan melakukan pemutusan akses terhadap Grok AI, layanan kecerdasan buatan milik Elon Musk. Keputusan ini didasarkan pada temuan serius terkait potensi penyalahgunaan teknologi tersebut dalam memproduksi konten pornografi palsu atau deepfake seksual. Pemerintah memprioritaskan perlindungan hak asasi dan keamanan digital warga negara, terutama kelompok rentan seperti perempuan dan anak-anak.

Menteri Komunikasi dan Digital, Meutya Hafid, menjelaskan bahwa praktik deepfake seksual nonkonsensual merupakan pelanggaran berat terhadap martabat manusia. Komdigi memandang serius ancaman ini di ruang digital, sehingga tindakan pemblokiran menjadi keniscayaan. Langkah ini menunjukkan keseriusan pemerintah dalam menjaga ekosistem digital yang aman dan beretika.

Komdigi Blokir Grok AI: Melindungi Warga dari Deepfake Seksual

Meutya Hafid menegaskan bahwa pemerintah tidak akan mentoleransi penyebaran konten yang merusak moral dan melanggar privasi tersebut. Tindakan ini merupakan respons cepat untuk memitigasi risiko yang ditimbulkan oleh teknologi AI generatif. Pemerintah memandang praktik ini sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital.

Selain pemblokiran, Komdigi juga secara resmi meminta platform X (sebelumnya Twitter), sebagai induk Grok AI, untuk segera hadir dan memberikan klarifikasi mendalam. Klarifikasi tersebut sangat penting untuk memahami sejauh mana dampak negatif penggunaan Grok AI di Indonesia. Pemerintah menuntut pertanggungjawaban platform dalam memastikan bahwa sistem mereka tidak disalahgunakan untuk tujuan kriminal atau asusila.

Landasan Hukum dan Kewajiban Penyelenggara Sistem Elektronik

Tindakan pemutusan akses yang diambil Komdigi memiliki landasan hukum yang kuat, yaitu Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020. Regulasi tersebut mengatur tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat. Secara spesifik, Pasal 9 Permenkominfo mewajibkan setiap PSE memastikan sistem yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi yang dilarang.

Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, sebelumnya telah mengungkapkan kekhawatiran Komdigi terkait isu ini. Ia menyoroti bahwa Grok AI belum memiliki pengaturan yang memadai untuk mencegah produksi dan distribusi konten pornografi yang memanfaatkan foto nyata warga Indonesia. Kelemahan ini membuka peluang besar bagi penyalahgunaan teknologi.

Temuan awal menunjukkan celah signifikan dalam sistem keamanan Grok AI. Kurangnya mekanisme pencegahan eksplisit ini berpotensi melanggar hak privasi dan citra diri pengguna secara masif. Foto seseorang dapat dengan mudah dimanipulasi dan disebarluaskan tanpa adanya persetujuan, menciptakan kerugian psikologis dan sosial yang mendalam.

Alexander Sabar menekankan bahwa risiko ini menimbulkan pelanggaran serius terhadap hak-hak fundamental warga di ranah digital. Kasus ini kembali menyoroti tantangan besar yang dihadapi regulator global dalam mengawasi perkembangan pesat Kecerdasan Buatan. Meskipun AI menawarkan banyak kemudahan, potensi penyalahgunaannya, terutama dalam konteks deepfake, memerlukan intervensi pemerintah yang cepat dan terukur.

Langkah Komdigi blokir Grok AI menjadi sinyal jelas bahwa Indonesia siap bertindak tegas demi menjaga integritas ruang digital nasional. Pemerintah berkomitmen penuh untuk melindungi masyarakat dari bahaya konten ilegal yang dihasilkan oleh teknologi canggih.