Meta Matikan Fitur AI Instagram karena Bahaya Deepfake

Uptodai.com - Keputusan Meta untuk menonaktifkan fitur AI Instagram terbaru memicu perbincangan hangat di kalangan pemerhati teknologi global. Langkah cepat ini diambil hanya beberapa hari setelah raksasa teknologi tersebut meluncurkan fitur eksperimental pada layanan Muse Image. Kebijakan drastis ini terpaksa dilakukan setelah munculnya gelombang protes keras terkait privasi data pengguna dan potensi penyalahgunaan identitas digital.

Fitur kontroversial ini sebelumnya memungkinkan pengguna untuk menghasilkan gambar baru berbasis kecerdasan buatan hanya dengan memasukkan nama akun publik sebagai referensi visual. Tanpa memerlukan izin eksplisit, sistem secara otomatis memindai foto-foto yang ada di profil publik tersebut untuk dijadikan bahan komputasi. Akibatnya, banyak pengguna merasa hak privasi mereka telah dilanggar demi melatih model AI generatif milik Meta.

Kemarahan publik semakin memuncak karena Meta menerapkan sistem opt-out secara sepihak untuk seluruh akun publik. Hal ini berarti pengguna secara otomatis terdaftar dan harus menonaktifkan izin secara manual melalui menu pengaturan yang rumit jika ingin menolaknya. Skema ini dinilai sangat tidak adil karena membebankan tanggung jawab perlindungan data sepenuhnya kepada pengguna, bukan penyedia layanan.

Ancaman Nyata Teknologi Deepfake dan Eksploitasi Digital

Kekhawatiran terbesar dari komunitas global adalah kemudahan teknologi ini dalam memfasilitasi pembuatan konten rekayasa digital yang sangat realistis. Organisasi perlindungan hak digital dan serikat pekerja seni seperti SAG-AFTRA langsung menyuarakan protes keras atas potensi bahaya ini. Tanpa pengawasan ketat, foto wajah seseorang dapat dengan mudah disalahgunakan untuk menciptakan replika digital tanpa persetujuan pemiliknya.

Penyalahgunaan semacam ini sangat rentan digunakan untuk aksi penipuan, pencemaran nama baik, hingga penyebaran disinformasi berskala besar di media sosial. Kasus eksploitasi seksual berbasis gambar digital juga menjadi ancaman yang paling ditakuti oleh para aktivis kemanusiaan. Industri teknologi saat ini memang sedang berada di bawah tekanan regulasi ketat mengenai etika pemanfaatan data pribadi untuk kecerdasan buatan. Oleh karena itu, langkah preventif Meta ini dinilai sebagai upaya menyelamatkan reputasi perusahaan dari tuntutan hukum yang lebih besar.

Masa Depan Regulasi AI di Platform Meta

Kasus ini menjadi bukti nyata bahwa integrasi teknologi kecerdasan buatan pada platform media sosial mainstream masih membutuhkan regulasi yang matang. Meta kini dituntut untuk merancang sistem keamanan yang lebih transparan dan mengutamakan persetujuan pengguna sejak awal pengembangan produk. Publik kini menanti langkah konkret berikutnya dari Meta dalam menghadirkan inovasi teknologi yang tetap menghormati hak privasi individu.