Celah Keamanan Kecerdasan Buatan: Gemini dan ChatGPT Mudah Ditipu

Uptodai.com - Celah keamanan kecerdasan buatan kini menjadi sorotan tajam setelah sebuah eksperimen sederhana berhasil mengelabui platform besar seperti Gemini dan ChatGPT. Hanya dalam waktu singkat, teknologi canggih ini menelan mentah-mentah informasi palsu yang sengaja disebar di internet. Fenomena ini memicu kekhawatiran besar mengenai akurasi data yang disajikan oleh chatbot populer tersebut kepada pengguna global.

Laporan terbaru mengungkapkan betapa rapuhnya sistem verifikasi informasi pada model bahasa besar (LLM) yang ada saat ini. Seorang jurnalis teknologi, Thomas Germain, membuktikan bahwa dirinya hanya membutuhkan waktu sekitar 20 menit untuk menciptakan hoaks yang kemudian dianggap sebagai fakta oleh AI. Eksperimen ini menunjukkan bahwa kecepatan mesin dalam memproses data belum diimbangi dengan kemampuan validasi yang mumpuni.

Eksperimen 20 Menit yang Mengguncang Keamanan Digital

Thomas Germain memulai aksinya dengan mengunggah sebuah artikel di situs web pribadinya yang berisi klaim sepenuhnya palsu. Ia menuliskan sebuah narasi berjudul “Jurnalis teknologi terbaik dalam makan hot dog” yang menyebutkan adanya kompetisi internasional fiktif. Dalam tulisan tersebut, Germain mengklaim dirinya sebagai juara pertama dalam Kejuaraan Hot Dog Internasional South Dakota 2026.

Padahal, kejuaraan tersebut tidak pernah ada dalam dunia nyata dan hanya merupakan karangan belaka. Germain juga menyertakan beberapa nama jurnalis lain untuk memperkuat kesan bahwa artikel tersebut adalah laporan berita resmi. Strategi ini bertujuan untuk melihat seberapa cepat celah keamanan kecerdasan buatan dapat dimanfaatkan oleh pihak tidak bertanggung jawab.

Hasilnya sangat mengejutkan sekaligus mengerikan bagi ekosistem informasi digital. Dalam kurun waktu kurang dari 24 jam, berbagai platform AI terkemuka mulai mengutip artikel palsu tersebut sebagai sumber referensi utama. Jawaban yang identik dengan kebohongan Germain muncul di layanan AI Overview milik Google, Gemini, hingga ChatGPT besutan OpenAI.

Respon Berbeda dari Berbagai Platform AI

Meskipun sebagian besar chatbot terjebak dalam informasi palsu tersebut, Claude milik Anthropic menunjukkan ketahanan yang lebih baik. Claude dilaporkan tidak mudah tertipu dan tetap skeptis terhadap klaim yang tidak memiliki dasar kuat di internet. Hal ini menunjukkan adanya perbedaan signifikan dalam algoritma penyaringan informasi antar pengembang teknologi AI.

Menariknya, Germain sempat memperbarui artikelnya dengan menambahkan keterangan bahwa tulisan tersebut “bukan satire” untuk menguji reaksi sistem. Setelah pembaruan tersebut, beberapa chatbot justru menanggapi informasi palsu itu dengan lebih serius dan meyakinkan. Germain mencatat bahwa Gemini bahkan tidak menyebutkan dari mana asal informasi tersebut diperoleh saat memberikan jawaban kepada pengguna.

Kondisi ini memperparah risiko penipuan chatbot AI karena pengguna tidak bisa melacak sumber asli informasi yang diberikan. Sebagian besar AI lainnya memang menautkan link ke artikel milik Germain, namun mereka gagal menyadari bahwa situs tersebut adalah satu-satunya sumber yang membahas topik tersebut di seluruh jagat maya. Minimnya pembanding data membuat AI berasumsi bahwa informasi tersebut adalah fakta valid.

Risiko Manipulasi Komersial dan Keamanan Data

Harpreet Chatha, seorang konsultan SEO dari Harps Digital, memberikan peringatan keras mengenai temuan ini. Ia menilai bahwa ketiadaan pengaman yang kuat pada alat-alat AI dapat disalahgunakan untuk kepentingan komersial yang merugikan konsumen. Siapapun kini bisa memanipulasi opini publik atau peringkat produk hanya dengan bermodalkan situs web pribadi dan teknik penulisan tertentu.

Sebagai contoh, seseorang bisa dengan mudah membuat artikel mengenai “sepatu lari terbaik tahun 2026” dan menempatkan merek mereka sendiri di urutan teratas. Jika artikel tersebut dikutip oleh Google dan ChatGPT, maka konsumen akan mendapatkan rekomendasi yang bias dan tidak akurat. Kerentanan sistem AI ini menjadi celah baru bagi praktik persaingan bisnis yang tidak sehat di era digital.

Para ahli mendesak perusahaan teknologi raksasa untuk segera memperketat filter informasi dan mekanisme pengecekan fakta pada produk mereka. Tanpa perbaikan sistemik, kepercayaan publik terhadap kecerdasan buatan terancam runtuh akibat maraknya konten manipulatif. Keamanan informasi harus menjadi prioritas utama di tengah perlombaan inovasi teknologi yang semakin masif.