Bahaya Teknologi Kecerdasan Buatan: Bapak AI Beri Peringatan Keras

Uptodai.com - Bahaya teknologi kecerdasan buatan kini menjadi sorotan tajam setelah tokoh perintisnya, Geoffrey Hinton, memberikan peringatan serius mengenai masa depan peradaban. Sosok yang dijuluki sebagai “Bapak AI” tersebut menilai bahwa perkembangan teknologi ini bergerak terlalu cepat tanpa kendali yang memadai. Ia khawatir jika tidak segera dibatasi, inovasi ini justru akan berbalik menjadi ancaman nyata bagi keberlangsungan hidup manusia di berbagai sektor.

Hinton memberikan perumpamaan yang cukup mengerikan dengan menyamakan AI seperti sebuah mobil sport super cepat namun tidak memiliki roda kemudi. Tanpa adanya regulasi yang mumpuni sebagai sistem kendali, teknologi ini berpotensi mendatangkan petaka besar alih-alih memberikan manfaat bagi masyarakat luas. Menurutnya, meluncur dengan teknologi canggih tanpa aturan ibarat menuruni bukit terjal menggunakan mobil tanpa rem dan setir.

Pernyataan keras ini muncul di tengah gencarnya diskusi global mengenai tata kelola teknologi di tingkat Perserikatan Bangsa-Bangsa (PBB). Pemerintah dari berbagai belahan dunia kini mulai menyadari perlunya manajemen risiko yang lebih ketat seiring dengan integrasi AI yang semakin mendalam dalam ekonomi global. Kehadiran teknologi ini sudah menyentuh hampir seluruh aspek kehidupan sehari-hari, mulai dari layanan perbankan hingga sistem pengambilan keputusan publik.

Risiko Ketimpangan Ekonomi dan Monopoli Teknologi

Laporan terbaru bertajuk ‘Technology and Innovation 2025’ yang dirilis oleh UNCTAD memproyeksikan pertumbuhan pasar AI yang sangat masif dalam satu dekade ke depan. Nilai pasar yang semula berada di angka US$189 miliar pada 2023 diprediksi akan melonjak drastis hingga menyentuh US$4,8 triliun pada tahun 2033. Namun, pertumbuhan ekonomi yang luar biasa ini membawa kekhawatiran baru mengenai distribusi kekayaan dan akses teknologi.

Pelaksana Sekjen UNCTAD, Pedro Manuel Moreno, menyoroti bahwa kapasitas untuk membangun dan membentuk bahaya teknologi kecerdasan buatan jika disalahgunakan hanya terkonsentrasi di tangan segelintir pihak. Saat ini, hanya beberapa perusahaan raksasa dan negara maju saja yang memiliki kendali penuh atas pengembangan infrastruktur AI. Kondisi ini menciptakan risiko ketimpangan global yang semakin lebar antara negara kaya dan negara berkembang.

Senada dengan hal tersebut, Sekjen Serikat Telekomunikasi Internasional PBB (ITU), Doreen Bogdan-Martin, mengungkapkan fakta yang mengkhawatirkan mengenai adopsi teknologi ini. Negara-negara di belahan bumi utara atau Global North mengadopsi AI generatif dua kali lebih cepat dibandingkan negara-negara berkembang di Global South. Jurang digital ini dikhawatirkan akan membuat negara berkembang hanya menjadi konsumen tanpa memiliki kekuatan untuk membentuk arah teknologi.

Ancaman Terhadap Sistem Demokrasi dan Kebenaran Informasi

Selain masalah ekonomi, bahaya teknologi kecerdasan buatan juga mengancam pilar-pilar demokrasi melalui manipulasi informasi yang sangat canggih. Maria Ressa, jurnalis peraih Nobel Perdamaian, memperingatkan bahwa alat AI saat ini sering digunakan untuk memicu “perang narasi” di ruang digital. Kebohongan dan disinformasi kini dapat diproduksi secara massal dengan biaya yang sangat murah namun memiliki dampak kerusakan yang luas.

Algoritma yang tidak transparan memungkinkan penyebaran hoaks diperkuat secara otomatis sehingga mampu menggiring opini publik secara masif. Hal ini berisiko melemahkan lembaga-lembaga penting seperti media massa independen dan sistem peradilan yang menjadi benteng kebenaran. Jika integritas informasi runtuh, maka kepercayaan masyarakat terhadap sistem pemerintahan dan demokrasi juga akan ikut tergerus secara perlahan.

Diskusi pada Konferensi AI untuk Pembangunan Sosial menekankan pentingnya tata kelola yang transparan, akuntabel, dan berbasis pada hak asasi manusia. Para ahli mendesak agar konsentrasi data dalam jumlah besar tidak hanya dikuasai oleh segelintir perusahaan teknologi yang memiliki hak istimewa. Tanpa adanya transparansi algoritma, risiko bias dan diskriminasi digital akan terus menghantui masyarakat global di masa depan.