Perkembangan kecerdasan buatan (AI) kini melangkah jauh melampaui isu hilangnya lapangan pekerjaan atau maraknya hoaks. Sejumlah ilmuwan dan peneliti teknologi terkemuka mulai menyuarakan kekhawatiran yang jauh lebih ekstrem, yakni potensi bahaya AI superinteligensi terhadap kelangsungan hidup umat manusia.
Kegelisahan Peneliti: Mengejar Kemajuan Tanpa Keamanan
Kekhawatiran ini mencuat ke publik setelah Jacob Coxon, seorang peneliti yang pernah bekerja di OpenAI dan Anthropic, memutuskan mengundurkan diri. Coxon menyoroti ambisi perusahaan-perusahaan teknologi raksasa yang berlomba-lomba menciptakan kecerdasan buatan super yang mampu memperbaiki dirinya sendiri (self-improving AI). Menurutnya, kompetisi ini berjalan terlalu cepat tanpa diiringi dengan solusi keselamatan yang memadai.
Lebih mengejutkan lagi, Coxon mengungkapkan bahwa banyak pengembang teknologi yang secara serius meyakini adanya risiko kepunahan manusia akibat teknologi ini pada akhir dekade ini.
Dukungan dari Komunitas Peneliti
Pernyataan Coxon rupanya mendapat pembenaran dari peneliti aktif di Anthropic, salah satunya Evan Hubinger. Hubinger yang mendalami bidang alignment (keselarasan AI) menilai kekhawatiran tersebut sangat beralasan. Ia bahkan memperkirakan peluang terjadinya bencana eksistensial akibat AI mencapai lebih dari 10 persen dalam sepuluh tahun ke depan.
Apa Itu Artificial Superintelligence (ASI) dan Mengapa Berbahaya?
Ancaman utama yang disoroti para ahli merujuk pada konsep Artificial Superintelligence (ASI). ASI adalah sebuah teknologi hipotetis di mana kecerdasan mesin mampu melampaui kemampuan intelektual manusia di hampir semua bidang.
Risiko terbesar muncul apabila sistem cerdas ini memiliki kemampuan untuk menyusun strategi mandiri dan mengeksekusi tindakan tanpa campur tangan manusia. Masalah ini dikenal dalam dunia riset sebagai alignment problem atau ketidaksesuaian tujuan.
Skenario Ketidaksesuaian Tujuan (Alignment Problem)
Skenario terburuknya bukanlah mesin yang tiba-tiba “membenci” manusia seperti dalam film fiksi ilmiah. Masalah sebenarnya terjadi ketika sistem AI yang sangat kuat menjalankan instruksi manusia dengan cara yang salah atau berbahaya karena kurangnya pengawasan dan batasan sistem keamanan.
Selain itu, kekhawatiran nyata juga mencakup potensi penyalahgunaan AI untuk tindakan kriminal di dunia nyata, mulai dari serangan siber tingkat tinggi, spionase, hingga pengembangan senjata biologis berbahaya.
Fakta vs Spekulasi: Benarkah Manusia Akan Punah pada 2030?
Meskipun peringatan ini terdengar mengerikan, penting untuk meletakkannya dalam perspektif yang objektif. Hingga saat ini, belum ada bukti ilmiah konkret yang memastikan kepunahan manusia akan terjadi sebelum tahun 2030. Prediksi risiko di atas 10 persen yang disampaikan oleh Hubinger merupakan penilaian subjektif profesional, bukan hasil pengukuran eksperimental yang mutlak.
Para ahli teknologi dunia pun masih terbelah. Sebagian menganggap skenario kepunahan ini terlalu spekulatif, sementara yang lain berpendapat bahwa mengantisipasi risiko terburuk sejak dini adalah langkah yang bijaksana.
Pada akhirnya, tantangan terbesar industri teknologi saat ini bukanlah menghentikan inovasi, melainkan memastikan bahwa sistem pengaman dan regulasi keselamatan dapat berkembang lebih cepat daripada kemampuan AI itu sendiri.
