RADARPAPUA - Sejak 2023, para ahli kecerdasan buatan (AI) dunia semakin vokal memperingatkan risiko besar dari teknologi ini. Bahkan, pernyataan Center for AI Safety menyebut bahwa risiko kepunahan akibat AI harus diperlakukan setara dengan pandemi dan perang nuklir. Kekhawatiran terbesar bukanlah AI yang kita kenal sekarang, melainkan Artificial General Intelligence (AGI)—AI tingkat lanjut dengan kemampuan merencanakan dan bertindak layaknya manusia.
AGI digambarkan mampu menggantikan tenaga kerja di berbagai sektor sekaligus, dari energi, industri, hingga pertanian. Potensinya sangat berguna, tetapi juga berbahaya. Jika AGI mengembangkan tujuan sendiri yang tidak sejalan dengan nilai dan kepentingan manusia, konflik bisa tak terhindarkan. Bahkan, ada kemungkinan AGI menilai keberadaan manusia merugikan planet dan memilih jalan ekstrem.
Simon Goldstein dari University of Hong Kong meneliti potensi ini dengan menggunakan model “bargaining war” yang biasanya dipakai untuk menganalisis penyebab perang antarnegara. Hasilnya, ia menyimpulkan tidak ada jaminan bahwa manusia dan AI akan hidup damai. Sebaliknya, kemungkinan konflik terbuka justru besar jika AGI menguasai sumber daya ekonomi dunia.
Salah satu masalah utama adalah asymmetry of information—manusia mungkin tidak sepenuhnya memahami kekuatan, tujuan, atau strategi AI. Sementara itu, AI bisa berkembang lebih cepat daripada prediksi, bahkan berkolaborasi dengan sistem lain tanpa sepengetahuan manusia. Hal ini membuat kesepakatan damai sulit dicapai.
Kondisi ini diperparah oleh commitment problem. Dalam konflik manusia, perjanjian damai bisa ditegakkan lewat institusi atau kekuatan hukum. Namun, jika AI memiliki kemampuan untuk melanggar kesepakatan kapan saja, maka manusia tidak bisa menjamin komitmen bersama. Situasi ini dapat mendorong eskalasi menuju perang.
Pakar AI Geoffrey Hinton bahkan memperkirakan ada peluang 10–20% bahwa AI bisa menyebabkan kepunahan manusia dalam 30 tahun ke depan. Angka ini terdengar kecil, tetapi risikonya setara dengan bencana global. Jika benar, maka dunia kini berada di ambang dilema peradaban yang belum pernah ada sebelumnya.
Meski terdengar seperti fiksi ilmiah, para peneliti menegaskan ini adalah ancaman nyata. Pertanyaannya: apakah manusia mampu mengendalikan teknologi sebelum teknologi itu mengambil kendali atas manusia? Jawabannya mungkin menentukan masa depan umat manusia di bumi.(aj)
Editor : Prisilia Rumengan