PBB — Antonio Guterres Desak Kerjasama Global Keamanan AI

Bayangkan sebuah dunia di mana mesin mampu berpikir, beradaptasi, dan mengambil keputusan ribuan kali lebih cepat daripada otak manusia. Kedengarannya seperti skenario film fiksi ilmiah, bukan? Namun, realitas hari ini menunjukkan bahwa kecerdasan buatan (Artificial Intelligence/AI) melompat begitu pesat hingga melampaui kemampuan kita untuk memahami risiko besarnya. Fenomena ini memicu alarm bahaya di markas besar Perserikatan Bangsa-Bangsa (PBB) di New York.

Sekretaris Jenderal PBB, Antonio Guterres, secara terbuka membunyikan lonceng peringatan keras bagi seluruh pemimpin dunia. Dalam keterangannya, Guterres menegaskan bahwa komunitas internasional harus segera menggalang kerja sama global demi menjamin keamanan dan keselamatan pengembangan teknologi AI sebelum segalanya terlambat.

Ketika Teknologi Berlari Lebih Cepat dari Pemahaman Manusia

Pengembangan AI saat ini berada pada tahap yang sangat krusial. Perusahaan-perusahaan teknologi raksasa berlomba-lomba meluncurkan model bahasa dan sistem otonom terbaru demi menguasai pasar. Namun, di balik kecanggihan tersebut, ada bahaya laten yang mengintai. Guterres mengingatkan agar negara-negara dan korporasi tidak terjebak dalam perlombaan berbahaya yang justru menurunkan standar keselamatan teknologi demi keuntungan semata.

Menurut Sekjen PBB tersebut, kecepatan inovasi AI telah memotong kompas pemahaman manusia akan implikasi sosial, etis, hingga keamanannya. Peringatan yang disampaikan para ilmuwan dan pengembang di garis depan industri ini bukanlah sekadar isu yang bisa diabaikan begitu saja.

"Kita membutuhkan batasan untuk membangun kepercayaan, sekaligus memastikan AI aman, transparan, dapat dipertanggungjawabkan, dan menempatkan martabat manusia sebagai pusatnya," tegas Antonio Guterres saat menyampaikan pandangannya di New York.

Sinyal Bahaya dari Para Raksasa Teknologi

Menariknya, seruan PBB ini seirama dengan kekhawatiran yang dilontarkan oleh para petinggi industri teknologi itu sendiri. Beberapa tokoh kunci dalam revolusi AI belakangan ini justru menyuarakan pentingnya menekan rem darurat atau setidaknya mengendalikan laju pengembangan AI demi keselamatan bersama.

Proposal dari CEO Anthropic, Dario Amodei, misalnya, menjadi salah satu sorotan penting. Amodei mengusulkan adanya koordinasi antarpemerintah dan korporasi untuk memperlambat tempo riset AI yang terlampau agresif. Langkah senada juga pernah digaungkan oleh tokoh-tokoh berpengaruh lainnya seperti CEO OpenAI Sam Altman dan pemrakarsa xAI Elon Musk.

Berikut adalah ikhtisar pandangan beberapa tokoh dan lembaga kunci terkait regulasi serta keselamatan AI:

Menyeimbangkan Regulasi Nasional dan Tata Kelola Global

Meskipun pemerintah di berbagai negara memiliki tanggung jawab utama untuk melindungi masyarakatnya dari dampak negatif AI—seperti disinformasi massal, hilangnya lapangan kerja, hingga potensi penyalahgunaan senjata otonom—tindakan di tingkat lokal saja tidak akan pernah cukup. Guterres menekankan bahwa batas-batas negara tidak lagi berlaku bagi teknologi yang beroperasi secara digital dan lintas batas seperti AI.

“Tanpa adanya konsensus global, regulasi di satu negara hanya akan menjadi celah hukum yang dimanfaatkan oleh pihak lain di belahan dunia yang berbeda,” pukas pengamat tata kelola digital internasional.

Dunia kini berada di persimpangan jalan: apakah kita akan membiarkan AI berkembang liar tanpa kendali, ataukah kita mampu merumuskan kesepakatan bersama demi menjaga keselamatan masa depan kemanusiaan? Pertanyaan inilah yang kini menjadi tantangan terbesar bagi PBB dan seluruh pemimpin dunia saat ini.