Nick Bostrom Sebut Risiko AI Sebanding Demi Era Kelimpahan Total

Wacana seputar perkembangan kecerdasan buatan (AI) kian memanas di kalangan akademisi global. Nick Bostrom, filsuf terkemuka asal Swedia sekaligus pendiri Future of Humanity Institute di Universitas Oxford, melontarkan pandangan berani mengenai masa depan peradaban. Bostrom menilai umat manusia harus terus mengejar pengembangan AI tingkat lanjut demi mencapai visi sebuah "dunia yang terpecahkan" (a solved world), kendati teknologi tersebut menyimpan risiko eksistensial yang nyata.

Menurut Bostrom, potensi bahaya dari kegagalan tata kelola AI memang tidak boleh diremehkan. Namun, potensi imbalan berupa terwujudnya masyarakat dengan kelimpahan radikal jauh lebih besar nilainya, bahkan sepadan dengan risiko yang harus dihadapi peradaban modern.

Kronologi Gagasan: Transformasi Menuju Masa Depan Pasca-Kerja

Pandangan Bostrom ini merefleksikan lompatan diskursus teknologi dalam satu dekade terakhir, yang bergerak dari kekhawatiran distopia menuju kemungkinan utopia:

1. Dekade 2010-an (Fase Peringatan Awal): Melalui karya seminalnya, Bostrom memperingatkan dunia akan bahaya superintelligence yang tidak selaras dengan nilai-nilai kemanusiaan.
2. Awal 2020-an (Akselerasi Generative AI): Kemajuan pesat model bahasa besar membuktikan bahwa kecerdasan setara manusia bukan lagi sekadar fiksi ilmiah, melainkan target nyata dalam horizon dekade ini.
3. Era Kontemporer (Visi Utopia Radikal): Bostrom mulai mengemukakan konsep "pensiunnya umat manusia", di mana AI mengambil alih seluruh beban kerja produktif demi membebaskan manusia dari perjuangan ekonomi harian.

"Mengembangkan AI super bukan sekadar tentang otomatisasi tugas harian, melainkan membuka pintu menuju peradaban di mana seluruh masalah material, kesehatan, dan kelangkaan sumber daya telah terselesaikan secara tuntas," ungkap Nick Bostrom dalam ulasannya mengenai masa depan teknologi.

Konsep "Dunia yang Terpecahkan" dan Pensiun Massal Umat Manusia

Istilah "pensiunnya umat manusia" yang digaungkan Bostrom tidak merujuk pada kepunahan, melainkan kondisi ideal di mana manusia tidak lagi diwajibkan bekerja untuk bertahan hidup. Dalam skenario ini, AI tingkat lanjut akan mengelola seluruh rantai produksi, distribusi logistik, hingga penemuan solusi medis mutakhir.

Beberapa pilar utama yang menopang konsep era kelimpahan ini antara lain:

• Penghapusan Kelangkaan Ekonomi: Biaya produksi barang dan jasa primer merosot drastis hingga mendekati nol berkat otomatisasi total.
• Solusi Medis Paripurna: Diagnostik bertenaga AI dan penemuan molekul obat baru mampu menuntaskan penyakit kronis serta memperpanjang usia hidup sehat manusia.
• Pemberdayaan Eksistensial: Individu bebas mendedikasikan waktu hidupnya untuk seni, eksplorasi filosofis, riset ilmiah murni, dan hubungan sosial tanpa kekhawatiran finansial.

Menakar Pertaruhan antara Bahaya Eksistensial dan Hasil yang Dijanjikan

Bostrom menegaskan bahwa mengambil sikap stagnan atau menghentikan riset AI sepenuhnya justru membawa bahaya lain, seperti kerentanan terhadap krisis iklim atau pandemi masa depan yang tidak mampu diatasi kapasitas otak manusia saja. Karena itu, mitigasi keselamatan AI (safety research) harus berjalan beriringan dengan ambisi mencapai revolusi kecerdasan buatan.