sasha-gunawan
Laju perlombaan kecerdasan buatan (AI) yang kian liar mendadak menghadapi rem darurat dari para perintisnya sendiri. CEO Anthropic, Dario Amodei, secara terbuka menyerukan kepada seluruh pengembang teknologi global untuk memperlambat tempo pengembangan model kecerdasan buatan tingkat lanjut demi mencegah risiko lahirnya sistem supercerdas yang tak terkendali.
Kekhawatiran ini mengemuka seiring makin dekatnya industri teknologi dengan penciptaan mesin yang mampu memperbaiki dan melatih dirinya sendiri secara mandiri. Langkah Amodei ini bukan sekadar basa-basi korporasi, melainkan cerminan keresahan mendalam yang kini melanda Silicon Valley.
Seruan Menekan Rem di Tengah Perlombaan Panas
Melalui tulisan panjang di situs pribadinya, Amodei menegaskan bahwa umat manusia membutuhkan waktu lebih untuk beradaptasi dengan kemajuan teknologi yang begitu pesat. Menurutnya, menahan laju inovasi bukan berarti menghentikan masa depan, melainkan memastikan keselamatan peradaban manusia tetap terjaga.
“Kita harus memperlambat kecepatan peningkatan kemampuan model AI. Kemajuan teknologinya mungkin akan tetap terasa cepat, tetapi kita wajib memanfaatkan waktu luang ini secara bijak,” tegas Dario Amodei.
Menariknya, seruan Amodei langsung disambut positif oleh dua rival terbesarnya di industri AI, yakni CEO OpenAI Sam Altman dan pemilik xAI Elon Musk. Keduanya menyatakan sepakat bahwa pengawasan ketat serta jeda evaluasi mutlak diperlukan sebelum teknologi ini berkembang di luar kapasitas kontrol manusia.
Kritik dari Dalam: Bertaruh Nyawa Manusia
Keresahan internal industri ini meledak ke permukaan setelah peneliti terkemuka Jacob Coxon memutuskan hengkang dari Anthropic setelah sebelumnya juga meninggalkan OpenAI. Coxon mundur dari industri kecerdasan buatan sembari melontarkan kritik pedas terhadap ambisi perusahaan-perusahaan raksasa teknologi.
Coxon menuduh para raksasa teknologi Amerika Serikat sedang “berjudi dengan nyawa manusia” demi memenangkan perlombaan komersial model AI mutakhir. Tekanan moral semacam ini makin memperkuat desakan dari lebih dari 1.000 pekerja industri AI yang telah menandatangani petisi pengetatan regulasi keamanan.
Sikap Para Tokoh Utama Industri AI
| Tokoh & Perusahaan | Sikap / Pernyataan |
|---|---|
| Dario Amodei (Anthropic) | Menyerukan perlambatan sistematis untuk mengantisipasi risiko superintelligence. |
| Sam Altman (OpenAI) | Mendukung jeda pengujian sukarela agar masyarakat siap beradaptasi. |
| Elon Musk (xAI) | Mendukung pengawasan ketat dan memperingatkan bahaya AI tanpa batas aman. |
Mencari Jalan Tengah yang Aman
Amodei, yang mendirikan Anthropic bersama saudarinya Daniela pada 2021, menekankan bahwa pihaknya selama ini berupaya mengambil posisi moderat di tengah dilema moral pengembangan teknologi cerdas ini.
- Risiko Menghentikan AI Sepenuhnya: Menghilangkan potensi manfaat besar bagi kemanusiaan serta berisiko membuat teknologi strategis ini dikuasai oleh rezim otoriter.
- Risiko Melaju Terlalu Cepat: Menghadirkan bahaya eksistensial karena melahirkan sistem yang tidak lagi bisa dikendalikan oleh pembuatnya.
Sikap kehati-hatian kini dinilai sebagai harga mati. Altman sendiri pada akhir Juli lalu sempat mengutarakan niat untuk secara sukarela “menginjak pedal rem” pengujian model terbaru. Kini, sinyal darurat telah dibunyikan secara serentak oleh para raksasa teknologi, menandakan babak baru pengawasan regulasi AI global akan segera dimulai.
Comments (0)