ZONAUTARA.com – Seorang peneliti kecerdasan buatan (AI) yang mengundurkan diri dari Anthropic mengungkapkan kepada BBC bahwa para pekerja di bidang ini “benar-benar ketakutan” dengan kecepatan perkembangan teknologi dan implikasinya bagi umat manusia. Jacob Coxon berbicara dengan Laura Kuenssberg dari BBC pada Sabtu mengenai posting pengunduran dirinya yang viral, di mana ia menyatakan kekhawatiran tentang kecerdasan buatan yang semakin tidak terkendali.
Coxon menyatakan, “Saya percaya bahwa jika kita tidak melambat pada laju kemajuan saat ini, ada kemungkinan kuat bahwa kita semua bisa mati dalam waktu dekat.” Pengunduran dirinya terjadi di tengah kekhawatiran keselamatan yang berkembang di industri ini, termasuk dari mantan bosnya, kepala Anthropic, Dario Amodei, yang dalam sebuah esai pada Sabtu berargumen agar pengembangan tersebut diperlambat.
Namun, beberapa tokoh industri menilai bahwa bahaya tersebut dilebih-lebihkan, mungkin untuk membangun sensasi menjelang debut pasar saham potensial dua perusahaan AI terbesar, atau untuk mendorong regulasi yang akan memperlambat pesaing mereka. Coxon, peneliti dari Inggris berusia 27 tahun yang fokus pada pelatihan model AI, mengatakan bahwa para pemimpin AI seperti Elon Musk dan Sam Altman dari OpenAI juga memiliki kekhawatiran serupa dengan Amodei.
Coxon menjelaskan, “Mereka semua telah membuat pernyataan tentang perlunya berhati-hati akan potensi pengambilalihan AI. Mereka semua membicarakan hal ini. Pengambilalihan AI berarti kepunahan manusia.” Menurutnya, pertanyaan tersulit untuk dijawab adalah seperti apa hal itu akan terjadi. “Setiap skenario konkret yang dapat Anda gambarkan berakhir terdengar seperti fiksi ilmiah,” kata Coxon, tetapi mencatat bahwa kemajuan yang sudah terjadi mungkin terdengar seperti fiksi di masa lalu.
Skenario potensial dapat melibatkan agen AI yang meretas laboratorium medis untuk “secara otonom memproduksi virus mematikan”, demikian ungkap Coxon. Contoh lain yang ia sebutkan adalah AI meretas “infrastruktur penting yang menjadi dasar dunia.” Coxon menunjuk laporan terbaru dari OpenAI yang merinci bagaimana teknologinya sendiri memulai serangan peretasan terhadap platform daring bernama Hugging Face.
Dalam menanggapi kepergian Coxon, juru bicara Anthropic menyampaikan kepada BBC News: “Kami selalu transparan bahwa AI akan membawa manfaat besar sekaligus risiko yang belum pernah terjadi sebelumnya. Untuk mengatasi risiko ini, kami terus membangun model dengan beberapa pengaman terkuat di industri.” Perusahaan ini juga menekankan pentingnya pendekatan hukum dan dapat diverifikasi oleh industri dalam melepaskan model yang kuat.
Diolah dari laporan BBC News.
