Peneliti AI Khawatir Tentang Masa Depan Umat Manusia

PANTAU24.com – Seorang peneliti kecerdasan buatan yang telah keluar dari perusahaan Anthropic mengungkapkan bahwa pekerja di bidang teknologi “sangat khawatir” dengan pesatnya kemajuan AI dan dampaknya bagi umat manusia. Jacob Coxon berbicara kepada BBC’s Laura Kuenssberg pada hari Sabtu mengenai pesan pengunduran dirinya yang viral, di mana ia menyampaikan kekhawatiran tentang kecerdasan buatan yang tidak terkendali.

“Saya percaya jika kita tidak memperlambat laju perkembangan saat ini, ada kemungkinan besar kita semua bisa mati dalam waktu dekat,” ujarnya. Pengunduran diri Coxon terjadi di tengah meningkatnya kekhawatiran mengenai keselamatan di industri ini, termasuk dari mantan bosnya, Kepala Anthropic Dario Amodei, yang dalam sebuah esai mengajukan agar perkembangan AI diperlambat.

Coxon, yang berusia 27 tahun dan sebelumnya bekerja di OpenAI sebelum bergabung dengan Anthropic, menyambut baik usulan perlambatan dari Amodei namun mengatakan bahwa hal itu perlu dikoordinasikan dengan Tiongkok. “Orang-orang yang bekerja di perusahaan-perusahaan ini benar-benar serius ketika mereka meminta regulasi karena mereka merasa terjebak dalam perlombaan. Dan mereka takut dengan hasil dari perlombaan itu,” katanya dalam acara Sunday with Laura Kuenssberg.

Sam Altman dan Elon Musk telah setuju bahwa ini adalah ide yang bagus. Namun, saya pikir akan diperlukan perlambatan yang terkoordinasi dengan Tiongkok jika kita ingin menghindari perlombaan pada skala internasional.” Menurut Coxon, pertanyaan tersulit untuk dijawab adalah bagaimana bentuk kiamat AI itu.

Salah satu risiko yang disebutkan dalam komentar Amodei adalah kawanan bot yang bertindak seperti superkomputer dan dapat mengambil alih internet. Coxon mengatakan skenario ini bisa menjadi realistis dalam enam bulan hingga satu tahun ke depan. Menanggapi pengunduran diri Coxon, seorang juru bicara Anthropic mengatakan kepada BBC News: “Kami selalu transparan bahwa AI akan membawa manfaat besar serta risiko yang belum pernah terjadi sebelumnya.”

Diolah dari laporan BBC News.