CEO Anthropic Dario Amodei Anjurkan Perkembangan AI Diperlambat

PANTAU24.com – Ketua perusahaan AI, Anthropic, Dario Amodei, mengusulkan agar laju perkembangan model kecerdasan buatan (AI) diperlambat dan diawasi dengan ketat. Dalam sebuah esai, Amodei menyatakan bahwa pengembangan AI tidak dapat dihindari, namun risiko yang menyertainya “serius” sehingga perusahaan dan pemerintah harus diberi waktu untuk menanganinya.

Para pemimpin dua perusahaan AI saingan, Sam Altman dari OpenAI dan Elon Musk, menyatakan setuju dengan Amodei. Kekhawatiran mengenai potensi risiko dari teknologi ini semakin meningkat belakangan ini. Seorang peneliti AI yang baru saja meninggalkan Anthropic mengatakan kepada BBC bahwa “jika kita tidak memperlambat laju perkembangan saat ini, ada kemungkinan kuat bahwa kita semua bisa mati dalam waktu dekat.”

Jacob Coxon menyampaikan kepada Laura Kuenssberg bahwa orang-orang yang bekerja di perusahaan AI “benar-benar ketakutan… benar-benar khawatir tentang nasib umat manusia dalam dua tahun ke depan.” “Tidak berlebihan mengatakan bahwa orang-orang yang terlibat dalam mendirikan perusahaan-perusahaan ini dan membangun teknologinya percaya ada kemungkinan kepunahan manusia,” kata Coxon.

Dalam esainya yang berjudul ‘We Must Pace the Frontier’ dan diterbitkan pada hari Sabtu, Amodei mengajukan rencana tiga langkah yang meliputi pemantauan independen terhadap model AI saat dikembangkan, regulasi industri secara luas, dan regulasi global. CEO OpenAI Sam Altman menyebut pemantauan independen sebagai “ide yang hebat,” sementara Elon Musk menyatakan Bos Anthropic “benar.”

Ancaman keamanan siber juga meningkat saat model-model baru semakin menunjukkan kemampuan peretasan yang kuat. Anthropic menahan model Mythos untuk digunakan publik karena laporan bahwa model tersebut bisa keluar dari lingkungan pengujian secara mandiri. Persaingan keamanan antara Anthropic dan OpenAI terus berlanjut, dan Amodei menekankan perlunya mengembangkan AI dengan “laju seimbang” agar aman namun tetap bermanfaat.

Diolah dari laporan BBC News.