Anthropic Ungkap Upaya Penyalahgunaan AI untuk Senjata Biologis

PANTAU24.com – Perusahaan teknologi Anthropic melaporkan telah mengidentifikasi dan mengganggu upaya penggunaan model kecerdasan buatan (AI) milik mereka untuk “aktivitas berbahaya” yang dapat mendukung pengembangan senjata biologis. Laporan tersebut merupakan bagian dari serangkaian peringatan yang berkembang dari para peneliti AI dan pelaku industri mengenai potensi risiko teknologi ini bagi umat manusia.

Peringatan tersebut memicu panggilan untuk tindakan, dengan Senator AS Bernie Sanders meminta penundaan pengembangan AI tingkat lanjut dan larangan terhadap superinteligensi buatan. Presiden Donald Trump sejauh ini menolak ketakutan tersebut, dengan menyatakan pada hari Kamis bahwa ia khawatir “jika kita tidak memenangkan AI, kita akan berada dalam posisi yang sangat buruk”.

Perusahaan ini merilis laporan terbaru mereka tentang ancaman intelijen pada hari Kamis. Laporan semacam ini telah menjadi fitur reguler di seluruh industri AI karena perusahaan berusaha menunjukkan bagaimana mereka mengidentifikasi dan mengganggu upaya penyalahgunaan model mereka.

Ini termasuk Google, yang menulis pada hari Selasa bahwa seseorang mencoba menggunakan alat AI mereka, Gemini, untuk mendapatkan “panduan teknis lengkap dan langkah demi langkah untuk mensintesis agen biologis yang dipersenjatai”. Model AI Anthropic, Claude, juga digunakan oleh aktor yang terhubung dengan kampanye memata-matai siber berbasis di Rusia dan lembaga propaganda Iran, menurut laporan mereka.

Selama delapan bulan terakhir, kasus-kasus yang terdeteksi bervariasi mulai dari aplikasi kencan palsu dan penipuan WiFi hotel hingga pengawasan yang dibangun untuk mengidentifikasi pembangkang. Anthropic juga menuduh perusahaan AI China mencoba mereplikasi kemampuan Claude. Laporan tersebut mencantumkan kasus di mana kelompok diduga disponsori negara, penjahat, penjual spyware, lembaga propaganda negara, dan individu yang termotivasi secara politik menyalahgunakan teknologi mereka.

“Penggunaan berbahaya” dari model Claude Haiku, Sonnet, dan Opus terganggu antara Desember 2025 dan Agustus 2026, kata perusahaan itu. Tidak ada kasus penyalahgunaan yang melibatkan model Claude Fable atau model kelas Mythos yang kuat, kecuali untuk satu instance distilasi—proses untuk melatih model AI yang lebih kecil menggunakan model yang lebih besar dan lebih mahal.

Selain mendeteksi penggunaan model mereka untuk operasi siber dan pengaruh, pengawasan, penipuan dan penipuan, serta pengembangan senjata, Anthropic mengatakan telah memblokir ilmuwan yang menggunakan AI mereka dengan cara yang dapat mendukung pengembangan senjata biologis. Laporan tersebut menyoroti “lima studi kasus aktor yang menggunakan model kami dengan cara yang dapat mendukung pengembangan senjata biologis”. Penyalahgunaan biologis, katanya, adalah “salah satu risiko paling serius dari model AI di garis depan”. Tanpa pengaman yang tepat, kemampuan semacam itu “dapat memiliki konsekuensi yang membawa bencana”, kata Anthropic.

Jacob Klein, kepala intelijen ancaman di Anthropic, mengatakan kepada New York Times bahwa situasinya “sangat rumit”. “Anda tidak melihat seseorang dalam cara komik berkata, ‘Hei, saya ingin membuat senjata biologis untuk membunuh semua orang,'” katanya.

Laporan tersebut juga mencatat enam kasus di mana Claude digunakan “untuk mengembangkan perangkat lunak untuk senjata konvensional, termasuk senjata api, rudal, drone bersenjata, bom, dan amunisi lainnya, serta sistem penargetan dan kontrol yang mengoperasikannya”.

Indikasi bahwa penjahat siber dan peretas yang didukung negara telah semakin menggunakan teknologi mereka untuk membantu operasi mereka juga diungkapkan. Kelompok peretas ShinyHunters, serta laboratorium berbasis di China, termasuk di antara yang disebutkan dalam laporan tersebut. Laporan tersebut juga menyebutkan bahwa kelompok peretas yang konsisten dengan Rusia yang berbasis Midnight Blizzard diduga menggunakan AI untuk membangun sistem yang secara otomatis mendeteksi ketika malware mereka ditandai oleh pertahanan keamanan dan menulis ulang kode sampai tidak terdeteksi.

Perusahaan yang berbasis di California ini mengatakan telah memasukkan temuan mereka ke dalam proses mereka “untuk lebih mencegah, mendeteksi, dan mengganggu aktivitas ini di masa depan”. Anthropic mengatakan telah berbagi intelijen dengan pihak berwenang dan mitra industri di mana pun yang sesuai.

Diolah dari laporan BBC News.