Raja Charles Ingatkan Bahaya Eksistensial AI di Tangan yang Salah

PANTAU24.com – Raja Charles memperingatkan para eksekutif teknologi mengenai bahaya eksistensial yang ditimbulkan oleh teknologi kecerdasan buatan (AI) jika jatuh ke tangan yang salah. Ia menyampaikan hal ini dalam sebuah pertemuan yang ia selenggarakan di Dumfries House, Ayrshire, untuk mendiskusikan bagaimana teknologi ini dapat bermanfaat bagi masyarakat.

Pertemuan tersebut dihadiri oleh Kanishka Narayan, Menteri AI Inggris, penasihat Paus, dan peserta dari perusahaan besar AI seperti Nvidia, OpenAI, dan Anthropic. Peringatan ini muncul di tengah sejumlah peringatan baru-baru ini dari para profesional dalam industri mengenai kemampuan cepat berkembang dari model AI tingkat lanjut dan perlunya regulasi untuk mengendalikannya.

“Mereka yang menciptakan teknologi ini sekarang semakin memperingatkan bahwa AI berisiko mengembangkan kemampuan yang lebih gelap – bahkan mungkin untuk mengambil nyawa,” kata Raja kepada para eksekutif. Ia menekankan bahwa ada “urgensi” dalam “mempertimbangkan secara memadai bahaya eksistensial dari teknologi semacam ini jika jatuh ke tangan yang salah, dan digunakan dengan cara yang berpotensi katastrofik.”

Jensen Huang, kepala eksekutif Nvidia, termasuk di antara pemimpin industri terkemuka yang hadir. Huang menekankan bahwa keselamatan adalah “prioritas utama”, menambahkan bahwa perusahaan seharusnya menahan produk dan “terus mengembangkan” jika produk tersebut tidak cukup aman.

Gelombang diskusi mengenai potensi daya AI dan bagaimana mengendalikan serta mengaturnya telah mendominasi postingan blog dan media sosial sejak Agustus, dipicu oleh pernyataan dramatis dari orang-orang dalam industri. Perdebatan ini juga mendapat kritik dari skeptis yang mengatakan bahwa fokus pada risiko masa depan hipotetis AI dapat mengalihkan dari kekhawatiran lebih langsung, seperti dampak lingkungannya.

Diolah dari laporan BBC News.