Bos OpenAI: Dunia “Benar untuk Takut” tetapi “Harus Percaya” pada perusahaan AI

PANTAU24.com – Sam Altman, CEO OpenAI, menyatakan bahwa publik harus memiliki lebih banyak kepercayaan pada perusahaannya dan perusahaan lain seperti itu dalam mengembangkan kecerdasan buatan (AI) di tengah meningkatnya kekhawatiran tentang risiko yang ditimbulkan teknologi ini. Saat berbicara di sebuah konferensi di San Francisco pada Selasa, Altman mengatakan, “Dunia harus percaya bahwa kami akan melakukan hal yang benar karena itu adalah hal yang benar dan kami merasakan besarnya tanggung jawab ini.”

Namun, Altman juga mencatat bahwa masyarakat memang beralasan untuk merasa takut terhadap AI, mengingat kemampuan alat tersebut yang berkembang pesat. “Tidak dibutuhkan imajinasi sebanyak dulu untuk membayangkan bagaimana ini bisa salah,” katanya. “Saya pikir dunia memang benar untuk merasa takut akan hal ini.” Pernyataan Altman ini disampaikan dalam sebuah konferensi tahunan yang diadakan oleh perusahaan perangkat lunak Salesforce.

Acara tersebut merupakan pertama kalinya Altman berbicara secara publik sejak adanya unggahan viral dari seorang peneliti yang keluar dari perusahaan AI Anthropic pekan lalu, yang menyatakan AI bisa saja memusnahkan semua manusia pada akhir dekade jika tidak diawasi. Klaim ini menuai respons dari sejumlah eksekutif dan ahli AI lainnya yang menyatakan setuju, meskipun mereka tidak menjelaskan bagaimana kesimpulan tersebut dicapai atau bagaimana AI bisa melakukan hal seperti itu.

Furore atas klaim ini telah menyebabkan pengawasan lebih ketat terhadap perkembangan AI dalam beberapa hari terakhir, dan sebagai respons, CEO Anthropic, Dario Amodei, menyerukan agar semua perkembangan AI diperlahankan dan meminta pemerintah untuk mengatur industri ini. Unggahan tersebut mendapat dukungan dari Altman, serta co-founder DeepMind Google, Demis Hassabis, dan Elon Musk, pemilik situs media sosial X dan asisten AI Grok.

Pada hari Selasa, lebih banyak pemimpin AI yang menyuarakan dukungan untuk pengaturan diri sendiri daripada keterlibatan pemerintah. Altman mengatakan bahwa dia merasa perusahaan AI seperti miliknya mampu mengatur diri sendiri secara efektif. “Kami akan melakukannya dengan benar, saya sangat yakin dengan kemampuan perusahaan dan industri kami untuk melakukan ini dengan aman,” kata Altman, menambahkan bahwa dia yakin mereka akan “mempertahankan pelurusan dan keselamatan jauh di depan kemampuan” dan jika tidak mampu, “kami akan memperlambat atau menghentikan.”

Usai komentar Altman, bos Meta, Mark Zuckerberg, menulis di X bahwa setiap laboratorium AI memiliki kemampuan dan insentif “untuk mengambil tindakan mereka sendiri” menuju pembuatan alat dan model AI yang dirancang untuk keselamatan. “Setiap laboratorium yang tidak fokus pada pelurusan akan tertinggal,” tulis Zuckerberg. “Laboratorium menghadapi tanggung jawab besar jika model mereka menyebabkan kerugian, jadi mereka memiliki insentif yang kuat untuk mencegah hal ini.”

Jensen Huang, kepala Nvidia, juga mengatakan pada konferensi hari Selasa yang sama bahwa perusahaan AI tertentu harus memutuskan apakah versi baru teknologi harus dirilis dan tidak dikelola oleh kekuatan luar. “Kami tidak memerlukan undang-undang atau peraturan baru,” kata Huang, menambahkan bahwa tidak boleh ada “pilihan salah” antara kecepatan inovasi dan keselamatan produk AI. Nvidia adalah perusahaan terbesar di dunia berdasarkan valuasi, dengan keuntungannya melonjak akibat permintaan yang tinggi untuk chip komputasi AI yang dibuatnya. “Keselamatan adalah yang terpenting. Namun, keselamatan adalah masalah teknik,” kata Huang. Dia menambahkan, jika kapan pun seorang pemimpin perusahaan AI merasa tidak yakin terhadap produk mereka, mereka harus memilih untuk tidak merilisnya. “Itu adalah hal yang sangat jelas untuk dilakukan,” kata Huang. “Berlari secepat mungkin, tetapi jika kapan saja Anda merasa institusi tidak terkendali, berhentilah sejenak.”

Ketika ditanya mengenai ketakutan berlebihan terhadap AI, beberapa tokoh industri berpendapat bahwa kekhawatiran yang bangkit kembali ini berlebihan dan digunakan untuk menghasilkan histeria terhadap industri tersebut. Dalam konferensi tersebut, Altman memberikan sambutan kepada ratusan pebisnis, menyatakan bahwa mereka sebaiknya menggunakan alat AI untuk membantu pekerjaan mereka, tetapi juga membutuhkannya untuk melindungi bisnis mereka dari serangan siber yang mungkin didukung oleh AI. Gagasan bahwa eksekutif AI dibiarkan sepenuhnya untuk mengatur diri mereka sendiri dianggap oleh beberapa orang dalam industri ini sebagai ide buruk.

Jack Clark, seorang eksekutif dan co-founder Anthropic, mengatakan kepada BBC pada hari Senin bahwa membiarkan AI menjadi “industri yang sepenuhnya tidak diatur” sama seperti “bermain dadu dengan risiko yang sangat besar.”

Diolah dari laporan BBC News.