Baru-baru ini, ratusan tokoh terkenal, termasuk para pemikir terkemuka dan inovator dalam bidang kecerdasan buatan, mengemukakan kekhawatiran mengenai pengembangan kecerdasan super. Mereka meminta agar proses tersebut dihentikan untuk menjamin keselamatan umat manusia dari potensi risiko yang dapat ditimbulkan.
Petisi yang ditandatangani oleh lebih dari 22 ribu individu ini menjadi sorotan hangat, dengan nama-nama besar di dalamnya yang turut mendukung seruan tersebut. Tokoh seperti Steve Wozniak, Richard Branson, dan ilmuwan komputer terkenal turut menegaskan pentingnya diskusi ini demi masa depan yang lebih aman.
Peranan penting pemimpin teknologi dalam diskusi ini
Duke dan Duchess of Sussex, Harry dan Meghan, juga menunjukkan dukungan mereka terhadap inisiatif ini dan memperlihatkan bahwa suara dari kalangan sosialita pun memiliki dampak. Dengan demikian, isu ini tidak hanya terbatasi pada kalangan teknokrat tetapi menangkap perhatian dari berbagai multilayer masyarakat.
Pemimpin teknologi masa kini, termasuk mereka yang berada di perusahaan-perusahaan raksasa, merasa perlu memberikan perhatian serius terhadap perkembangan ini. Konsekuensi dari menciptakan superintelligence dapat jauh lebih rumit daripada yang dibayangkan.
Dalam petisi tersebut, ditekankan bahwa kecerdasan super dapat membawa risiko yang serius bagi stabilitas global, hak asasi manusia, dan bahkan kelangsungan hidup umat manusia. Perlu ada diskusi yang lebih luas mengenai pengaturannya agar tidak sampai terjerumus dalam masalah yang lebih besar.
Risiko yang dihadapi akibat kecerdasan super
Petisi memperingatkan bahwa kecerdasan super yang tidak terkontrol dapat menyebabkan hilangnya pekerjaan bagi banyak orang. Dengan otomatisasi yang meluas, tantangan ekonomi akan semakin meningkat, di mana manusia semakin tertinggal oleh mesin.
Kekhawatiran yang lebih mendalam adalah tentang pengurangan kontrol manusia atas keputusan penting. Sistem AI yang sangat canggih bisa mengambil keputusan yang melampaui pemahaman atau kendali kita.
Lebih jauh, ada potensi keamanan nasional yang terancam. Jika teknologi ini jatuh ke tangan yang tidak berkepentingan atau jahat, dunia bisa berada dalam situasi yang sangat berbahaya.
Pentingnya regulasi dalam pengembangan AI
Dari jajak pendapat yang dilakukan, terungkap bahwa sekitar tiga perempat warga mendukung regulasi ketat terkait kecerdasan buatan canggih. Ini menunjukkan bahwa publik memiliki kesadaran akan potensi bahaya yang mungkin ditimbulkan oleh kecerdasan super ketika belum sepenuhnya terbukti aman.
Survei juga mencatat bahwa enam dari sepuluh responden berpendapat kecerdasan super tidak boleh dikembangkan sampai itu terbukti aman dan dapat dikendalikan. Angka ini mencerminkan ketidakpastian yang melanda masyarakat luas.
Para ahli telah menyuarakan bahwa regulasi perlu dilakukan secara global untuk menjamin bahwa semua pihak terlibat dalam pembahasan ini. Dengan adanya peraturan yang jelas, pengembangan teknologi dapat dilakukan dengan lebih bertanggung jawab.
