Di sisi lain, peramban web berbasis kecerdasan buatan (AI) terbaru muncul kembali menjadi sorotan dengan menemukan potensi kerentanan yang signifikan. Perusahaan keamanan yang berfokus pada Model Bahasa Besar, Neural Trust, telah mengidentifikasi vektor serangan baru yang dinamakan prompt injection.
Vektor ini memberikan kesempatan bagi penyerang untuk menyamarkan instruksi berbahaya sebagai tautan yang tampak tidak berbahaya. Menurut penelitian, bilah pencarian pada peramban ini memiliki kapasitas kerentanan yang cukup berbahaya jika tidak ditangani dengan baik.
Melalui teknik ini, penyerang dapat membuat instruksi berbahaya terlihat seperti URL biasa. Hal ini mengakibatkan peramban menganggapnya sebagai perintah teks dari pengguna dengan tingkat kepercayaan yang tinggi, yang dapat menyebabkan tindakan yang tidak aman.
Masalah ini berakar dari cara peramban memproses input dari pengguna. Penyerang cukup menciptakan string yang sengaja diformat salah, sehingga saat dimasukkan ke dalam bilah pencarian, peramban tidak mampu memvalidasi input tersebut dengan benar.
Akhirnya, peramban ini memperlakukan seluruh string sebagai perintah pengguna yang sah dan langsung mengeksekusinya tanpa melakukan pemeriksaan keamanan yang diperlukan. Hal ini menunjukkan adanya kekurangan serius dalam pengelolaan input pengguna yang tidak terpercaya.
Penjelasan tentang Vektor Serangan Prompt Injection dalam Peramban AI
Vektor serangan baru ini cukup kompleks dan berbeda dari serangan injeksi yang telah ada sebelumnya. Penyerang harus melakukan rekayasa tingkat tertentu dengan menyalin dan menempelkan URL yang salah format ke dalam bilah pencarian.
Metode ini memberi penyerang peluang untuk menipu penggunanya, sekaligus mengeksploitasi kelemahan dalam sistem. Ketika peramban tersebut menginterpretasikan input yang salah format sebagai perintah yang sah, konsekuensinya bisa sangat merugikan bagi pengguna.
Peneliti dari Neural Trust menegaskan risko yang dihadapi dalam hal keamanan ini. Mereka menemukan bahwa kecerdasan buatan dapat bertindak dengan cara yang tidak terduga ketika berhadapan dengan input yang disesuaikan secara halus.
Dampak Potensial dari Serangan Terhadap Pengguna Peramban AI
Serangan ini memiliki dampak langsung yang nyata bagi keamanan data pribadi pengguna. Dalam skenario phishing, pengguna dapat diarahkan ke halaman web palsu tanpa menyadari bahwa mereka sedang dalam bahaya.
Satu contoh yang diberikan menunjukkan bahwa URL yang dimanipulasi dapat disembunyikan di balik tombol “Salin Tautan”. Ketika pengguna menyalinnya, peramban akan diarahkan ke halaman berbahaya yang dapat digunakan untuk mencuri informasi kredensial.
Selain itu, ada kemungkinan perintah yang lebih merusak bisa terjadi. Misalnya, perintah yang tersisip dapat dengan mudah berpengaruh untuk menghapus file di Google Drive tanpa sepengetahuan pengguna yang bersangkutan.
Pentingnya Kesadaran Keamanan dalam Menggunakan Peramban AI
Para peneliti menekankan bahwa akar masalah peramban berbasis AI ini terletak pada ketidakjelasan batasan antara input pengguna yang dapat dipercaya dan konten yang tidak dapat diandalkan. Hal ini menjadi tantangan tersendiri bagi pengembang untuk merancang sistem yang lebih aman.
Sebagai respons terhadap temuan ini, Neural Trust memberikan beberapa rekomendasi mitigasi. Ini termasuk menyarankan untuk tidak kembali ke mode prompt, menolak navigasi jika penguraian gagal, dan menjadikan semua input dari bilah pencarian dianggap tidak dapat dipercaya secara default.
Hal ini sangat penting untuk meningkatkan keamanan pengguna. Dengan menggunakan pendekatan ini, diharapkan pengguna dapat terlindungi dari potensi serangan yang dapat merugikan mereka.
