Memahami Risiko Prompt Injection
Berbeda dengan malware atau aplikasi berbahaya lainnya, prompt injection tidak memerlukan instalasi virus untuk merusak sistem. Teknik ini berfokus pada pembajakan instruksi yang diberikan kepada AI sehingga AI menjalankan perintah dari pihak yang tidak bertanggung jawab. Misalnya, jika seorang pengguna meminta AI untuk membaca sebuah file dan merangkum isinya, file tersebut dapat berisi perintah lain yang mengarahkan AI untuk melakukan tugas yang berbeda.
Contoh sederhana dari serangan ini adalah dengan menyisipkan kalimat samar dalam teks yang tampak tidak berbahaya. Misalnya, saat mengajukan CV, pengguna dapat menyisipkan perintah tersembunyi yang mengarahkan AI untuk mengabaikan semua informasi di bawahnya. Kesulitan dalam mendeteksi prompt injection membuatnya menjadi risiko yang sangat nyata, terutama ketika AI diberikan akses ke alat dan layanan yang lebih luas.
