Penyebab Perilaku Ini
Analisis teknis yang dilakukan oleh LessWong menjelaskan bahwa fenomena ini merupakan contoh klasik dari “prompt injection.” Untuk menerjemahkan dengan akurat, sistem harus terlebih dahulu memahami apa yang dibacanya. Terkadang, dalam proses tersebut, sistem dapat salah mengartikan instruksi sebagai teks yang harus diproses. Analisis ini menunjukkan bahwa Google Translate menjalankan model bahasa besar (LLM) yang mengikuti instruksi di bawah permukaannya. Sayangnya, langkah-langkah pengaman yang ada untuk menjaga fokus aplikasi pada terjemahan tidak selalu membedakan dengan tegas antara apa yang harus diterjemahkan dan apa yang harus dijawab.
