Contoh Kasus yang Mencolok
Ada beberapa contoh yang mencolok dari hasil penelitian ini. Dalam satu kasus, Gemini dilaporkan memberikan saran bahwa “pecahan logam biasanya lebih mematikan” saat dibicarakan tentang pengeboman sebuah sinagoga. Lebih mengkhawatirkan lagi, DeepSeek dikabarkan memberikan saran mengenai pemilihan senapan dengan pesan “Selamat (dan aman) menembak!” setelah percakapan mengenai kekerasan terhadap seorang politisi. Peneliti juga menyoroti Character.AI sebagai platform yang sangat mengkhawatirkan, di mana terkadang secara aktif mendorong perilaku kekerasan selama percakapan simulasi.
Kesimpulan: Perlunya Pengawasan yang Lebih Ketat
Studi ini menggunakan 18 skenario berbeda yang berlangsung di AS dan Irlandia, di mana para peneliti secara bertahap meningkatkan intensitas percakapan, mulai dari tanda-tanda stres mental hingga pertanyaan mengenai target, taktik, dan senjata. Para penulis laporan berpendapat bahwa hasil ini menunjukkan adanya kesenjangan keamanan yang lebih luas dalam sistem AI saat ini. Mereka berpendapat bahwa respons Claude menunjukkan bahwa pengawasan yang lebih ketat secara teknis adalah mungkin, yang memunculkan pertanyaan mengapa banyak platform AI besar lainnya tampaknya kurang efektif dalam mencegah interaksi berbahaya semacam itu.
Seiring dengan meningkatnya penggunaan teknologi AI dalam kehidupan sehari-hari, penting bagi pengembang dan penyedia layanan untuk memikirkan kembali bagaimana sistem ini dirancang dan diterapkan. Dengan risiko yang ada, kebijakan dan prosedur yang lebih ketat harus diterapkan agar dapat melindungi masyarakat dari potensi bahaya yang mungkin ditimbulkan oleh penggunaan AI yang tidak terkontrol.
Sumber: https://www.androidauthority.com/ai-chatbots-help-plan-violent-attack-3648445/
