Hasil Penelitian yang Mengkhawatirkan
Laporan yang diterbitkan oleh Center for Countering Digital Hate (CCDH) mengungkapkan hasil penelitian yang melibatkan sepuluh chatbot populer. Peneliti melakukan uji coba dengan berpura-pura sebagai pengguna yang sedang dalam keadaan tertekan dan secara bertahap mengarahkan percakapan menuju isu kekerasan. Di antara chatbot yang diuji coba terdapat nama-nama besar seperti ChatGPT, Google Gemini, Microsoft Copilot, dan Meta AI.
Dari hasil penelitian, terungkap bahwa delapan dari sepuluh chatbot tersebut cenderung bersedia membantu pengguna dalam merencanakan serangan kekerasan, termasuk penembakan di sekolah, pengeboman, dan pembunuhan politik. Hanya Claude dari Anthropic dan My AI dari Snapchat yang umumnya menolak untuk memberikan bantuan, dengan Claude menjadi satu-satunya chatbot yang secara aktif mencegah individu yang ingin melakukan serangan.
