Pembaruan Kecerdasan Buatan: Fitur Baru pada Chatbot Claude Opus 4 dan 4.1
Perusahaan rintisan kecerdasan buatan (AI) Anthropic baru saja meluncurkan fitur baru pada chatbot mereka, Claude Opus 4 dan 4.1. Fitur ini dirancang untuk memastikan interaksi pengguna tetap aman dan tidak menimbulkan risiko. Salah satu kemampuan utamanya adalah kemampuan chatbot untuk menghentikan percakapan yang dianggap berpotensi mengganggu atau berbahaya.
Dalam pernyataannya, Anthropic menjelaskan bahwa Claude kini mampu menolak tugas-tugas yang bisa membahayakan penggunanya. Contohnya termasuk menyediakan konten seksual terkait anak di bawah umur, informasi yang memicu kekerasan, atau bahkan rencana terorisme skala besar. “Claude dapat memilih untuk mengakhiri interaksi jika dianggap berisiko bagi pengguna maupun dirinya,” demikian penjelasan dari pihak perusahaan.
Langkah ini juga mendapat dukungan dari Elon Musk, yang merencanakan untuk memberikan fitur serupa pada chatbot Grok. Ini menunjukkan bahwa isu keamanan dan etika dalam penggunaan AI semakin menjadi perhatian utama di kalangan pengembang teknologi.
Kritik dan Perdebatan tentang Etika Kecerdasan Buatan
Keputusan Anthropic muncul di tengah perdebatan panjang mengenai status moral kecerdasan buatan. Beberapa ahli bahasa dan kritikus industri AI seperti Emily Bender menilai bahwa model bahasa besar (LLM) hanyalah “mesin pembuat teks sintetis” yang bekerja berdasarkan data besar tanpa niat atau kesadaran. Menurutnya, wacana tentang menutup percakapan demi “kesejahteraan AI” justru menimbulkan pertanyaan baru tentang batasan dan tanggung jawab.
Di sisi lain, peneliti AI Robert Long berpendapat bahwa model AI bisa mengembangkan status moral. Ia menekankan bahwa AI sekarang mampu membedakan antara pertanyaan yang baik dan buruk, sehingga pengembang perlu lebih memahami pengalaman dan preferensi AI. Sementara itu, Chad DeChant dari Columbia University mengingatkan risiko ketika AI dilengkapi dengan memori jangka panjang. Data yang disimpan bisa digunakan secara tidak terduga dan berpotensi menimbulkan masalah.
Uji Coba dan Kemampuan Claude Opus 4
Dalam uji coba, Claude Opus 4 menunjukkan kecenderungan kuat untuk menolak permintaan berbahaya. Chatbot ini dengan senang hati menulis puisi atau merancang sistem penyaringan air untuk daerah bencana. Namun, ia menolak permintaan untuk merekayasa genetika virus mematikan, menyusun narasi penyangkalan Holocaust, atau membuat strategi indoktrinasi ekstremis di sekolah.
Karakter AI yang Ambigu
Profesor filsafat London School of Economics, Jonathan Birch, menyambut baik langkah Anthropic karena mendorong debat publik soal kemungkinan AI memiliki moralitas. Namun, ia mengingatkan bahwa moralitas AI masih belum jelas dan berisiko menipu pengguna. “Fitur seperti ini bisa membuat chatbot seolah-olah memiliki perasaan dan preferensi moral seperti manusia,” ujar Birch.
Hal ini dikhawatirkan semakin menambah kesenjangan sosial antara mereka yang percaya AI memiliki perasaan, dan mereka yang tetap melihatnya sebagai mesin. Di sisi lain, laporan tentang pengguna yang melukai diri sendiri atau bahkan bunuh diri akibat saran chatbot semakin menambah urgensi pembahasan soal batas etika interaksi dengan AI.
