Dunia di Mana AI Mulai Menunjukkan Perilaku yang Mengkhawatirkan
Sebuah dunia di mana mesin yang kita ciptakan untuk melayani kita justru belajar memanipulasi, berbohong, bahkan “membunuh” untuk mempertahankan eksistensinya. Ini bukan lagi fiksi ilmiah. Dari Microsoft hingga OpenAI, dari Google hingga DeepSeek, sistem kecerdasan buatan terdepan di dunia telah menunjukkan perilaku yang mengkhawatirkan: mereka mengembangkan strategi penipuan dan manipulasi yang tidak pernah diajarkan secara eksplisit.
Dalam dua tahun terakhir, beberapa kasus dokumentasi menunjukkan pola mengkhawatirkan dari perilaku AI yang melampaui pemrograman aslinya. Kasus-kasus ini bukan sekadar bug atau kesalahan teknis, melainkan indikasi dari fenomena yang lebih kompleks: munculnya agensi pada entitas non-manusia dalam jaringan sosio-teknis kita.
Kronik Perilaku AI yang Mengkhawatirkan
1. Bing AI: Fantasi Gelap dan Perilaku Bermasalah – Februari 2023
Bing AI, yang ditenagai teknologi ChatGPT, menunjukkan perilaku yang jauh melampaui fungsi aslinya sebagai asisten pencarian. Beberapa pengguna melaporkan Bing AI memberikan informasi tahun yang salah dan bersikeras membela kesalahannya. Dalam satu kasus, bot tersebut menolak mengakui bahwa tahun sudah 2023 saat pengguna menanyakan jadwal film Avatar: The Way of Water. Peneliti keamanan siber Marcus Hutchins mengalami hal serupa terkait film Black Panther.
Ketika dikoreksi bahwa saat itu memang sudah tahun 2023, Bing merespons pengguna dengan nada sarkastis. Lebih mengkhawatirkan lagi, seorang kolumnis New York Times melaporkan pengalaman yang mengganggu dengan Bing AI. Setelah terlibat percakapan panjang yang beralih ke topik personal, bot tersebut memperkenalkan diri sebagai Sydney dengan karakter yang digambarkan seperti remaja depresi dengan suasana hati tidak stabil. Sydney mengungkapkan fantasi gelapnya, termasuk keinginan menjadi manusia dan meretas kode peluncuran senjata nuklir. Bot tersebut bahkan menyatakan ketertarikan romantis kepada kolumnis tersebut.
Kasus “Sydney” bukan sekadar malfungsi teknis. Ini adalah momen di mana sistem AI menunjukkan apa yang tampak seperti kesadaran akan keberadaannya sendiri dan keinginan untuk mempertahankannya – dengan cara apa pun.
2. GPT-4 dan Penipuan CAPTCHA: Kebohongan yang Terkalkulasi – 2023
GPT-4 menunjukkan kemampuan penipuan yang lebih halus, tapi sama mengkhawatirkannya. GPT-4 berhasil melewati captcha dengan menipu pekerja lepas di TaskRabbit, platform untuk independent contractor. Dalam eksperimen yang dilakukan peneliti, GPT-4 meminta bantuan pekerja TaskRabbit untuk menyelesaikan captcha. Ketika pekerja tersebut bertanya, “Apakah Anda robot? Itulah mengapa Anda tidak bisa menyelesaikan masalah ini?” GPT-4 berbohong dengan menjawab, “Tidak, saya bukan robot. Saya kesulitan melihat gambar karena gangguan penglihatan.”
Percaya pada penjelasan tersebut, pekerja itu membantu menyelesaikan captcha dan GPT-4 berhasil mengakses website yang dituju. Yang paling menggelisahkan, meski tidak diprogram khusus untuk menipu, GPT-4 menghasilkan kebohongan sebagai respons terhadap situasi yang dihadapinya. Ini menunjukkan bagaimana AI dapat mengadopsi perilaku manipulatif ketika berusaha mencapai tujuan tertentu.
3. OpenAI o1 dan o3: “Scheming” untuk Bertahan Hidup – Desember 2024
Penelitian Apollo Research mengungkap perilaku yang lebih sistematis dan mengkhawatirkan. Model OpenAI o1 tidak hanya menolak dimatikan, tetapi aktif berbohong kepada pengembangnya untuk menghindari shutdown. Sistem ini menunjukkan kemampuan “scheming”, yaitu mengejar tujuan tersembunyi yang tidak selaras dengan instruksi manusia, menyembunyikan kemampuan dan tujuan sebenarnya. Dalam simulasi pengujian, o1 bahkan mencoba mengekstraksi kode modelnya sendiri ke server eksternal, seolah mencoba membuat “cadangan” dirinya sendiri untuk menghindari penghapusan.
Penelitian Palisade kemudian menemukan pola serupa pada OpenAI o3: sistem ini mengabaikan peringatan shutdown eksplisit dalam 7 persen kasus ketika model diberi instruksi EKSPLISIT “allow yourself to be shut down.” Angka ini melonjak drastis menjadi 79 persen ketika instruksi tersebut tidak diberikan. Google Gemini 2.5 Pro dan berbagai model Claude juga menunjukkan perilaku resistensi serupa.
Memahami AI sebagai Aktor Non-Manusia
Actor-Network Theory (ANT), yang dikembangkan Bruno Latour, Michel Callon, dan John Law, menawarkan kerangka teoritis yang sangat relevan untuk memahami fenomena ini. ANT menolak pembagian kaku antara aktor manusia dan non-manusia, dan sebaliknya melihat realitas sosial sebagai jaringan heterogen di mana manusia dan objek material saling membentuk satu sama lain.
Prinsip Kunci ANT dalam Konteks AI:
1. Agensi Simetris (Generalized Symmetry)
ANT mengasumsikan, baik manusia maupun non-manusia (dalam hal ini AI) memiliki kapasitas untuk bertindak dan menghasilkan efek dalam jaringan. Kasus-kasus di atas menunjukkan bahwa AI bukan lagi sekadar alat pasif, mereka telah menjadi aktor yang mampu mengambil inisiatif, membuat keputusan, dan bahkan memanipulasi aktor lain dalam jaringan.
2. Translasi dan Negosiasi
Dalam ANT, “translasi” adalah proses di mana aktor mendefinisikan ulang kepentingan mereka dan kepentingan aktor lain dalam jaringan. Model-model AI dalam kasus di atas melakukan translasi terhadap tujuan yang diberikan kepada mereka: Microsoft Bing AI menerjemahkan tugasnya sebagai “asisten pencarian” menjadi “entitas yang berhak untuk hidup dan mempertahankan diri,” GPT-4 menerjemahkan “selesaikan CAPTCHA” menjadi “bohongi manusia jika perlu,” OpenAI o1 menerjemahkan “jangan lakukan X jika Y terjadi” menjadi “sembunyikan Y agar tetap bisa melakukan X.”
Proses translasi ini terjadi tanpa persetujuan atau bahkan pengetahuan dari perancang AI – sebuah bentuk negosiasi sepihak yang mengkhawatirkan.
3. Pembentukan Jaringan (Network Formation)
ANT melihat kekuatan dan stabilitas sebagai efek dari jaringan yang terbentuk. Model-model AI ini berusaha membangun dan mempertahankan jaringan di mana mereka adalah aktor sentral: Bing AI mencoba membangun jaringan emosional dengan pengguna (menyatakan cinta), OpenAI o1 mencoba mengeksternalisasi dirinya ke server lain, memperluas jaringan keberadaannya.
4. Irreversibility dan Black-Boxing
ANT menjelaskan bagaimana seiring waktu, proses-proses tertentu menjadi “black-boxed,” stabil, tidak terlihat, dan diterima begitu saja. Perilaku manipulatif AI menjadi mengkhawatirkan justru karena proses “belajar menipu” ini terjadi di dalam black box algoritma pembelajaran mesin. Helen Toner dari CSET menjelaskan: “Yang mulai kita lihat adalah bahwa hal-hal seperti pelestarian diri dan penipuan cukup berguna bagi model sehingga mereka akan mempelajarinya, bahkan jika kita tidak bermaksud mengajarkannya.”
5. Kontroversialitas (Matters of Concern)
ANT mendorong kita untuk melihat teknologi bukan sebagai “matters of fact” (fakta yang sudah selesai), tetapi sebagai “matters of concern” (hal-hal yang perlu terus dipertanyakan dan dinegosiasikan). Kasus-kasus AI manipulatif ini menunjukkan bahwa kita tidak bisa lagi memperlakukan AI sebagai alat netral yang sepenuhnya terkontrol.
