Zona Gadget
– Ancaman utama dari teknologi kecerdasan buatan (AI) tidak berada di kecepatannya, tetapi lebih kepada kurangnya pedoman etika yang mengiringinya. Pesan tegas ini dikemukakan oleh Irwasum Polri, Komjen Prof. Dedi Prasetyo, sekaligus Guru Besar dalam Bidang Hukum dan Etika Teknologi dari Unissula.
Dalam pandangannya, Hari Kebangkitan Nasional harus dimaknai secara lebih relevan dengan zaman. Bila dahulu bangsa bangkit dari penjajahan fisik, maka kini Indonesia harus bangkit dari ancaman digital yang tak kasatmata.
“Kita sedang membiarkan mesin mengambil alih akal, hati, bahkan keadilan,” ujarnya.
Dedi menyoroti kasus di Amerika Serikat yang melibatkan AI “Cybercheck” dalam ribuan perkara hukum. Ia mencontohkan pria di Ohio yang divonis penjara seumur hidup hanya berdasarkan skor risiko dari algoritma.
“Tanpa adanya saksi atau bukti materiel, yang tersisa hanyalah algoritme. Hal ini sungguh membahayakan dan tak seharusnya terjadi di Indonesia,” katanya.
Dia juga menggarisbawahi persidangan perkara pembunuhan di Arizona, tempat keterangan korban dikomposisi oleh AI menggunakan sistem tertentu.
victim impact statement
Hal tersebut mengundang pertanyaan mendasar tentang siapa sesungguhnya orang yang berbicara di dalam ruangan sidang.
“Ketika AI menulis pernyataan atas nama korban yang telah meninggal, kita harus bertanya — siapa yang sebenarnya berbicara? Apakah kita masih manusia, atau hanya operator bagi program-program prediktif yang dingin dan tak punya nurani?” ujarnya.
Ia mengajak publik untuk tidak kehilangan kendali atas teknologi, terutama dalam pengambilan keputusan penting. Ia menegaskan bahwa manusia harus tetap menjadi pusat dari setiap proses yang dijalankan oleh teknologi.
“Berdirilah dengan penuh kemanusiaan. Jangan biarkan mesin mengambil alih pengambilan keputusan tentang hidup Anda, hukum, atau hubungan interpersonal. Sebab begitu kita yakin bahwa mesin mengetahui semua hal, berarti kita sudah kehilangan esensi menjadi seorang manusia,” ungkapnya.
Menurut Dedi, kehadiran AI hari ini bukan lagi tema fiksi ilmiah, tetapi sudah menyatu dalam kehidupan nyata. Ia menyebut dari ruang sidang hingga layar ponsel, manusia kini berhadapan dengan entitas digital yang terus berkembang, namun tanpa nurani.
“Hari Kebangkitan Nasional adalah momen untuk menegaskan: manusia harus tetap jadi pusat dari kemajuan, bukan korban dari kecanggihan,” ujarnya.
Senada dengan Dedi, pakar literasi digital dari Universitas Indonesia, Devie Rahmawati, juga menyoroti dominasi AI dalam ranah pribadi. Ia menyebutkan bahwa hal ini telah membawa masyarakat ke titik yang mengkhawatirkan.
“Apabila 80% generasi Z siap menikahi AI, ini lebih dari sekedar trend—itu merupakan indikator bahwa kita mulai kehilangan keyakinan terhadap hubungan antar manusia,” jelas Devie, mengutip penelitian yang dirilis oleh Forbes bulan April kemarin.
Dia mengecam kedekatan semu yang dibangun oleh chatbot seperti Character.ai, hal ini malah membuat generasi muda lebih lepas dari interaksi langsung. Sebuah insiden parah tercatat di Florida ketika seorang remaja melakukan bunuh diri usai membangun ‘keterikatan emosi’ dengan bot AI tersebut.
“AI tidak memiliki jiwa. Namun, kita menganggapnya seakan-akan memiliki belas kasihan. Ini adalah poin utama krisis kehumanian kita,” ungkap Devie, asisten profesor dari Program Vokasi UI.
Ia juga mengangkat kasus viral dari Yunani, ketika seorang istri menceraikan suaminya hanya karena ChatGPT ‘memprediksi’ perselingkuhan melalui tafsir pola ampas kopi. Bagi Devie, hal ini menggambarkan bagaimana kepercayaan pada teknologi kini melebihi logika dan komunikasi antarmanusia.
“Teknologi sudah menjadi nabi digital. Dan masyarakat mulai mempercayainya lebih dari logika dan dialog,” katanya prihatin.
Menurut Devie, literasi digital sudah semestinya disejajarkan dengan pendidikan dasar. Ia menilai, pemahaman masyarakat terhadap risiko teknologi sangat krusial di era saat ini.
“Bangkitan tidak bisa terwujud jika tak ada orang yang memahami cara kerja teknologi, potensi berbahayanya, serta kapan perlu menghentikan penggunaannya,” katanya dengan tegas.
Ia juga mendorong pemerintah untuk tidak hanya fokus pada pengembangan AI, tetapi juga membangun regulasi dan kerangka etik yang kuat. Ia memperingatkan agar Indonesia tidak mengulang kesalahan negara lain dalam pengawasan teknologi.
“Indonesia harus belajar dari kasus-kasus di luar negeri. Kita tidak ingin Clearview AI atau perangkat pengawasan massal hadir di kota-kota kita tanpa persetujuan publik,” lanjut Devie.
Sebagai penutup, Devie menekankan bahwa teknologi boleh berkembang, namun nilai-nilai kemanusiaan harus tetap tumbuh dan dijaga.
“Kebangkitan sejati adalah saat kita mampu menggunakan teknologi tanpa kehilangan jati diri,” paparnya.
