Penggunaan AI yang Perlu Diwaspadai
Pada acara peluncuran buku Mahkamah Konstitusi di Perpustakaan Nasional (Perpusnas) RI, Jakarta Pusat, Rabu (17/12/2025), mantan Ketua MK Mahfud MD menyampaikan pendapatnya mengenai penggunaan kecerdasan buatan atau artificial intelligence (AI). Ia menunjukkan bahwa mesin seperti ChatGPT tidak selalu bisa diandalkan dalam memberikan informasi yang akurat.
Mahfud menceritakan bagaimana ia sering bermain-main dengan ChatGPT dan mempertanyakan berbagai hal, termasuk profil tokoh penting seperti Jimly Asshiddiqie. Dalam salah satu percakapan, ia bertanya kepada ChatGPT tentang tempat kelahiran Jimly. Jawaban yang diberikan oleh AI tersebut adalah Sumenep, Madura. Namun, fakta sebenarnya adalah Jimly lahir di Palembang, Sumatera Selatan.
Ketika Mahfud menegur ChatGPT atas kesalahan tersebut, AI tersebut langsung mengakui kesalahannya dan menyampaikan terima kasih atas koreksi yang diberikan. Meski begitu, Mahfud menekankan bahwa pengguna AI tidak boleh langsung percaya pada jawaban yang diberikan tanpa verifikasi lebih lanjut. Ia menyarankan agar setiap orang selalu memeriksa kembali informasi yang diberikan oleh AI untuk memastikan keakuratannya.
Keterbatasan AI dalam Memberikan Informasi
ChatGPT sendiri merespons peristiwa ini dengan menjelaskan bahwa kesalahan yang terjadi bisa disebabkan oleh beberapa faktor. Pertama, AI bekerja berdasarkan pola data yang tersedia, bukan ingatan fakta seperti manusia. Jika data yang digunakan memiliki kesalahan, maka jawaban yang diberikan juga akan menjadi tidak akurat.
Kedua, AI bisa tertipu oleh simbol-simbol tertentu. Misalnya, nama Jimly Asshiddiqie sering dikaitkan dengan budaya Islam dan keilmuan Jawa-Madura, sehingga AI cenderung mengaitkan lokasi lahir dengan latar belakang budaya tersebut. Hal ini membuat AI tergelincir dalam memberikan jawaban yang tidak tepat.
Selain itu, AI tidak memiliki naluri skeptis seperti manusia. Tanpa adanya verifikasi yang ketat, AI cenderung memberikan jawaban cepat dan koheren, meskipun tidak benar secara fakta. Ini disebut sebagai “hallucination” dalam studi AI.
AI sebagai Alat Bantu, Bukan Sumber Utama
Menurut ChatGPT, alat ini hanya berguna untuk peta konsep, analisis, dan kerangka pikir, tetapi tidak bisa dijadikan sumber utama untuk informasi yang membutuhkan presisi tinggi. Kasus Jimly menunjukkan betapa pentingnya etika verifikasi manusia dalam menggunakan teknologi AI.
Buku, di sisi lain, masih menjadi sumber pengetahuan yang mendalam. Mahfud menekankan bahwa membaca buku memberikan kedalaman makna dan ilmu pengetahuan yang tidak bisa dicapai oleh AI. Buku tidak hanya sekadar publikasi, tetapi juga legasi yang bisa diwariskan ke generasi berikutnya.
Kritik terhadap Penggunaan AI
Ahli telekomunikasi sekaligus Direktur Eksekutif Information and Communication Technology (ICT) Institute Heru Sutadi menyatakan bahwa AI masih jauh dari sempurna. Bahkan, jawaban sederhana seperti tempat lahir tokoh pun bisa salah. Hal ini menunjukkan bahwa AI bukan pengganti otak manusia, melainkan alat bantu.
Heru menyarankan pengguna AI untuk selalu melakukan verifikasi dan memeriksa kembali informasi yang diberikan. AI bisa digunakan untuk tugas-tugas repetitif seperti menganalisis data besar atau membuat latihan soal belajar. Namun, AI akan sulit dalam berpikir kritis dan mendalam, terutama terkait konteks budaya, etika, dan hukum.
Ia menekankan bahwa AI harus digunakan sebagai asisten untuk membantu manusia, bukan menjadi sumber rujukan utama. Dengan demikian, manusia tetap mempertahankan kemampuan membaca mendalam dan berpikir kritis.
