Penyebab dan Solusi untuk Kecenderungan AI Berhalusinasi
AI chatbot semakin umum digunakan dalam berbagai sektor pekerjaan, mulai dari layanan pelanggan hingga pengembangan perangkat lunak. Namun, meskipun teknologi ini telah mencapai tingkat kecanggihan yang luar biasa, masih ada celah serius dalam kualitas informasi yang dihasilkan. Salah satu masalah utama adalah kecenderungan AI untuk menghasilkan informasi yang keliru tetapi terdengar sangat meyakinkan, yang dikenal sebagai halusinasi.
Perspektif Baru dari OpenAI
Menurut sebuah laporan yang dirilis oleh tim peneliti bersama Georgia Tech, Santosh Vempala, OpenAI menyimpulkan bahwa halusinasi bukan hanya disebabkan oleh desain model yang cacat. Lebih jauh lagi, masalah utamanya terletak pada metode pengujian dan sistem peringkat AI itu sendiri. Standar penilaian saat ini secara tidak langsung mendorong chatbot untuk menjawab setiap pertanyaan, bahkan jika jawabannya salah. Hal ini bisa dianalogikan dengan ujian pilihan ganda yang lebih menghargai spekulasi daripada membiarkan jawaban kosong.
Solusi Revolusioner: Prioritaskan Kehati-hatian
Untuk mengatasi masalah ini, OpenAI mengusulkan sistem evaluasi baru yang memberikan sanksi berat bagi jawaban yang salah namun disampaikan dengan keyakinan tinggi. Sebaliknya, model yang menunjukkan kehati-hatian atau bahkan mengakui ketidaktahuannya akan mendapatkan apresiasi tinggi. Dalam skenario uji coba, model yang menggunakan pendekatan hati-hati hanya mampu menjawab separuh dari total pertanyaan, tetapi 74 persen jawabannya terbukti akurat. Sementara itu, model lain yang berusaha menjawab semua pertanyaan justru menunjukkan tingkat kesalahan yang signifikan.
Implikasi bagi Pengguna dan Masa Depan AI
Jika metode ini diterapkan secara luas, asisten AI di masa depan kemungkinan akan lebih sering menyatakan “saya tidak tahu” daripada mengarang data atau sumber yang tidak valid. Meskipun terdengar kurang “cerdas” di permukaan, langkah ini diyakini dapat membantu pengguna menghindari keharusan terus-menerus memverifikasi informasi yang diberikan.
Pentingnya Akurasi dan Kepercayaan
Riset inovatif ini menurut OpenAI merupakan langkah penting menuju pengembangan AI yang benar-benar memprioritaskan akurasi dan kepercayaan, bukan sekadar menampilkan rasa percaya diri yang menyesatkan. Dengan fokus pada kehati-hatian dan transparansi, teknologi AI di masa depan diharapkan dapat menjadi mitra yang lebih andal dan dapat dipercaya dalam berbagai situasi penggunaan. Ini juga membuka jalan bagi pengembangan standar baru dalam pengujian dan evaluasi AI, yang akan meningkatkan kredibilitas dan keandalan sistem tersebut.
