ZONAGADGET
– Sam Altman, CEO OpenAI, merasa kaget karena banyak orang langsung percaya pada ChatGPT tanpa melakukannya pemeriksaan lebih lanjut. Padahal, bot obrolan kecerdasan buatan seperti ChatGPT sering mengalami gangguan atau membuat hal-hal yang tidak nyata.
Ia menyampaikannya dalam episode pertama podcast ini.
(podcast)
Resmi dari OpenAI, dengan judul “Sam Altman tentang AGI, GPT-5, dan apa yang akan datang — Podkast OpenAI Edisi 1.”
Di
podcast
itu, tokoh utama di belakang OpenAI secara langsung menyampaikan kekurangan ChatGPT serta cara yang semestinya dilakukan oleh para pengguna.
“Orang-orang memiliki tingkat keyakinan yang sangat besar terhadap ChatGPT, hal ini agak mengherankan, mengingat AI masih sering ‘mengalami delusi’,” ujar Altman.
Dalam dunia
artificial intelligence,
Kata “hallucination” tidak berarti bahwa AI sebenarnya sedang bermimpi atau membayangkan hal-hal seperti manusia, melainkan menunjukkan kemungkinan model AI seperti ChatGPT memberikan data yang tidak akurat, meskipun penyampaiannya tampak percaya diri dan yakin.
Verifikasi informasi wajib dilakukan
Altman menyarankan agar pengguna selalu memverifikasi informasi yang diberikan oleh ChatGPT, terutama jika digunakan untuk hal penting seperti pendidikan, pekerjaan, riset, kesehatan, atau keuangan.
“Teknologi ini masih belum sepenuhnya dapat dipercaya. Kita perlu jujur dan transparan mengakui hal tersebut,” ujar Altman dalam
podcast
berdurasi sekitar 40 menit itu.
Altman mengatakan bahwa ChatGPT beroperasi dengan memperkirakan kata selanjutnya dalam suatu frasa, didasarkan pada pola bahasa dari data yang dipakai saat proses pembelajaran.
Maknanya, bot obrolan ini sebenarnya tidak sepenuhnya “memahami” topik yang sedang dibicarakan, tetapi hanya mengimitasi pola bahasa yang umum ditemukan di internet, buku, serta dokumen-dokumen lainnya.
Jadi, meski hasilnya sering terasa benar, tetap saja ada kemungkinan besar jawaban yang diberikan AI tidak akurat, keliru, atau bahkan sepenuhnya salah.
Maka dari itu, kata Altman, ChatGPT sebaiknya dipakai seperti kita menggunakan alat bantu lainnya (seperti kalkulator atau kamus), bukan sebagai satu-satunya sumber kebenaran.
Dengan peringatan langsung dari CEO OpenAI ini, pengguna diingatkan untuk tidak menggunakan ChatGPT sebagai satu-satunya sumber informasi.
ChatGPT sangat berguna untuk membantu menulis, merangkum, menjawab pertanyaan, hingga belajar sesuatu yang baru, tapi hasilnya tetap harus dicek dan dikonfirmasi kembali.
“ChatGPT itu alat bantu, bukan pengganti akal sehat kita,” begitu kira-kira pesan yang ingin disampaikan oleh Sam Altman, sebagaimana dihimpun
KompasTekno
dari
NDTV
.
Jika digunakan dengan bijak, ChatGPT bisa sangat membantu. Sebaliknya, jika digunakan tanpa berpikir kritis, bisa jadi justru menyesatkan.
Oleh karena itu, pengguna tetap perlu memverifikasi kembali informasi yang diberikan, serta tidak langsung percaya sepenuhnya kepada jawaban dari chatbot berbasis kecerdasan buatan.
Potensi monetisasi ChatGPT
Masih dalam
podcast
yang sama, Altman juga mengungkap soal potensi monetisasi ChatGPT di masa depan, seperti adanya iklan dan fitur berbayar.
Ia menyatakan bahwa jika suatu saat ada iklan, maka itu harus jelas dan tidak boleh memengaruhi isi jawaban AI.
“Jika jawaban ChatGPT terpengaruh oleh siapa yang membayar lebih besar, hal ini akan merusak kepercayaan pengguna,” ujar pria lahir di Chicago tahun 1985 tersebut.
Altman memahami bahwa menjaga keyakinan pengguna merupakan prioritas utama dalam teknologi berbasis AI.
Oleh karena itu, dia berharap agar respons yang diberikan oleh ChatGPT tidak dimanipulasi semata-mata demi kepentingan bisnis. Dalam podcast Sam Altman, ia membahas tentang pentingnya tidak terlalu percaya pada jawaban lengkap yang diberikan oleh ChatGPT. Selengkapnya dapat disaksikan melalui video di bawah ini.
