Pada era digital ini, alat kecerdasan buatan (AI) telah memudahkan kita dalam menghasilkan berbagai bentuk konten, mulai dari gambar hingga teks yang menyerupai tulisan manusia. Salah satu yang paling populer adalah ChatGPT, yang banyak digunakan untuk menghasilkan teks. Namun, langkah terbaru dari OpenAI mungkin akan mengubah cara kita melihat tulisan yang dihasilkan oleh AI.
Pengenalan Watermark Teks oleh OpenAI
OpenAI baru-baru ini mengumumkan rencananya untuk memperkenalkan watermark pada teks yang dihasilkan oleh ChatGPT dan Codex. Watermark tersebut bertujuan untuk membuat teks yang dihasilkan oleh AI dapat dikenali dan diidentifikasi, terutama di wilayah Eropa. Inisiatif ini merupakan respons terhadap EU AI Act yang mengharuskan penyedia AI untuk membuat teks yang dihasilkan dapat dikenali dengan cara yang dapat dibaca oleh mesin.
Cara Kerja Teknologi Watermarking
Teknologi watermarking yang dinamakan “textGrain” ini bekerja dengan menambahkan sinyal statistik pada pilihan kata model. Detektor kemudian mencari sinyal tersebut untuk memverifikasi apakah teks dihasilkan menggunakan ChatGPT atau Codex. OpenAI mengklaim bahwa textGrain memiliki performa yang lebih baik dibandingkan dengan semua pendekatan yang telah diuji.
Potensi Kesalahan dalam Deteksi Watermark
Walaupun teknologi ini menjanjikan, OpenAI memperingatkan bahwa detektor dapat melakukan dua jenis kesalahan. Pertama, ada kemungkinan terjadinya false positive, di mana detektor melaporkan adanya watermark padahal tidak ada. Kedua, false negative, di mana watermark yang seharusnya terdeteksi malah tidak terdeteksi. Selain itu, teks yang lebih pendek lebih sulit untuk dideteksi, dan pengeditan pada teks juga dapat melemahkan watermark.
Implementasi Awal di Eropa
Secara awal, OpenAI akan memperkenalkan sistem watermarking ini kepada semua pengguna di Eropa, tetapi belum ada rencana untuk meluncurkannya secara global. Pendekatan regional ini memberikan OpenAI kesempatan untuk belajar dari umpan balik dunia nyata sebelum memperluas implementasinya.
Inisiatif ini menunjukkan komitmen OpenAI untuk meningkatkan transparansi dalam penggunaan AI dalam pembuatan konten. Dengan adanya watermark, diharapkan masyarakat dapat lebih mudah mengenali konten yang dihasilkan AI dan memahami batasan serta keakuratan informasi yang disampaikan.
Sumber: https://www.androidauthority.com/chatgpt-text-watermarking-3719403/
