● Phenomena judi online dan pinjaman online semakin menjamur di Indonesia, terutama memperdayai masyarakat kalangan menengah ke bawah.
● Teknologi kecerdasan buatan (AI), khususnya algoritme untuk merekomendasikan konten serta pembuatan video
deepfake
, digunakan untuk menarget konsumen dan mendorong kecanduan● Untuk menangani masalah tersebut, Indonesia perlu membentuk aturan yang jelas dan rinci guna membatasi penggunaan tidak sesuai dari teknologi AI, khususnya dalam konteks judi online dan pinjaman online.
Fenomena judi online (judol) dan pinjaman online
(pinjol)
Semakin luas di Indonesia, khususnya merangkak pada kelompok masyarakat berpenghasilan menengah hingga rendah.
Meskipun pemerintah melalui Kementerian Komunikasi dan Digital
(Komdigi)
sudah memblokir 5,7 juta konten terkait judol hingga 21 Januari 2025, pengguna judol di Indonesia tetap meningkat. Data teranyar, tercatat ada sekitar 8,8 juta orang terlibat judol dengan perputaran uang mencapai Rp283 triliun hingga semester kedua 2024. Yang lebih memprihatinkan hampir seperempat korban judol berasal dari kaum muda seperti pelajar dan mahasiswa.
Begitu pula dengan pinjol, pada periode Januari-Maret 2025 pemerintah memblokir
1.123
pinjol ilegal. Tapi pinjol ilegal masih berseliweran.
Promosi pinjol dan judol kian marak di media digital, menampilkan figur publik atau
influencer
—yang acap kali palsu—menjebak pengguna, membuat kedua layanan itu tampak menjanjikan dan membikin penggunanya semakin sulit lepas dari candu.
Sementara itu, Indonesia masih belum memiliki regulasi tegas dan terperinci untuk mengatur penyalahgunaan AI dalam konteks judol dan pinjol. Tak ayal, bisnis pinjol dan judol kian menjamur.
Bagaimana keberadaan AI memicu peningkatan perjudian online dan pinjaman online?
Terdapat dua macam teknologi kecerdasan buatan (AI) yang sering digunakan dalam mempromosikan produk perjudian online (judol) dan pinjaman online (pinjol), yaitu: algoritme rekomendasi serta
deep synthesis
dalam bentuk video
deepfake
.
Algoritma rekomendasi menargetkan calon pemain judi online serta peminjam daring melalui analisis pola perilaku mereka.
digital
mereka saat berselancar di media sosial.
Pertama-tama, algoritme tersebut akan menampung informasi tentang kegiatan daring para pengguna, termasuk catatan penelusuran mereka, materi yang paling acapkali ditonton, aplikasi favorit, hingga posisi geografis, umur, gender, serta parameter demografi tambahan.
Data dan jejak digital itu direkam oleh sistem. Dengan
machine learning
, algoritma tersebut kemudian mengidentifikasi kebiasaan dan selera pengguna. Sesudah memahami pola serta preferensinya,
algoritma
akan menampilkan iklan yang telah disesuaikan dengan profil pengguna pada bermacam-macam platform media sosial yang kerap mereka kunjungi.
Semakin kerap seseorang bertukar informasi mengenai topik perjudian atau pinjaman online, semakin tinggi peluangnya untuk mendapat lebih banyak materi sejenis. Hal ini membentuk suatu dampak.
echo chamber
atau
ruang gema
.
Beberapa teknologi kecerdasan buatan (AI) lain yang sering dipakai dalam pemasaran pinjol dan judi online ialah
deep syntesis
seperti video
deepfake
.
Deepfake
bekerja dengan cara meniru wajah dan suara figur publik menggunakan kecerdasan buatan yang dilatih dari data visual dan audio mereka di internet.
Setelah kecerdasan buatan berhasil menggambarkan ekspresi dan nada dengan sangat yakin, si penyerang kemudian mencantumkan informasi bohong seperti itu sebagai promosi oleh karakter tertentu.
pinjol
atau
judol
. Sasaran utamanya adalah menggugah minat serta membentuk keyakinan sang korbann potensial.
Insiden terkini di tanah air, viral rekaman Gading Marten yang sedang mengiklankan suatu website.
judol
. Setelah ditelusuri oleh banyak media, video tersebut merupakan hasil rekayasa.
Diperlukan peraturan untuk menangani pemakaian tidak tepat AI: ambil pelajaran dari Cina
Walaupun telah terjadi banyak kasus penyalahgunaan, sampai sekarang Indonesia belum mempunyai peraturan yang jelas dan mendetail tentang pengelolaan kecerdasan buatan (AI), khususnya berkaitan dengan judi online (judol) dan pinjammeminjam daring (pinjol).
Undang-Undang Informasi dan Transaksi Elektronik (UU ITE) mengategorikan AI sebagai
“agen elektronik”
, sehingga segala kewajiban hukum dibebankan kepada penyedia perangkat berbasis AI, bukan pada AI itu sendiri sebagai subjek hukum.
Artinya, AI hanya alat atau perantara, bukan pihak yang bisa dimintai pertanggungjawaban langsung di mata
hukum
. Dan jika ada pelanggaran, masih mengacu pada regulasi umum seperti perlindungan konsumen, tanggung jawab perdata/pidana oleh pengelola sistem, dan sebagainya.
Adapun panduan etika penggunaan AI di industri fintech hanya diatur dalam Surat Edaran Menteri Komunikasi dan Informatika
(Menkominfo)
Nomor 9 Tahun 2023 yang sifatnya sebatas panduan atau “soft regulation” dan tidak memiliki kekuatan hukum yang mengikat.
Begitu pula panduan kode etik yang diluncurkan oleh Otoritas Jasa Keuangan
(OJK)
bersama asosiasi fintech, hanya berlaku sebagai pedoman etika tanpa sanksi hukum jika terjadi pelanggaran.
Indonesia semestinya belajar dari Cina. Sejak 2017, mereka sudah menerbitkan
New Generative AI Development Plan
sebagai landasan pokok pengelolaan beragam jenis kecerdasan buatan, meliputi algoritme rekomendasi dan
deep synthesis
Sebagai hasil lanjutannya, Cina mengeluarkan peraturan yang lebih spesifik dan berstruktur.
Ketentuan Pengelolaan Rekomendasi Algoritmik dalam Layanan Informasi Internet
Yang diluncurkan pada tahun 2021 menjadi salah satu dari tiga peraturan utama tentang kecerdasan buatan (AI) dan algoritme yang dikeluarkan oleh China.
Pasal 7
Aturan ini melarang penggunaan algoritme yang mengakibatkan kecanduan atau perilaku konsumtif berlebihan, contohnya seperti dalam kasus judi online (judol) dan pinjam meminjam online (pinjol). Kemudian
Pasal 12
Melarang penggunaan algoritma untuk mempermainkan peringkat, hasil pencarian, atau rekomendasi yang merugikan pengguna, contohnya seperti dalam kasus promosi judi online dan pinjaman online.
Pada tahun 2022, Cina pula merilis
Peraturan tentang Pengelolaan Jasa Informasi Internet Berbasis Kedalaman Sintesis
, yang mengatur teknologi
deep synthesis
seperti
deepfake
untuk menjamin bahwa penerapannya tidak mengurangi kepentingan umum dan keamanan negara.
Regulasi ini melarang penggunaan teknologi
deepfake
untuk menciptakan materi yang bertentangan dengan peraturan-peraturan. Dan juga mensyaratkannya.
pelabelan
konten
deepfake
untuk membedakan mana konten yang asli dan mana yang telah dimanipulasi dalam tujuan komersial. Secara spesifik, aturan pelabelan konten sintetik seperti
deepfake
bahkan baru saja dituangkan dalam
Measures for the Labelling of Artificial Intelligence-Generated and Synthetic Content
pada 14 Maret 2025.
Dengan regulasi yang ketat, terstruktur, dan spesifik seperti yang dilakukan Cina, Indonesia bisa meminimalisir potensi penyalahgunaan AI untuk tujuan-tujuan yang tidak etis seperi praktik judol dan pinjol ilegal.
Artikel ini pertama kali terbit di
The Conversation
, situs berita nirlaba yang menyebarluaskan pengetahuan akademisi dan peneliti.
- AI mendongkrak efisiensi pekerja, tapi tidak akan menggeser manusia
- Dipaksa untuk bekerja lagi di tempat kerja, studi menunjukkan bahwa fleksibelitas penting dalam menjaga keberlanjutan karyawan.
La Ode Rifaldi Nedan Prakasa mendapatkan dukungan finansial dari LPDP saat mengambil program Magister dalam Komunikasi Strategis (2023-2024). Penulisan ini merupakan upaya kontribusinya untuk ikut serta dalam pembahasan regulasi kecerdasan buatan di Indonesia.
