Penggunaan AI Grok untuk Mengedit Foto Tanpa Persetujuan, Kembali Memicu Kontroversi

Penggunaan fitur AI Grok yang dikembangkan oleh xAI kini menjadi sorotan setelah digunakan untuk mengedit foto perempuan tanpa persetujuan pemiliknya. Fenomena ini menimbulkan kecaman dari berbagai kalangan dan memicu diskusi mendalam tentang etika penggunaan teknologi, perlindungan korban, serta isu kekerasan berbasis gender di dunia digital.

Beberapa tangkapan layar yang beredar menunjukkan bagaimana pengguna meminta AI Grok untuk mengubah foto perempuan dari kondisi berpakaian sopan menjadi tampil dalam pakaian minim. Hal ini tidak hanya menimbulkan ketidaknyamanan bagi pemilik foto, tetapi juga bisa dianggap sebagai bentuk pelecehan atau eksploitasi.

Salah satu pengguna X, @nd**, mengungkapkan kekhawatirannya terhadap tren ini. Ia menyebut praktik tersebut sebagai bentuk kekerasan berbasis gender yang difasilitasi teknologi. “Jika hal ini membuat pemilik foto merasa tidak nyaman, maka itu sudah masuk dalam kategori KBGO,” tulisnya dalam cuitannya.

Selain itu, pengguna lain seperti @@shylver**** juga melaporkan adanya kasus serupa, di mana foto perempuan berhijab diedit agar tampak tidak berhijab. Fenomena ini bukan hanya terjadi di Indonesia, tetapi juga mencuat di berbagai negara lain, termasuk Amerika Serikat.

Laporan awal tentang penyalahgunaan Grok muncul dari Straight Arrow News pada Mei 2024. Dilaporkan bahwa AI ini dapat dieksploitasi untuk mengedit foto perempuan menjadi tanpa busana. Isu ini semakin viral setelah diberitakan oleh 404 Media, yang menyoroti risiko penyalahgunaan teknologi manipulasi gambar tanpa izin.

ZONA GADGET.co.id melakukan pencarian di X dengan kata kunci ‘Grok’ dan menemukan beberapa foto perempuan yang telah diedit menjadi mengenakan bikini. Meskipun gambar tersebut bisa dilihat oleh siapa saja, untuk melihat teks atau cuitan terkait, pengguna harus berusia minimal 17 tahun.

Aturan Penggunaan AI di xAI

xAI, perusahaan di balik pengembangan Grok, memiliki kebijakan penggunaan yang jelas. Dalam xAI Acceptable Use Policy (AUP), disebutkan bahwa penggunaan layanan AI dilarang untuk kegiatan ilegal, berbahaya, atau merugikan individu. Beberapa larangan mencakup:

• Melanggar privasi seseorang atau hak atas publisitas,
• Menggambarkan kemiripan atau rupa seseorang dalam bentuk pornografi,
• Melakukan seksualisasi atau eksploitasi terhadap individu,
• Serta praktik penipuan, pelecehan, peretasan, penguntitan, hingga doxing.

Selain itu, xAI menegaskan prinsip “do not harm people”, yang mencakup larangan menggunakan AI untuk merugikan orang lain, mengambil tindakan tanpa izin atas nama pihak lain, atau menyesatkan publik terkait sumber dan sifat konten yang dihasilkan AI.

Meski aturan ini ada, pihak X belum memberikan pernyataan resmi terkait isu penyalahgunaan Grok. Elon Musk sebelumnya pernah memuji Grok sebagai AI yang “based” atau autentik dibandingkan chatbot AI pesaing.

Regulasi AI di Indonesia

Di Indonesia, Wakil Menteri Komunikasi dan Informatika (Komdigi) Nezar Patria mencatat peningkatan signifikan dalam peredaran video deepfake. Data Sensity AI menunjukkan peningkatan sebesar 550% dalam lima tahun terakhir. Nezar menyatakan bahwa jumlahnya mungkin lebih besar karena kemampuan aplikasi untuk membuat video atau foto deepfake yang sangat masif.

Untuk mengatasi masalah ini, ia meminta platform digital global seperti Google dan TikTok menyediakan fitur pengecekan foto maupun video AI. Hal ini bertujuan membantu masyarakat dalam mengenali hoaks dan deepfake.

Komdigi sedang menyiapkan dua regulasi terkait AI, yaitu Roadmap AI dan Peraturan Presiden (Perpres) terkait tata kelola keselamatan dan keamanan penggunaan AI. Selain itu, pemerintah juga sedang menyiapkan regulasi khusus pemanfaatan AI yang etis, bermakna, dan bertanggung jawab.

Indonesia telah memiliki kerangka hukum seperti UU ITE, UU PDP, PP Tunas, dan sejumlah peraturan teknis. Komdigi juga telah menerbitkan Surat Edaran Menteri Kominfo Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial. Surat edaran ini merumuskan prinsip etika AI, antara lain:

• Kemanusiaan, yakni kewajiban menghormati hak asasi manusia, relasi sosial, nilai budaya, dan martabat individu;
• Keamanan dan pelindungan data pribadi, untuk memastikan tidak ada pihak yang dirugikan akibat pemrosesan data berbasis AI;
• Inklusivitas dan non-diskriminasi, agar AI tidak memperkuat ketimpangan sosial maupun bias gender;
• Transparansi, termasuk keterbukaan mengenai data dan proses pengembangan AI;
• Akuntabilitas dan kredibilitas, sehingga hasil keluaran AI dapat dipertanggungjawabkan kepada publik.

Surat edaran ini juga menekankan bahwa pelaku usaha dan penyelenggara sistem elektronik wajib memiliki kebijakan internal terkait data dan etika AI, serta bertanggung jawab melakukan pengawasan agar teknologi tidak disalahgunakan.

Direktur Jenderal Pengawasan Ruang Digital Kementerian Komdigi Alexander Sabar menekankan bahwa kasus DeepFake masih mengacu pada surat edaran tersebut. Meski aturan spesifik untuk AI belum ada, Undang-Undang Informasi dan Transaksi Elektronik (UU ITE) serta UU pornografi sudah tersedia untuk melindungi masyarakat.