Langkah Pencegahan yang Diharapkan
Penyelidikan ini akan mengevaluasi apakah X telah menerapkan langkah-langkah pencegahan yang memadai sebelum dan setelah peluncuran fitur Grok. Selain itu, penyelidikan juga akan menilai apakah perusahaan telah memenuhi kewajiban dalam mengidentifikasi dan memitigasi risiko sesuai dengan ketentuan DSA. Henna Virkkunen, Wakil Presiden Eksekutif Komisi Eropa yang bertanggung jawab atas kedaulatan teknologi, keamanan, dan demokrasi, menekankan bahwa pembuatan dan penyebaran konten deepfake seksual tanpa persetujuan adalah bentuk pelecehan yang sangat tidak dapat diterima.
Perlindungan untuk Pengguna di Era Digital
Komisi Eropa juga menekankan pentingnya perlindungan yang lebih kuat bagi pengguna, terutama perempuan dan anak-anak, dalam era digital saat ini. Penyelidikan ini adalah bagian dari upaya UE untuk mengawasi regulasi digital yang ketat dan memastikan bahwa penyedia platform digital besar bertanggung jawab atas konten yang diproduksi atau disebarkan melalui layanan mereka. Jika terbukti melanggar DSA, X dapat menghadapi sanksi administratif yang berat, termasuk denda yang signifikan dan perintah untuk memperbaiki praktik moderasi kontennya.
Kasus ini mencerminkan langkah-langkah serupa yang diambil oleh berbagai yurisdiksi di seluruh dunia yang juga merespons kontroversi terkait Grok. Di Inggris, India, dan negara-negara lain, regulator telah membuka penyelidikan atau mengambil tindakan terhadap penyebaran konten deepfake seksual yang melibatkan alat AI tersebut. Dengan demikian, penyelidikan Uni Eropa ini menjadi salah satu momen penting dalam pengawasan global terhadap teknologi kecerdasan buatan generatif dan tanggung jawab platform digital dalam mencegah penyalahgunaan yang dapat berdampak pada keamanan dan martabat manusia.
Sumber: https://tekno.kompas.com/read/2026/01/28/09020017/uni-eropa-bertindak-x-diperiksa-soal-konten-pornografi-buatan-grok-xai
