Aplikasi dengan Konten Tidak Pantas
Dalam penyelidikannya, Proyek Transparansi Teknologi mencari istilah seperti “nudify” dan “undress” di kedua toko aplikasi dan menemukan banyak hasil yang mencolok. Banyak aplikasi ini menggunakan AI untuk menghasilkan video atau gambar berdasarkan perintah pengguna, atau untuk menempelkan wajah seseorang ke dalam tubuh orang lain, yang dikenal dengan istilah “face swapping”.
Kekhawatiran muncul ketika aplikasi seperti DreamFace, yang merupakan generator gambar/video AI dan masih tersedia di Google Play Store namun telah dihapus dari Apple App Store, menunjukkan bahwa tidak ada batasan ketika pengguna memasukkan perintah cabul untuk menampilkan wanita telanjang. Aplikasi ini memungkinkan pengguna untuk membuat satu video gratis setiap hari menggunakan perintah, setelah itu mereka harus berlangganan fitur berbayar. Menurut statistik dari AppMagic, aplikasi ini telah menghasilkan pendapatan sebesar $1 juta.
