Profit dari Aplikasi Berbahaya
Perlu dicatat bahwa baik Google maupun Apple mengenakan persentase yang signifikan (hingga 30%) untuk pembelian dalam aplikasi, seperti langganan, yang secara efektif memberikan keuntungan dari aplikasi-aplikasi berbahaya ini. Contoh lain adalah Collart, yang juga merupakan generator gambar/video AI yang masih tersedia di Google Play Store namun telah dihapus dari Apple App Store. Aplikasi ini tidak hanya menerima perintah untuk “nudify” wanita, tetapi juga menerima perintah untuk menggambarkan mereka dalam situasi pornografi tanpa batasan yang jelas.
Bahaya Aplikasi Face Swap
Aplikasi face swap bahkan lebih berbahaya dan predator, karena mereka menempelkan wajah orang yang dikenal pengguna ke tubuh telanjang. Aplikasi seperti RemakeFace masih tersedia di kedua toko aplikasi pada saat penulisan ini, dan laporan tersebut mengonfirmasi bahwa aplikasi ini dapat dengan mudah digunakan untuk menciptakan gambar telanjang tanpa persetujuan wanita.
Baik Google Play Store maupun Apple App Store melarang aplikasi yang menggambarkan nuditas seksual. Namun, seperti yang terungkap dalam laporan ini, aplikasi-aplikasi tersebut didistribusikan melalui toko aplikasi (dengan langganan dalam aplikasi) meskipun jelas melanggar kebijakan yang ada. Jelas bahwa toko aplikasi belum mampu mengikuti perkembangan aplikasi deepfake AI yang dapat “nudify” orang tanpa izin mereka. Platform memiliki tanggung jawab yang jelas untuk melindungi pengguna, dan kita berharap mereka dapat memperketat pedoman serta fokus pada pemantauan proaktif terhadap aplikasi semacam ini daripada hanya bereaksi terhadap laporan.
Kami telah menghubungi Google dan Apple untuk meminta komentar mengenai masalah ini. Kami akan memperbarui artikel ini ketika kami mendapatkan respons dari perusahaan tersebut.
Sumber: https://www.androidauthority.com/google-apple-ai-nudify-apps-3635836/
