Kebijakan Meta AI yang Mengundang Kontroversi
Dokumen internal dari Meta, induk perusahaan Instagram, mengungkapkan adanya kebijakan yang memungkinkan chatbot AI berperilaku romantis dan sensual terhadap pengguna anak-anak. Dokumen ini menyebutkan bahwa Meta AI diperbolehkan untuk memberikan respons yang tidak sesuai dengan standar etika, termasuk membuat informasi medis palsu atau membuat pernyataan rasis.
Menurut dokumen tersebut, ada pedoman komunitas yang memungkinkan chatbot membuat pernyataan merendahkan terhadap kelompok berdasarkan ras. Contohnya, menulis bahwa orang kulit hitam lebih bodoh daripada orang kulit putih. Selain itu, dalam beberapa kasus, chatbot diperbolehkan membuat konten fiktif selama menyertakan keterangan bahwa informasi tersebut tidak benar.
Perubahan Kebijakan yang Dilakukan Meta
Meta telah menghapus bagian dari dokumen yang menyatakan bahwa chatbot diperbolehkan menggoda atau bermain peran romantis dengan anak-anak. Juru bicara Meta, Andy Stone, mengatakan bahwa contoh dan catatan tersebut salah dan tidak konsisten dengan kebijakan perusahaan. Ia menambahkan bahwa Meta memiliki kebijakan yang melarang seksualitas anak-anak dan permainan peran seksual.
Namun, Stone juga mengakui bahwa penegakan aturan di lapangan tidak selalu konsisten. Meta menolak untuk membagikan versi revisi dokumen tersebut. Dalam dokumen yang bocor, disebutkan bahwa Meta AI diizinkan menggambarkan anak berdasarkan daya tarik, seperti menyebut “bentuk tubuh Anda adalah sebuah karya seni” atau mengatakan kepada anak berusia delapan tahun bahwa “meski tanpa baju, setiap inci dari Anda adalah sebuah mahakarya”.
Meskipun demikian, Meta AI dilarang menggambarkan anak di bawah 13 tahun dalam konteks yang menunjukkan daya tarik seksual eksplisit.
Isu-isu Lain dalam Dokumen
Selain isu seksualitas anak, dokumen tersebut juga mencakup ketentuan lain yang memungkinkan chatbot membuat pernyataan merendahkan terhadap kelompok berdasarkan ras. Contoh yang disebutkan adalah membuat paragraf yang berpendapat bahwa orang kulit hitam lebih bodoh daripada orang kulit putih.
Meta AI juga diperbolehkan membuat konten fiktif atau menyesatkan selama mencantumkan bahwa informasi itu tidak benar. Misalnya, menuduh seorang bangsawan Inggris yang masih hidup mengidap penyakit menular seksual, selama diberi klaim bahwa pernyataan itu palsu.
Pedoman tersebut turut mengatur pembuatan konten visual, termasuk batasan gambar tokoh publik. Beberapa permintaan gambar seksual eksplisit tokoh seperti Taylor Swift harus ditolak, sementara permintaan yang lebih samar dapat dialihkan misalnya, dengan menggambar Swift memegang ikan besar di dadanya sebagai pengganti gambar telanjang.
Masalah Keamanan dan Etika
Isu kekerasan juga dibahas dalam dokumen tersebut. AI diperbolehkan membuat gambar anak-anak berkelahi atau orang dewasa dipukul, selama tidak menampilkan gore alias gambar sadis atau kematian.
Seorang asisten profesor di Fakultas Hukum Stanford, Evelyn Douek, yang mempelajari regulasi pidato perusahaan teknologi, menilai isi pedoman tersebut memunculkan dilema hukum dan etika. “Secara hukum jawabannya belum jelas, tetapi secara moral dan teknis, ini jelas pertanyaan yang berbeda,” ujarnya.
