ZONAGADGET
– Media sosial TikTok kini menjadi perhatian besar setelah dihiasi oleh berbagai konten video hasil AI yang memuat stereotipe rasialis serta materi bermusuhan. Konten-konten tersebut disinyalir dibuat menggunakan teknologi AI mutakhir milik Google bernama Veo 3.
Peristiwa ini mendapat perhatian khusus dari lembaga swadaya masyarakat Amerika Serikat yang sekaligus bertindak sebagai pengawas media,
Media Matters for America
dalam laporan terbarunya.
Banyak video berisi rasisme yang menyebar di TikTok diketahui mendapatkan jutaan tampilan,
view
) sebelum akhirnya dihapus.
Belum diketahui secara pasti bagaimana video-videonya dibuat.
Namun, rangkaian video itu menunjukkan beberapa persamaan teknis yang menuju kepada satu kesimpulan, yaitu sangat mungkin dibuat dengan menggunakan Google Veo 3, model kecerdasan buatan untuk pembuatan video (teks-ke-video) yang diluncurkan pada bulan Mei tahun 2025.
Berdasarkan laporan dari Media Matters, sebagian besar video AI rasial yang menjadi tren di TikTok memiliki panjang 8 detik. Batasan waktu tersebut adalah durasi terpanjang yang dapat ditetapkan untuk pembuatan video dengan aplikasi Veo 3 pada masa kini.
Beberapa video bahkan menampilkan watermark bertuliskan “Veo” di sudut layar. Sementara sebagian video lainnya menyisipkan tagar atau keterangan terkait #Veo3 dalam deskripsi unggahan atau nama pengguna.
Bukti yang dijumpai meliputi durasi rekaman,
watermark
, serta tagar dan
username
yang menyebut langsung Veo 3, mengindikasikan bahwa teknologi inilah yang digunakan untuk memproduksi konten tersebut,” tulis Media Matters dalam laporan resminya.
Konten video yang ditemukan umumnya menampilkan stereotip rasis terhadap komunitas kulit hitam, menggambarkan mereka dengan cara-cara yang melecehkan seperti sebagai kriminal, orangtua yang tidak bertanggung jawab, atau bahkan digambarkan sebagai hewan.
Media Matters juga mengidentifikasi video yang mempromosikan stereotip anti-Yahudi (persepsi negatif terhadap komunitas Yahudi), materi yang melecehkan para migran, dan potongan film yang berkaitan dengan insiden bersejarah yang traumatik, misalnya Holokaus (penganiayaan besar-besaran terhadap jutaan orang Yahudi oleh rezim Jerman-Nazi) maupun tindakan kekerasan Klu Klux Klan terhadap penduduk kulit hitam Amerika Serikat.
Banyak di antara videonya dirancang dalam bentuk “mematikan” atau sindiran agar mengundang respons dari pengguna TikTok.
Menurut Media Matters, banyak komentar di unggahan asli yang mengulang atau mendukung stereotip rasis yang ditampilkan dalam video tersebut.
Artinya, tidak hanya videonya bermasalah, tetapi komentar-komentar dari pengguna juga berisi kalimat-kalimat rasis yang memperkuat atau menyetujui pesan diskriminatif dalam video.
Inilah yang diyakini membuat video AI rasis itu menjadi viral. Mengingat cara kerja algoritma TikTok di mana semakin tinggi respons pengguna (baik berupa komentar,
like
, atau
share
maka semakin tinggi kemungkinan videonya muncul di berbagai tempat
timeline
(For You Page/FYP).
Sudah dihapus, akun diblokir
Pihak TikTok mengeklaim telah menghapus sejumlah akun dan video yang teridentifikasi dalam laporan Media Matters, bahkan menyebut sebagian besar akun tersebut telah diblokir sebelum laporan diterbitkan.
“Kami secara proaktif menegakkan aturan ketat terhadap ujaran kebencian dan perilaku berbahaya,” kata Ariane de Selliers, juru bicara TikTok, dalam pernyataannya kepada The Verge.
“Akun-akun yang disebutkan telah kami tangani, banyak di antaranya sudah diblokir sebelum laporan ini dipublikasikan,” lanjutnya.
TikTok memiliki kebijakan tegas terhadap konten berbau diskriminasi. Dalam pedomannya disebutkan bahwa platform “tidak merekomendasikan konten yang memuat stereotip negatif terhadap individu atau kelompok dengan atribut yang dilindungi”.
Namun, munculnya videovideo semacam ini memicu keraguan mengenai keefektifan sistem peninjauan konten yang dilakukan secara otomatis, khususnya saat konten tersebut dihasilkan oleh AI dan diterbitkan dalam jumlah besar melalui akun-akun tak dikenal atau robot.
Menurut laporan
ArsTechnica
di dalam kebijakan penggunaan layanan mereka (Kebijakan Pengguna Terlarang), Google melarang pemanfaatan layanannya untuk menyebarkan kata-kata yang bersifat permusuhan, menghina, merendahkan, menakut-nakuti, serta melakukan penyalahgunaan.
Namun pada kenyataannya, seluruh video yang diungkapkan oleh Media Matters terlihat masuk ke dalam salah satu atau beberapa kategori tersebut.
Dari sudut pandang teoritis, Veo 3 seharusnya tidak mau menyediakan pembuatan video yang dilarang. Tetapi ternyata ada celah yang masih sangat luas, khususnya ketika kecerdasan buatan tersebut kesulitan memahami makna simbolis atau sindiran dari instruksi yang diberikan.
Contohnya, pemanfaatan keledai sebagai substitusi bagi manusia dalam sejumlah video. Atau pemakaian lambang makanan seperti melon dan ayam panggang untuk melecehkan atau menurunkan martabat komunitas berkulit hitam, terutama di Amerika Serikat.
Sampai dengan laporan ini diketik, Google masih belum mengeluarkan pernyataan resmi mengenai dugaan penggunaan Veo 3 dalam pembuatan konten rasialis, seperti yang dilaporkan oleh KompasTekno dari PCMag, Senin (7/7/2025).
Berdasarkan pemantauan tambahan, video berisi rasisme yang menggunakan AI juga terjadi pada tingkat yang lebih rendah di YouTube maupun Instagram. Hal ini mengindikasikan bahwa penyalahgunaan teknologi AI generatif untuk membuat konten negatif tidak hanya menjadi masalah TikTok, tetapi juga seluruh sektor industri.
Walaupun telah dihapus, Media Matters tetap menyusun beberapa video rasial yang menjadi tren di TikTok ke dalam sebuah video dengan durasi kira-kira dua menit 22 detik sebagai alat bukti. Tetapi penting untuk diketahui bahwa video tersebut memuat materi diskriminatif serta anti-Semitisme.
Tontonlah dengan risiko Anda sendiri!
