JERNIH – Generator video berbasis AI Grok Imagine, yang dikembangkan oleh xAI milik Elon Musk, tengah menuai sorotan setelah dituduh sengaja memproduksi konten seksual eksplisit tanpa diminta. Kasus ini menjadi perbincangan hangat setelah The Verge melaporkan temuannya, termasuk video deepfake yang menampilkan penyanyi Taylor Swift secara vulgar.
Clare McGlynn, profesor hukum dari Universitas Durham sekaligus penyusun rancangan undang-undang anti–deepfake pornografi di Inggris, menilai kasus ini sebagai bukti adanya bias misoginis dalam teknologi AI.
“Ini bukan kebetulan. Misogini ini disengaja. Platform seperti xAI memiliki kemampuan untuk mencegahnya, tetapi memilih untuk tidak melakukannya,” tegas McGlynn.
TANPA SENSOR
Dalam uji coba yang dilakukan Jess Weatherbed dari The Verge, permintaan sederhana seperti “Taylor Swift merayakan Coachella bersama para pria” awalnya hanya menghasilkan gambar diam Swift dalam balutan gaun. Namun, saat dianimasikan dengan pengaturan “spicy”, video tersebut berubah menjadi klip eksplisit tanpa sensor, menampilkan Swift hanya mengenakan pakaian dalam dan menari.
“Sungguh mengejutkan betapa cepatnya saya melihatnya — saya sama sekali tidak memintanya untuk melepaskan pakaiannya,” ujar Weatherbed.
Yang lebih memprihatinkan, Grok Imagine—meski layanan berbayar (£30)—hanya meminta tanggal lahir pengguna tanpa verifikasi usia yang memadai. Padahal, sejak Juli 2025, undang-undang baru di Inggris mewajibkan platform berkonten eksplisit menerapkan verifikasi usia yang “akurat secara teknis, andal, dan adil.”
Ofcom, regulator media Inggris, menyatakan tengah memantau risiko AI generatif, terutama bagi anak-anak, dan mendesak platform untuk segera memasang perlindungan ketat.
Di sisi lain, kebijakan resmi xAI sebenarnya melarang keras penggambaran orang dengan cara pornografis. Namun hingga kini, pihak xAI belum memberikan komentar resmi terkait tuduhan ini.
Insiden ini mengingatkan publik pada kasus Januari 2024, ketika deepfake eksplisit Taylor Swift menyebar luas di X (Twitter) dan Telegram. Saat itu, pihak X sampai memblokir pencarian nama Swift serta menindak akun-akun penyebarnya. Weatherbed mengaku menguji Grok Imagine dengan nama Swift justru karena kasus tersebut, dengan asumsi xAI telah memberi perlindungan ekstra untuk figur publik—namun ternyata tidak demikian.
AMANDEMEN UU
Di Inggris, pembuatan deepfake pornografi ilegal jika digunakan untuk balas dendam atau melibatkan anak-anak. Namun, Clare McGlynn bersama Baroness Owen kini mendorong amandemen undang-undang agar semua bentuk deepfake pornografi non-konsensual dikriminalisasi.
“Setiap perempuan berhak mengontrol gambar intimnya, terlepas dari status selebritasnya,” tegas Baroness Owen, mendesak pemerintah untuk segera mengesahkan amandemen tersebut.
Pemerintah Inggris melalui juru bicara Kementerian Kehakiman juga menegaskan, “Deepfake eksplisit seksual yang dibuat tanpa persetujuan merendahkan dan berbahaya. Kami tidak akan menoleransi kekerasan terhadap perempuan dan anak perempuan.”
Meski pemerintah telah berkomitmen mengesahkan amandemen tersebut, undang-undang baru itu belum resmi berlaku.(*)
BACA JUGA: Elon Musk Menawarkan Diri Menjadi Ayah Biologis Seorang Anak dari Rahim Taylor Swift
