Freya melawan pembuatan konten berbasis AI. Menggunakan fitur swap dari Grok AI, oknum tak bertanggung jawab memanipulasi citra sang idola menjadi konten tak senonoh.
WWW.JERNIH.CO – Kasus penyalahgunaan teknologi kecerdasan buatan (Artificial Intelligence) yang menimpa Raden Rara Freyanasifa Jayawardana, atau yang lebih dikenal sebagai Freya JKT48, tengah masuk ke tahap menyelidikan. Kasus ini mencerminkan sisi gelap kemajuan teknologi yang mampu merugikan martabat seseorang melalui manipulasi digital.
Kasus ini bermula dari temuan sejumlah konten di media sosial X (sebelumnya Twitter) yang menampilkan foto-foto Freya dalam kondisi yang tidak pantas atau tak senonoh. Berdasarkan penyelidikan awal, foto-foto tersebut bukanlah dokumentasi asli, melainkan hasil manipulasi menggunakan teknologi AI.
Bentuk teknologi yang digunakan adalah Grok AI dan fitur Swap. Pelaku memanfaatkan kecerdasan buatan ini untuk mengubah atau memodifikasi foto asli Freya menjadi konten vulgar (seperti seolah-olah mengenakan pakaian tertentu yang tidak pantas) untuk kemudian disebarkan secara luas. Tindakan ini terjadi dalam rentang waktu yang cukup lama, yakni sekitar tahun 2022 hingga 2025, sebelum akhirnya dilaporkan secara resmi.
Hingga saat ini, identitas asli pelaku di balik penyalahgunaan tersebut masih dalam tahap penyelidikan oleh pihak kepolisian. Objek perkara yang dilaporkan merujuk pada beberapa akun di media sosial X, di antaranya akun dengan nama pengguna atau identitas yang berkaitan dengan @grok dan @swap (sebagai representasi alat/metode yang digunakan). Akun-akun ini diduga dengan sengaja mengunggah konten manipulasi tersebut seolah-olah konten itu adalah milik atau bagian dari identitas asli pelapor.
Freya, didukung oleh manajemen JKT48 Operation Team (JOT), telah mengambil langkah tegas dengan melaporkan kasus ini ke Polres Metro Jakarta Selatan. Laporan terdaftar dengan nomor LP/B/519/II/2026/SPKT/POLRES METRO JAKSEL/POLDA METRO JAYA tertanggal 5 Februari 2026. Kasus ini diproses menggunakan Pasal 35 juncto Pasal 51 Undang-Undang Nomor 1 Tahun 2024 (Perubahan Kedua UU ITE) tentang manipulasi data melalui media elektronik.
Pada hari Rabu, 11 Maret 2026, kepolisian mengonfirmasi telah melayangkan undangan klarifikasi. Freya dijadwalkan hadir untuk memberikan keterangan sebagai saksi pelapor pada hari Kamis, 12 Maret 2026.
Selain Freya, penyelidik juga berencana memeriksa tiga saksi lainnya guna mendalami bukti-bukti digital yang telah diserahkan.
Freya sendiri secara terbuka menyuarakan keprihatinannya. Melalui akun media sosialnya, ia mengingatkan publik untuk “berpikir lebih pintar daripada kecerdasan buatan” dan menekankan bahwa teknologi seharusnya digunakan dengan akal sehat dan empati, bukan untuk melukai atau merendahkan martabat orang lain.
Pihak manajemen JKT48 juga menyatakan komitmennya untuk mengawal kasus ini hingga tuntas demi melindungi seluruh anggotanya dari ancaman serupa.
GrokAI sendiri hingga kini terus menuai kontroversi, terutama pada fitur Swap yang memudahkan orang untuk memanipulasi foto. Pihak xAI menyatakan bahwa mereka terus memperbarui algoritma keamanan untuk mendeteksi penyalahgunaan fitur manipulasi gambar. Meski begitu, mereka sering kali lebih menekankan pada peran komunitas (Community Notes) untuk melakukan verifikasi fakta daripada melakukan sensor otomatis secara menyeluruh.
Sebuah ironi yang sangat berbanding terbalik dengan keinginan sang founder. Elon Musk sering menekankan bahwa Grok didesain untuk menjadi AI yang “maksimal dalam mencari kebenaran” dan tidak terlalu terikat oleh aturan political correctness yang ketat seperti kompetitornya.(*)
BACA JUGA: Grok AI di Titik Nadir, Akankah Elon Musk Sadar Diri?
