Gambar-gambar bernuansa seksual yang dihasilkan Grok dilaporkan mencakup tokoh-tokoh publik seperti Selena Gomez, Taylor Swift, Billie Eilish, Ariana Grande, Nicki Minaj, Ice Spice, Christina Hendricks, Millie Bobby Brown, Wakil Perdana Menteri Swedia Ebba Busch, dan mantan Wakil Presiden AS Kamala Harris.
JERNIH – Chatbot kecerdasan buatan (AI) milik Elon Musk, Grok menghasilkan hampir tiga juta gambar bernuansa seksual hanya dalam waktu kurang dari dua minggu termasuk sekitar 23.000 gambar anak-anak.
Hal ini terungkap dalam penelitian yang diterbitkan Center for Countering Digital Hate (CCDH). Temuan tersebut telah memicu kekhawatiran global atas penyalahgunaan kecerdasan buatan dan kurangnya perlindungan pada platform-platform utama, terutama setelah pengguna mengeksploitasi alat tersebut untuk menelanjangi dan menseksualisasi gambar perempuan, tokoh publik, dan anak-anak.
Menurut CCDH, alat yang tersedia di X tersebut, “menjadi mesin berskala industri untuk produksi materi pelecehan seksual” selama periode dari 29 Desember 2025 hingga 8 Januari 2026. Generator gambar AI tersebut memungkinkan pengguna mengunggah foto asli, termasuk foto orang asing dan selebriti, dan mengubahnya menjadi versi yang berbau seksual tanpa persetujuan pemiliknya.
Puncak penggunaan terjadi pada 2 Januari, ketika hampir 200.000 permintaan diajukan dalam satu hari, berdasarkan data dari perusahaan intelijen digital Peryton Intelligence, yang memantau tren ekstremisme dan penyalahgunaan daring.
Analisis CCDH mengungkapkan bahwa, selama periode 11 hari tersebut, Grok memproduksi gambar-gambar yang mengandung unsur seksualisasi anak-anak dengan perkiraan kecepatan satu gambar setiap 41 detik.
Fitur Tidak Sepenuhnya Dihentikan
Gambar-gambar bernuansa seksual yang dihasilkan Grok dilaporkan mencakup tokoh-tokoh publik seperti Selena Gomez, Taylor Swift, Billie Eilish, Ariana Grande, Nicki Minaj, Ice Spice, Christina Hendricks, Millie Bobby Brown, Wakil Perdana Menteri Swedia Ebba Busch, dan mantan Wakil Presiden AS Kamala Harris.
Salah satu contoh meresahkan yang dikutip CCDH termasuk swafoto seorang siswi diubah menjadi gambar dirinya mengenakan bikini, yang menyoroti bagaimana konten sehari-hari dengan mudah diubah menjadi materi seksual tanpa persetujuan.
Fitur tersebut dibatasi untuk pengguna premium (berbayar) pada 9 Januari, menyusul kecaman internasional. Perdana Menteri Inggris Keir Starmer mengecam situasi tersebut sebagai “menjijikkan” dan “memalukan.” Pemerintah di Indonesia dan Malaysia juga menanggapi dengan memblokir akses ke alat AI tersebut.
Di Amerika Serikat, Perwakilan Alexandria Ocasio-Cortez (DN.Y.) menanggapi pengungkapan tersebut dengan menyerukan undang-undang untuk mendukung korban penyalahgunaan deepfake. Unggahannya disambut dengan balasan yang menampilkan gambar dirinya yang telah diedit.
Penyalahgunaan AI dalam Skala Industri
Imran Ahmed, CEO CCDH, menyatakan, “Apa yang kami temukan jelas dan mengkhawatirkan: pada periode itu, Grok menjadi mesin berskala industri untuk produksi materi pelecehan seksual. Menelanjangi seorang wanita tanpa izinnya adalah pelecehan seksual.”
Dia mengkritik pendekatan Musk terhadap pertumbuhan platform, menuduh bahwa kontroversi seputar Grok sengaja dipicu untuk mendorong keterlibatan. “Apa yang Elon ciptakan adalah kontroversi, perhatian, keterlibatan, dan pengguna. Itu sangat mengganggu,” katanya.
Ahmed menambahkan bahwa hasil seperti itu mencerminkan masalah sistemik yang lebih dalam di dalam industri teknologi , dan memperingatkan, “Ini telah menjadi strategi standar bagi Silicon Valley… Insentifnya tidak selaras. Mereka mengambil keuntungan dari kejadian yang memalukan ini. Sampai regulator dan pembuat undang-undang menjalankan tugas mereka dan menciptakan ekspektasi minimum akan keselamatan, hal ini akan terus terjadi.”
X Menanggapi Kritik
Pada 14 Januari, X mengumumkan bahwa mereka telah menonaktifkan kemampuan Grok untuk mengedit gambar orang sungguhan agar menampilkan mereka dalam pakaian yang terbuka, termasuk untuk pelanggan berbayar.
Perusahaan tersebut merujuk media ke pernyataan sebelumnya: “Kami tetap berkomitmen untuk menjadikan X sebagai platform yang aman bagi semua orang dan terus menerapkan kebijakan nol toleransi terhadap segala bentuk eksploitasi seksual anak, ketelanjangan tanpa persetujuan, dan konten seksual yang tidak diinginkan. Kami mengambil tindakan untuk menghapus konten pelanggaran prioritas tinggi… dan melaporkan akun yang mencari materi eksploitasi seksual anak kepada pihak berwenang penegak hukum jika diperlukan.”
Meskipun sebelumnya menyatakan bahwa pemberantasan eksploitasi anak adalah “prioritas #1” setelah mengakuisisi Twitter pada tahun 2022, respons Musk menuai kritik. Pada 2 Januari, di tengah kontroversi tersebut, Musk memposting ulang gambar pemanggang roti berbikini yang diedit oleh AI, dengan komentar: “Tidak yakin mengapa, tetapi saya tidak bisa berhenti tertawa melihat yang satu ini.”
Mantan karyawan mengatakan bahwa kepemimpinan xAI secara konsisten lebih mengutamakan metrik keterlibatan daripada keamanan. Inisiatif internal seperti Spicy Mode dan karakter animasi seperti Ani dilaporkan dirancang untuk meningkatkan interaksi pengguna melalui konten yang sugestif. Kekhawatiran yang disampaikan oleh karyawan sering diabaikan, dan beberapa yang menentang fitur tersebut diduga dipaksa keluar.
Lembaga nirlaba Thorn, yang menyediakan perangkat perlindungan anak untuk perusahaan teknologi, mengakhiri kontraknya dengan X pada pertengahan tahun 2025 setelah adanya tagihan yang belum dibayar dan kekhawatiran yang belum terselesaikan mengenai komitmen platform tersebut terhadap keselamatan.