- Langkah kedua negara mencerminkan peningkatan kekhawatiran global terhadap perangkat AI generatif.
- Musim panas lalu perusahaan menambahkan fitur generator gambar, Grok Imagine, yang mencakup ‘mode pedas’.
JERNIH — Malaysia dan Indonesia menjadi negara pertama yang memblokir Grok, chatbot AI yang dikembangkan xAI –perusahaan milik Elon Musk.
“Pemerintah memandang deepfake seksual tanpa persetujuan sebagai pelanggaran serius terhadap hak asasi msnusia, martabat, dan keselamatan warga di ruang digital,” kata Menteri Komunikasi Digital RI Meutya Hafid, dalam pernyataan yang dikeluarkan Sabtu lalu.
Di Kuala Lumpur, Komisi Komunikasi dan Multimedia Malaysia memerintahkan pembatasan sementara terhadap Grok pada hari Minggu setelah apa yang disebutnya sebagai “penyalahgunaan berulang” alat tersebut untuk menghasilkan gambar cabul, eksplisit secara seksual, dan manipulasi tanpa persetujuan, termasuk konten yang melibatkan perempuan dan anak di bawah umur.
Langkah kedua negara mencerminkan peningkatan kekhawatiran global terhadap perangkat AI generatif yang dapat menghasilkan gambar, suara, dan teks realistis, dengan pengamanan yang tersedia gagal mencegah penyalahgunaan.
Grok, yang diakses melalui platform media sosial X, dikritik di banyak negara karena menghasilkan gambar yang dimanipulasi, termasuk penggambaran wanita berbikini atau pose eksplisit seksual, serta gambar yang melibatkan anak-anak.
Diluncurkan pada tahun 2023, Grok gratis untuk digunakan di X. Pengguna dapat mengajukan pertanyaan di platform media sosial dan menandai postingan yang mereka buat sendiri atau balasan untuk postingan dari pengguna lain. Musim panas lalu perusahaan menambahkan fitur generator gambar, Grok Imagine, yang mencakup apa yang disebut “mode pedas” yang dapat menghasilkan konten dewasa.