Mengapa Grok diblokir? Indonesia jadi negara pertama hentikan layanan AI milik X

JAKARTA: Layanan kecerdasan buatan Grok di platform media sosial X atau Twitter yang dimiliki taipan teknologi Elon Musk diblokir sementara di Indonesia. 

Pemutusan akses dilakukan Kementerian Komunikasi dan Digital di bawah arahan Menteri Komunikasi dan Digital Meutya Hafid, menjadikan Indonesia sebagai negara pertama yang mengambil langkah pemblokiran terhadap fitur AI tersebut.

Pemblokiran ini dilakukan menyusul maraknya peredaran konten asusila palsu atau deepfake di X. 

Seperti dilansir Antara, Sabtu (10/1), teknologi Grok memungkinkan pembuatan dan penyuntingan gambar seksual tanpa persetujuan, termasuk visualisasi perempuan dan anak-anak dalam pose seksual.

Konten deepfake tersebut dinilai menyerang kelompok rentan, terutama perempuan dan anak-anak, yang selama ini menjadi sasaran eksploitasi di ruang digital.

Menteri Komunikasi dan Digital Meutya Hafid menegaskan praktik pembuatan deepfake seksual non-konsensual merupakan pelanggaran serius terhadap hak asasi manusia dan martabat warga negara.

“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok,” kata Meutya.

“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” lanjutnya.

KOMDIGI MINTA PENJELASAN X

Selain melakukan pemblokiran, Komdigi juga mengirimkan permintaan resmi kepada platform X untuk memberikan klarifikasi. Pemerintah menuntut penjelasan terkait mitigasi dampak negatif serta celah keamanan pada Grok yang memungkinkan terciptanya konten terlarang.

“Kementerian Komunikasi dan Digital juga telah meminta Platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok,” tegas Meutya.

Langkah Indonesia ini mendapat perhatian internasional. Sejumlah pemerintah dan regulator global seperti Malaysia, Uni Eropa, dan Swedia sebelumnya telah mengecam praktik pembuatan deepfake seksual dan membuka penyelidikan. 

Malaysia bahkan dilaporkan menyusul Indonesia dengan melakukan pemblokiran terhadap Grok.

Dikutip dari The Independent, Minggu (11/1), xAI, perusahaan rintisan di balik Grok, mengakui adanya kegagalan sistem pengaman yang memungkinkan keluarnya konten seksual, termasuk visualisasi anak-anak berpakaian minim. 

xAI menyatakan telah membatasi fitur pembuatan dan penyuntingan gambar hanya untuk pelanggan berbayar sembari menutup celah keamanan tersebut.

Sementara itu, Elon Musk melalui platform X menyatakan siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama seperti jika mengunggah konten tersebut secara langsung.