Komentar: Gambar vulgar rekayasa AI memang palsu, tapi lukanya nyata

LEEDS, Inggris: Banyak perempuan mengalami tekanan psikologis berat setelah Grok, chatbot AI di platform media sosial X, menanggalkan pakaian dari foto mereka dan menampilkannya seolah mengenakan bikini, berada dalam posisi sensual, atau bersimbah darah dan memar. Grok, seperti alat AI lainnya, juga dilaporkan digunakan untuk menghasilkan materi pelecehan seksual terhadap anak.

Menanggapi situasi tersebut, pemerintah Inggris menyatakan akan mempercepat pemberlakuan undang-undang yang disahkan pada Juni 2025, yang melarang pembuatan gambar vulgar berbasis AI tanpa persetujuan. Setelah pemblokiran diberlakukan di Malaysia dan Indonesia, Grok kini diperbarui agar tidak lagi membuat gambar vulgar terhadap orang nyata di wilayah-wilayah yang menganggapnya ilegal, termasuk Inggris.

Pemilik X, Elon Musk, mengklaim pemerintah Inggris hanya mencari-cari “alasan untuk melakukan sensor”. Regulator media Inggris, Ofcom, juga tengah menyelidiki apakah aktivitas X melanggar hukum Inggris.

Sebagian pengguna X meremehkan dampak dari gambar-gambar yang “menelanjangi” seseorang ini. Mereka menyebutnya cuma gambar “palsu”, “fiktif”, “hanya karya seni yang sangat realistis”, atau “tidak lebih nyata daripada kartun Tom & Jerry”.

Anda mungkin mengira gambar buatan dan hasil olahan AI hanya berbahaya karena bersifat menipu — gambar palsu yang mengelabui kita tentang keadaan nyata. Namun, mengapa tetap bisa menyakiti seseorang?

Meski berbasis pada foto asli, konten seksual dalam gambar-gambar yang “ditelanjangi” atau “dinudifikasi” itu memang tidak betulan. Namun gambar-gambar tersebut sangat realistis. Realisme ini, ditambah dengan misogini yang mendorong pembuatannya, sudah cukup menimbulkan beban psikologis yang signifikan bagi para korban.

BAGAIMANA GAMBAR “TELANJANG” MENIMBULKAN DAMPAK BURUK

Anggota parlemen Inggris Jess Asato dan korban lainnya menggambarkan perasaan ganjil saat melihat gambar diri mereka yang “ditelanjangi” secara digital. “Tentu saja saya tahu ini buatan AI, tetapi secara emosional terasa sangat, sangat nyata, sehingga berat sekali rasanya melihat foto saya dalam kondisi seperti itu,” kata Asato kepada BBC.

Riset di bidang filsafat dan psikologi membantu menjelaskan pengalaman tersebut. Bayangkan Anda berdiri di puncak gedung tinggi dan menatap ke bawah. Anda tahu sepenuhnya bahwa Anda aman, tetapi tetap saja merasa takut pada ketinggian. Atau Anda menonton film horor, lalu gelisah sepanjang malam. Dalam situasi seperti ini, emosi Anda bersifat “recalcitrant”: perasaan yang kuat dan bertentangan dengan apa yang secara rasional Anda yakini benar.

Melihat diri sendiri “ditelanjangi” secara digital memicu emosi recalcitrant yang sangat kuat. Penampilan digital menjadi bagian penting dari identitas seseorang. Dan gambar yang “dinudifikasi” benar-benar tampak seperti tubuh subjeknya, karena dibuat berdasarkan foto asli mereka.

Karena itu, meski korban tahu gambar-gambar tersebut palsu, tingkat kemiripannya telah memanipulasi emosi mereka. Para korban bisa merasa terasing, didehumanisasi, dipermalukan, dan dilanggar haknya, seolah-olah gambar vulgar yang dibagikan itu adalah asli. Dampak ini akan semakin parah dengan berkembangnya video AI dengan konten seksual yang kian realistis.

Penelitian menunjukkan bahwa penyebaran gambar telanjang atau seksual tanpa persetujuan “memiliki konsekuensi psikologis yang signifikan, sering kali sama dampaknya seperti korban kekerasan seksual”.

Di luar dampak psikologisnya, para korban juga merasa ngeri oleh motivasi yang sangat nyata di balik pembuatan gambar-gambar tersebut. Ada seseorang di luar sana yang merasa berhak mengolah foto Anda, memerintahkan Grok untuk menanggalkan pakaian dan mereduksi Anda menjadi sekadar tubuh yang tidak bisa memberi persetujuan. Penyebaran gambar-gambar ini secara masif turut berfungsi mengendalikan bagaimana perempuan mengekspresikan diri secara daring.

Video deepfake seksual dan gambar “telanjang” — baik yang menargetkan selebritas, politisi, maupun warga biasa — dimaksudkan untuk mempermalukan perempuan. Pola pikir misoginis di balik gambar-gambar ini nyata dan familiar, meskipun kontennya sendiri palsu.

DAMPAK BURUK DI DUNIA VIRTUAL

Tekanan akibat gambar-gambar “telanjang” ini mirip dengan bentuk misogini digital lain yang semakin meluas, yakni penyerangan dan pelecehan terhadap perempuan di dunia virtual. Banyak perempuan di ruang realitas virtual melaporkan avatar mereka diserang oleh pengguna lain, persoalan yang telah lama muncul dalam gim video dan kian memburuk ketika headset realitas virtual (VR) menghadirkan pengalaman imersif yang membuat serangan itu seakan nyata.

Para whistleblower mengklaim Meta menutup-nutupi lemahnya perlindungan anak di platform VR miliknya, dengan anak perempuan berusia sembilan tahun dilaporkan kerap dilecehkan dan diajak berhubungan oleh pria dewasa. Meta membantah tuduhan tersebut. Seorang juru bicara perusahaan mengatakan kepada Washington Post bahwa platform VR Meta memiliki fitur keselamatan untuk melindungi anak, termasuk pengaturan bawaan yang membatasi pengguna remaja agar hanya dapat berkomunikasi dengan orang yang mereka kenal.

Penyerangan di dunia virtual juga kerap dianggap “tidak nyata”, meski trauma yang ditimbulkan serupa dengan kekerasan fisik. Tampilan realitas virtual yang menyerupai kenyataan, keterikatan kuat seseorang dengan avatarnya, serta dorongan misoginis di balik penyerangan virtual memungkinkan timbulnya dampak psikologis yang serius, meski tanpa kontak fisik.

Kasus-kasus ini menunjukkan bagaimana misogini berevolusi seiring perkembangan teknologi. Kini, pengguna bisa membuat dan ikut terlibat dalam bentuk-bentuk kekerasan digital yang terlihat nyata, mulai dari gambar “telanjang”, video deepfake, hingga penyerangan virtual dan pelecehan terhadap chatbot serta boneka seks yang meniru orang sungguhan.

Bentuk-bentuk media ini menimbulkan dampak yang signifikan, tetapi lambat diregulasi karena dianggap tidak melukai korban secara fisik. Memblokir platform media sosial seperti X bukanlah solusinya. Yang dibutuhkan adalah regulasi proaktif yang mampu mengantisipasi dan melarang dampak buruk digital ini, bukan aturan yang baru dibuat setelah kerusakan terjadi.

Para korban yang “ditelanjangi” oleh Grok atau diserang di dunia virtual bukanlah orang yang “terlalu peka”. Mengabaikan dampak psikologis nyata dari media semacam ini hanya karena gambar-gambarnya palsu adalah sebuah kekeliruan.

Alex Fisher adalah peneliti pascadoktoral Society for Applied Philosophy di University of Leeds. Artikel opini ini pertama kali diterbitkan oleh The Conversation.