Soeharto 'hidup lagi': Maraknya deepfake dan upaya mengantisipasi ancaman penipuan berbasis AI

SINGAPURA: Mantan Presiden Indonesia, Soeharto, tiba-tiba 'hidup lagi' dan berkampanye mendukung salah satu partai politik. Sementara itu Perdana Menteri Singapura Lee Hsien Loong muncul mempromosikan salah satu bentuk investasi.

Video keduanya yang tersebar luas di dunia maya dikenal sebagai deepfake - gambar bergerak hasil rekaan mesin kecerdasan buatan atau AI.

Meski kedua video itu sudah dikonfirmasi adalah hasil manipulasi, namun perkembangan teknologi AI yang pesat akan membuat penciptaan klip serupa semakin mudah di masa depan. Mendeteksinya sebagai gambar palsu juga akan kian sulit.

Para pakar memperingatkan, teknologi ini akan menimbulkan masalah besar di Asia Tenggara lantaran digunakan oleh para pelaku kejahatan untuk penipuan. Beberapa kasus sudah terjadi belakangan ini.

Selain itu, keberadaan deepfake dan AI juga memunculkan kekhawatiran akan perundungan siber atau cyberbullying, memperburuk masalah yang sudah ada di kawasan ini.

Teknologi untuk menanggulanginya juga kian canggih, juga menggunakan AI untuk mendeteksi penipuan. Tapi menurut para pakar, itu belum cukup.

KEJAHATAN DENGAN AI

Perusahaan keamanan siber dan para pakar mendapati adanya peningkatan tindak kejahatan dengan menggunakan AI di Asia Tenggara. 

Asisten Profesor Nydia Remolina Leon dari Fakultas Hukum Yong Pung How, Singapore Management University (SMU), mengatakan akses teknologi AI yang semakin mudah menyebabkan "praktik penipuan canggih" juga kian marak.

Menurut Nydia, tren penipuan yang banyak muncul adalah penggunaan AI untuk membuat sosok menyerupai selebritis. Target penipuannya adalah para lansia dan mereka yang tidak melek teknologi.

Hal ini terjadi di Amerika Serikat. Sosok bintang Hollywood Tom Hanks dipalsukan dengan deepfake untuk menjual asuransi perawatan gigi, sementara figur mirip Taylor Swift digunakan untuk menjual peralatan memasak.

Sementara di Asia Tenggara, ahli keamanan siber menyebutkan salah satu deepfake yang ramai beredar adalah PM Singapura yang mempromosikan penipuan investasi.

Di Indonesia, mendiang Presiden Soeharto 'dihidupkan' lagi dengan deepfake jelang pemilu dan mengajak masyarakat mencoblos Partai Golongan Karya (Golkar). 

Menurut laporan dari platform verifikasi asal Inggris, Sumsub, penggunaan deepfake meningkat sebesar 1.530 persen di wilayah Asia-Pasifik antara 2022 dan 2023. Tidak disebutkan berapa jumlah sebenarnya dari penggunaan deepfake, namun Filipina dan Vietnam menempati dua posisi teratas dalam daftar pengguna. 

Sumsub mengatakan bahwa ekonomi digital Vietnam yang berkembang dan populasi online yang besar menjadikan negara itu target menggiurkan bagi para penipu online.

Di Hong Kong, sebuah perusahaan multinasional kehilangan HKD200 juta (Rp400 miliar) setelah penipu memanfaatkan deepfake untuk meniru sosok direktur keuangan dan karyawan lainnya dalam sebuah rapat Zoom. Kecuali korbannya, semua orang dalam rapat online tersebut adalah tokoh rekaan AI.

Video yang ditampilkan dalam penipuan itu bisa jadi adalah AI generatif "generasi berikutnya" dengan chatbot dan penghasil gambar yang telah merambah konsumen dan para pebisnis, kata Jonas Walker, direktur ancaman intelijen di FortiGuard Labs, bagian dari tim riset keamanan di perusahaan Fortinet.

Model AI baru OpenAI, Sora, memicu kehebohan di seluruh dunia ketika diluncurkan pertengahan Februari lalu. Sora mampu menciptakan video yang sangat realistis hanya dengan perintah teks.

Meski para penggemar AI akan gembira menyambut Sora yang mampu menghasilkan karya kreatif mencengangkan, namun Walker memperingatkan teknologi ini juga dikhawatirkan "menciptakan misinformasi yang serius".

WAJAH BARU PERUNDUNGAN DUNIA SIBER

Para ahli juga memperingatkan akan munculnya wajah baru perundungan siber akibat teknologi AI yang kian maju. Beberapa kasus tercatat pernah terjadi di Asia Tenggara.

Survei terbaru oleh pemerintah Singapura menunjukkan bahwa satu dari lima pemuda usia 13 hingga 18 tahun yang bermain gim online pernah mengalami perundungan dari pemain lainnya di dalam gim.

Survei 2022 di Malaysia terhadap lebih dari 33.000 siswa sekolah menengah menunjukkan bahwa satu dari lima remaja berusia 13 hingga 17 tahun pernah merundung dan melecehkan seseorang melalui internet dan perangkat seluler.

Sementara penelitian Microsoft pada 2020 di Vietnam menunjukkan bahwa dari setiap 10 pengguna internet di negara tersebut, lebih dari lima di antaranya terlibat dalam perundungan.

"Selayaknya perundungan fisik, perundungan siber juga bisa berdampak pada kesehatan fisik dan mental korbannya," kata Walker kepada CNA.

"Penggunaan dan akses AI yang semakin mudah dengan large language model memperburuk masalah ini."

Dalam hitungan menit saja, AI generatif bisa menganalisa postingan media sosial, aktivitas online atau informasi pribadi dari target sasarannya. AI, lanjut Walker, kemudian akan menghasilkan konten atau pesan yang luar biasa spesifik dan mengancam.

"Sebelum ada AI, seseorang yang melakukan perundungan online perlu waktu untuk merancang postingan dan pesan, dan berisiko terdeteksi dan tertangkap.

"Tapi AI dan automasi yang terdapat di dalamnya memperluas cakupan, tingkat keparahan dan kecepatan yang bisa dilakukan para perundung."

Yang paling menakutkan adalah, AI generatif "terus belajar", sehingga bisa memperparah tingkat perundungan di dunia maya.

AI UNTUK MEMERANGI KEJAHATAN SIBER

Seiring bermunculannya kasus penipuan dan perundungan dengan AI, perusahaan keamanan siber dan pemerintah harus terus menjadi yang terdepan dalam memeranginya. Untuk membendung kejahatan ini, mereka juga menggunakan teknologi AI.

Badan Sains dan Teknologi Singapura (HTX) saat ini sedang mengembangkan alat-alat penilaian berteknologi AI.

Tugas alat ini termasuk mendeteksi situs dan konten berbahaya, "perusakan web", serta pemalsuan audio dan video.

Cheryl Tan, wakil direktur pusat keahlian pembuatan indera dan pengawasan di HTX, mengatakan mereka tengah mencari large language model yang menyebabkan meningkatnya "potensi dan perkembangan penipuan phishing".

Beberapa perusahaan keamanan siber yang dihubungi CNA juga telah mengadopsi AI untuk membentengi diri dari serangan siber yang semakin canggih.

Salah satunya adalah alat penganalisa pola perilaku untuk mendeteksi anomali yang mengindikasikan potensi serangan, seperti yang disampaikan oleh Johan Fantenberg, Principal Solutions Architect APJ di Ping Identity.

Perusahaan lainnya, Infoblox, juga mempersenjatai tim keamanan siber mereka dengan AI untuk mendeteksi ancaman.

"Rata-rata, tim keamanan mendapatkan antara 500.000 hingga satu juta laporan keamanan, mulai dari ancaman palsu hingga serius," kata Paul Qilcox, Wakil Presiden Infoblox Asia Pasifik dan Jepang.

AI dalam keamanan siber "semakin penting" untuk melindungi sistem online, kata perusahaan keamanan siber Fortinet. Jika digunakan dengan benar, AI dapat dilatih untuk mendeteksi ancaman secara otomatis, mengidentifikasi jenis malware baru, dan melindungi data sensitif.

"Namun, perusahaan juga perlu menyadari bahwa penjahat siber memperbarui metode mereka untuk menyesuaikan dengan alat keamanan siber AI yang baru," kata Fortinet dalam sebuah artikel di situs webnya.

Meskipun beberapa negara di Asia Tenggara telah membuat aturan untuk menangani potensi penyalahgunaan AI, namun ini mungkin tidak cukup untuk membendung para penjahat siber, kata Wilcox dari Infoblox.

"Deteksi dini yang proaktif untuk pencegahan kejahatan jauh lebih efektif daripada merespons ancaman siber ketika peristiwa telah terjadi," tambahnya.

Namun, memiliki regulasi tentang AI masih lebih baik daripada tidak ada sama sekali, kata para pengamat, merujuk pada panduan regional tentang tata kelola dan etika AI yang diluncurkan bulan ini.

Meskipun sifatnya sukarela, namun panduan yang disusun ASEAN ini kemungkinan besar akan berpengaruh terhadap perusahaan dan juga para pembuat kebijakan, kata Benjamin Wong, dosen Fakultas Hukum di National University of Singapore (NUS).

Wong menambahkan bahwa pengesahan pedoman AI oleh negara-negara anggota ASEAN menunjukkan bahwa pemerintah sadar akan risiko yang ada, dan memiliki kesamaan pandangan dalam prinsip-prinsip transparansi, keamanan, privasi, dan tata kelola data.

MENGHADAPI TANTANGAN 

Para pengamat menunjukkan bahwa kuncinya adalah kerja sama, mengingat para pelaku kejahatan mulai meningkatkan operasi mereka.

Nydia dari SMU menyerukan perlunya "strategi yang lebih kompleks dan beragam" untuk memerangi kejahatan yang semakin canggih ini.

Menurut Nydia, selain mengerahkan piranti canggih untuk mendeteksi manipulasi AI, diperlukan juga edukasi tentang teknologi dan keuangan kepada para pengguna internet.

Dalam skala global, lanjut dia, lembaga penegak hukum dan keuangan harus bekerja sama untuk mengatasi ancaman ini, seperti halnya yang mereka lakukan terhadap ancaman lain terhadap sektor keuangan.

Di saat bersamaan, masyarakat juga harus mampu membentengi diri agar tidak menjadi korban.

Sangat penting bagi masyarakat untuk "mengikuti tren digital" dan mampu memahami era digital, kata Shem Yao, manajer kesehatan digital di lembaga nirlaba Singapura, TOUCH Wellness Group.

Bagi orang tua dan pelajar, selain pemahaman tentang AI, Yao juga menekankan pentingnya mendiskusikan penggunaan AI secara etis.

"Bimbingan dari orang tua sangat penting dalam membentuk pengalaman digital anak-anak," katanya.

"Meskipun AI deepfake adalah fenomena yang relatif baru, namun tidak dengan cyberbullying dan penipuan siber." 

TOUCH, kata dia, meyakini bahwa piranti dan platform teknologi itu sendiri bukanlah sesuatu "yang baik atau buruk". Deepfake misalnya, dapat digunakan untuk mengobati rasa rindu akan orang tercinta yang sudah tiada. 

"Yang terpenting adalah niat di balik penciptaan dan penggunaannya."