Anthropic gagalkan operasi manipulasi berbasis Claude yang sasar pemilih Malaysia

JOHOR BAHRU: Perusahaan kecerdasan buatan (AI) Anthropic mengatakan telah menghentikan platform komersial untuk manipulasi pemilu yang menyasar pemilih di Malaysia.

Operasi itu melibatkan sekitar 1.000 akun media sosial palsu, situs berita palsu, dan laporan intelijen rekayasa.

Platform itu menggunakan model AI Claude milik Anthropic untuk membangun sistem yang dapat membuat profil dan menyasar pemilih Malaysia berdasarkan daerah pemilihan (dapil), kata perusahaan Amerika Serikat itu dalam laporan intelijen ancaman yang diterbitkan Kamis (10/9).

Laporan tersebut mencakup aktivitas yang menurut Anthropic berhasil dihentikan antara Desember 2025 dan Agustus 2026, termasuk operasi siber, operasi pengaruh, pengawasan, penipuan, dan bentuk penyalahgunaan lainnya.

"Platform itu menyamar sebagai penyedia perangkat intelijen siber defensif dan penanggulangan disinformasi," kata Anthropic.

"Namun, penyelidikan kami menemukan kaitan jelas dengan BBS Bilisim Teknolojileri, perusahaan teknologi berbasis di Istanbul yang menjual akses ke platform tersebut sebagai layanan berbayar untuk menjalankan operasi pengaruh."

Anthropic tidak mengungkap siapa yang membayar untuk menggunakan platform tersebut dalam operasi yang menyasar Malaysia, maupun apakah operasi itu terkait dengan pemilu tertentu di negara tersebut.

Anthropic juga tidak menjelaskan secara pasti kapan operasi yang menyasar Malaysia itu berlangsung atau berapa lama dijalankan.

Dalam studi kasus berjudul "Menggagalkan platform manipulasi pemilu komersial yang menyasar Malaysia", Anthropic mengidentifikasi dan menghapus akun Claude yang terlibat, lalu menggunakan informasi dari akun tersebut untuk memetakan operasi yang lebih luas.

Menanggapi pertanyaan CNA, Komisi Komunikasi dan Multimedia Malaysia (MCMC) mengatakan, pihaknya "menanggapi persoalan yang diangkat Anthropic dengan serius".

"Untuk memperjelas, aktivitas seperti yang dijelaskan dalam laporan tersebut bukan bagian dari fungsi atau mandat MCMC, dan MCMC tidak terlibat dalam aktivitas atau pengaturan semacam itu," kata MCMC, regulator nasional industri komunikasi dan multimedia Malaysia.

MCMC tengah mempelajari laporan tersebut dan akan meminta informasi lebih lanjut dari pihak-pihak terkait untuk melakukan penilaian sebelum menentukan langkah yang tepat.

"Melindungi masyarakat dan menangani bahaya di dunia maya tetap menjadi tanggung jawab utama MCMC. MCMC akan terus menjaga dan memastikan lingkungan daring yang aman dan tepercaya bagi Malaysia."

1.000 AKUN X PALSU DIKONDISIKAN AGAR TAMPAK ASLI

Menurut laporan tersebut, operasi itu menggunakan data sensus dan pemilu asli serta "jutaan data pemilih" untuk membangun sistem penargetan pemilih yang mencakup seluruh 222 dapil parlemen di Malaysia.

Sistem tersebut dirancang untuk menyasar isu politik dan sosial paling sensitif di Malaysia, yang disebut Anthropic sebagai garis perpecahan terkait ras, agama, dan kerajaan.

Anthropic mengatakan, Claude digunakan untuk membuat profil setiap dapil berdasarkan data pemilu dan membantu mengembangkan infrastruktur yang menopang operasi pengaruh tersebut.

Platform itu mengelola lebih dari 1.000 akun palsu di platform media sosial X. Menurut laporan, akun-akun tersebut dilengkapi mekanisme "pematangan" agar terlihat seperti akun asli sebelum digunakan dalam operasi pengaruh.

Caranya, antara lain, dengan rutin memperbarui cookie dan alamat IP untuk menghindari sistem deteksi platform media sosial.

Anthropic menginformasikan, dasbor platform tersebut memungkinkan penggunanya menentukan jumlah tayangan palsu untuk target tertentu.

Dalam satu kasus, Anthropic menemukan permintaan satu juta tayangan palsu untuk sebuah akun "guna mendukung Perdana Menteri Malaysia yang sedang menjabat".
 

Laporan itu tidak mengungkap siapa yang meminta tayangan palsu tersebut dan tidak menemukan kaitan antara operasi itu dengan Perdana Menteri Anwar Ibrahim atau kantornya.

Anthropic juga mengingatkan bahwa angka interaksi yang tercatat dalam perangkat platform tersebut dilaporkan sendiri oleh pelaku dan tidak dapat diverifikasi secara independen.

Dalam salah satu contoh yang melibatkan akun seorang pejabat senior pemerintah Malaysia, platform itu mencatat angka interaksi hingga jutaan.

SITUS BERITA PALSU, LAPORAN INTELIJEN REKAYASA

Operasi tersebut tidak hanya dilakukan melalui media sosial.

Anthropic menyatakan, pelaku mengoperasikan situs berita palsu bernama "Malaysia Pulse", menggunakan AI untuk mengambil berita dari media Malaysia yang sah dan berulang kali menulis ulang isinya sebelum menerbitkannya dengan nama penulis fiktif.

Menurut laporan itu, Malaysia Pulse juga menerbitkan ulang materi dari media yang berafiliasi dengan pemerintah China dan Rusia, termasuk Xinhua, CGTN, Sputnik/RIA, dan TV BRICS.

Menurut Anthropic, keterangan yang menunjukkan organisasi tersebut sebagai media yang berafiliasi dengan pemerintah dihapus sehingga materinya seolah-olah merupakan pemberitaan independen dari Malaysia.

Anthropic mengidentifikasi malaysiapulse.com sebagai domain yang dikendalikan pelaku dan mengatakan situs itu didaftarkan pada 10 Mei tahun ini.

Anthropic juga mengaitkan kanal YouTube @malaysiapulseof dengan operasi berita palsu tersebut.

Pada saat yang sama, pelaku menggunakan Claude untuk membuat laporan intelijen palsu guna menyebarkan tuduhan bohong terhadap seorang politikus oposisi dan sejumlah organisasi masyarakat sipil, kata Anthropic, tanpa menyebut identitas mereka.

"Tuduhan-tuduhan ini sepenuhnya dibuat-buat oleh para pelaku," kata Anthropic.

CNA telah menghubungi Anthropic untuk meminta rincian mengenai politikus oposisi dan organisasi masyarakat sipil yang menjadi sasaran tuduhan palsu tersebut.

Anthropic mengatakan, sistem AI-nya menolak atau hanya memenuhi sebagian sejumlah permintaan pelaku, termasuk setelah Claude mengidentifikasi salah satu laporan sebagai materi yang ditujukan untuk fitnah politik.

Menurut laporan itu, pelaku kemudian mengubah redaksi permintaannya agar dapat terus mengembangkan kemampuan yang sama.

Anthropic menuturkan pelaku di balik operasi tersebut sempat berupaya mendapatkan kontrak dengan regulator komunikasi nasional Malaysia.

"Kami tidak menemukan bukti bahwa upaya tersebut berhasil," kata laporan itu.

Laporan tersebut tidak memberikan rincian lebih lanjut mengenai kontrak yang ditawarkan, termasuk kapan pendekatan dilakukan, layanan apa yang ditawarkan, atau sejauh mana pembicaraan berlangsung.

TAK ADA BUKTI OPERASI MENJANGKAU MASYARAKAT

Meski infrastrukturnya berskala besar dan canggih, Anthropic menyatakan, tidak menemukan bukti bahwa kampanye tersebut berhasil menembus masyarakat melalui internet.

"Aset-aset tersebut tersebar di berbagai platform, tetapi tidak ada bukti berhasil menembus komunitas autentik," kata Anthropic.

Anthropic mengatakan, akun yang terlibat terdeteksi melalui sistem internalnya dan kemudian dihapus. Informasi yang diperoleh selama penyelidikan lalu digunakan untuk memetakan jangkauan operasi yang lebih luas dan mencegah penyalahgunaan selanjutnya.

Kasus Malaysia merupakan satu dari beberapa contoh dalam laporan intelijen ancaman Anthropic pada September yang mengulas penyalahgunaan model AI Claude.

Kasus lainnya termasuk dugaan kampanye spionase siber terkait Rusia dan upaya perusahaan AI China yang dituding Anthropic mencoba mengambil dan meniru kemampuan Claude.

Pakar media baru Saifuddin Ahmed dari Wee Kim Wee School of Communication and Information, Nanyang Technological University, mengatakan kepada CNA bahwa operasi di Malaysia tersebut melampaui kampanye politik biasa dan "sudah masuk ke ranah manipulasi" karena mengandalkan penipuan dan penyamaran.

"Alih-alih berkomunikasi secara terbuka, para pelaku dilaporkan membuat akun media sosial palsu yang dirancang agar berperilaku seperti orang sungguhan dan mendirikan situs berita palsu yang menerbitkan ulang berita dari sumber sah," kata Saifuddin.

"Jadi, ini bukan sekadar menyasar pemilih secara lebih efektif; operasi ini menciptakan percakapan publik palsu yang telah dimanipulasi, sekaligus menyembunyikan siapa yang berada di baliknya," tambahnya.

Menurut Saifuddin, perangkat serupa dilaporkan pernah digunakan untuk memanipulasi pemilih. Ia mencontohkan kelompok Israel yang dijuluki Team Jorge, yang diduga menggunakan bot media sosial untuk memanipulasi pemilu di Afrika dan Amerika Latin, serta jaringan terkait Rusia bernama Doppelganger yang disebut meniru media dan situs berita sah di Eropa untuk menyebarkan narasi politik menyesatkan atau palsu.

"Kasus-kasus ini menunjukkan bahwa operasi pengaruh semakin banyak ditawarkan sebagai layanan komersial ... dan manipulasi politik berpotensi dibeli oleh berbagai pihak," tambahnya.