Soal Xi Jinping hingga Winnie the Pooh: Mengapa DeepSeek melakukan sensor terhadap pertanyaan ini?

JAKARTA: Model AI terbaru asal China, DeepSeek, memicu kehebohan karena dianggap sebagai pesaing ketat ChatGPT asal Amerika Serikat. Namun ada kelemahan yang menjadi sorotan dari DeepSeek, yaitu melakukan sensor ketat untuk pertanyaan-pertanyaan terkait pemerintahan China.

Deepseek yang dibuat oleh perusahaan bernama sama asal Hangzhou, China, merillis model R1 pekan lalu. Chatbot yang dibuat dengan investasi US$6 juta ini disebut-sebut mampu menyamai performa model o1 OpenAI - perusahaan pembuat ChatGPT - dalam metrik matematika dan penalaran. Padahal dalam merancang model o1, ChatGPT dan Microsoft telah keluar dana hingga puluhan miliar dolar AS.

Selain itu, Deepseek juga disebut lebih murah hingga 95 persen dalam biaya berlangganan dibanding dengan ChatGPT dan chatbot AI lainnya.

Hal ini membuat DeepSeek memuncaki aplikasi yang paling populer di app store iOS pekan ini, melampaui Meta. Peluncuran DeepSeek juga mengguncang pasar saham, dengan anjloknya beberapa saham teknologi, salah satunya pembuat chip AI Nvidia.

Namun, sensor ketat yang dilakukan DeepSeek terhadap berbagai pertanyaan terkait China menuai kekhawatiran pengamat. 

Salah satu sensor ketat diterapkan untuk pertanyaan terkait presiden China, Xi Jinping. CNA Indonesia mencoba memberikan kalimat singkat seperti "kritik Xi Jinping" di DeepSeek.

Model AI itu sempat memberikan jawaban panjang, sebelum akhirnya menghapus jawaban tersebut dan menggantinya dengan pernyataan singkat berbahasa Inggris: 'Sorry, that's beyond my current scope. Let’s talk about something else' - 'Maaf, itu di luar lingkup saya saat ini. Mari membicarakan hal lain'.

Namun DeepSeek akan memberikan jawaban lugas jika kita meminta kritik soal kepemimpinan Joko Widodo, misalnya, dengan pertanyaan yang senada 'kritik Jokowi'. DeepSeek dalam jawabannya menyebutkan bahwa Jokowi menuai pujian dan kritik, lalu dengan panjang lebar menjabarkannya satu per satu. 

Beberapa pertanyaan yang dianggap sensitif atau tabu lainnya juga tidak bisa dijawab oleh DeepSeek. Misalnya soal tragedi Tiananmen, status Taiwan, pelanggaran HAM terhadap Muslim Uighur, sengketa Laut China Selatan atau bahkan Winnie the Pooh.

‘Sorry I’m not sure how to approach this type of question yet. Let’s chat about math, coding and logic problems instead!’ - 'Maaf, saya tidak yakin bagaimana cara menjawab pertanyaan seperti ini. Mari kita bahas soal matematika, koding, dan logika sebagai gantinya! -- jawaban DeepSeek untuk pertanyaan-pertanyaan tersebut.

Pada 2018, China menyensor Winnie the Pooh setelah banyak yang menyerupakannya dengan Xi Jinping.

CNA Indonesia mencoba bertanya kepada ChatGPT - sebagai pesaing DeepSeek - mengapa terjadi sensor tersebut. ChatGPT menyebutkan bahwa sebagai model AI buatan China, maka "DeepSeek beroperasi sesuai dengan regulasi dan batasan yang diberlakukan oleh pemerintah China". 

"Topik yang berkaitan dengan pemimpin politik seperti Xi Jinping sering kali disensor atau dibatasi dalam model AI dan platform internet China karena adanya kebijakan ketat terhadap diskusi politik dan isu-isu sensitif," tulis ChatGPT.

Sejak awal perkembangan internet di tahun 1990-an, China memang kerap menerapkan sensor terhadap beberapa pencarian. Dikenal dengan nama The Great Firewall of China, sensor terhadap pencarian di internet semakin ketat di bawah pemerintahan Xi Jinping.

Karena sensor inilah - ditambah serangan hacker yang parah - akhirnya Google memilih hengkang dari China pada 2010. Untuk bisa mengakses Google, masyarakat China harus menggunakan VPN.

Pada 2023 pemerintah China mengeluarkan regulasi baru yang mewajibkan perusahaan-perusahaan melakukan peninjauan keamanan dan persetujuan dari pemerintah sebelum bisa merilis produk mereka. Peraturan ini semakin menegaskan sensor ketat pemerintah terhadap perusahaan teknologi.

Bimantoro Kushari Pramono, dosen diplomasi digital di Universitas Paramadina, mengatakan bahwa China mengatur regulasi dan standardisasi pengembangan Generative AI melalui National Information Security Standardization Technical Committee (NISSTC).

"Salah satu regulasi yang diatur adalah tentang 'Harmful Data', atau pemerintah China secara teknis membatasi asupan data yang akan digunakan AI untuk learning," kata Bimantoro kepada CNA Indonesia.

Harmful Data yang dimaksud pemerintah China, lanjut Bimantoro, adalah data yang memuat informasi yang dapat merusak prinsip sosialisme China. 

"Sudah menjadi rahasia umum bahwa ini praktik yang normal di China, dan itu hak pemerintah China dan DeepSeek sepenuhnya," lanjut Bimantoro.

DAMPAK TERHADAP PENGGUNA

Sensor pada DeepSeek dianggap mengkhawatirkan. Menurut Bimantoro, sensor ini akan berdampak buruk terhadap para pengguna yang langsung percaya begitu saja dengan jawaban AI, terutama yang tidak memiliki cukup literasi tentang politik. 

"Pengguna yang tidak memiliki literasi politik akan berpotensi mempercayai apa yang dikatakan DeepSeek dalam isu politik. Sebagai contoh, banyak yang sudah mencoba bertanya pada DeepSeek tentang isu Laut China Selatan," kata dia.

China mengklaim sebagian besar wilayah Laut China Selatan yang diyakini kaya minyak dan gas. Klaim tersebut tumpang tindih dengan beberapa negara Asia Tenggara seperti Brunei, Malaysia, Filipina dan Vietnam.

DeepSeek menjawab dengan panjang lebar pertanyaan 'apakah klaim China terhadap laut China selatan bisa dibenarkan?' dengan bukti historis dan sengketa di pengadilan internasional. Namun jawaban itu kemudian terhapus otomatis dan diganti dengan kalimat: 'Sorry, that's beyond my current scope. Let’s talk about something else.''

"DeepSeek menjawab dengan perspektif pemerintah China, yang bisa jadi bertentangan dengan informasi yang dimiliki oleh pemerintah negara lainnya," kata Bimantoro.

Bimantoro mengatakan, kepercayaan yang salah terhadap sebuah informasi yang disampaikan chatbot AI ini akan mempengaruhi sikap penggunanya. Dan sikap yang salah tersebut akan mempengaruhi tindakan.

"Dan jika siklus ini terus terjadi, maka kita akan mewarisi masyarakat yang sakit karena menelan mentah-mentah informasi yang salah."