'Halusinasi algoritma' dan sederet risiko penggunaan AI hantui perusahaan e-commerce di Asia Tenggara

JAKARTA: Rosy pink, warm brown dan coral - itu adalah warna-warna lipstik yang dibeli Sita Kurniawan secara online dalam beberapa bulan terakhir.

Biasanya sebelum membeli, Sita akan melakukan riset mendalam. Perempuan 40 tahun yang bekerja di bidang personalia ini akan membaca ulasan barang incarannya di internet, mendengar pendapat para influencer kecantikan hingga meminta masukan dari teman-temannya.

Namun kali ini, Sita punya cara lebih cepat untuk memuaskan hasrat belanjanya: Sebelum membeli, dia mencobanya dulu - secara virtual.

Dengan pencocok warna AI, Sita mencoba beberapa lipstik sebelum akhirnya membelinya di sebuah platform e-commerce. Teknologi pembelajaran mesin ini menggunakan piranti lunak pengenal wajah untuk mengingat dan mempelajari warna-warna yang cocok bagi bentuk dan kompleksitas rupa yang berbeda.

Ibu dua anak yang tinggal di Bekasi ini sebenarnya sudah mulai berbelanja online sejak 2018, namun baru benar-benar jadi pelanggan setia sejak pandemi COVID-19. Ketika itu, Sita seperti kebanyakan orang lainnya, memilih belanja online karena kemudahan dan diskonnya yang berlimpah.

Menurut portal penyaji data Statista, ekonomi internet di Asia Tenggara diprediksi akan mencapai USD363 miliar pada 2025. 

Para pengamat kepada CNA mengatakan, teknologi AI yang saat ini tengah berkembang mulai merambah sektor perbelanjaan, menjadikan pengalaman pelanggan lebih mulus, mengubah perilaku berbelanja masyarakat dan berpotensi mengubah perencanaan tata kota dalam jangka panjang.

Namun, pengamat memperingatkan bahwa penggunaan AI di e-commerce ibarat pisau bermata dua. Dan mata pisaunya akan lebih tajam di Asia Tenggara, kawasan tempat e-commerce menjadi salah satu sektor paling bertumbuh berdasarkan data majalah Retail Asia.

SEDARI MEMBUKA SITUS, AI SUDAH MENGANALISA ANDA

AI bukanlah barang baru di e-commerce. Banyak perusahaan sudah menggunakan teknologi ini selama bertahun-tahun, bahkan mungkin sudah satu dekade, kata Simon Wintels, konsultan divisi ritel dan industri barang kemasan di perusahaan McKinsey & Company di Singapura.

Dia mengatakan penggunaan AI lazim dalam pembelanjaan online, meskipun pengguna mungkin tidak terlalu menyadarinya.

"AI membantu Anda mengambil keputusan saat mengunjungi sebuah situs. (Sedari Anda membuka situs) teknologi ini sudah menganalisa siapa Anda dan apa tujuan Anda mengunjungi situs tersebut," kata Wintels.

"Dan AI akan menyesuaikan tampilan bagi Anda di situs atau aplikasi. AI akan bekerja di balik layar saat Anda memikirkan soal keranjang (belanjaan e-commerce) dan menambahkan barang di dalamnya. Teknologi AI ini akan melakukan analisa tentang barang apa lagi yang kemungkinan akan Anda tambahkan dalam keranjang."

Indonesia sebagai negara perekonomian terbesar di Asia Tenggara memiliki pasar e-commerce terbesar. 

Statista memprediksi, pada 2030 Indonesia akan menguasai 42 persen pasar e-commerce di Asia Tenggara, seiring pertumbuhan kelas menengah dan meningkatnya penggunaan internet.

Statista meramalkan pasar e-commerce Indonesia akan menghasilkan US$160 miliar (Rp2.500 triliun) dari penjualan ritel online di akhir dekade ini, meroket dari yang sebelumnya US$58 miliar pada 2022. 

Pasar yang tengah berkembang lainnya seperti Thailand, Malaysia, Vietnam dan Filipina juga akan mengalami pertumbuhan di pasar e-commerce. Menurut Wintels, pertumbuhan ini meningkat seiring maraknya penggunaan AI di sektor e-commerce.

Malaysia akhir tahun ini diproyeksi mendapat pemasukan hingga US$7,88 miliar dari sektor industri e-commerce.

Pada 2019, ada sekitar 5,5 juta pengguna e-commerce di Malaysia. Menurut prediksi Statista, angkanya akan mencapai 18,8 juta pada 2029.

"Di mana-mana di e-commerce, terutama pada platform terkemuka, AI akan digunakan di seluruh rantai nilai mereka," kata Wintels.

"Bahkan (AI akan digunakan) dalam mencari tahu hal-hal seperti logistik, rantai pasokan, dan banyak lainnya," lanjut dia.

BAGAIMANA PEMAIN BESAR MEMANFAATKAN AI

Wintels mengatakan bahwa Shopee, Tokopedia dan Lazada adalah tiga perusahaan e-commerce terbesar di Asia Tenggara berdasarkan angka pengguna dan penjualan.

Kepada CNA, ketiga perusahaan ini mengaku telah menggunaan AI untuk memenuhi kebutuhan pengguna yang terus berkembang.

Menurut TMO Group, perusahaan e-commerce digital untuk pasar China dan Asia, Shopee memiliki 470 juta kunjungan pengguna per bulannya pada Agustus tahun lalu, Lazada 96 juta dan Tokopedia 68 juta di bulan yang sama.

Lazada adalah perusahaan multinasional yang telah beroperasi di Indonesia, Malaysia, Filipina, Singapura, Thailand dan Vietnam dalam 12 tahun terakhir.

Juru bicara Lazada kepada CNA mengatakan bahwa mereka telah menghubungkan 160 juta pengguna aktif kepada lebih dari 1 juta penjual aktif setiap bulannya. 

Pada 2023, lanjut dia, Lazada meluncurkan LazzieChat, chatbot AI e-commerce pertama di Asia Tenggara.

LazzieChat tersedia dalam bahasa Inggris di Singapura, Filipina dan Indonesia. Untuk pasar Indonesia, chatbot ini juga tersedia dalam Bahasa Indonesia.

Chatbot yang didukung oleh teknologi ChatGPT ini dapat menjawab pertanyaan pengguna mengenai barang belanjaan dengan jawaban yang personal dan telah disesuaikan.

Lazziechat juga dapat memberikan saran dan rekomendasi produk. 

Lazada pada 2019 juga telah memperkenalkan pencarian gambar berbasis AI, memberikan penggunanya pengalaman belanja yang lebih menyenangkan.

Pengguna hanya perlu mengambil gambar barang incaran mereka, lalu teknologi AI akan mencari barang serupa yang dijual di Lazada.

"Ini telah mempersingkat proses pencarian oleh pengguna, memudahkan mereka mencari barang di Lazada," kata juru bicara Lazada.

"Rekomendasi pencarian yang didukung AI menyumbang setengah dari total transaksi pengguna di aplikasi Lazada dan memberikan personalisasi yang real-time bagi mereka."

Diah Novitasari, 20, mengaku sudah mengetahui adanya fitur pencarian AI di Lazada, dan dia merasa terbantu.

"Fitur ini bisa memberikan rekomendasi berdasarkan pencarian kita sebelumnya, dan itu cukup membantu," kata mahasiswi yang tinggal di Jakarta ini kepada CNA.

Sejak pindah ke ibu kota beberapa bulan lalu untuk magang, Diah jadi lebih banyak berbelanja online karena ongkos kirimnya murah, mengingat kebanyakan penjualnya berada di Jakarta. 

Lazada juga meluncurkan aplikasi AI dan teknologi realitas berimbuh atau augmented reality tahun lalu, bernama Skin Test.

Aplikasi ini memungkinkan penggunanya melakukan diagnosis kulit menggunakan kamera ponsel untuk mengetahui jenis kulit, warna dan sensitivitasnya.

Dari hasil diagnosis tersebut, pengguna akan direkomendasikan produk apa yang sesuai dengan keluhan dan kebutuhan mereka.

Sementara Shopee, perusahan e-commerce asal Singapura, memungkinkan para pedagang kecil menggunakan AI untuk mengatasi perbedaan bahasa dengan pembeli di luar negeri. Teknologi ini juga memudahkan pedagang dalam membangun kehadilan online mereka.

Menurut juru bicara Shopee, AI akan membaca pola pembelian pengguna dan menggunakannya untuk memberikan rekomendasi produk yang relevan bagi mereka.

Chatbot AI juga membantu "memfasilitasi jutaan percakapan per hari di Shopee dan sangat membantu ketika traffic sedang tinggi, misalnya ketika midnight sales," kata juru bicara Shopee. 

Aditia Grasio Nelwan, kepala komunikasi Tokopedia mengatakan kepada CNA bahwa mereka juga menggunakan AI untuk memahami perilaku pengguna dan meningkatkan pengalaman mereka dalam berbelanja. 

Tokopedia juga memiliki pusat layanan pelanggan berbasis digital yang disebut Tokopedia Care, di mana pembeli dan penjual mendapatkan solusi secara mandiri dan cepat tanpa bantuan tim layanan pelanggan.

Sejauh ini Tokopedia hanya beroperasi di Indonesia. Meski tidak ada data spesifik dari dampak penggunaan AI terhadap angka pengguna dan pemasukan mereka, namun Tokopedia mencatat waktu respons pelanggan meningkat 40 persen selama pandemi. Interaksi pelanggan juga meningkat 70 persen pada periode tersebut.

Sementara Bukalapak, unicorn teknologi pertama di Indonesia yang terdaftar di bursa efek, telah menggunakan AI sejak 2017. 

Startup swasta dengan valuasi lebih dari US$1 miliar ini menggunakan AI pada mesin pencari, mesin rekomendasi dan visi komputer untuk meningkatkan pengalaman pengguna.

"AI berperan penting dalam meningkatkan seluruh aspek operasional Bukalapak, mulai dari melindungi konsumen dari aktivitas penipuan, meningkatkan layanan pelanggan, hingga mengoptimalkan operasional internal," kata Bima Tjahja, wakil presiden senior bidang data Bukalapak.

AI SEBAGAI ALAT PEMASARAN DAN PROMOSI

Perusahaan-perusahaan e-commerce juga menggunakan AI sebagai alat untuk pemasaran dan promosi.

Lazada misalnya, menggunakan AI pada kampanye ulang tahunnya yang ke-12 tahun ini untuk membantu pembeli mencari barang yang mereka ingin dan perlukan.

"Menggunakan AI, kami menghasilkan lebih dari 2,2 juta pertanyaan tentang produk via fitur 'Tanya Pembeli'," kata juru bicara Lazada.

"Hasilnya, kami berhasil mengumpulkan lebih dari 1,5 juta respons pembeli yang akan membantu mereka membuat keputusan yang lebih cerdas terkait barang yang akan dibeli."

Lazada juga menggunakan AI untuk mempercepat proses penulisan ulasan barang, dengan memberikan saran teks kepada pembeli.

"Dengan peningkatan 11 persen pada ulasan barang, para pembeli bisa mengambil keputusan dengan lebih baik ketika berbelanja selama Lazada Epic Birthday Sale," ujar juru bicara Lazada.

Bukalapak juga mengaku menggunakan AI dalam pemasaran mereka, namun tidak merinci detailnya.

"Kami menggunakan teknologi AI generatif dalam pengembangan chatbot bagi dukungan pelanggan, asisten berbelanja, monitor pemberitaan dan media, marketing, dan yang lainnya," kata Bima.

Dr Unaizah Obaidellah, dosen senior bidang AI di Universitas Malaya, Malaysia, mengatakan bahwa penggunaan AI dalam pemasaran menjadi semakin populer. 

AI dapat memudahkan pembeli ketika berbelanja, dengan cara mengumpulkan data perilaku konsumen, tren pasar dan kata kunci yang banyak digunakan.

"Penggunaan AI generatif untuk menciptakan konten seperti teks, gambar, musik dan media lainnya berdasarkan permintaan (prompt) semakin mudah diakses dan digunakan oleh pengguna kebanyakan," kata dia.

HALUSINASI, PERTANYAAN ETIS DAN ANCAMAN KEAMANAN

Namun menurut Unaizah, AI terkadang "berhalusinasi", menangkap pola-pola yang tidak ada, dan memberikan jawaban yang tidak masuk akal.

Penyebabnya, kata Unaizah, adalah kurangnya data-data terbaru atau bias dalam distribusi data yang digunakan AI dalam pelatihannya.

"Pada sektor pemasaran, hal ini bisa berujung pada jangkauan yang tidak akurat terhadap konsumen yang paling potensial."

Penjual kopi di Jakarta, Muhamad Subhan, 19, gemar berbelanja online. Namun dia menyadari fitur pencarian dengan algoritma AI terkadang tidak akurat.

"Misalnya, saat saya mencari sampo, tapi yang keluar malah sabun," kata dia, tanpa menyebut nama e-commerce yang digunakan.

Unaizah menambahkan bahwa merancang iklan dengan bantuan AI bisa membawa ancaman besar jika asupan data ke algoritma AI untuk pelatihan tidak akurat atau bias.

AI dapat meluputkan target konsumen yang diinginkan atau melakukan diskriminasi terhadap sebuah kelompok dalam iklannya, sehingga bisa berujung pada gugatan hukum.

"Misalnya, hasilnya condong kepada kelompok usia, gender atau etnis tertentu. Hal ini dapat berdampak pada target iklan, memengaruhi penjualan dan konversi," kata Unaizah.

Seiring kemajuan AI dalam meramalkan atau memengaruhi perilaku konsumen, publik nantinya akan merasa kesulitan dalam membuat keputusan sendiri.

"Tren ini berpotensi membawa kita ke masa depan di mana algoritma yang membentuk pilihan dan keinginan kita, bukannya nilai-nilai dan keyakinan dari diri sendiri," kata Unaizah.

"Oleh karena itu, untuk mengatasi kekhawatiran etis, bisnis harus memprioritaskan transparansi dan akuntabilitas dalam penggunaan AI mereka untuk tujuan marketing."

Menurut pengamat, konsumen harus diedukasi mengenai pengumpulan dan penggunaan data mereka, serta punya pilihan untuk menolak cara marketing tertarget.

Unaizah berpendapat, perusahaan harus bertanggung jawab atas konsekuensi negatif akibat strategi marketing mereka dengan menggunakan AI, termasuk jika terjadi misinformasi atau eksploitasi terhadap kelompok masyarakat yang rentan.

"Meski AI menawarkan masukan yang berharga dan meningkatkan efektivitas kampanye marketing, namun teknologi ini juga memiliki risiko manipulasi, diskriminasi dan menghilangkan kehendak manusia.

"Sangat penting untuk menjaga kewaspadaan untuk memastikan penggunaan AI selaras dengan nilai-nilai yang kita anut serta mendorong kesejahteraan konsumen dan masyarakat luas," kata dia.

Yihao Lim, penasihat utama untuk area Jepang dan Asia Pasifik di perusahaan keamanan siber Mandiant Threat Intelligence, mengatakan AI bisa membawa perubahan di industri e-commerce jika digunakan dengan aman dan bertanggung jawab.

Namun, seperti halnya semua teknologi, AI ibarat pisau bermata dua.

"AI di e-commerce berpotensi disalahgunakan atau digunakan dengan tidak benar untuk melakukan kejahatan. Kita sudah melihat contohnya," kata Lim.

Sejak 2023, kata Lim, Mandiant telah mencatat adanya peningkatan percobaan penggunaan AI untuk tindak kejahatan. Namun Yihao tidak merinci jumlahnya.

Meski Lim mengatakan penggunaan AI untuk kejahatan di e-commerce masih terbatas, namun dia memperingatkan bahwa pelaku kejahatan berpotensi memanfaatkan kecanggihan AI dalam berbagai aksi mereka.

Ada juga risiko pelanggaran privasi dan keamanan data. Dengan teknologi AI, input data digunakan untuk melatih model AI. Sumber data ini dapat mengandung informasi sensitif atau mengungkapkan mekanisme verifikasi akun pengguna di sebuah perusahaan.

"Jika informasi semacam ini bocor, pelaku kejahatan dapat menyamar sebagai pengguna," kata Lim.

Misalnya pada 2023 dan awal 2024, Mandiant mendapati pelaku kejahatan menggunakan teknologi deepfake AI untuk penipuan. Pelakunya berhasil lolos dari persyaratan keamanan pengguna.

Lim mengatakan, "AI juga berpotensi disalahgunakan untuk menyerupai atau menciptakan toko-toko gadungan di platform e-commerce."

Untuk melindungi diri, pengguna harus mengetahui tujuan penggunaan AI di perusahaan e-commerse dan memahami apa yang telah disepakati dalam syarat dan ketentuan, kata Lim.

PERUBAHAN LANSKAP KOTA

Dengan e-commerce yang kian diminati dengan penggunaan AI, lantas apa yang tersisa bagi toko-toko fisik?

Warga Jakarta, Penny Waluyo, mengatakan dia masih mengunjungi mal kendati sering berbelanja online.

"Saya masih pergi ke mal untuk menemani anak-anak. Mereka bermain di mal. Sementara mereka main, saya belanja," kata dosen berusia 42 tahun dengan dua anak ini kepada CNA.

Meski beberapa mal di Asia Tenggara bersusah payah bertahan untuk tetap buka, namun masyarakat masih mengunjungi pusat-pusat perbelanjaan, kata para pengamat.

Profesor ilmu komputer dan Teknik, menjabat juga sebagai direktur lembaga penelitian AI di Universitas Teknologi Nanyang Singapura, Bo An, mengatakan bahwa penggunaan AI dalam e-commerce telah memengaruhi perdagangan tradisional dengan berbagai cara, seperti menurunnya lalu lintas pejalan kaki dan volume penjualan di toko-toko fisik.

"Akibatnya, untuk menghindari kebangkrutan, banyak toko fisik yang mencoba mengubah kerangka bisnis mereka dengan menggabungkan strategi penjualan online dan offline, membuatnya menjadi lebih efisien," katanya.

Strategi ini dapat berdampak pada tata ruang kota di sebuah wilayah.

Prof Bo berpendapat perusahaan e-commerce dapat membangun pusat distribusi di pinggiran kota, terutama di negara kota seperti Singapura. 

"Hal ini akan sangat mengurangi biaya, yang bisa sangat tinggi jika harus membangun pusat distribusi di dalam kawasan pusat bisnis (CBD). 

"Kedua, dibandingkan dengan perdagangan fisik tradisional, kebutuhan ruang kantor untuk e-commerce dapat dikurangi karena banyak pekerjaan seperti iklan, konsultasi, dan layanan purna jual dilakukan secara online," jelasnya.

Menurutnya, Singapura memiliki keunikan tersendiri dibandingkan dengan negara atau wilayah lain, yaitu koeksistensi dan keseimbangan antara e-commerce dan perdagangan fisik. 

"Sebagai negara yang sangat maju, sistem transportasi yang lebih baik memungkinkan konsumen untuk membeli produk yang mereka inginkan dalam waktu singkat - dalam waktu beberapa jam - dengan pergi ke toko fisik. 

"Sebaliknya, belanja online, meskipun nyaman, masih memerlukan beberapa langkah sebelum konsumen menerima produk - pemesanan, pembayaran, konfirmasi pesanan, dan pengiriman produk, yang biasanya merupakan bagian yang paling memakan waktu dalam proses belanja online," kata Bo.

Dia juga berpendapat bahwa sebagai negara kecil, sulit bagi perusahaan e-commerce modern di Singapura untuk membangun gudang penyimpanan besar di pusat kota.

"Melihat kenyataan ini, meski AI digunakan secara luas pada e-commerce dan ada banyak platform belanja online seperti Shopee dan Lazada, namun toko fisik masih menjadi bagian penting bagi perdagangan di Singapura," kata Bo.

Namun, beda negara beda pula situasinya.

Ahli perencanaan kota di Jakarta, Elisa Sutanudjaja, mengatakan mal-mal premium di Asia Tenggara melancarkan strategi untuk menyikapi perkembangan e-commerce, di antaranya mengadakan acara-acara menarik untuk memikat pengunjung.

Seperti misalnya acara-acara temu sapa dengan bintang pop. Mal-mal seperti ini, kata Elisa, tidak terlalu terkena dampak dari e-commerce dan AI.

Namun, Elisa mengakui bahwa e-commerce memberikan tantangan baru bagi perencanaan tata kota di Asia Tenggara, yaitu perlunya banyak gudang penyimpanan. Banyak kota tidak siap untuk ini.

Menurut dia, kebutuhan akan gudang penyimpanan kemungkinan meningkat 90 persen dalam beberapa tahun terakhir dengan maraknya perusahaan e-commerce.

AI kemungkinan besar memicu semakin banyaknya bermunculan e-commerce. Dengan demikian, kebutuhan lebih banyak gudang akan terus jadi tren dalam beberapa tahun ke depan. 

"Namun proporsi gudang di kota-kota atau perencanaan industri sangat kecil. Jadi permintaan dan ketersediaan tidak seimbang," kata Elisa yang menjabat direktur eksekutif lembaga Rujak Center for Urban Studies.

Elisa mencontohkan Jakarta yang sudah padat. Selain ruang baru yang semakin terbatas, penambahan gudang juga berarti ada lebih banyak truk yang membutuhkan jalan yang lebar dan kokoh.

"Kita tidak hanya bicara soal kota-kota besar. Kabupaten juga terdampak karena terkadang barang-barang belanjaan diantar ke tempat lain dulu," kata Elisa.

"Jika mereka (perusahaan e-commerce) menempatkan gudang logistik di jalan utama dekat persawahan, maka akan menciptakan perubahan tata kota," lanjut dia.

Persawahan tersebut, kata dia, pada akhirnya akan diubah juga menjadi gudang.

Elisa mencatat, perencanaan tata kota dan logistik e-commerce harus sinkron.

Tantangan AI dan e-commerce memang segunung, tapi Sita sebagai pelanggan setia e-commerce memandang masa depan keduanya dengan penuh harapan.

"Teknologi memang gila. Luar biasa. Kita tidak bisa menyalahkan teknologi," kata dia.

"Kita sebagai pengguna juga harus tahu dan waspada dalam menggunakannya. Bahkan untuk sekadar memilih warna lipstik."

Dapatkan informasi menarik lainnya dengan bergabung di WhatsApp Channel CNA.id dengan klik tautan ini.