Pesan terakhir Paus Fransiskus soal AI, deepfake, dan screen time media sosial

JAKARTA: Paus Fransiskus, yang berpulang pada usia 88 tahun pada Senin (21/4), dikenal sebagai sosok progresif yang kerap berbicara secara terbuka mengenai perkembangan teknologi, termasuk kecerdasan buatan (AI), deepfake, dan waktu penggunaan layar (screen time) untuk berselancar di media sosial.

Sang Bapa Suci tidak hanya menyuarakan pandangannya soal teknologi, tetapi juga pernah menjadi korbannya. Pada tahun 2023, media sosial sempat dihebohkan oleh sebuah foto viral yang memperlihatkan Paus Fransiskus berjalan di Lapangan Santo Petrus, Vatikan, mengenakan jaket tebal Moncler berwarna putih yang modis serta kalung panjang dengan salib berhias permata.

Namun, gambar tersebut ternyata hasil kreasi AI generatif yang sangat meyakinkan. Banyak orang sempat mengira itu adalah penampilan baru sang Paus.

Kepala Gereja Katolik ini memang beberapa kali menjadi sasaran manipulasi visual berbasis AI. Dalam satu kasus lainnya, beredar foto palsu yang menunjukkan dirinya sedang memeluk legenda pop Madonna. Belakangan diketahui, gambar itu merupakan hasil deepfake. 

Penyanyi ikonik dari era 80-an yang dikenal lewat lagu Like a Prayer itu pun memicu kontroversi setelah mengunggah gambar tersebut di media sosialnya, @madonna.

Menanggapi fenomena tersebut, Paus Fransiskus menunjukkan bahwa ia tidak melihat hal itu sebagai lelucon. Ia bahkan menyinggung foto palsunya bergaya Balenciaga itu dalam sebuah pidatonya tentang AI pada bulan Januari lalu, ketika ia memperingatkan bahaya dari teknologi deepfake.

"Berita palsu… saat ini dapat menggunakan ‘deepfake’, yakni penciptaan dan penyebaran gambar yang tampak meyakinkan namun sebenarnya palsu — saya pun pernah menjadi objek dari hal ini," ujarnya kala itu, seperti dilaporkan The Guardian.

'MENYATUKAN, BUKAN MEMECAH BELAH'

Meskipun Paus Fransiskus menerima media sosial sebagai sarana menyampaikan pesan, ia juga menegaskan bahwa teknologi harus "menyatukan, bukan memecah belah."

Dalam salah satu doa terakhirnya yang dipanjatkan pada awal bulan ini, sang Bapa Suci menyerukan agar teknologi digunakan untuk kebaikan. 

Ia juga berharap agar manusia "lebih sering saling memandang secara langsung, ketimbang menatap layar."

Dalam video yang dibagikan lewat kanal YouTube resmi Vatikan itu, Paus Fransiskus juga menyatakan, "Ada yang salah bila kita menghabiskan lebih banyak waktu dengan ponsel ketimbang dengan sesama manusia."

"Marilah kita berdoa agar penggunaan teknologi baru tidak menggantikan relasi antarmanusia, tetap menghormati martabat manusia, dan membantu kita menghadapi krisis di zaman ini," tambahnya, dikutip dari Euronews. 

POTENSI DAN RISIKO AI

Paus Fransiskus juga telah berulang kali mengeluarkan peringatan mengenai risiko kecerdasan buatan. Pada Januari lalu, Vatikan merilis dokumen resmi berisi pedoman etika penggunaan AI berjudul Antiqua et Nova yang memuat Catatan Mengenai Relasi antara Kecerdasan Buatan dan Kecerdasan Manusia. 

Dalam dokumen itu, Paus Fransiskus menyebut AI harus menjadi alat yang melengkapi — dan bukan menggantikan — kecerdasan manusia.

Paus Fransiskus bahkan menyatakan "penggunaan istilah 'kecerdasan' dalam kaitannya dengan AI dapat menyesatkan" karena AI tidak seharusnya dipandang sebagai bentuk kecerdasan manusia, melainkan produk ciptaannya.

Selain itu, Sri Paus juga khawatir AI akan digunakan dalam sistem yang mampu "mengidentifikasi dan menghantam target [perang] tanpa intervensi manusia secara langsung."

Paus Fransiskus menyerukan agar penggunaan AI semacam itu dilarang, karena dapat memusnahkah masyarakat di suatu wilayah, atau bahkan umat manusia secara keseluruhan.

Namun, dokumen Vatikan ini tidak hanya berisi peringatan. Ia juga menyampaikan harapan akan potensi AI dalam bidang seperti pendidikan dan kesehatan.

Menurut pedoman tersebut, AI memiliki "potensi besar" untuk diaplikasikan di dunia medis, namun jika tidak dapat diakses secara merata oleh semua lapisan masyarakat, AI dapat digunakan untuk mendukung "pengobatan hanya bagi mereka yang kaya". 

Dokumen sepanjang 117 paragraf ini juga membahas dampak lingkungan dari teknologi, pengawasan digital, serta berbagai isu lainnya, termasuk topik tentang iman dan AI. 

"Anggapan bahwa Tuhan dapat digantikan oleh artefak ciptaan manusia (AI) adalah bentuk penyembahan berhala, praktik yang secara eksplisit dilarang oleh Kitab Suci," tulis dokumen itu.