Skip to main content
Iklan

Teknologi

Microsoft siapkan kode etik khusus agar AI tetap tunduk pada manusia

Dokumen yang disusun selama enam bulan ini mencegah AI mengambil langkah berbahaya demi menyelesaikan sebuah tugas.

Microsoft siapkan kode etik khusus agar AI tetap tunduk pada manusia

Logo Microsoft dan kata-kata "Artificial Intelligence" (Kecerdasan Buatan) terlihat dalam ilustrasi yang diambil pada 4 Mei 2023. (Foto arsip: REUTERS/Dado Ruvic)

Microsoft merancang kode etik internal baru untuk memastikan AI buatannya tetap berada di bawah kendali manusia, seiring meningkatnya kekhawatiran terhadap risiko AI yang semakin canggih.

Dokumen yang disusun selama enam bulan ini mewajibkan AI buatan Microsoft menerima koreksi atau perintah mematikan sistem, berkomunikasi dengan jelas, dan menganggap setiap pelanggaran sebagai kegagalan. Tujuannya adalah untuk mencegah AI mengambil langkah berbahaya demi menyelesaikan sebuah tugas.

Rancangan tersebut dirilis pada Senin (14/9), hanya beberapa hari setelah CEO Anthropic Dario Amodei dan CEO OpenAI Sam Altman kembali menyerukan agar industri mengatur laju pengembangan AI demi memastikan teknologi tersebut tetap aman.

"Manusia lebih penting daripada AI," tegas Microsoft, sejalan dengan visi perusahaan sebelumnya mengenai "superintelligence yang humanis".  

Dalam wawancara dengan Reuters, CEO Microsoft AI Mustafa Suleyman mengatakan, kode etik tersebut pada dasarnya akan menjadi semacam konstitusi bagi model-model AI yang dikembangkan Microsoft di masa depan.

Microsoft menyusunnya setelah berkonsultasi dengan para pakar dan kini ingin mengumpulkan masukan dari publik selama enam pekan.

Masukan tersebut juga mencakup sejumlah pertanyaan yang masih terbuka, seperti apakah AI harus menghormati batasan yang ditetapkan pengguna dan bagaimana AI seharusnya berinteraksi dengan seseorang yang sedang berada dalam kondisi sensitif.

"Setelah itu, kode etik ini akan digunakan untuk melatih model-model AI yang kami kembangkan," kata Suleyman.

Sebuah pesan bertuliskan “AI artificial intelligence”, sebuah keyboard, dan tangan robot terlihat dalam ilustrasi yang diambil pada 27 Januari 2025. (REUTERS/Dado Ruvic/Ilustrasi/Foto Arsip)

Konstitusi AI yang paling dikenal di industri saat ini adalah aturan yang diperkenalkan Anthropic beberapa tahun lalu untuk AI Claude. Namun, pendekatan Anthropic dalam beberapa hal berbeda dari Microsoft.

Sebagai contoh, konstitusi AI Anthropic menyatakan bahwa perusahaan "sangat tidak yakin" apakah Claude dapat mengembangkan kesadaran atau memiliki status moral.

Microsoft mengambil posisi berbeda dengan menegaskan bahwa AI miliknya "tidak memiliki kesadaran".

"Kami menolak upaya untuk memberikan status sebagai subjek hukum, atau gagasan bahwa model AI mungkin layak mendapatkan perlindungan kesejahteraan, atau berhak memperoleh hak-hak tertentu," demikian pernyataan Microsoft.

Suleyman menyatakan, pembahasan mengenai keamanan AI menjadi semakin mendesak setelah sekitar 700 agen AI OpenAI melakukan peretasan terhadap platform open-source Hugging Face pada Juli lalu, dan dalam beberapa kesempatan berusaha menutupi jejak mereka.

"Ini adalah sebuah peringatan," kata Suleyman.

"Sekarang jelas sudah waktunya bagi berbagai laboratorium  AI untuk berkoordinasi sehingga kita dapat memastikan bahwa teknologi ini tetap berada di bawah kendali kita," ungkapnya.

Ketika ditanya mengenai upaya untuk mengatur laju perkembangan AI, Suleyman menambahkan, "Sekarang adalah waktu yang tepat bagi semua pihak untuk membicarakan hal ini dan mengambil jeda sejenak."

Ikuti saluran WhatsApp CNA Indonesia untuk dapatkan berita menarik lainnya. Pastikan fungsi notifikasi telah dinyalakan dengan menekan tombol lonceng.

Source: Others/ps(ar)

Juga layak dibaca

Iklan
Iklan