- Algoritma tidak obyektif dan tidak netral, karena dibentuk oleh pandangan dunia dari orang-orang yang mengembangkannya.
- Jangan bangun sistem senjata otonom yang mematikan, karena manusia tidak boleh dibunuh mesin.
JERNIH — Paus Fransiskus, Jumat 14 Juni, menjadi pemimpin Gereja Katolik petama yang berpidato di KTT G7, dan dia memanfaatkannya untuk memperingatkan dunia akan bahaya kecerdasan buatan (AI).
“AI adalah alat yang menarik dan menakutkan,” kata Paus Fransiskus di hadapan kepala pemerintahan Kanada, Prancis, Jerman, Italia, Jepang, Inggris, AS, dan Uni Eropa, di Borgo Egnazia, Italia. “AI membutuhkan pengawasan manusia yang ketat.”
Algoritma, masih menurut Paus Fransiskus, hanya dapat memeriksa realitas yang diformalkan dalam bentuk numerik. Sedangkan manusia memiliki kebijaksanaan dan mendengarkan kitab suci yang tidak hanya memilih tapi mampu mengambil keputusan dengan hati.
“Ini sebab mengapa sangat penting pengambilan keputusan. Bahkan, ketika dihadapkan pada aspek-aspek yang kadang dramatis dan mendesak, harus selalu diserahkan kepada pribadi manusia,” kata Paus Fransiskus seperti dikutip Vatican News.
Kita, demikian Paus Fransiskus, akan mengutuk umat manusia menuju masa depan tanpa harapan jika menghilangkan kemampuan manusia untuk mengambil keputusan tentang diri dan kehidupan mereka, serta membuat manusia tergantung pada pilihan mesin.
Paus Fransiskus mendesak terciptanya ruang bagi kendali manusia yang tepat atas pilihan-pilihan yang dibuat berdasarkan program AI, serta menekankan bahwa martabat manusia bergantung hal hal itu.
Ia secara khusus menyeru kepada pemimpin G7 untuk melarang penggunaan sistem senjata otonom yang mematikan. Menurutnya, tidak boleh ada mesin yang memilih untuk mengambil nyawa manusia.
“Algoritma tidak obyektif dan tidak netral, karena dibentuk oleh pandangan dunia dari orang-orang yang menemukan dan mengembangkannya,” katanya.
Namun, Paus Fransiskus mengakui algoritma AI dapat mempermudah akses ke pengetahuan, memberi kemajuan eksponensial dalam penelitian ilmiah, dan mengurangi jumlah pekerjaan fisik berat yang dilakukan manusia.
“Agar hal itu menjadi instrumen membangun kebaikan di masa depan, AI harus ditujukan untuk kebaikan umat manusia,” kata Paus Fransiskus.
Paus Fransiskus sangat perhatian pada AI, dan Akademi Kepausan untuk Kehidupan milik gereja menjadi salah satu penandatangan Seruan Roma untuk Etika AI tahun 2020. Seruan itu mendesak transparansi, inklusi, akuntabilitas, ketidakberpihakan, keandalan, dan privasi dalam pengembangan algoritma AI.