Crispy

Bias, Rasisme dan Kebohongan:Konsekuensi yang Tidak Diinginkan dari AI

Cerita Iran baru-baru ini telah menghidupkan kembali ketakutan. Iran meyakinkan dunia tentang penggunaan robot pembunuh bersenapan mesin diperlengkapi AI untuk membunuh ahli nuklirnya, membuat cerita tentang AI menjadi kian buram.

JERNIH–Alat digital canggih yang menggunakan perangkat lunak kecerdasan buatan (AI) membantu memerangi COVID-19, dan berpotensi meningkatkan dunia dengan banyak cara lain.

Namun, saat AI merembes ke lebih banyak area kehidupan sehari-hari, semakin jelas bahwa penyalahgunaannya dapat menyebabkan bahaya serius. Itu yang membuat PBB menyerukan regulasi internasional sehubungan teknologi tersebut.

Frasa “kecerdasan buatan” dapat memunculkan gambaran tentang mesin yang mampu berpikir dan bertindak, seperti manusia. Versi film AI cenderung menampilkan mesin super cerdas yang mencoba menggulingkan umat manusia dan menaklukkan dunia.

Kenyataannya lebih membosankan, dan cenderung mendeskripsikan perangkat lunak yang dapat memecahkan masalah, menemukan pola dan, sampai batas tertentu, “belajar”. Ini sangat berguna ketika sejumlah besar data perlu disortir dan dipahami, dan AI sudah digunakan dalam sejumlah skenario, terutama di sektor swasta.

Contohnya termasuk chatbots yang dapat melakukan korespondensi online; situs belanja online yang mempelajari dan memprediksi apa yang mungkin ingin Anda beli; dan jurnalis AI yang menulis artikel olahraga dan bisnis.

Cerita Iran baru-baru ini telah menghidupkan kembali ketakutan tentang penggunaan robot pembunuh bersenapan mesin dengan diperlengkapi AI untuk membunuh ahli nuklirnya, membuat cerita tentang AI menjadi kian buram.

Menjelang peluncuran panduan PBB untuk memahami etika AI, berikut lima hal yang harus Anda ketahui tentang penggunaan AI, konsekuensinya, dan cara meningkatkannya.

1) Konsekuensi penyalahgunaan bisa sangat merusak

Pada bulan Januari, seorang pria Afrika-Amerika di negara bagian Michigan, AS, ditangkap karena kejahatan mengutil yang tidak dia ketahui. Dia ditahan setelah diborgol di luar rumahnya di depan keluarganya.

Ini diyakini sebagai penangkapan salah yang pertama dari jenisnya: petugas polisi yang terlibat telah mempercayai AI pengenalan wajah untuk menangkap pria mereka. Tetapi alat tersebut belum mempelajari cara mengenali perbedaan antara wajah hitam karena gambar yang digunakan untuk melatihnya sebagian besar berwajah putih.

Untungnya, dengan cepat menjadi jelas bahwa dia tidak terlihat seperti tersangka yang terlihat dalam foto yang diambil dari kamera keamanan toko, dan dia dibebaskan, meskipun dia menghabiskan beberapa jam di penjara.

Pada bulan Juli, terjadi keributan di Inggris, ketika impian banyak siswa yang berharap untuk masuk ke universitas pilihan mereka pupus. Program komputer digunakan untuk menilai nilai mereka (ujian tradisional telah dibatalkan, karena Pandemi covid19).

Untuk mengetahui apa yang akan diperoleh siswa jika mereka mengikuti ujian, program mengambil nilai mereka saat ini, dan juga memperhitungkan rekam jejak sekolah mereka dari waktu ke waktu. Hal ini akhirnya menghukum siswa yang cerdas dari lingkungan minoritas dan berpenghasilan rendah, yang lebih cenderung pergi ke sekolah yang secara keseluruhan memiliki nilai rata-rata lebih rendah daripada sekolah yang diikuti oleh siswa yang lebih kaya.

Contoh-contoh ini menunjukkan bahwa, agar alat AI berfungsi dengan baik, data scientist terlatih perlu bekerja dengan data berkualitas tinggi. Sayangnya, banyak data yang digunakan untuk mengajarkan AI saat ini diambil dari konsumen di seluruh dunia, seringkali tanpa persetujuan eksplisit mereka. Belum negara-negara miskin seringkali tidak memiliki kemampuan untuk memastikan adanya perlindungan data pribadi, atau untuk melindungi masyarakat mereka dari serangan cyber yang merusak serta misinformasi yang berkembang sejak pandemi COVID-19.

2) Kebencian, perpecahan, dan kebohongan baik untuk bisnis

Banyak perusahaan media sosial mendapat kecaman dari para skeptis yang berpengetahuan karena menggunakan algoritme, didukung oleh AI. Mereka mengirimi target dengan konten yang disesuaikan, yang akan memperkuat prasangka mereka. Semakin banyak kandungannya, semakin besar kemungkinan untuk dikonsumsi dan dibagikan.

Alasan mengapa perusahaan-perusahaan ini dengan senang hati “mendorong” konten yang memecah belah secara sosial, mempolarisasi konten kepada pengguna mereka, adalah karena hal itu meningkatkan kemungkinan mereka akan bertahan lebih lama di platform, yang membuat pengiklan mereka senang, dan meningkatkan keuntungan mereka.

Hal ini telah meningkatkan popularitas ekstremis, postingan penuh kebencian, yang disebarkan oleh kelompok-kelompok yang biasanya hanya merupakan paa pelaku pinggiran yang kurang dikenal.

Selama pandemi COVID-19, itu juga menyebabkan penyebaran informasi yang salah tentang virus, berpotensi menyebabkan lebih banyak orang terinfeksi.

3) Ketimpangan global tercermin secara online

Ada bukti kuat yang menunjukkan bahwa AI berperan dalam membuat dunia lebih tidak setara, dan menguntungkan sebagian kecil orang. Misalnya, lebih dari tiga perempat dari semua inovasi dan paten digital baru, diproduksi oleh hanya 200 perusahaan. Dari 15 platform digital terbesar yang kami gunakan, 11 berasal dari AS, sedangkan sisanya adalah Cina.

Ini berarti bahwa alat AI sebagian besar dirancang oleh pengembang di Barat. Faktanya, para pengembang ini sebagian besar adalah orang kulit putih, yang juga bertanggung jawab atas sebagian besar penulis tentang topik AI. Kasus penangkapan yang salah di Michigan hanyalah salah satu contoh bahaya yang ditimbulkan oleh kurangnya keragaman dalam bidang yang sangat penting ini.

Ini juga berarti bahwa, pada tahun 2030, Amerika Utara dan Cina diharapkan mendapatkan bagian terbesar dari keuntungan ekonomi, yang diharapkan bernilai triliunan dolar, yang diperkirakan akan dihasilkan AI.

4) Manfaat potensial sangat besar

Ini tidak berarti bahwa AI harus digunakan lebih sedikit: inovasi yang menggunakan teknologi sangat berguna bagi masyarakat, seperti yang telah kita lihat selama pandemi.

Pemerintah di seluruh dunia telah beralih ke solusi digital untuk masalah baru, dari aplikasi pelacakan kontak, hingga obat-obatan tele dan obat-obatan yang dikirim oleh drone, dan, untuk melacak penyebaran COVID-19 di seluruh dunia, AI telah digunakan untuk menjaring melalui penyimpanan data yang sangat besar yang berasal dari interaksi kita di media sosial dan online.

Namun, manfaatnya jauh melampaui pandemi: AI dapat membantu memerangi krisis iklim, memperkuat model yang dapat membantu memulihkan ekosistem dan habitat, dan memperlambat hilangnya keanekaragaman hayati; dan menyelamatkan nyawa dengan membantu organisasi kemanusiaan untuk mengarahkan sumber daya mereka ke tempat yang paling membutuhkan dengan lebih baik.

Masalahnya adalah bahwa alat AI sedang dikembangkan begitu cepat sehingga baik perancang, pemegang saham perusahaan, atau pemerintah tidak punya waktu untuk mempertimbangkan potensi jebakan dari teknologi baru yang mempesona ini.

5) Kita perlu menyetujui regulasi AI internasional

Untuk alasan ini, badan pendidikan, sains dan budaya PBB, UNESCO, berkonsultasi dengan berbagai kelompok, termasuk perwakilan dari masyarakat sipil, sektor swasta, dan masyarakat umum, untuk menetapkan standar AI internasional, dan memastikan bahwa teknologi memiliki dasar etika yang kuat, yang mencakup supremasi hukum, dan pemajuan hak asasi manusia.

Bidang penting yang perlu dipertimbangkan mencakup pentingnya membawa lebih banyak keragaman di bidang ilmu data untuk mengurangi bias, dan stereotip rasial dan gender; penggunaan AI yang tepat dalam sistem peradilan untuk membuatnya lebih adil serta lebih efisien; dan menemukan cara untuk memastikan bahwa manfaat teknologi tersebar di antara orang sebanyak mungkin. [Modern diplomacy]

Tags

Leave a Reply

Your email address will not be published. Required fields are marked *

Back to top button
Close
Close