Menurut Andrew Ng, kesenjangan digital dapat memperlebar jurang ketimpangan ekonomi jika tidak diatasi dengan kebijakan inklusif. Di sinilah pendekatan Governance, Risk, and Compliance (GRC) menjadi solusi strategis untuk menjembatani permasalahan AI dan memastikan penggunaannya yang inklusif, aman, dan etis.
Oleh : Kemal H. Simanjuntak
JERNIH– Performa artificial intelligence (AI) pada 2025 pasti akan melonjak signifikan. Desember 2024 lalu, Dell Technologies, sebuah raksasa teknologi, menyelenggarakan Predictions 2025 Media Briefing untuk kawasan Asia Pasifik dan Jepang. Di sana terungkap, teknologi AI akan semakin berkembang. Banyak perusahaan teknologi menginvestasikan miliaran dolar untuk pengembangan AI, dan anggaran tersebut akan terus meningkat.
Setiap teknologi yang ada saat ini akan terhubung dengan AI sehingga AI akan lebih dinamis, otonom, dan interaktif. Performa AI akan melampaui semua yang telah dicapai. Salah satu terobosan yang akan muncul adalah Agentic AI, sebuah sistem kecerdasan buatan yang mampu membuat keputusan, bekerja dengan pengawasan manusia, dan mengatasi tantangan kompleks.
Agentik AI mampu beroperasi secara otonom, berkomunikasi dalam bahasa alami, serta berkolaborasi dengan lancar, baik dengan manusia maupun agen AI lainnya. Investasi untuk mengembangkan Agentic AI diperkirakan mencapai US$ 110 miliar hingga 2028.
Indonesia turut menjadi pengguna AI, di tengah revolusi digital yang semakin pesat. Potensi AI untuk meningkatkan efisiensi dan produktivitas di Indonesia sangatlah besar, terutama dengan populasi melebihi 270 juta jiwa dan proyeksi ekonomi digital mencapai US$ 146 miliar pada 2025. Namun, di balik peluang besar ini, terdapat tantangan signifikan yang perlu diatasi agar tidak menjadi masalah serius.
Salah satu tantangan utama dalam adopsi AI di Indonesia adalah kesenjangan digital yang masih mencolok. Kota-kota seperti Jakarta dan Surabaya memiliki akses lebih baik terhadap infrastruktur dan teknologi dibandingkan wilayah terpencil seperti Papua dan Maluku. Hal ini menciptakan ketimpangan dalam pemanfaatan AI, terutama di sektor-sektor yang sangat membutuhkan teknologi ini, seperti pertanian dan perikanan.
Menurut Andrew Ng (2020), kesenjangan digital dapat memperlebar jurang ketimpangan ekonomi jika tidak diatasi dengan kebijakan inklusif. Di sinilah pendekatan Governance, Risk, and Compliance (GRC) menjadi solusi strategis untuk menjembatani permasalahan AI dan memastikan penggunaannya yang inklusif, aman, dan etis.
Dalam konteks GRC, aspek governance berperan memastikan kebijakan yang inklusif seperti program pembangunan infrastruktur digital di daerah terpencil. Risk management membantu mengidentifikasi dan mengurangi risiko ketimpangan ini melalui alokasi sumber daya yang tepat. Sementara itu, compliance memastikan bahwa implementasi program ini mematuhi regulasi yang adil dan transparan, sehingga manfaat AI dapat dirasakan oleh seluruh masyarakat.
Selain kesenjangan digital, AI juga membawa risiko dalam konteks penyebaran hoaks dan propaganda. Teknologi ini dapat digunakan untuk memecah belah masyarakat melalui penyebaran misinformasi dan konten deepfake. Tim Berners-Lee (2019), pencipta World Wide Web, menyatakan, regulasi sangat penting untuk membatasi penggunaan AI yang manipulatif dan destruktif. Dalam kerangka GRC, governance berperan membangun kebijakan yang membatasi penggunaan AI untuk tujuan tersebut. Risk management berfokus pada pembangunan sistem deteksi dini dan compliance menegakkan regulasi yang melindungi integritas informasi publik untuk memastikan bahwa teknologi AI digunakan secara etis.
Dampak AI terhadap lapangan pekerjaan juga menjadi isu yang mendesak. Otomatisasi yang didorong oleh AI telah menggantikan banyak pekerjaan manusia, terutama di sektor manufaktur dan jasa. Menurut McKinsey (2021) sekitar 23 juta pekerjaan di Indonesia, akan tergantikan oleh otomatisasi pada tahun 2030. Tanpa GRC, otomatisasi ini dapat meningkatkan angka pengangguran dan ketimpangan sosial.
Aspek Governance pun diperlukan untuk mengembangkan roadmap nasional untuk pelatihan ulang tenaga kerja yang terdampak otomatisasi dan mempersiapkan mereka untuk pekerjaan baru di sektor digital. Risk management mengidentifikasi sektor yang paling rentan terhadap dampak otomatisasi dan merancang program kontrol risiko seperti subsidi pelatihan ulang. Compliance memastikan bahwa perusahaan yang menerapkan otomatisasi mematuhi regulasi ketenagakerjaan dan melindungi hak-hak pekerja yang terdampak.
Isu privasi data juga menjadi tantangan besar dalam adopsi AI di Indonesia. Kasus kebocoran data pada aplikasi PeduliLindungi menunjukkan betapa rentannya sistem pengamanan data di Indonesia. Menurut Shoshana Zuboff (2019), regulasi seperti UU Perlindungan Data Pribadi (UU PDP) merupakan langkah awal, tetapi implementasi dan pengawasannya masih memerlukan perbaikan signifikan.
Melalui pendekatan GRC, governance berperan dalam membangun kebijakan keamanan data berbasis AI yang sejalan dengan standar internasional seperti GDPR. Risk management mengidentifikasi potensi kebocoran data dan menerapkan teknologi enkripsi untuk melindungi privasi pengguna. Compliance memastikan bahwa semua aplikasi berbasis AI mematuhi regulasi terkait keamanan data dan privasi pengguna, serta memberikan sanksi tegas kepada pelanggar.
Bias dalam algoritma AI juga menjadi permasalahan yang signifikan di Indonesia. Dalam sektor fintech, misalnya, algoritma sering kali memberikan penilaian yang tidak adil terhadap masyarakat pedesaan yang tidak memiliki akses ke layanan perbankan formal. Pendekatan GRC dapat mengatasi masalah ini dengan cara yang terstruktur.
Aspek Governance akan memastikan pengembangan algoritma yang transparan dan dapat diaudit, sehingga hasilnya dapat dijelaskan kepada publik. Risk management membantu mengidentifikasi dan mengurangi bias dalam data yang digunakan untuk melatih algoritma, sehingga menciptakan sistem yang lebih inklusif. Compliance menetapkan regulasi untuk memastikan bahwa algoritma AI tidak mendiskriminasi kelompok tertentu dan dapat digunakan secara adil oleh semua pihak.
Dengan mengadopsi pendekatan GRC, Indonesia dapat menjawab berbagai tantangan yang muncul dari adopsi AI sekaligus memanfaatkan potensi besar teknologi ini secara optimal. Tata kelola yang baik memastikan bahwa kebijakan AI selaras dengan visi inklusi dan keberlanjutan. Manajemen risiko membantu mengidentifikasi ancaman yang mungkin muncul dan mengambil langkah mitigasi yang tepat. Kepatuhan terhadap regulasi menjamin bahwa penggunaan AI berlangsung secara etis, adil, dan transparan.
Bahkan pendekatan GRC juga relevan menghadapi perkembangan AI, termasuk Agentic AI sehiungga Indonesia dapat memanfaatkan keunggulan Agentic AI untuk mendorong transformasi digital yang adil dan memastikan perkembangan AI membawa manfaat bagi masyarakat. GRC menjadi landasan kokoh bagi revolusi AI yang bertanggung jawab dan berkelanjutan.
Dengan kerangka GRC yang dituangkan dalam regulasi-regulasi mengenai AI, revolusi AI di Indonesia tidak hanya menjadi peluang besar untuk mendorong transformasi digital, tetapi juga menjadi alat pemberdayaan yang membawa manfaat bagi seluruh masyarakat dan kekuatan untuk kebaikan bersama. []
- Dr. Kemal H. Simanjuntak, MBA, GRCE, Konsultan Manajemen, GRC Specialist, Asesor LSP TRK (Tata Kelola, Risiko, dan Kepatuhan)
