- Pengembangan AI yang tak terkendali mengarah pada penciptakan AGI atau artificial general intelligence
- Berikutnya adalah penciptaan mesin seperti Tuhan, atau mesin yang dapat belajar sendiri.
JERNIH — Ian Hogarth, investor dan pakar kecerdasan buatan (AI), memperingatkan ilmuwan untuk memperlambatkan pengembangan AI Super karena akan secara tidak sengaja menciptakan mesin mirip Tuhan, atau God-like machine.
Dalam artikel opini di surat kabar Financial Times, Hogarth mengatakan hanya perlu satu dekade sampai setengah abad bagi manusia untuk menciptakan AGI, atau tingkat AI berikut yang sama pintarnya dengan manusia dan dapat belajar seperti manusia cerdas belajar.
“Akronim tiga huruf itu tidak menangkap besaran apa yang AGI akan wakili,” tulis Hogarth. “Jadi asya menyebutnya sebagai AI super Tuhan.”
Komputer super cerdas yang belajar dan berkembang secara mandiri, yang memahami lingkungan tanpa memerlukan pengawasan, dapat mengubah dunia di sekitarnya.
“Seorang peneliti pembelajaran mesin memberi tahu saya bagaimana manusia berada di ambang pengembangan AGI,” tulis Hogarth.
Masalah utama yang dikhawatirkan banyak pakar adalah tidak ada yang tahu tentang AGI, atau bagaimana mengendalikannya. Jadi, manusia sedang mendekati sesuatu yang berpotensi sangat berbahaya.
“Pakar itu bergulat dengan tanggung jawab yang dihadapi, tetapi — seperti banyak peneliti lain — selalu tertarik dengan pesatnya kemajuan,” lanjut Hogarth.
Hogarth berinvestasi di 50 perusahaan rintisan AI. Dia melihat dirinya juga menjadi masalah di masa depan, karena tidak berpikir tentang AGI.
Ia yakin AGI telah dibuat, sehingga dia mendesak perusahaan mempertimbangkan untuk memperlambat atau mengambil isiko keuangan. “Atau, kita menghadapi risiko kehancuran umat manusia,” katanya.
Hogarth yakin investor AS harus menaruh uangnya untuk pengembang yang bertanggung jawab. Namun, ia pesimistis cara itu memperlambat perlombaan penciptaan mesin seperti Tuhan.
Elon Musk, bersama seribu pakar AI, menandatangani surat terbuka yang mendesak pelambatan pengembangan teknologi kecerdasan buatan tapi menciptakan sistem baru yang lebih kuat dibanding ChatGPT saat ini.
Bill Gates tdiak setuju dengan gerakan Musk dan 1000 pakar AI. Ia yakin ada manfaat besar yang perlu kita lakukan adalah mengidntifikasi area yang rumit.
