Para pengkritik argumen ontologis Anselmus tidak mencoba untuk membuktikan bahwa Tuhan itu tidak ada; mereka hanya mengatakan bahwa argumen Anselmus bukanlah alasan yang baik untuk percaya bahwa Tuhan itu ada. Demikian pula, definisi “mesin ultraintelligent” bukanlah alasan yang cukup untuk berpikir bahwa kita dapat membuat perangkat semacam itu.
Oleh : Ted Chiang
JERNIH– Kompiler yang melakukan pekerjaan pengoptimalan terbaik adalah kompiler untuk apa yang dikenal sebagai bahasa khusus domain, yang dirancang untuk menulis kategori program yang sempit.
Misalnya, ada bahasa pemrograman yang disebut Halide yang dirancang khusus untuk menulis program pemrosesan gambar. Karena tujuan penggunaan program-program ini sangat spesifik, kompiler Halide dapat menghasilkan kode sebaik atau lebih baik daripada yang dapat ditulis oleh pemrogram manusia. Tetapi compiler Halide tidak dapat mengompilasi dirinya sendiri, karena bahasa yang dioptimalkan untuk pemrosesan gambar tidak memiliki semua fitur yang diperlukan untuk menulis compiler. Anda memerlukan bahasa tujuan umum untuk melakukan itu, dan kompiler tujuan umum mengalami masalah dalam mencocokkan programmer manusia ketika harus membuat kode mesin.
Kompiler serba guna harus dapat mengkompilasi apa saja. Jika Anda memberinya kode sumber untuk pengolah kata, itu akan menghasilkan pengolah kata. Jika Anda memberinya kode sumber untuk pemutar MP3, pemutar MP3-lah yang akan dihasilkan;dan seterusnya.
Jika besok, seorang programmer menciptakan program jenis baru, sesuatu yang tidak kita kenal saat ini seperti browser Web pertama pada tahun 1990, dia akan memasukkan kode sumber ke dalam kompilator untuk keperluan umum, yang dengan patuh akan menghasilkan program baru itu. Jadi, meskipun penyusun sama sekali tidak cerdas, mereka memiliki satu kesamaan dengan manusia cerdas: mereka mampu menangani masukan yang belum pernah mereka lihat sebelumnya.
Bandingkan ini dengan cara program AI saat ini dirancang. Ambil program AI yang disajikan dengan gerakan catur dan, sebagai tanggapan, hanya perlu memuntahkan gerakan catur. Tugasnya sangat spesifik, dan mengetahui hal itu sangat membantu dalam mengoptimalkan kinerjanya. Hal yang sama berlaku untuk program AI yang hanya akan diberikan “Jeopardy!” petunjuk dan kebutuhan hanya untuk memuntahkan jawaban dalam bentuk pertanyaan.
Beberapa program AI telah dirancang untuk memainkan beberapa permainan serupa, tetapi kisaran input dan output yang diharapkan masih sangat sempit. Sekarang, sebagai alternatif, anggaplah Anda sedang menulis program AI dan Anda tidak memiliki pengetahuan sebelumnya tentang jenis masukan yang dapat diharapkan atau tentang bentuk tanggapan yang benar. Dalam situasi itu, sulit untuk mengoptimalkan kinerja, karena Anda tidak tahu untuk apa Anda mengoptimalkannya.
Seberapa banyak Anda dapat mengoptimalkan untuk umum? Sejauh mana Anda dapat mengoptimalkan sistem secara bersamaan untuk setiap kemungkinan situasi, termasuk situasi yang belum pernah dihadapi sebelumnya? Agaknya, beberapa perbaikan mungkin dilakukan, tetapi gagasan ledakan intelijen menyiratkan bahwa pada dasarnya tidak ada batasan sejauh mana pengoptimalan yang dapat dicapai. Ini adalah klaim yang sangat kuat.
Jika seseorang menyatakan bahwa pengoptimalan tak terbatas untuk umum adalah mungkin, saya ingin melihat beberapa argumen selain mengutip contoh pengoptimalan untuk tugas-tugas khusus.
Jelas, tidak satu pun dari ini membuktikan bahwa ledakan intelijen tidak mungkin terjadi. Memang, saya ragu seseorang dapat membuktikan hal seperti itu, karena masalah seperti itu mungkin tidak berada dalam domain pembuktian matematis. Ini bukanlah pertanyaan untuk membuktikan bahwa sesuatu itu tidak mungkin; ini adalah pertanyaan tentang apa yang merupakan pembenaran yang baik untuk keyakinan.
Para kritikus argumen ontologis Anselmus tidak mencoba untuk membuktikan bahwa Tuhan itu tidak ada; mereka hanya mengatakan bahwa argumen Anselmus bukanlah alasan yang baik untuk percaya bahwa Tuhan itu ada. Demikian pula, definisi “mesin ultraintelligent” bukanlah alasan yang cukup untuk berpikir bahwa kita dapat membuat perangkat semacam itu.
Ada satu konteks di mana menurut saya perbaikan diri rekursif adalah konsep yang bermakna, dan itu adalah ketika kita mempertimbangkan kemampuan peradaban manusia secara keseluruhan. Perhatikan bahwa ini berbeda dengan kecerdasan individu.Tidak ada alasan untuk percaya bahwa manusia yang lahir sepuluh ribu tahun yang lalu memiliki kecerdasan yang kurang dari manusia yang lahir hari ini; mereka memiliki kemampuan belajar yang persis sama seperti kita. Namun, saat ini, kita memiliki sepuluh ribu tahun kemajuan teknologi yang kita miliki, dan teknologi tersebut bukan hanya fisik — mereka juga kognitif.
Mari kita pertimbangkan angka Arab dibandingkan dengan angka Romawi. Dengan sistem notasi posisi, seperti yang dibuat dengan angka Arab, lebih mudah untuk melakukan perkalian dan pembagian; jika Anda berkompetisi dalam kontes perkalian, angka Arab memberi Anda keuntungan. Tetapi saya tidak akan mengatakan bahwa seseorang yang menggunakan angka Arab lebih pintar daripada seseorang yang menggunakan angka Romawi. Dengan analogi, jika Anda mencoba mengencangkan baut dan menggunakan kunci inggris, Anda akan melakukan lebih baik daripada seseorang yang memiliki tang, tetapi tidak adil untuk mengatakan Anda lebih kuat. Anda memiliki alat yang menawarkan keuntungan mekanis yang lebih besar; hanya jika kita memberikan alat yang sama kepada pesaing Anda, kami dapat dengan adil menilai siapa yang lebih kuat. Alat kognitif seperti angka Arab menawarkan keuntungan serupa; jika kita ingin membandingkan kecerdasan individu, mereka harus dilengkapi dengan alat yang sama.
Alat sederhana memungkinkan pembuatan yang rumit; ini berlaku untuk alat kognitif seperti halnya alat fisik. Umat manusia telah mengembangkan ribuan alat semacam itu sepanjang sejarah, mulai dari pembukuan double-entry hingga sistem coördinate Cartesian. Jadi, meskipun kita tidak lebih cerdas dari sebelumnya, kita memiliki alat kognitif yang lebih luas, yang, pada gilirannya, memungkinkan kita untuk menemukan alat yang lebih canggih.
Ini adalah bagaimana perbaikan diri rekursif terjadi — tidak pada tingkat individu tetapi pada tingkat peradaban manusia secara keseluruhan. Saya tidak akan mengatakan bahwa Isaac Newton membuat dirinya lebih cerdas ketika dia menemukan kalkulus; Dia pasti sangat cerdas untuk menciptakannya sejak awal.
Kalkulus memungkinkannya untuk memecahkan masalah tertentu yang tidak dapat dia selesaikan sebelumnya, tetapi dia bukanlah penerima manfaat terbesar dari penemuannya — umat manusia lainnya. Mereka yang datang setelah Newton mendapat manfaat dari kalkulus dalam dua cara: dalam jangka pendek, mereka dapat memecahkan masalah yang tidak dapat mereka pecahkan sebelumnya; dalam jangka panjang, mereka dapat mengembangkan karya Newton dan merancang teknik matematika lain yang lebih canggih.
Kemampuan manusia untuk membangun pekerjaan satu sama lain inilah yang menyebabkan saya tidak percaya menjalankan program AI selama seratus tahun dalam isolasi adalah cara yang baik untuk menghasilkan terobosan besar. Seorang individu yang bekerja dalam isolasi total dapat menghasilkan terobosan tetapi tidak mungkin melakukannya berulang kali; lebih baik Anda memiliki banyak orang yang saling mengambil inspirasi. Mereka tidak harus berkolaborasi secara langsung; bidang penelitian apa pun akan berhasil lebih baik jika memiliki banyak orang yang bekerja di dalamnya.
Pertimbangkan studi DNA sebagai contoh. James Watson dan Francis Crick sama-sama aktif selama beberapa dekade setelah mempublikasikan, pada tahun 1953, makalah mereka tentang struktur DNA, tetapi tidak ada terobosan besar yang kemudian dicapai dalam penelitian DNA dibuat oleh mereka.
Mereka tidak menemukan teknik pengurutan DNA; orang lain melakukannya. Mereka tidak mengembangkan reaksi berantai polimerase yang membuat sintesis DNA terjangkau; orang lain melakukannya. Ini sama sekali bukan penghinaan bagi Watson dan Crick. Itu hanya berarti jika Anda memiliki AI versi mereka dan menjalankannya seratus kali lipat kecepatan normal, Anda mungkin tidak akan mendapatkan hasil sebaik yang kami peroleh dengan ahli biologi molekuler di seluruh dunia yang mempelajari DNA. Inovasi tidak terjadi secara terpisah; ilmuwan menarik dari karya ilmuwan lain.
Laju inovasi terus meningkat dan akan terus berlanjut bahkan tanpa ada mesin yang dapat mendesain penggantinya. Beberapa orang mungkin menyebut fenomena ini ledakan kecerdasan, tapi saya pikir lebih akurat menyebutnya ledakan teknologi yang mencakup teknologi kognitif bersama dengan teknologi fisik.
Perangkat keras dan lunak komputer adalah teknologi kognitif terbaru, dan keduanya merupakan alat bantu yang ampuh untuk inovasi, tetapi keduanya tidak dapat menghasilkan ledakan teknologi sendiri. Anda membutuhkan orang untuk melakukan itu, dan lebih banyak lebih baik. Memberikan perangkat keras dan perangkat lunak yang lebih baik kepada satu individu cerdas sangat membantu, tetapi manfaat nyata datang ketika semua orang memilikinya. Ledakan teknologi kita saat ini adalah hasil dari miliaran orang yang menggunakan alat kognitif tersebut.
Bisakah program AI menggantikan manusia itu, sehingga ledakan terjadi di dunia digital lebih cepat dari yang terjadi di kita? Mungkin, tapi mari kita pikirkan apa yang dibutuhkan. Strategi yang paling mungkin berhasil pada dasarnya adalah menduplikasi semua peradaban manusia dalam perangkat lunak, dengan delapan miliar AI yang setara dengan manusia menjalankan bisnis mereka.
Itu mungkin mahal, jadi tugasnya adalah mengidentifikasi subkumpulan terkecil dari peradaban manusia yang dapat menghasilkan sebagian besar inovasi yang Anda cari. Salah satu cara untuk memikirkannya adalah dengan bertanya: Berapa banyak orang yang Anda perlukan untuk membuat Proyek Manhattan? Perhatikan bahwa ini berbeda dengan menanyakan berapa banyak ilmuwan yang sebenarnya bekerja di Proyek Manhattan. Pertanyaan yang relevan adalah: Seberapa besar populasi yang perlu Anda ambil untuk merekrut cukup banyak ilmuwan untuk menjadi staf dalam upaya semacam itu?
Dengan cara yang sama bahwa hanya satu dari beberapa ribu orang yang bisa mendapatkan gelar Ph.D. dalam fisika, Anda mungkin harus menghasilkan beberapa ribu AI yang setara dengan manusia untuk mendapatkan satu AI. Dibutuhkan populasi gabungan AS dan Eropa pada tahun 1942 untuk menyusun Proyek Manhattan. Saat ini, laboratorium penelitian tidak membatasi diri pada dua benua saat merekrut, karena membangun tim terbaik membutuhkan penarikan dari kumpulan bakat terbesar yang tersedia. Jika tujuannya adalah untuk menghasilkan inovasi sebanyak seluruh umat manusia, Anda mungkin tidak dapat secara dramatis mengurangi angka awal delapan miliar itu.
Kami masih jauh dari dapat membuat AI yang setara dengan manusia, apalagi miliarannya. Di masa mendatang, ledakan teknologi yang sedang berlangsung akan didorong oleh manusia yang menggunakan alat yang ditemukan sebelumnya untuk menemukan yang baru; tidak akan ada “penemuan terakhir yang dibutuhkan manusia”.
Di satu sisi, ini meyakinkan, karena, bertentangan dengan klaim Good, kecerdasan manusia tidak akan pernah “tertinggal jauh”. Tapi, dengan cara yang sama kita tidak perlu khawatir bahwa AI akan menghancurkan peradaban. Kita seharusnya tidak menantikan AI menyelamatkan kita terlepas dari diri kita sendiri. Baik atau buruk, nasib spesies kita akan bergantung pada pengambilan keputusan manusia. [The New Yorker]
Ted Chiang adalah penulis fiksi ilmiah pemenang beragam penghargaan. Pada tahun 2016, judul cerita dari koleksi pertamanya, “Stories of Your Life and Others”, diadaptasi menjadi film “Arrival”. Dia tinggal di Bellevue, Washington, di mana bekerja sebagai penulis lepas.
