Dengan kecepatan seperti itu, satu abad akan menjadi waktu yang cukup baginya untuk menulis Windows XP sendirian, yang konon terdiri dari empat puluh lima juta baris kode. Itu pencapaian yang mengesankan, tetapi sangat jauh dari kemampuannya untuk menulis AI lebih cerdas dari dirinya sendiri. Menciptakan AI membutuhkan lebih dari kemampuan untuk menulis kode yang baik; itu akan membutuhkan terobosan besar dalam penelitian AI, dan itu bukanlah sesuatu yang dijamin dapat dicapai oleh programmer komputer pada umumnya, tidak peduli berapa banyak waktu yang Anda berikan kepada mereka.
Oleh : Ted Chiang
JERNIH– Pada abad kesebelas, St. Anselmus dari Canterbury mengajukan argumen tentang keberadaan Tuhan yang kira-kira seperti ini: “Tuhan, menurut definisi, adalah makhluk terbesar yang dapat kita bayangkan; Tuhan yang tidak ada jelas tidak sebesar Tuhan yang ada; ergo, Tuhan pasti ada”.
Ini dikenal sebagai argumen ontologis, dan ada cukup banyak orang yang merasa yakin bahwa argumen itu masih dibahas, hampir seribu tahun kemudian. Beberapa pengkritik argumen ontologis berpendapat bahwa itu pada dasarnya mendefinisikan makhluk menjadi ada, dan itu bukanlah cara kerja sebuah definisi.
Tuhan bukanlah satu-satunya makhluk yang dicoba diperdebatkan oleh orang-orang tentang keberadaannya. “Biarlah mesin ultraintelligent didefinisikan sebagai mesin yang jauh melampaui semua aktivitas intelektual siapa pun, betapapun pintarnya,” matematikawan Irving John Good menulis pada 1965:
Karena desain mesin adalah salah satu dari aktivitas intelektual ini, mesin yang sangat cerdas dapat merancang mesin yang lebih baik; maka tidak diragukan lagi akan ada “ledakan kecerdasan”, dan kecerdasan manusia akan tertinggal jauh. Jadi mesin ultraintelligent pertama adalah penemuan terakhir yang perlu dibuat manusia, asalkan mesin itu cukup jinak untuk memberi tahu kita bagaimana cara mengendalikannya.
Ide ledakan kecerdasan dihidupkan kembali pada tahun 1993, oleh penulis dan ilmuwan komputer Vernor Vinge, yang menyebutnya “singularitas”, dan gagasan tersebut sejak itu mendapatkan popularitas di kalangan ahli teknologi dan filsuf. Buku-buku seperti “Superintelligence: Paths, Dangers, Strategies” Nick Bostrom, “Life 3.0: Being Human in the age of Artificial Intelligence” karya Max Tegmark, dan “Human Compatible: Artificial Intelligence and the Problem of Control” karya Stuart Russell semuanya menjelaskan skenario “Perbaikan diri rekursif,” di mana program kecerdasan buatan mendesain versi perbaikan dirinya berulang kali.
Saya percaya bahwa argumen Irving Good dan Anselm memiliki kesamaan, yaitu, dalam kedua kasus, banyak pekerjaan yang dilakukan oleh definisi awal. Definisi-definisi ini tampaknya masuk akal secara dangkal. Itulah sebabnya mereka secara umum diterima begitu saja, tetapi mereka layak untuk diperiksa lebih dekat. Saya pikir semakin kita meneliti asumsi implisit dari argumen Irving Good, ide ledakan intelijen menjadi kurang masuk akal.
Seperti apa perbaikan diri rekursif bagi manusia? Demi kenyamanan, kami akan mendeskripsikan kecerdasan manusia dalam istilah IQ, bukan sebagai pengesahan pengujian IQ, menguji tetapi karena IQ mewakili gagasan bahwa kecerdasan dapat ditangkap dengan berguna oleh satu angka, gagasan ini menjadi salah satu asumsi yang dibuat oleh para pendukung ledakan intelijen. Dalam hal ini, perbaikan diri rekursif akan terlihat seperti ini: Begitu ada seseorang dengan IQ dari, katakanlah, 300, salah satu masalah yang dapat dipecahkan orang ini adalah bagaimana mengubah seseorang dengan IQ dari 300 menjadi seseorang dengan IQ 350. Dan kemudian seseorang dengan IQ dari 350 akan dapat memecahkan masalah yang lebih sulit untuk mengubah seseorang dengan IQ 350 menjadi seseorang dengan IQ 400. Dan seterusnya.
Apakah kita punya alasan untuk berpikir bahwa begitulah cara kerja intelijen? Saya tidak percaya kami melakukannya. Misalnya, ada banyak orang yang memiliki IQ 130, dan ada sejumlah kecil orang yang memiliki IQ 160. Tak satu pun dari mereka yang mampu meningkatkan kecerdasan seseorang dengan IQ 70 hingga 100, yang diimplikasikan sebagai tugas yang lebih mudah. Tak satu pun dari mereka bahkan dapat meningkatkan kecerdasan hewan, yang kecerdasannya dianggap terlalu rendah untuk diukur oleh tes IQ. Jika meningkatkan IQ seseorang adalah aktivitas seperti memecahkan serangkaian teka-teki matematika, kita harus melihat contoh suksesnya di ujung bawah, di mana masalah lebih mudah dipecahkan. Tetapi kita tidak melihat bukti kuat tentang hal itu terjadi.
Mungkin karena kita saat ini terlalu jauh dari ambang batas yang diperlukan; mungkin IQ 300 adalah jumlah minimum yang dibutuhkan untuk meningkatkan kecerdasan siapa pun. Namun, meskipun itu benar, kita masih belum memiliki alasan yang kuat untuk percaya bahwa perbaikan diri rekursif tanpa akhir mungkin saja terjadi.
Misalnya, sangat mungkin bahwa yang terbaik adalah seseorang dengan IQ dari 300 yang dapat dilakukan adalah meningkatkan IQ orang lain menjadi 200. Itu akan memungkinkan satu orang dengan IQ 300 untuk memberi semua orang di sekitar mereka IQ 200, yang sejujurnya akan menjadi pencapaian yang luar biasa. Tapi itu masih akan membuat kita berada di dataran tinggi; tidak akan ada perbaikan diri rekursif dan tidak ada ledakan kecerdasan.
Insinyur penelitian IBM Emerson Pugh dikreditkan dengan mengatakan “Jika otak manusia begitu sederhana sehingga kita dapat memahaminya, kita akan sangat sederhana sehingga kita tidak bisa.” Pernyataan ini masuk akal secara intuitif, tetapi, yang lebih penting, kita dapat menunjukkan contoh konkret yang mendukungnya: cacing gelang mikroskopis C elegans. Ini mungkin salah satu organisme yang paling dipahami dalam sejarah; ilmuwan telah mengurutkan genomnya dan mengetahui garis keturunan pembelahan sel yang memunculkan masing-masing dari sembilan ratus lima puluh sembilan sel somatik dalam tubuhnya, dan telah memetakan setiap hubungan antara tiga ratus dua neuronnya.
Tetapi mereka masih belum sepenuhnya memahami perilakunya. Otak manusia diperkirakan memiliki rata-rata delapan puluh enam miliar neuron, dan kita mungkin membutuhkan sebagian besar dari mereka untuk memahami apa yang terjadi dalam tiga ratus dua C elegans; rasio ini bukan pertanda baik bagi prospek kita untuk memahami apa yang terjadi dalam diri kita.
Beberapa pendukung ledakan intelijen berpendapat bahwa meningkatkan kecerdasan sistem tanpa sepenuhnya memahami cara kerja sistem adalah mungkin dilakukan. Mereka menyiratkan bahwa sistem cerdas, seperti otak manusia atau program AI, memiliki satu atau lebih “kenop intelijen” yang tersembunyi, dan bahwa kita hanya perlu cukup pintar untuk menemukan kenopnya.
Saya tidak yakin saat ini kita memiliki banyak kandidat yang baik untuk kenop ini, jadi sulit untuk mengevaluasi kewajaran ide ini. Mungkin cara yang paling sering disarankan untuk “meningkatkan” kecerdasan buatan adalah dengan meningkatkan kecepatan perangkat keras tempat program berjalan. Beberapa orang mengatakan bahwa, begitu kita membuat perangkat lunak yang secerdas manusia, menjalankan perangkat lunak di komputer yang lebih cepat akan secara efektif menciptakan kecerdasan manusia super. Apakah ini akan menyebabkan ledakan intelijen?
Misalkan kita memiliki program AI yang sama cerdas dan cakapnya dengan rata-rata pemrogram komputer manusia. Sekarang misalkan kita meningkatkan kecepatan komputernya ratusan kali dan membiarkan program berjalan selama satu tahun. Itu sama dengan mengunci manusia biasa di sebuah ruangan selama seratus tahun, dengan tidak ada yang bisa dilakukan kecuali mengerjakan tugas pemrograman yang ditugaskan.
Banyak manusia akan menganggap ini sebagai hukuman penjara yang mengerikan, tetapi, untuk tujuan skenario ini, mari kita bayangkan bahwa AI tidak merasakan hal yang sama. Kita akan berasumsi bahwa AI memiliki semua sifat yang diinginkan dari seorang manusia tetapi tidak memiliki sifat lain yang akan menjadi penghalang dalam skenario ini, seperti kebutuhan akan hal baru atau keinginan untuk membuat pilihan sendiri. (Tidak jelas bagi saya bahwa ini adalah asumsi yang masuk akal, tetapi kita dapat meninggalkan pertanyaan itu di lain waktu.)
Jadi sekarang kita punya AI yang menghabiskan seratus tahun-orang untuk satu tugas. Hasil seperti apa yang bisa kita harapkan untuk dicapai? Misalkan AI dapat menulis dan men-debug ribuan baris kode per hari, yang merupakan tingkat produktivitas yang luar biasa.
Dengan kecepatan seperti itu, satu abad akan menjadi waktu yang cukup baginya untuk menulis Windows XP sendirian, yang konon terdiri dari empat puluh lima juta baris kode. Itu pencapaian yang mengesankan, tetapi sangat jauh dari kemampuannya untuk menulis AI lebih cerdas dari dirinya sendiri. Menciptakan AI membutuhkan lebih dari kemampuan untuk menulis kode yang baik; itu akan membutuhkan terobosan besar dalam penelitian AI, dan itu bukanlah sesuatu yang dijamin dapat dicapai oleh programmer komputer pada umumnya, tidak peduli berapa banyak waktu yang Anda berikan kepada mereka.
Saat Anda mengembangkan perangkat lunak, Anda biasanya menggunakan program yang dikenal sebagai kompilator. Kompilator mengambil kode sumber yang telah Anda tulis, dalam bahasa seperti C, dan menerjemahkannya ke dalam program yang dapat dijalankan: file yang terdiri dari kode mesin yang dimengerti komputer.
Misalkan Anda tidak puas dengan compiler C yang Anda gunakan — sebut saja CompilerZero. CompilerZero membutuhkan waktu lama untuk memproses kode sumber Anda, dan program yang dihasilkannya membutuhkan waktu lama untuk dijalankan. Anda yakin dapat melakukannya dengan lebih baik, jadi Anda menulis compiler C baru, yang menghasilkan kode mesin yang lebih efisien; yang baru ini dikenal sebagai kompilator yang mengoptimalkan.
Anda telah menulis compiler pengoptimalan Anda di C, sehingga Anda dapat menggunakan CompilerZero untuk menerjemahkan kode sumber Anda ke dalam program yang dapat dijalankan. Panggil program ini CompilerOne. Berkat kecerdikan Anda, CompilerOne sekarang menghasilkan program yang berjalan lebih cepat. Tetapi CompilerOne sendiri masih membutuhkan waktu lama untuk dijalankan, karena merupakan produk dari CompilerZero. Apa yang bisa kau lakukan?
Anda dapat menggunakan CompilerOne untuk mengkompilasi dirinya sendiri. Anda memberi makan CompilerOne kode sumbernya sendiri, dan menghasilkan file baru yang dapat dijalankan yang terdiri dari kode mesin yang lebih efisien. Panggil CompilerTwo ini. CompilerTwo juga menghasilkan program yang berjalan sangat cepat, tetapi memiliki keuntungan tambahan karena berjalan dengan sangat cepat. Selamat — Anda telah menulis program komputer yang memperbaiki diri.
Tapi ini sejauh ini. Jika Anda memasukkan kode sumber yang sama ke CompilerTwo, yang dilakukannya hanyalah menghasilkan salinan lain dari CompilerTwo. Itu tidak dapat membuat CompilerThree dan memulai serangkaian kompiler yang semakin baik. Jika Anda menginginkan kompiler yang menghasilkan program yang berjalan sangat cepat, Anda harus mencari di tempat lain untuk mendapatkannya.
Teknik memiliki kompilasi sendiri dikenal sebagai bootstrap, dan sudah digunakan sejak tahun 1960-an. Mengoptimalkan kompiler telah berkembang jauh sejak saat itu, sehingga perbedaan antara CompilerZero dan CompilerTwo bisa jauh lebih besar daripada sebelumnya, tetapi semua kemajuan itu dicapai oleh pemrogram manusia daripada oleh kompiler yang meningkatkan dirinya sendiri. Dan, meskipun penyusun sangat berbeda dari program kecerdasan buatan, mereka menawarkan preseden yang berguna untuk memikirkan gagasan ledakan kecerdasan, karena mereka adalah program komputer yang menghasilkan program komputer lain, dan karena ketika mereka melakukannya, pengoptimalan sering kali menjadi prioritas. .
Semakin banyak Anda mengetahui tentang tujuan penggunaan suatu program, semakin baik Anda dapat mengoptimalkan kodenya. Pemrogram manusia terkadang mengoptimalkan bagian program secara manual, artinya mereka menentukan instruksi mesin secara langsung; manusia dapat menulis kode mesin yang lebih efisien daripada yang dihasilkan kompilator, karena mereka tahu lebih banyak tentang apa yang seharusnya dilakukan program daripada yang dilakukan kompilator. [Bersambung segera—The New Yorker]
Ted Chiang adalah penulis fiksi ilmiah pemenang beragam penghargaan. Pada tahun 2016, judul cerita dari koleksi pertamanya, “Stories of Your Life and Others”, diadaptasi menjadi film “Arrival”. Dia tinggal di Bellevue, Washington, di mana bekerja sebagai penulis lepas.