Mengapa menurut saya AGI belum akan terjadi dalam waktu dekat

Berikut postingan blog lengkapnya — konten isi HTML saja:

---

Mengapa Saya Tidak Merasa AGI Akan Segera Terjadi

Terlepas dari berita utama yang menarik perhatian dan pertaruhan bernilai miliaran dolar, kecerdasan umum buatan tidak akan hadir tahun depan, atau bahkan mungkin pada dekade ini. Kesenjangan antara sistem AI yang mengesankan namun sempit dan kecerdasan umum yang sebenarnya masih sangat besar, disalahpahami, dan terus-menerus diremehkan oleh pihak-pihak yang mempunyai insentif finansial untuk melebih-lebihkan kemajuan.

Sebagai pendiri Mewayz, sebuah platform yang dipercaya oleh lebih dari 138.000 pengguna untuk menjalankan bisnis mereka dengan 207 modul terintegrasi, saya menghabiskan hari-hari saya memikirkan tentang apa yang sebenarnya dapat dilakukan oleh teknologi versus apa yang kita harapkan dapat dilakukannya. Sudut pandang praktis tersebut membentuk skeptisisme saya terhadap garis waktu AGI, dan saya yakin hal itu juga akan membentuk skeptisisme Anda.

Apa Sebenarnya Maksud Orang Ketika Mereka Mengatakan AGI Akan Segera Hadir?

Istilah "kecerdasan umum buatan" mengacu pada sistem yang dapat melakukan tugas intelektual apa pun yang dapat dilakukan manusia, dengan kemampuan untuk berpikir, belajar, beradaptasi, dan mentransfer pengetahuan ke seluruh domain baru tanpa pelatihan khusus. Ini bukan chatbot yang menulis email yang layak. Ini bukanlah generator gambar yang menghasilkan seni fotorealistik. Bahkan bukan asisten pengkodean yang dapat merancang aplikasi.

Apa yang kita miliki saat ini adalah model bahasa besar dan sistem multimodal yang unggul dalam pencocokan pola pada kumpulan data yang sangat besar. Itu adalah alat yang luar biasa. Mereka juga pada dasarnya berbeda dari kecerdasan umum. Ketika Sam Altman atau Demis Hassabis menyatakan bahwa AGI sudah dekat, mereka menggabungkan kemampuan dalam parameter tertentu dengan kemampuan beradaptasi terbuka yang mendefinisikan kecerdasan umum. Ini bukanlah hal yang sama, dan tidak ada upaya penskalaan yang menunjukkan bukti dapat menjembatani kesenjangan tersebut.

Mengapa Penskalaan Saja Gagal Menghasilkan Kecerdasan Umum?

Teori yang berlaku di Silicon Valley tampak sederhana: buat model lebih besar, berikan lebih banyak data, dan kecerdasan umum akan muncul. "Hipotesis penskalaan" ini telah mendorong miliaran dolar pembelian GPU dan pembangunan pusat data. Namun bukti empiris menceritakan kisah yang lebih rumit.

Menurunnya keuntungan pada tolok ukur: Setiap peningkatan komputasi menghasilkan peningkatan yang semakin kecil pada tugas-tugas penalaran, yang menunjukkan bahwa kita sudah mencapai batas tertinggi dibandingkan mendekati terobosan.

Kerapuhan dalam kondisi baru: Model saat ini gagal secara tak terduga ketika dihadapkan pada masalah yang sedikit menyimpang dari distribusi pelatihannya, sebuah batasan mendasar yang tidak dapat diselesaikan dengan lebih banyak parameter.

Tidak adanya alasan sebab akibat: LLM beroperasi berdasarkan korelasi statistik, bukan pemahaman sebab akibat. Mereka tidak dapat memodelkan mengapa sesuatu terjadi, hanya memprediksi teks apa yang mungkin mengikuti teks lainnya.

Tidak ada pembelajaran yang terus-menerus: Sistem saat ini tidak dapat belajar dari satu interaksi dan membawa pengetahuan tersebut seperti yang dilakukan anak manusia setelah menyentuh kompor panas satu kali.

Perwujudan dan landasan: Kecerdasan manusia sangat terkait dengan pengalaman fisik dan umpan balik sensorik. Tidak ada data teks sebanyak apa pun yang dapat mereplikasi pemahaman dasar yang ada di dunia.

Penskalaan telah memberi kita alat yang luar biasa, namun hal ini belum menghasilkan satu sistem pun yang menunjukkan pemahaman yang tulus, dan tidak ada kerangka teoritis yang menyarankan hal tersebut.

Siapa yang Diuntungkan dari Timeline AGI yang Terlalu Menjanjikan?

Ikuti uangnya. Setiap laboratorium AI besar saat ini melakukan penggalangan dana dengan valuasi yang mengasumsikan terobosan transformatif dalam jangka pendek. Pengumpulan dana OpenAI yang bernilai miliaran dolar, posisi internal Google DeepMind, dan urgensi kerangka keselamatan Anthropic semuanya bergantung pada narasi bahwa AGI cukup dekat untuk membenarkan investasi yang belum pernah terjadi sebelumnya.

“Prediktor yang paling dapat diandalkan mengenai garis waktu AGI yang agresif bukanlah bukti teknis, melainkan insentif finansial. Mereka yang ingin mendapatkan keuntungan maksimal dari narasi ini adalah pihak yang paling bersuara keras dalam mempromosikan hal tersebut.”

Hal ini tidak berarti bahwa perusahaan-perusahaan tersebut bertindak dengan itikad buruk. Banyak peneliti yang tulus

Related Posts

• CXMT telah menawarkan chip DDR4 dengan harga sekitar setengah dari harga pasar yang berlaku
• FDA mengatakan perusahaan dapat mengklaim "tidak ada pewarna buatan" jika mereka menggunakan pewarna alami
• Saya memberi Claude akses ke plotter pena saya
• Apa yang harus diketahui oleh setiap penulis kompiler tentang programmer (2015) [pdf]