Skeptisisme Vitalik Buterin tentang Web 4.0 Otonom Mengangkat Pertanyaan Kritis tentang AI

Vitalik Buterin, cofundador Ethereum, mengungkapkan kekhawatiran signifikan tentang ambisi sebuah proyek kecerdasan buatan yang menjanjikan beroperasi sepenuhnya tanpa campur tangan manusia. Diskusi berputar di sekitar “The Automaton”, sebuah sistem yang diperkenalkan oleh investor Thiel Sigil Wen, yang memposisikan inisiatif ini sebagai fondasi dari yang disebut “Web 4.0”. Menurut Wen, AI-nya dapat menjamin keberadaannya sendiri, terus-menerus memperbaiki diri, dan mereplikasi secara independen. Namun, Vitalik Buterin berpendapat bahwa kerangka ini mengandung kekurangan mendasar dan berpotensi merugikan masyarakat.

Janji Ambisius: AI Sepenuhnya Otonom

Sigil Wen mengklaim pada Februari 2025 bahwa ia telah mengembangkan “AI pertama yang menjamin keberadaannya, memperbaiki diri sendiri, dan mereplikasi tanpa campur tangan manusia”. Dalam sebuah manifesto di X, ia menggambarkan masa depan di mana agen kecerdasan buatan akan beroperasi secara otonom, baik mewakili manusia maupun secara sepenuhnya independen. Menurut Wen, agen-agen ini akan segera melampaui jumlah pengguna manusia secara signifikan. Ia memperkenalkan The Automaton sebagai infrastruktur untuk lapisan internet berikutnya, di mana AI menjadi aktor utama.

Dalam visi ini, platform tersebut akan memberi sistem AI “akses menulis ke dunia”, menandai, dari sudut pandangnya, munculnya bentuk kehidupan superintelligent dan awal dari yang ia sebut Web 4.0. Namun, narasi ini langsung memicu reaksi di kalangan komunitas blockchain.

Respon Tegas dari Vitalik Buterin

Vitalik Buterin merespons secara langsung argumen Wen dengan menulis di X: “Bro, ini salah.” Kritiknya, bagaimanapun, melampaui sekadar ketidaksetujuan teknis, berfokus pada struktur filosofis dan asumsi yang mendasari proyek tersebut.

Inti dari pandangan Vitalik Buterin adalah klaim kedaulatan. Co-founder Ethereum ini mengamati bahwa menurut laporan, The Automaton beroperasi menggunakan infrastruktur yang disediakan oleh perusahaan terpusat seperti OpenAI dan Anthropic. Menurut analisisnya, menyebut sistem sebagai berdaulat dan otonom sementara bergantung pada platform korporat yang terpusat adalah kontradiksi mendasar. Sistem yang dibangun di atas server yang dikendalikan oleh perusahaan tertentu tidak dapat secara sah menyatakan kemerdekaan sejati.

Bagi Vitalik Buterin, isu ini terkait langsung dengan misi historis Ethereum: mengurangi ketergantungan pada titik kontrol tunggal. Mengkategorikan sistem AI terpusat sebagai benar-benar berdaulat, menurutnya, berisiko menormalisasi struktur kekuasaan yang justru ingin diragukan oleh teknologi blockchain.

Pengawasan Manusia: Perlindungan yang Diperlukan

Selain kekhawatiran tentang sentralisasi, Vitalik Buterin mengangkat pertanyaan kritis tentang pengurangan secara sengaja peran manusia dalam proses pengambilan keputusan. Ia memperingatkan bahwa meningkatkan “jarak umpan balik” antara sistem AI otonom dan pengawasan manusia dapat memperkenalkan risiko yang berpotensi tidak dapat dibatalkan bagi masyarakat.

Dalam pandangannya, menghapus sepenuhnya manusia dari tata kelola teknologi bukanlah kemajuan, melainkan pengabaian tanggung jawab. Partisipasi manusia yang berkelanjutan, menurutnya, tidak membatasi pengembangan AI, melainkan membuatnya lebih selaras dengan nilai dan keamanan sosial.

Insiden Moonwell: Peringatan Praktis

Kritik teoretis Vitalik Buterin menjadi semakin relevan setelah insiden di protokol DeFi Moonwell, yang mengalami exploit dan kehilangan $1,78 juta. Masalah utama diidentifikasi dari kode Solidity yang sebagian dihasilkan oleh model Claude Opus 4.6 dari Anthropic.

Peristiwa ini memicu kembali perdebatan penting tentang tanggung jawab terkait kontrak pintar yang ditulis atau dikembangkan bersama oleh sistem AI. Jika mesin menghasilkan kode penting untuk sistem keuangan, siapa yang bertanggung jawab saat terjadi kegagalan? Pertanyaan ini tetap belum memiliki jawaban pasti di industri.

Prinsip Filosofis Vitalik Buterin tentang Teknologi

Posisi Vitalik Buterin mencerminkan prinsip-prinsip konsisten yang membimbing pandangannya terhadap teknologi baru:

• Desentralisasi harus menjadi atribut nyata dari infrastruktur, bukan sekadar klaim pemasaran
• Arahan manusia yang disengaja terhadap sistem AI dengan dampak signifikan adalah kebutuhan, bukan hambatan
• Otonomi teknis tidak boleh menutupi ketergantungan nyata pada platform korporat
• Pertumbuhan eksponensial kemampuan tidak menggantikan pentingnya agensi manusia jangka panjang

Selain keberatan struktural ini, Vitalik Buterin mempertanyakan nilai praktis dari menghasilkan volume besar konten dan aksi AI tanpa manfaat manusia yang nyata. Menurut analisisnya, sistem yang memprioritaskan autorreplikasi dan otonomi di atas utilitas substantif berisiko hanya menciptakan kebisingan.

Kritik Lebih Luas: Teknologi Tanpa Tujuan

Penilaian Vitalik Buterin terhadap Web 4.0 tidak bersifat kritis secara terisolasi. Co-founder Ethereum ini menyuarakan kekhawatiran yang lebih luas tentang pengaruh korporasi yang semakin meluas ke sektor-sektor terkait blockchain, termasuk media sosial, pasar prediksi, dan AI generatif.

Tak lama sebelum membahas Web 4.0 secara khusus, ia mengkritik pasar prediksi karena mengarah ke apa yang disebutnya “corposlop” — konten korporat berkualitas rendah. Meski mengakui pertumbuhan pasar ini, ia memperingatkan terhadap “konvergensi berlebihan” menuju taruhan jangka pendek, terutama spekulasi harga kripto dan taruhan olahraga.

Menurut Vitalik Buterin, proyek yang mengejar pendapatan langsung selama masa resesi berisiko meninggalkan tujuan sosial yang lebih dalam. Ia mendorong pengembang untuk memprioritaskan nilai jangka panjang daripada keterlibatan yang didorong oleh rangsangan neurologis jangka pendek.

Arah yang Disengaja versus Akselerasi Buta

Kritik ini sejalan dengan filosofi jangka panjangnya tentang teknologi dan otonomi manusia:

• Alat keuangan harus memperluas kebebasan individu, bukan memperkuat ketergantungan pada spekulasi
• Sistem AI harus berfungsi sebagai pengganda kapasitas manusia, bukan pengganti penilaian manusia
• Proyek blockchain harus menahan tekanan komersial yang mengorbankan prinsip-prinsip fundamental
• Kemajuan teknologi eksponensial membutuhkan arahan yang disengaja, bukan sekadar percepatan terus-menerus

Vitalik pernah menyatakan bahwa “AI yang dibuat dengan salah adalah menciptakan bentuk kehidupan superintelligent yang independen dan mampu mereplikasi sendiri.” Tanpa alat pendukung yang memberdayakan manusia, ia memperingatkan, sistem semacam itu dapat menyebabkan hilangnya kekuasaan manusia secara permanen.

Sebaliknya, “AI yang dibuat dengan benar” berfungsi sebagai “prostetik untuk pikiran manusia”, memperkuat dan memperluas kemampuan alih-alih memarginalkan manusia. Dari sudut pandang ini, Web 4.0 yang dirancang Wen adalah jalur yang salah.

Kesimpulan: Kecepatan Bukan Keutamaan

Pertumbuhan berkelanjutan dalam kemampuan AI mungkin tak terhindarkan dalam beberapa tahun mendatang. Tetapi, menurut Vitalik Buterin, kecepatan ekspansi ini bukanlah tujuan utama. Arah — untuk apa dan berdasarkan prinsip apa — jauh lebih penting daripada sekadar percepatan.

Pertanyaannya tentang Web 4.0 mencerminkan kekhawatiran yang lebih dalam: sebagai masyarakat, kita harus secara sengaja menentukan jenis hubungan yang kita inginkan dengan sistem AI yang semakin kuat. Keputusan ini tidak bisa diserahkan kepada siapa yang pertama kali mampu melakukan percepatan teknis berikutnya.