WAIC 2025: AI pasti akan terus berkembang, menghindari menjadi "penjahat utama" adalah masalah bagi umat manusia

Penulis: Jingyu

Konferensi Dunia Kecerdasan Buatan Shanghai WAIC, kembali menyala!

Pada tanggal 26 Juli 2025, WAIC tahun ini menarik lebih dari 1200 tamu dari lebih dari 30 negara dan daerah, termasuk 12 pemenang penghargaan Turing, Nobel, dan penghargaan utama lainnya, lebih dari 80 akademisi dalam dan luar negeri, serta perwakilan dari beberapa laboratorium terkemuka internasional.

Pada acara pembukaan pada 26 Juli, pemenang Hadiah Nobel 2024, Geoffrey Hinton, yang merupakan guru besar di dunia AI, memberikan pidato. Cendekiawan ternama yang selalu mendukung “teori ancaman AI” ini sekali lagi menekankan bahaya perkembangan AI yang tidak teratur dan menyerukan kepada dunia untuk membangun “jaringan keamanan” untuk penelitian AI.

Selain itu, pendiri dan CEO MiniMax, sebuah perusahaan rintisan AI yang sedang naik daun di dalam negeri, Yan Junjie, menyatakan dalam pidatonya bahwa AI yang semakin kuat memiliki pertumbuhan yang hampir tak terbatas, dan seiring dengan penurunan biaya pelatihan, “AI di masa depan akan lebih inklusif.”

Sementara itu, co-founder dan CTO dari perusahaan robotik startup domestik yang baru-baru ini terdengar rumor “membeli shell untuk go public”, Peng Zhihui (Zhi Hui Jun) dari Zhiyuan Robotics, mempersembahkan produk robotnya Lingxi X2 di atas panggung dengan sebuah “crosstalk”, yang memberikan representasi yang lebih konkret tentang “hubungan kemitraan” antara robot dan manusia.

Singa atau bayi, keduanya membutuhkan “pengawasan”

Meskipun anak-anak muridnya mendominasi setengah dari industri teknologi AI di Silicon Valley, “master generasi pertama” di dunia AI, Geoffrey Hinton, tetap bersikap berbeda dengan rekan-rekannya di industri, dan terus bersikeras pada “teori ancaman AI.”

Pada konferensi WAIC pada 26 Juli, Hinton sekali lagi menegaskan kekhawatirannya tentang perkembangan cepat AI dalam pidatonya.

Dalam menjelaskan secara singkat perkembangan teknologi AI selama 30 tahun terakhir hingga fase model besar saat ini, Hinton berpendapat bahwa cara model besar saat ini memahami bahasa adalah sama dengan manusia.

“Manusia mungkin saja adalah model bahasa besar, dan juga akan menghasilkan ilusi seperti model bahasa besar, menciptakan banyak bahasa ilusi.” Pandangan yang diungkapkan oleh Hinton ini, tidak bisa dipungkiri sangat sesuai dengan apa yang disebut sebagai “manusia-mesin” di media sosial saat ini.

Namun masalahnya adalah, dibandingkan dengan “otak berbasis karbon” manusia, “otak berbasis silikon” yang dilengkapi AI memiliki keunggulan bawaan dalam hal penyimpanan, penggandaan, dan “transmisi instan”, yang berarti seiring perkembangan teknologi, ada konsensus di dalam industri bahwa munculnya AI yang lebih pintar dari manusia hanyalah masalah waktu. Dan sebagai suatu entitas, “agen” yang diwakili oleh AI ini tentu akan menuntut “keberlangsungan” dan “kontrol”.

Sinton berpendapat bahwa AI saat ini mungkin seperti “anak berusia tiga tahun”, yang masih mudah dimanipulasi oleh manusia, tetapi situasi di masa depan tidak dapat dipastikan. Dia juga membandingkan AI saat ini dengan anak singa, dan ada dua kemungkinan dalam memelihara singa: “baik melatihnya agar tidak menyerangmu, atau memusnahkannya.”

Namun, dari kemajuan AI global saat ini, tidak ada satu negara pun yang dapat benar-benar “menghentikan perkembangan teknologi” untuk “menghancurkan AI”. Satu-satunya jalan yang tersisa adalah: dunia memerlukan lembaga keamanan AI untuk melatih AI, agar AI dapat “menuju kebaikan”.

“Bagaimana melatih AI yang tidak ingin menguasai manusia, ini adalah masalah utama yang dihadapi manusia.” kata Hinton di akhir.

Ada yang meminta regulasi, ada yang ingin “melonggarkan”

Pernyataan seperti itu dari sang Master di WAIC sangat menggugah pemikiran, tetapi di Amerika Utara di mana Hinton berada, saat ini agak “kurang peka”. Perusahaan OpenAI dan Anthropic yang dibimbing Hinton sudah memiliki valuasi ratusan miliar dolar, apalagi dalam dua tahun terakhir, modal ventura Silicon Valley telah mempertaruhkan banyak pada perusahaan rintisan AI.

Salah satu pencerminan yang menonjol adalah, seiring dengan meningkatnya biaya lobi perusahaan AI di kalangan politik AS, otoritas regulasi AS telah secara resmi membuka kendali terhadap perkembangan AI.

Pada minggu yang sama, pada 23 Juli waktu setempat di Amerika Serikat, Presiden saat itu Donald Trump merilis Peta Jalan Kecerdasan Buatan (The AI Action Plan). Dalam dokumen ini, regulator di Amerika Serikat menentukan langkah-langkah dari segi data, standar, dan bakat untuk memastikan keunggulan AI di Amerika Serikat.

Tingkatkan investasi R&D (Invest in R&D): Meningkatkan secara signifikan investasi jangka panjang pemerintah federal dalam penelitian dasar dan aplikasi AI, terutama di bidang AI generasi berikutnya, keamanan AI, dan AI yang dapat dipercaya.

Lepaskan Sumber Daya Data ( Unleash AI Data Resources ): Mendorong pembukaan aman kumpulan data besar yang dimiliki oleh pemerintah federal kepada peneliti AI dan publik, untuk menyediakan “bahan bakar” berkualitas tinggi bagi pelatihan model.

Menetapkan Standar Teknologi (Menetapkan Standar Teknologi AI): Dipimpin oleh pemerintah, bekerja sama dengan industri dan akademisi, untuk menetapkan dasar, standar, dan norma teknologi AI global, memastikan sistem AI aman, andal, dapat dijelaskan, dan adil.

Mengembangkan Bakat AI (Cultivate an AI-Ready Workforce): Reformasi pendidikan STEM, mendorong program magang dan pelatihan ulang, menarik dan mempertahankan bakat AI terbaik dunia, serta mempersiapkan sumber daya manusia untuk ekonomi AI.

Perkuat Kerjasama Internasional (Strengthen International Collaboration): Membangun aliansi AI dengan sekutu dan negara mitra, bersama-sama merumuskan aturan, melawan penyalahgunaan AI oleh “negara otoriter”, dan mempromosikan aplikasi AI yang terbuka dan demokratis.

Lindungi Teknologi Kunci (Protect Key Technologies): Memperkuat perlindungan terhadap teknologi AI, algoritma, dan perangkat keras kunci AS (terutama semikonduktor) melalui pengendalian ekspor dan peninjauan investasi, untuk mencegah aliran teknologi ke pesaing strategis.

Dapat dilihat bahwa Amerika Serikat sedang memberikan lampu hijau untuk perkembangan teknologi AI, sambil menggunakan masalah geopolitik untuk menghalangi pesaing dan dirinya sendiri berada pada garis start yang sama.

Era “pengalaman” robot telah tiba

Robot humanoid tanpa diragukan lagi adalah sorotan paling menarik di lokasi konferensi WAIC kali ini, tanpa terkecuali.

Dalam sesi forum utama, co-founder Zhiyuan Robot “Zhi Hui Jun” Peng Zhi Hui, membawa produk Zhiyuan Lingxi X2, di atas panggung memberikan kepada semua orang sebuah “stand-up comedy antara manusia dan mesin”.

Seni bercerita dalam Xiangsheng mengutamakan berbicara, belajar, berkelakar, dan bernyanyi, sedangkan robot dan manusia mengutamakan “pemahaman selamanya”. Lingxi X2 di atas panggung menunjukkan bahwa kolaborasi antara manusia dan robot harus dibangun di atas dasar “konsensus”. Namun, bagaimana cara membangun konsensus antara robot dan manusia, serta melampaui kunci kolaborasi antara manusia dan mesin? Zhihui Jun mengatakan ini adalah jalur yang ingin didalami perusahaan, dan yang terpenting adalah berjalan bersama lebih banyak rekan sejawat.

Jadi, Zhihui Jun juga meluncurkan rencana sumber terbuka “Zhi Yuan Ling Qu OS” di lokasi, berharap untuk mendorong lebih banyak orang untuk bersama-sama memajukan integrasi ekosistem sistem robot saat ini dan terobosan teknologi kecerdasan embodied.

Seolah-olah untuk memberikan dukungan kepada kecerdasan berbadan, melalui cara konferensi video, Richard Sutton, pemenang Penghargaan Turing 2024 dan profesor di Departemen Ilmu Komputer Universitas Alberta, Amerika Serikat, berpendapat bahwa data yang digunakan untuk melatih model besar sudah hampir habis. Namun, jangan berkecil hati, karena ini menandakan bahwa era berikutnya untuk AI—Era Pengalaman (the Era of Experience)—akan segera tiba.

Berbeda dengan melatih AI menggunakan data “diam” di masa lalu, ke depan AI dapat memperoleh pengetahuan dan meningkatkan kemampuannya dengan “mengalami” lingkungan dan objek eksternal seperti bayi manusia. Meskipun masih ada sedikit jarak menuju tujuan ini, saat ini banyak perusahaan rintisan robot yang terus melakukan pelatihan dan pembelajaran di “dunia fisik”.

Ini juga alasan mengapa para ahli terkemuka di industri, termasuk Li Feifei, telah beralih dari “AI” ke “AI fisik”, menekankan bahwa untuk AI benar-benar masuk ke dunia nyata, harus memahami dan mempelajari seluruh dunia dari sudut pandang tiga dimensi.