Vitalik berbagi solusi LLM lokal pribadi, menekankan prioritas privasi dan keamanan

2026-04-12 13:52:10

Pembuatan abstrak sedang berlangsung

Berita ME News, 2 April (UTC+8), Vitalik Buterin memposting tentang rencana penerapan LLM lokal dan privat hingga April 2026, dengan tujuan utama menjadikan privasi, keamanan, dan kendali mandiri sebagai prioritas, serta meminimalkan peluang data pribadi diakses melalui model jarak jauh dan layanan eksternal, dan melalui inferensi lokal, penyimpanan file lokal, serta isolasi sandbox untuk mengurangi risiko kebocoran data, pelarian model, dan penyalahgunaan konten berbahaya.
Dalam hal perangkat keras, ia menguji laptop yang dilengkapi GPU NVIDIA 5090, perangkat memori terpadu AMD Ryzen AI Max Pro 128 GB, dan solusi DGX Spark, serta melakukan inferensi lokal menggunakan model Qwen3.5 35B dan 122B.
Di mana laptop 5090 mampu mencapai sekitar 90 token/detik untuk model 35B, solusi AMD sekitar 51 token/detik, dan DGX Spark sekitar 60 token/detik.
Vitalik menyatakan bahwa ia lebih cenderung membangun lingkungan AI lokal berbasis laptop berkinerja tinggi, sekaligus menggunakan alat seperti llama-server, llama-swap, dan NixOS untuk membangun alur kerja secara keseluruhan. (Sumber: ODAILY)

Lihat Asli

Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.