Saya merasa sangat tertarik dengan laporan terbaru yang keluar tentang apa yang sebenarnya terjadi di dalam openai. Pada dasarnya, jurnalis investigatif menghabiskan berbulan-bulan mewawancarai lebih dari 100 orang yang terlibat, berhasil mendapatkan memoranda internal yang belum pernah dipublikasikan dan menemukan sesuatu yang cukup mengganggu: dokumen sepanjang 70 halaman dari kepala ilmuwan Ilya Sutskever yang menyimpulkan bahwa Sam Altman menunjukkan pola kebohongan yang konsisten. Ini bukan hal kecil.

Yang menarik perhatian saya adalah bagaimana openai mulai sebagai organisasi nirlaba pada tahun 2015 dengan janji yang jelas untuk memprioritaskan keamanan di atas segalanya. Ide dasarnya adalah jika AI menjadi berbahaya, dewan akan memiliki kekuasaan untuk menutup perusahaan. Tapi di sinilah inti permasalahannya: semuanya bergantung pada satu orang yang sangat jujur yang mengendalikan teknologi tersebut. Dan bagaimana jika taruhan itu salah?

Rincian-rinciannya cukup mengkhawatirkan. Pada Desember 2022, selama rapat dewan, Sam memastikan bahwa fitur-fitur GPT-4 sudah melewati tinjauan keamanan. Ketika mereka meminta untuk melihat dokumen-dokumen tersebut, mereka menemukan bahwa dua fitur yang paling kontroversial tidak pernah disetujui oleh panel keamanan. Ada juga catatan dari Dario Amodei, pendiri Anthropic yang pernah bekerja di bidang keamanan di openai, yang menggambarkan bagaimana perusahaan mundur langkah demi langkah di bawah tekanan komersial.

Ada lagi. openai secara publik mengumumkan bahwa mereka akan mengalokasikan 20% dari kapasitas komputasi untuk sebuah tim superpenyesuaian, dengan nilai potensial di atas US$1 miliar. Tapi kenyataannya? Empat orang yang pernah bekerja di sana mengonfirmasi bahwa itu hanya 1-2% dari kapasitas total, dengan perangkat keras yang lebih tua. Tim tersebut dibubarkan tanpa menyelesaikan misinya.

Yang benar-benar menarik perhatian saya adalah deskripsi dari mantan anggota dewan tentang Sam. Dia memiliki kombinasi yang sangat langka: dalam percakapan tatap muka, menunjukkan keinginan kuat untuk menyenangkan. Pada saat yang sama, menunjukkan ketidakpedulian hampir sosiopat terhadap konsekuensi dari menipu orang lain. Eksekutif Microsoft bahkan membandingkan ini dengan Bernie Madoff atau SBF. Berat.

Sekarang ada juga masalah CFO Sarah Friar yang tidak setuju untuk mempercepat IPO tahun ini, berargumen bahwa risiko keuangan terlalu tinggi (Sam menjanjikan pengeluaran komputasi sebesar US$600 miliar dalam lima tahun). Tapi kemudian dia berhenti melapor langsung ke Sam, dan melapor ke eksekutif lain yang sedang cuti sakit. Perusahaan sedang dalam proses IPO dengan perbedaan mendasar antara CEO dan CFO. Sungguh absurd.

Poin yang diangkat Gary Marcus masuk akal: jika model masa depan dari openai mampu menciptakan senjata biokimia atau meluncurkan serangan siber, apakah Anda benar-benar ingin membiarkan satu orang dengan rekam jejak integritas seperti itu memutuskan sendiri apakah akan dilepaskan atau tidak? Respon resmi dari openai cukup samar, mempertanyakan motif dari sumber-sumber tersebut alih-alih menyangkal fakta-fakta spesifik.

Ini seperti kalimat yang saya lihat: sebuah organisasi nirlaba yang dibentuk untuk melindungi umat manusia berubah menjadi mesin komersial di mana hampir setiap langkah pengamanan secara pribadi dihapus oleh orang yang sama. Sepuluh tahun dirangkum seperti ini: idealisme → kemajuan teknologi → modal besar → misi yang memberi ruang → keamanan yang dibongkar → struktur yang diubah menjadi entitas berorientasi laba.

Semua ini sementara Sam bersiap membawa openai ke IPO dengan valuasi di atas US$850 miliar. Lebih dari seratus saksi menggambarkan hal yang sama: tidak terbatas oleh kebenaran. Kisah ini jauh lebih dari sekadar rumor korporat. Ketika kita berbicara tentang teknologi yang berpotensi paling kuat dalam sejarah manusia, integritas CEO bukanlah detail, melainkan risiko eksistensial bagi semua.