Evolusi Teknologi Model Besar di Sektor Keuangan: Dari Kegilaan ke Rasionalitas
Sejak kemunculan ChatGPT, industri keuangan dengan cepat mengalami gelombang semangat, di mana banyak pihak khawatir tertinggal oleh gelombang teknologi baru. Kecemasan ini sempat menyebar ke berbagai sudut, bahkan di kuil pun dapat terdengar orang membahas topik model besar.
Namun, kecemasan ini perlahan-lahan mereda, dan pemikiran orang-orang menjadi lebih jelas dan rasional. Sikap industri keuangan terhadap model besar telah melalui beberapa tahap: pada bulan Februari dan Maret, secara umum merasa cemas; pada bulan April dan Mei, mulai membentuk tim dan mengambil tindakan; beberapa bulan setelahnya, menghadapi kesulitan dalam mencari arah dan pelaksanaan, mulai menjadi rasional; saat ini, lebih banyak fokus pada contoh acuan, mencoba memverifikasi skenario yang telah diuji.
Sebuah tren baru adalah, banyak institusi keuangan telah mengangkat model besar ke tingkat strategis. Berdasarkan statistik yang tidak lengkap, di antara perusahaan yang terdaftar di A-share, setidaknya ada 11 bank yang secara jelas menyatakan bahwa mereka sedang menjelajahi aplikasi model besar dalam laporan semester terbaru mereka. Dari tindakan terbaru, mereka juga sedang melakukan pemikiran dan perencanaan jalur yang lebih jelas dari sisi strategi dan desain tingkat atas.
Dari Antusiasme yang Tinggi ke Kembali ke Rasionalitas
Dibandingkan dengan beberapa bulan yang lalu, pemahaman pelanggan keuangan tentang model besar telah meningkat secara signifikan. Pada awal tahun saat ChatGPT baru muncul, meskipun semua orang sangat antusias, pemahaman tentang esensi dan cara penerapan model besar masih terbatas.
Pada tahap ini, beberapa bank besar mengambil langkah pertama, mulai melakukan berbagai promosi "mengambil keuntungan dari popularitas". Di sisi lain, seiring dengan peluncuran model besar oleh beberapa produsen, departemen teknologi dari beberapa lembaga keuangan terkemuka secara aktif berdiskusi dengan perusahaan besar mengenai pembangunan model besar. Mereka umumnya berharap untuk membangun model besar sendiri, menanyakan tentang pengolahan dataset, pengadaan server, metode pelatihan, dan pertanyaan lainnya.
Setelah bulan Mei, situasi mulai berubah. Terbatasnya sumber daya komputasi yang langka dan biaya yang tinggi membuat banyak lembaga keuangan mulai beralih dari keinginan untuk membangun sendiri menuju fokus yang lebih pada nilai aplikasi. "Sekarang setiap lembaga keuangan memperhatikan apa yang dilakukan orang lain dengan model besar dan efek apa yang telah dicapai."
Perusahaan dengan skala yang berbeda juga mengambil dua jalur: lembaga keuangan besar dapat memperkenalkan model dasar besar yang terdepan, membangun model besar perusahaan sendiri, sambil mengadopsi bentuk penyempurnaan, membentuk model besar untuk tugas di bidang profesional; lembaga keuangan kecil dan menengah dapat memperkenalkan API berbagai model besar atau layanan penyebaran privat sesuai kebutuhan.
Karena industri keuangan memiliki tuntutan tinggi terhadap kepatuhan data, keamanan, dan kepercayaan, sebagian orang berpendapat bahwa kemajuan implementasi model besar di industri ini sebenarnya sedikit tertinggal dari yang diperkirakan pada awal tahun.
Beberapa lembaga keuangan telah mulai mengatasi berbagai "kendala" dalam proses implementasi model besar. Dalam hal komputasi, beberapa pemikiran solusi muncul di industri:
Membangun kekuatan komputasi secara langsung, biayanya tinggi tetapi keamanannya tinggi, cocok untuk lembaga keuangan besar yang ingin membangun model besar untuk industri atau perusahaan.
Penggabungan pengelolaan daya komputasi, dalam situasi di mana data sensitif tidak keluar dari domain, menerima panggilan antarmuka layanan model besar dari cloud publik, sekaligus memproses layanan data lokal melalui penerapan privat. Biaya relatif rendah, cocok untuk lembaga keuangan kecil dan menengah dengan dana yang relatif terbatas.
Namun, banyak lembaga kecil dan menengah masih menghadapi masalah tidak dapat membeli atau tidak mampu membeli kartu GPU. Terkait dengan masalah ini, pihak-pihak yang berwenang sedang melakukan penelitian untuk mengeksplorasi apakah dapat membangun infrastruktur model besar yang ditujukan untuk industri tertentu melalui cara kompromi, mengonsolidasikan daya komputasi, sumber daya model besar yang umum, sehingga lembaga keuangan kecil dan menengah juga dapat menggunakan layanan model besar, mencegah "ketinggalan teknologi".
Selain kekuatan komputasi, banyak lembaga keuangan juga secara bertahap memperkuat tata kelola data. Semakin banyak lembaga keuangan menengah mulai membangun platform data dan sistem tata kelola data. Beberapa bank menggunakan model besar + MLOps untuk menyelesaikan masalah data, mencapai otomatisasi seluruh proses, serta manajemen dan pemrosesan data heterogen multi-sumber yang efisien.
Memasuki dari skenario luar
Selama lebih dari setengah tahun terakhir, penyedia layanan model besar dan lembaga keuangan telah mencari skenario, seperti kantor cerdas, pengembangan cerdas, pemasaran cerdas, layanan pelanggan cerdas, penelitian investasi cerdas, pengendalian risiko cerdas, analisis kebutuhan, dan lainnya telah dieksplorasi satu per satu.
Setiap lembaga keuangan memiliki berbagai pemikiran tentang model besar. Namun, untuk benar-benar menerapkannya, konsensus di antara semua pihak adalah memulai dari internal sebelum eksternal. Saat ini, teknologi model besar belum matang, sementara industri keuangan adalah industri yang sangat diatur, dengan keamanan tinggi dan kepercayaan tinggi.
Dalam jangka pendek, tidak disarankan untuk digunakan langsung oleh pelanggan. Lembaga keuangan sebaiknya mengutamakan penggunaan model besar untuk analisis dan pemahaman teks serta gambar keuangan, dalam skenario yang memerlukan kecerdasan tinggi, sebagai asisten untuk meningkatkan efisiensi kerja personel bisnis.
Saat ini, asisten kode telah diterapkan di banyak lembaga keuangan. Di bidang kantor pintar juga ada banyak contoh. Namun, para ahli industri menilai bahwa skenario yang diterapkan secara luas ini sebenarnya belum menjadi aplikasi inti lembaga keuangan, dan model besar masih memiliki jarak tertentu untuk mendalami lapisan bisnis di industri keuangan.
Ada prediksi bahwa sebelum akhir tahun ini akan ada sekelompok proyek pembangunan atau informasi tender yang benar-benar menggunakan model besar dalam skenario bisnis inti lembaga keuangan.
Sebelum ini, beberapa perubahan di tingkat desain tingkat atas sedang dilakukan. Seluruh sistem cerdas dan digital di masa depan akan dibangun kembali di atas dasar model besar. Ini mengharuskan industri keuangan untuk merestrukturisasi sistem dalam proses penerapan model besar. Pada saat yang sama, nilai model kecil tradisional juga tidak boleh diabaikan, dan harus memungkinkan model besar dan kecil untuk berkolaborasi.
Saat ini, sudah banyak lembaga keuangan terkemuka yang membangun kerangka sistem bertingkat yang mencakup lapisan infrastruktur, lapisan model, lapisan layanan model besar, dan lapisan aplikasi berdasarkan model besar. Kerangka ini umumnya memiliki dua ciri besar: pertama, model besar berfungsi sebagai kemampuan pusat, memanggil model tradisional sebagai keterampilan; kedua, lapisan model besar menggunakan strategi multi-model, melakukan perlombaan internal untuk memilih hasil terbaik.
Kesenjangan bakat masih sangat besar
Aplikasi model besar telah mulai membawa beberapa tantangan dan perubahan pada struktur personel di industri keuangan.
Beberapa posisi pekerjaan mulai digantikan oleh model besar. Namun, beberapa bank tidak ingin model besar membawa pengurangan karyawan, melainkan berharap model besar membawa peluang baru, meningkatkan kualitas layanan karyawan dan efisiensi kerja, sekaligus membebaskan sebagian karyawan untuk melakukan lebih banyak hal yang bernilai tinggi.
Ini tidak terlepas dari pertimbangan stabilitas personel dan struktur. Di sisi lain, juga karena banyak posisi di dalam industri yang masih kekurangan tenaga kerja. Bank besar memiliki banyak pekerjaan yang perlu diselesaikan, beberapa kebutuhan IT bahkan jadwalnya sampai akhir tahun depan, mereka berharap model besar dapat membantu karyawan meningkatkan efisiensi dan kecepatan, bukan mengakibatkan pengurangan staf.
Yang lebih penting, munculnya model besar sangat mendesak dan kuat, dalam waktu singkat pasokan bakat yang langka sulit untuk memenuhi permintaan yang melonjak. Permintaan bakat yang langsung menerapkan model besar relatif sederhana, yang dibutuhkan adalah orang-orang yang bisa mengajukan pertanyaan. Namun, jika membangun model besar industri atau perusahaan sendiri, lembaga keuangan perlu memiliki tim teknis model besar vertikal yang terampil.
Beberapa lembaga telah mengambil tindakan. Ada perusahaan yang bekerja sama dengan tim sumber daya manusia laboratorium bank, merumuskan praktik peralihan personel aplikasi model besar di perusahaan, merancang serangkaian kursus pelatihan seperti penyempurnaan Prompt, fine-tuning, operasi model besar, dan bekerja sama dengan berbagai departemen untuk membentuk kelompok proyek bersama, mendorong peningkatan kemampuan personel perusahaan.
Dalam proses ini, struktur personel lembaga keuangan juga akan mengalami beberapa penyesuaian dan perubahan. Pengembang model besar akan lebih mudah bertahan dalam lingkungan ini.
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Tren Aplikasi Model Besar di Industri Keuangan: Dari Kegilaan ke Implementasi, Penataan Strategis dan Kebutuhan Talenta Terus Meningkat
Evolusi Teknologi Model Besar di Sektor Keuangan: Dari Kegilaan ke Rasionalitas
Sejak kemunculan ChatGPT, industri keuangan dengan cepat mengalami gelombang semangat, di mana banyak pihak khawatir tertinggal oleh gelombang teknologi baru. Kecemasan ini sempat menyebar ke berbagai sudut, bahkan di kuil pun dapat terdengar orang membahas topik model besar.
Namun, kecemasan ini perlahan-lahan mereda, dan pemikiran orang-orang menjadi lebih jelas dan rasional. Sikap industri keuangan terhadap model besar telah melalui beberapa tahap: pada bulan Februari dan Maret, secara umum merasa cemas; pada bulan April dan Mei, mulai membentuk tim dan mengambil tindakan; beberapa bulan setelahnya, menghadapi kesulitan dalam mencari arah dan pelaksanaan, mulai menjadi rasional; saat ini, lebih banyak fokus pada contoh acuan, mencoba memverifikasi skenario yang telah diuji.
Sebuah tren baru adalah, banyak institusi keuangan telah mengangkat model besar ke tingkat strategis. Berdasarkan statistik yang tidak lengkap, di antara perusahaan yang terdaftar di A-share, setidaknya ada 11 bank yang secara jelas menyatakan bahwa mereka sedang menjelajahi aplikasi model besar dalam laporan semester terbaru mereka. Dari tindakan terbaru, mereka juga sedang melakukan pemikiran dan perencanaan jalur yang lebih jelas dari sisi strategi dan desain tingkat atas.
Dari Antusiasme yang Tinggi ke Kembali ke Rasionalitas
Dibandingkan dengan beberapa bulan yang lalu, pemahaman pelanggan keuangan tentang model besar telah meningkat secara signifikan. Pada awal tahun saat ChatGPT baru muncul, meskipun semua orang sangat antusias, pemahaman tentang esensi dan cara penerapan model besar masih terbatas.
Pada tahap ini, beberapa bank besar mengambil langkah pertama, mulai melakukan berbagai promosi "mengambil keuntungan dari popularitas". Di sisi lain, seiring dengan peluncuran model besar oleh beberapa produsen, departemen teknologi dari beberapa lembaga keuangan terkemuka secara aktif berdiskusi dengan perusahaan besar mengenai pembangunan model besar. Mereka umumnya berharap untuk membangun model besar sendiri, menanyakan tentang pengolahan dataset, pengadaan server, metode pelatihan, dan pertanyaan lainnya.
Setelah bulan Mei, situasi mulai berubah. Terbatasnya sumber daya komputasi yang langka dan biaya yang tinggi membuat banyak lembaga keuangan mulai beralih dari keinginan untuk membangun sendiri menuju fokus yang lebih pada nilai aplikasi. "Sekarang setiap lembaga keuangan memperhatikan apa yang dilakukan orang lain dengan model besar dan efek apa yang telah dicapai."
Perusahaan dengan skala yang berbeda juga mengambil dua jalur: lembaga keuangan besar dapat memperkenalkan model dasar besar yang terdepan, membangun model besar perusahaan sendiri, sambil mengadopsi bentuk penyempurnaan, membentuk model besar untuk tugas di bidang profesional; lembaga keuangan kecil dan menengah dapat memperkenalkan API berbagai model besar atau layanan penyebaran privat sesuai kebutuhan.
Karena industri keuangan memiliki tuntutan tinggi terhadap kepatuhan data, keamanan, dan kepercayaan, sebagian orang berpendapat bahwa kemajuan implementasi model besar di industri ini sebenarnya sedikit tertinggal dari yang diperkirakan pada awal tahun.
Beberapa lembaga keuangan telah mulai mengatasi berbagai "kendala" dalam proses implementasi model besar. Dalam hal komputasi, beberapa pemikiran solusi muncul di industri:
Membangun kekuatan komputasi secara langsung, biayanya tinggi tetapi keamanannya tinggi, cocok untuk lembaga keuangan besar yang ingin membangun model besar untuk industri atau perusahaan.
Penggabungan pengelolaan daya komputasi, dalam situasi di mana data sensitif tidak keluar dari domain, menerima panggilan antarmuka layanan model besar dari cloud publik, sekaligus memproses layanan data lokal melalui penerapan privat. Biaya relatif rendah, cocok untuk lembaga keuangan kecil dan menengah dengan dana yang relatif terbatas.
Namun, banyak lembaga kecil dan menengah masih menghadapi masalah tidak dapat membeli atau tidak mampu membeli kartu GPU. Terkait dengan masalah ini, pihak-pihak yang berwenang sedang melakukan penelitian untuk mengeksplorasi apakah dapat membangun infrastruktur model besar yang ditujukan untuk industri tertentu melalui cara kompromi, mengonsolidasikan daya komputasi, sumber daya model besar yang umum, sehingga lembaga keuangan kecil dan menengah juga dapat menggunakan layanan model besar, mencegah "ketinggalan teknologi".
Selain kekuatan komputasi, banyak lembaga keuangan juga secara bertahap memperkuat tata kelola data. Semakin banyak lembaga keuangan menengah mulai membangun platform data dan sistem tata kelola data. Beberapa bank menggunakan model besar + MLOps untuk menyelesaikan masalah data, mencapai otomatisasi seluruh proses, serta manajemen dan pemrosesan data heterogen multi-sumber yang efisien.
Memasuki dari skenario luar
Selama lebih dari setengah tahun terakhir, penyedia layanan model besar dan lembaga keuangan telah mencari skenario, seperti kantor cerdas, pengembangan cerdas, pemasaran cerdas, layanan pelanggan cerdas, penelitian investasi cerdas, pengendalian risiko cerdas, analisis kebutuhan, dan lainnya telah dieksplorasi satu per satu.
Setiap lembaga keuangan memiliki berbagai pemikiran tentang model besar. Namun, untuk benar-benar menerapkannya, konsensus di antara semua pihak adalah memulai dari internal sebelum eksternal. Saat ini, teknologi model besar belum matang, sementara industri keuangan adalah industri yang sangat diatur, dengan keamanan tinggi dan kepercayaan tinggi.
Dalam jangka pendek, tidak disarankan untuk digunakan langsung oleh pelanggan. Lembaga keuangan sebaiknya mengutamakan penggunaan model besar untuk analisis dan pemahaman teks serta gambar keuangan, dalam skenario yang memerlukan kecerdasan tinggi, sebagai asisten untuk meningkatkan efisiensi kerja personel bisnis.
Saat ini, asisten kode telah diterapkan di banyak lembaga keuangan. Di bidang kantor pintar juga ada banyak contoh. Namun, para ahli industri menilai bahwa skenario yang diterapkan secara luas ini sebenarnya belum menjadi aplikasi inti lembaga keuangan, dan model besar masih memiliki jarak tertentu untuk mendalami lapisan bisnis di industri keuangan.
Ada prediksi bahwa sebelum akhir tahun ini akan ada sekelompok proyek pembangunan atau informasi tender yang benar-benar menggunakan model besar dalam skenario bisnis inti lembaga keuangan.
Sebelum ini, beberapa perubahan di tingkat desain tingkat atas sedang dilakukan. Seluruh sistem cerdas dan digital di masa depan akan dibangun kembali di atas dasar model besar. Ini mengharuskan industri keuangan untuk merestrukturisasi sistem dalam proses penerapan model besar. Pada saat yang sama, nilai model kecil tradisional juga tidak boleh diabaikan, dan harus memungkinkan model besar dan kecil untuk berkolaborasi.
Saat ini, sudah banyak lembaga keuangan terkemuka yang membangun kerangka sistem bertingkat yang mencakup lapisan infrastruktur, lapisan model, lapisan layanan model besar, dan lapisan aplikasi berdasarkan model besar. Kerangka ini umumnya memiliki dua ciri besar: pertama, model besar berfungsi sebagai kemampuan pusat, memanggil model tradisional sebagai keterampilan; kedua, lapisan model besar menggunakan strategi multi-model, melakukan perlombaan internal untuk memilih hasil terbaik.
Kesenjangan bakat masih sangat besar
Aplikasi model besar telah mulai membawa beberapa tantangan dan perubahan pada struktur personel di industri keuangan.
Beberapa posisi pekerjaan mulai digantikan oleh model besar. Namun, beberapa bank tidak ingin model besar membawa pengurangan karyawan, melainkan berharap model besar membawa peluang baru, meningkatkan kualitas layanan karyawan dan efisiensi kerja, sekaligus membebaskan sebagian karyawan untuk melakukan lebih banyak hal yang bernilai tinggi.
Ini tidak terlepas dari pertimbangan stabilitas personel dan struktur. Di sisi lain, juga karena banyak posisi di dalam industri yang masih kekurangan tenaga kerja. Bank besar memiliki banyak pekerjaan yang perlu diselesaikan, beberapa kebutuhan IT bahkan jadwalnya sampai akhir tahun depan, mereka berharap model besar dapat membantu karyawan meningkatkan efisiensi dan kecepatan, bukan mengakibatkan pengurangan staf.
Yang lebih penting, munculnya model besar sangat mendesak dan kuat, dalam waktu singkat pasokan bakat yang langka sulit untuk memenuhi permintaan yang melonjak. Permintaan bakat yang langsung menerapkan model besar relatif sederhana, yang dibutuhkan adalah orang-orang yang bisa mengajukan pertanyaan. Namun, jika membangun model besar industri atau perusahaan sendiri, lembaga keuangan perlu memiliki tim teknis model besar vertikal yang terampil.
Beberapa lembaga telah mengambil tindakan. Ada perusahaan yang bekerja sama dengan tim sumber daya manusia laboratorium bank, merumuskan praktik peralihan personel aplikasi model besar di perusahaan, merancang serangkaian kursus pelatihan seperti penyempurnaan Prompt, fine-tuning, operasi model besar, dan bekerja sama dengan berbagai departemen untuk membentuk kelompok proyek bersama, mendorong peningkatan kemampuan personel perusahaan.
Dalam proses ini, struktur personel lembaga keuangan juga akan mengalami beberapa penyesuaian dan perubahan. Pengembang model besar akan lebih mudah bertahan dalam lingkungan ini.