Büyük Model Teknolojisinin Finans Sektöründeki Evrimi: Coşkudan Akla
ChatGPT'nin piyasaya sürülmesinden bu yana, finans sektöründe hızlı bir heyecan dalgası başladı, sektör genelinde yeni teknolojik dalgaların gerisinde kalma korkusu var. Bu kaygı duygusu bir dönem her yere yayıldı, hatta tapınaklarda bile büyük modeller konusunun tartışıldığını duyabiliyordunuz.
Ancak, bu kaygı giderek azalıyor ve insanların düşünceleri daha net ve mantıklı hale geliyor. Finans sektörünün büyük modellerle ilgili tutumu birkaç aşamadan geçti: Ocak-Şubat aylarında, genel olarak bir kaygı hissediliyordu; Mart-Nisan aylarında, ekipler kurarak harekete geçmeye başladılar; sonraki birkaç ayda, yön bulma ve uygulama sürecinde zorluklarla karşılaştılar ve mantıklı bir yaklaşım geliştirmeye başladılar; şu anda, daha fazla referans vakalarına odaklanıyorlar ve doğrulanmış senaryoları denemeye çalışıyorlar.
Yeni bir trend, birçok finans kurumunun büyük modelleri stratejik bir düzeye taşımasıdır. Tam olmayan istatistiklere göre, A-hisse senedi listesinde yer alan şirketlerden en az 11 banka, en son altı aylık raporlarında büyük model uygulamalarını keşfettiklerini açıkça belirtmiştir. Son dönemdeki hareketlere bakıldığında, strateji ve üst düzey tasarım açısından daha net düşünme ve yol haritası planlama sürecine girmektedirler.
Coşkulu Bir Başlangıçtan Mantıklı Bir Geri Dönüşe
Birkaç ay önceye kıyasla, finansal müşterilerin büyük modelleri anlama düzeyi belirgin şekilde arttı. Yılın başında ChatGPT ilk ortaya çıktığında, herkes heyecanlıydı, ancak büyük modellerin doğası ve uygulama yöntemleri konusunda sınırlı bir anlayışa sahipti.
Bu aşamada, bazı büyük bankalar öncülük ederek çeşitli "hype" tanıtımları yapmaya başladı. Öte yandan, birçok üreticinin büyük modelleri piyasaya sürmesiyle birlikte, bazı önde gelen finans kuruluşlarının teknoloji departmanları büyük model inşa etme konusunu büyük firmalarla aktif bir şekilde tartışıyor. Genel olarak, kendi büyük modellerini inşa etme umudundalar ve veri seti işleme, sunucu satın alma, eğitim yöntemleri gibi konuları sorguluyorlar.
Mayıs ayından sonra durum yavaş yavaş değişti. Hesaplama gücü kaynaklarının kıtlığı, yüksek maliyet gibi faktörler nedeniyle, birçok finans kurumu sadece kendi başlarına inşa etme umudundan daha fazla uygulama değerine odaklanmaya başladı. "Şu anda her finans kurumu diğerlerinin büyük modellerle ne yaptığını ve nasıl sonuçlar aldığını merak ediyor."
Farklı ölçeklerdeki işletmeler iki yol izleyebilir: Büyük finansal kurumlar, öncü temel büyük modelleri içerebilir, kendi kurumsal büyük modellerini oluşturabilir ve aynı zamanda ince ayar yöntemi kullanarak uzmanlık alanı görev büyük modelleri oluşturabilir; KOBİ'ler ise ihtiyaçlarına göre çeşitli büyük modellerin API'lerini veya özel dağıtım hizmetlerini kullanabilir.
Finans sektörünün veri uyumluluğu, güvenliği ve güvenilirliği gibi gereksinimlerinin yüksek olması nedeniyle, bazı kişiler bu sektörün büyük model uygulamalarının, yılın başındaki beklentilerin biraz gerisinde kaldığını düşünüyor.
Bazı finansal kuruluşlar, büyük modellerin uygulanması sürecindeki çeşitli "engel"leri çözmeye başlamıştır. Hesaplama gücü açısından, sektörde birkaç çözüm fikri ortaya çıkmıştır:
Doğrudan kendi madenciliğini kurmak, maliyeti yüksek ama güvenliği yüksek, kendi sektöründe veya büyük modeller oluşturmak isteyen büyük finansal kuruluşlara uygundur.
Güç karışık dağıtımı, hassas verilerin alan dışına çıkmadan, kamu bulutundan büyük model hizmeti arayüzü çağrılarını kabul ederken, aynı zamanda yerel veri hizmetlerini işlemek için özel dağıtım yoluyla gerçekleştirilir. Maliyetler daha düşüktür ve finansal açıdan görece zayıf olan orta ve küçük ölçekli finans kurumları için uygundur.
Ancak, birçok küçük ve orta ölçekli kuruluş hala GPU kartı satın alamama ve buna rağmen satın alamama sorunuyla karşı karşıya. Bu soruna yönelik olarak, ilgili departmanlar konu üzerinde araştırmalar yapıyor, belirli sektörlere yönelik büyük model altyapısını inşa etmek için uzlaşma yolları arıyorlar. Hesaplama gücü, genel büyük model gibi kaynakları bir araya getirerek, küçük ve orta ölçekli finansal kuruluşların da büyük model hizmetlerinden faydalanabilmesini sağlamak ve "teknolojide geri kalmayı" önlemek istiyorlar.
Madde gücünün yanı sıra, birçok finans kurumu da veri yönetimini güçlendirmeye başladı. Orta ölçekli finans kurumlarının giderek daha fazla veri merkezi ve veri yönetim sistemleri inşa etmeye başladığı görülüyor. Bazı bankalar, büyük modeller + MLOps yöntemi ile veri sorunlarını çözerek, tüm sürecin otomatikleştirilmesini ve çok kaynaklı heterojen verilerin birleşik yönetimini ve verimli işlenmesini sağladı.
Dış sahneden giriş
Geçtiğimiz altı ay boyunca, büyük model hizmet sağlayıcıları ve finans kurumları senaryolar arayışında oldular; akıllı ofis, akıllı geliştirme, akıllı pazarlama, akıllı müşteri hizmetleri, akıllı yatırım araştırması, akıllı risk kontrolü, talep analizi gibi alanlar tek tek keşfedildi.
Her finansal kurumun büyük modeller hakkında zengin fikirleri var. Ama gerçekten hayata geçmesi için, herkesin hemfikir olduğu şey önce içe, sonra dışa yönelmek. Şu anda büyük model teknolojisi henüz olgunlaşmamışken, finans sektörü sıkı denetim, yüksek güvenlik ve yüksek güvenilirlik gerektiren bir sektördür.
Kısa vadede doğrudan müşterilere yönelik kullanılması önerilmez. Finansal kurumlar, büyük modelleri finansal metinler ve görüntülerin analizi, anlama ve yaratımı gibi zeka yoğun senaryolar için öncelikli olarak kullanmalıdır; bu, iş gücü verimliliğini artırmak için insan-makine iş birliği şeklinde bir yardımcı olarak yapılmalıdır.
Şu anda, kod asistanları birçok finans kurumunda uygulanmıştır. Akıllı ofis alanında da birçok vaka bulunmaktadır. Ancak sektördeki uzmanlar, bu yaygın uygulama senaryolarının, aslında finans kurumlarının temel uygulamaları olmadığını değerlendirmektedir; büyük modellerin finans sektörünün iş katmanına derinlemesine ulaşması için hala bir mesafe vardır.
Tahminlere göre, bu yılın sonunda finansal kuruluşların temel iş senaryolarında büyük model kullanan projelerin inşa edilmesi veya ihale bilgileri ortaya çıkacak.
Bundan önce, bazı üst düzey tasarım değişiklikleri yapılıyor. Gelecekteki tüm akıllı ve dijital sistemler, büyük model temeli üzerine yeniden inşa edilecektir. Bu, finans sektörünün büyük modelin uygulanması sürecinde sistemini yeniden yapılandırmasını gerektirir. Aynı zamanda, geleneksel küçük modellerin değerini de göz ardı etmemek ve büyük model ile küçük modelin birlikte çalışmasını sağlamak gerekir.
Şu anda birçok önde gelen finans kurumu, temel altyapı katmanı, model katmanı, büyük model hizmet katmanı, uygulama katmanı gibi birçok katmandan oluşan katmanlı sistem çerçeveleri oluşturmak için büyük modelleri temel almıştır. Bu çerçeve sistemlerinin genel olarak iki ana özelliği vardır: birincisi, büyük modelin merkezi bir yetenek olarak işlev görmesi ve geleneksel modellerin beceri olarak çağrılması; ikincisi, büyük model katmanının çoklu model stratejisi benimsemesi, iç yarışmalar yaparak en iyi sonuçları seçmesidir.
Yetenek açığı hâlâ büyük
Büyük modellerin uygulamaları, finans sektöründeki insan yapısını bazı zorluklar ve değişimlerle karşı karşıya bırakmaya başladı.
Bazı iş pozisyonları büyük modeller tarafından ikame edilmeye başlandı. Ancak, bazı bankalar büyük modellerin işten çıkarma getirmesini istemiyor, aksine büyük modellerin yeni fırsatlar sunmasını, çalışanların hizmet kalitesini ve iş verimliliğini artırmasını, aynı zamanda bazı çalışanların daha yüksek değerli işler yapmalarını sağlamasını umuyorlar.
Bu durumda, personel ve yapı istikrarı dikkate alınıyor. Öte yandan, sektörde birçok pozisyonda hala insan kaynağı açığı da var. Büyük bankaların tamamlanması gereken çok sayıda işi var, bazı IT taleplerinin süresi hatta gelecek yılın sonuna kadar uzanıyor, çalışanların verimliliğini ve hızını artırmak için büyük modellerin yardımcı olmasını umuyorlar, personel azaltma değil.
Daha da önemlisi, büyük modellerin ortaya çıkışı ani ve güçlü oldu, kısa sürede sınırlı yetenek arzı artan talebi karşılamakta zorlanıyor. Büyük modelleri doğrudan uygulayan yetenek talebi nispeten basit, soru sorabilen kişilere ihtiyaç var. Ancak sektöre veya şirkete özel büyük modeller inşa etmek için, finansal kurumların yetkin bir dikey büyük model teknik ekibine sahip olması gerekiyor.
Bazı kuruluşlar harekete geçti. Birçok şirket, bankaların laboratuvar insan kaynakları ekipleri ile işbirliği yaparak, büyük modellerin kurumsal uygulamalardaki dönüşüm uygulamalarını düzenledi, Prompt ayarlama, ince ayar, büyük model işletimi gibi bir dizi eğitim programı tasarladı ve çeşitli departmanlarla işbirliği yaparak, şirketin insan yeteneklerini geliştirmeyi amaçlayan ortak proje grupları kurdu.
Bu süreçte, finansal kurumların personel yapısında bazı ayarlamalar ve değişiklikler de olacaktır. Büyük model geliştiricileri, bu ortamda daha kolay kalacaklardır.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Finans sektöründe büyük model uygulama trendleri: Coşkudan gerçekliğe, stratejik planlama ve insan kaynağı talebinin sürekli artışı.
Büyük Model Teknolojisinin Finans Sektöründeki Evrimi: Coşkudan Akla
ChatGPT'nin piyasaya sürülmesinden bu yana, finans sektöründe hızlı bir heyecan dalgası başladı, sektör genelinde yeni teknolojik dalgaların gerisinde kalma korkusu var. Bu kaygı duygusu bir dönem her yere yayıldı, hatta tapınaklarda bile büyük modeller konusunun tartışıldığını duyabiliyordunuz.
Ancak, bu kaygı giderek azalıyor ve insanların düşünceleri daha net ve mantıklı hale geliyor. Finans sektörünün büyük modellerle ilgili tutumu birkaç aşamadan geçti: Ocak-Şubat aylarında, genel olarak bir kaygı hissediliyordu; Mart-Nisan aylarında, ekipler kurarak harekete geçmeye başladılar; sonraki birkaç ayda, yön bulma ve uygulama sürecinde zorluklarla karşılaştılar ve mantıklı bir yaklaşım geliştirmeye başladılar; şu anda, daha fazla referans vakalarına odaklanıyorlar ve doğrulanmış senaryoları denemeye çalışıyorlar.
Yeni bir trend, birçok finans kurumunun büyük modelleri stratejik bir düzeye taşımasıdır. Tam olmayan istatistiklere göre, A-hisse senedi listesinde yer alan şirketlerden en az 11 banka, en son altı aylık raporlarında büyük model uygulamalarını keşfettiklerini açıkça belirtmiştir. Son dönemdeki hareketlere bakıldığında, strateji ve üst düzey tasarım açısından daha net düşünme ve yol haritası planlama sürecine girmektedirler.
Coşkulu Bir Başlangıçtan Mantıklı Bir Geri Dönüşe
Birkaç ay önceye kıyasla, finansal müşterilerin büyük modelleri anlama düzeyi belirgin şekilde arttı. Yılın başında ChatGPT ilk ortaya çıktığında, herkes heyecanlıydı, ancak büyük modellerin doğası ve uygulama yöntemleri konusunda sınırlı bir anlayışa sahipti.
Bu aşamada, bazı büyük bankalar öncülük ederek çeşitli "hype" tanıtımları yapmaya başladı. Öte yandan, birçok üreticinin büyük modelleri piyasaya sürmesiyle birlikte, bazı önde gelen finans kuruluşlarının teknoloji departmanları büyük model inşa etme konusunu büyük firmalarla aktif bir şekilde tartışıyor. Genel olarak, kendi büyük modellerini inşa etme umudundalar ve veri seti işleme, sunucu satın alma, eğitim yöntemleri gibi konuları sorguluyorlar.
Mayıs ayından sonra durum yavaş yavaş değişti. Hesaplama gücü kaynaklarının kıtlığı, yüksek maliyet gibi faktörler nedeniyle, birçok finans kurumu sadece kendi başlarına inşa etme umudundan daha fazla uygulama değerine odaklanmaya başladı. "Şu anda her finans kurumu diğerlerinin büyük modellerle ne yaptığını ve nasıl sonuçlar aldığını merak ediyor."
Farklı ölçeklerdeki işletmeler iki yol izleyebilir: Büyük finansal kurumlar, öncü temel büyük modelleri içerebilir, kendi kurumsal büyük modellerini oluşturabilir ve aynı zamanda ince ayar yöntemi kullanarak uzmanlık alanı görev büyük modelleri oluşturabilir; KOBİ'ler ise ihtiyaçlarına göre çeşitli büyük modellerin API'lerini veya özel dağıtım hizmetlerini kullanabilir.
Finans sektörünün veri uyumluluğu, güvenliği ve güvenilirliği gibi gereksinimlerinin yüksek olması nedeniyle, bazı kişiler bu sektörün büyük model uygulamalarının, yılın başındaki beklentilerin biraz gerisinde kaldığını düşünüyor.
Bazı finansal kuruluşlar, büyük modellerin uygulanması sürecindeki çeşitli "engel"leri çözmeye başlamıştır. Hesaplama gücü açısından, sektörde birkaç çözüm fikri ortaya çıkmıştır:
Doğrudan kendi madenciliğini kurmak, maliyeti yüksek ama güvenliği yüksek, kendi sektöründe veya büyük modeller oluşturmak isteyen büyük finansal kuruluşlara uygundur.
Güç karışık dağıtımı, hassas verilerin alan dışına çıkmadan, kamu bulutundan büyük model hizmeti arayüzü çağrılarını kabul ederken, aynı zamanda yerel veri hizmetlerini işlemek için özel dağıtım yoluyla gerçekleştirilir. Maliyetler daha düşüktür ve finansal açıdan görece zayıf olan orta ve küçük ölçekli finans kurumları için uygundur.
Ancak, birçok küçük ve orta ölçekli kuruluş hala GPU kartı satın alamama ve buna rağmen satın alamama sorunuyla karşı karşıya. Bu soruna yönelik olarak, ilgili departmanlar konu üzerinde araştırmalar yapıyor, belirli sektörlere yönelik büyük model altyapısını inşa etmek için uzlaşma yolları arıyorlar. Hesaplama gücü, genel büyük model gibi kaynakları bir araya getirerek, küçük ve orta ölçekli finansal kuruluşların da büyük model hizmetlerinden faydalanabilmesini sağlamak ve "teknolojide geri kalmayı" önlemek istiyorlar.
Madde gücünün yanı sıra, birçok finans kurumu da veri yönetimini güçlendirmeye başladı. Orta ölçekli finans kurumlarının giderek daha fazla veri merkezi ve veri yönetim sistemleri inşa etmeye başladığı görülüyor. Bazı bankalar, büyük modeller + MLOps yöntemi ile veri sorunlarını çözerek, tüm sürecin otomatikleştirilmesini ve çok kaynaklı heterojen verilerin birleşik yönetimini ve verimli işlenmesini sağladı.
Dış sahneden giriş
Geçtiğimiz altı ay boyunca, büyük model hizmet sağlayıcıları ve finans kurumları senaryolar arayışında oldular; akıllı ofis, akıllı geliştirme, akıllı pazarlama, akıllı müşteri hizmetleri, akıllı yatırım araştırması, akıllı risk kontrolü, talep analizi gibi alanlar tek tek keşfedildi.
Her finansal kurumun büyük modeller hakkında zengin fikirleri var. Ama gerçekten hayata geçmesi için, herkesin hemfikir olduğu şey önce içe, sonra dışa yönelmek. Şu anda büyük model teknolojisi henüz olgunlaşmamışken, finans sektörü sıkı denetim, yüksek güvenlik ve yüksek güvenilirlik gerektiren bir sektördür.
Kısa vadede doğrudan müşterilere yönelik kullanılması önerilmez. Finansal kurumlar, büyük modelleri finansal metinler ve görüntülerin analizi, anlama ve yaratımı gibi zeka yoğun senaryolar için öncelikli olarak kullanmalıdır; bu, iş gücü verimliliğini artırmak için insan-makine iş birliği şeklinde bir yardımcı olarak yapılmalıdır.
Şu anda, kod asistanları birçok finans kurumunda uygulanmıştır. Akıllı ofis alanında da birçok vaka bulunmaktadır. Ancak sektördeki uzmanlar, bu yaygın uygulama senaryolarının, aslında finans kurumlarının temel uygulamaları olmadığını değerlendirmektedir; büyük modellerin finans sektörünün iş katmanına derinlemesine ulaşması için hala bir mesafe vardır.
Tahminlere göre, bu yılın sonunda finansal kuruluşların temel iş senaryolarında büyük model kullanan projelerin inşa edilmesi veya ihale bilgileri ortaya çıkacak.
Bundan önce, bazı üst düzey tasarım değişiklikleri yapılıyor. Gelecekteki tüm akıllı ve dijital sistemler, büyük model temeli üzerine yeniden inşa edilecektir. Bu, finans sektörünün büyük modelin uygulanması sürecinde sistemini yeniden yapılandırmasını gerektirir. Aynı zamanda, geleneksel küçük modellerin değerini de göz ardı etmemek ve büyük model ile küçük modelin birlikte çalışmasını sağlamak gerekir.
Şu anda birçok önde gelen finans kurumu, temel altyapı katmanı, model katmanı, büyük model hizmet katmanı, uygulama katmanı gibi birçok katmandan oluşan katmanlı sistem çerçeveleri oluşturmak için büyük modelleri temel almıştır. Bu çerçeve sistemlerinin genel olarak iki ana özelliği vardır: birincisi, büyük modelin merkezi bir yetenek olarak işlev görmesi ve geleneksel modellerin beceri olarak çağrılması; ikincisi, büyük model katmanının çoklu model stratejisi benimsemesi, iç yarışmalar yaparak en iyi sonuçları seçmesidir.
Yetenek açığı hâlâ büyük
Büyük modellerin uygulamaları, finans sektöründeki insan yapısını bazı zorluklar ve değişimlerle karşı karşıya bırakmaya başladı.
Bazı iş pozisyonları büyük modeller tarafından ikame edilmeye başlandı. Ancak, bazı bankalar büyük modellerin işten çıkarma getirmesini istemiyor, aksine büyük modellerin yeni fırsatlar sunmasını, çalışanların hizmet kalitesini ve iş verimliliğini artırmasını, aynı zamanda bazı çalışanların daha yüksek değerli işler yapmalarını sağlamasını umuyorlar.
Bu durumda, personel ve yapı istikrarı dikkate alınıyor. Öte yandan, sektörde birçok pozisyonda hala insan kaynağı açığı da var. Büyük bankaların tamamlanması gereken çok sayıda işi var, bazı IT taleplerinin süresi hatta gelecek yılın sonuna kadar uzanıyor, çalışanların verimliliğini ve hızını artırmak için büyük modellerin yardımcı olmasını umuyorlar, personel azaltma değil.
Daha da önemlisi, büyük modellerin ortaya çıkışı ani ve güçlü oldu, kısa sürede sınırlı yetenek arzı artan talebi karşılamakta zorlanıyor. Büyük modelleri doğrudan uygulayan yetenek talebi nispeten basit, soru sorabilen kişilere ihtiyaç var. Ancak sektöre veya şirkete özel büyük modeller inşa etmek için, finansal kurumların yetkin bir dikey büyük model teknik ekibine sahip olması gerekiyor.
Bazı kuruluşlar harekete geçti. Birçok şirket, bankaların laboratuvar insan kaynakları ekipleri ile işbirliği yaparak, büyük modellerin kurumsal uygulamalardaki dönüşüm uygulamalarını düzenledi, Prompt ayarlama, ince ayar, büyük model işletimi gibi bir dizi eğitim programı tasarladı ve çeşitli departmanlarla işbirliği yaparak, şirketin insan yeteneklerini geliştirmeyi amaçlayan ortak proje grupları kurdu.
Bu süreçte, finansal kurumların personel yapısında bazı ayarlamalar ve değişiklikler de olacaktır. Büyük model geliştiricileri, bu ortamda daha kolay kalacaklardır.