Еволюція технологій великих моделей у фінансовій сфері: від захоплення до раціональності
З моменту появи ChatGPT фінансовий сектор швидко охопила хвиля ентузіазму, і в індустрії широко поширені побоювання, що нові технології можуть залишити їх позаду. Це відчуття тривоги на деякий час охопило всі куточки, навіть у храмах можна почути обговорення теми великих моделей.
Однак ця тривога поступово вщухає, а думки людей стають все більш ясними та раціональними. Ставлення фінансової сфери до великих моделей пройшло кілька етапів: у лютому-березні панувала загальна тривога; у квітні-травні почали формувати команди та діяти; протягом наступних кількох місяців, шукаючи напрямок і реалізацію, стикалися з труднощами, почали ставати раціональнішими; наразі більше уваги приділяється еталонним випадкам, намагаються перевірити перевірені сценарії.
Новий тренд полягає в тому, що багато фінансових установ підняли великі моделі на стратегічний рівень. За неповними даними, серед компаній, що торгуються на A-ринку, щонайменше 11 банків у своїх останніх піврічних звітах чітко заявили про те, що досліджують застосування великих моделей. З останніх дій видно, що вони також ведуть більш чітке осмислення та планування шляхів з стратегічної та верхньої точки зору.
Від піднесеного ентузіазму до раціональної стабільності
В порівнянні з кількома місяцями тому, розуміння фінансовими клієнтами великих моделей суттєво покращилося. На початку року, коли тільки з'явився ChatGPT, хоча всі були сповнені ентузіазму, однак знання про сутність великих моделей та способи їх застосування було обмеженим.
На даному етапі деякі великі банки виступили з ініціативою і почали проводити різноманітні рекламні кампанії, що використовують популярність. З іншого боку, з появою великих моделей від кількох виробників, технологічні відділи провідних фінансових установ активно обговорюють питання створення великих моделей з великими компаніями. Вони в основному сподіваються на власне створення великих моделей, запитуючи про обробку наборів даних, закупівлю серверів, методи навчання та інші питання.
Після травня ситуація поступово змінюється. Обмеженість ресурсів обчислювальної потужності, високі витрати та інші фактори змусили багато фінансових установ перейти від простого бажання побудувати свої рішення до більшої уваги до прикладної цінності. "Зараз кожна фінансова установа цікавиться, що зробили інші за допомогою великих моделей, які результати вони досягли."
Різні підприємства різного масштабу також поділяються на два шляхи: великі фінансові установи можуть впроваджувати провідні базові великі моделі, створювати власні корпоративні великі моделі, а також використовувати форму налаштування, щоб створити великі моделі завдань у професійних сферах; малі та середні фінансові установи можуть за потреби впроваджувати різні API великих моделей або послуги приватного розгортання.
Оскільки фінансова індустрія має високі вимоги до відповідності даних, безпеки та надійності, деякі особи вважають, що прогрес впровадження великих моделей у цій індустрії насправді трохи відстає від очікувань на початку року.
Деякі фінансові установи почали вирішувати різні "перешкоди" у процесі впровадження великих моделей. У сфері обчислювальної потужності в галузі з'явилося кілька рішень:
Пряме створення обчислювальної потужності, висока вартість, але висока безпека, підходить для великих фінансових установ, які бажають створити власні моделі галузі або підприємства.
Гібридне розгортання обчислювальних потужностей, при цьому чутливі дані не виходять за межі домену, приймає виклики від публічної хмари до інтерфейсу великих моделей сервісів, одночасно обробляючи локальні дані через приватне розгортання. Витрати нижчі, підходить для фінансових установ середнього та малого бізнесу з обмеженими коштами.
Проте багато малих і середніх установ все ще стикаються з проблемою відсутності можливості купити або дозволити собі графічні процесори. Щоб вирішити цю проблему, відповідні органи проводять дослідження, вивчаючи можливість створення інфраструктури великих моделей для конкретних галузей, зосереджуючи обчислювальні потужності, ресурси універсальних великих моделей тощо, щоб малим і середнім фінансовим установам також була доступна послуга великих моделей і запобігти "технологічній відсталості".
Окрім обчислювальної потужності, багато фінансових установ поступово посилюють управління даними. Все більше середніх фінансових установ починають будувати централізовані платформи даних та системи управління даними. Деякі банки вирішують проблеми з даними за допомогою великих моделей + MLOps, реалізуючи автоматизацію всього процесу, а також єдине управління та ефективну обробку багатоджерельних гетерогенних даних.
Вхід з зовнішньої сцени
Протягом останніх півроку постачальники великих моделей і фінансові установи шукали сценарії: розумний офіс, інтелектуальна розробка, розумний маркетинг, інтелектуальне обслуговування клієнтів, розумні дослідження інвестицій, інтелектуальний контроль ризиків, аналіз потреб тощо.
Кожен фінансовий інститут має багатий задум про великі моделі. Але для реальної реалізації всі погоджуються, що спочатку потрібно впроваджувати їх всередині, а потім зовні. Наразі технології великих моделей ще не є зрілими, а фінансова галузь є сильно регульованою, з високими вимогами до безпеки та довіри.
У короткостроковій перспективі не рекомендується безпосередньо використовувати для клієнтів. Фінансові установи повинні в першу чергу використовувати великі моделі для аналізу та розуміння фінансових текстів і зображень, а також для творчих інтелектуально-інтенсивних сценаріїв, у формі асистента для підвищення ефективності роботи співробітників.
На даний момент кодовий помічник вже реалізований у багатьох фінансових установах. У сфері розумного офісу також є чимало випадків. Але експерти вважають, що ці широко реалізовані сценарії насправді ще не є основними застосуваннями фінансових установ, і великі моделі ще на певній відстані від глибокого занурення у бізнес-верстви фінансової галузі.
Є прогнози, що до кінця цього року з'явиться низка проектів або інформації про тендери, які насправді використовують великі моделі в основних бізнес-сценаріях фінансових установ.
Перед цим відбуваються деякі зміни на рівні верхнього дизайну. Уся майбутня система інтелектуалізації та цифровізації буде побудована на основі великих моделей. Це вимагає від фінансової галузі переробки системи в процесі впровадження великих моделей. Водночас не можна ігнорувати цінність традиційних малих моделей, а слід забезпечити їхню взаємодію з великими моделями.
В даний час вже кілька провідних фінансових установ на основі великих моделей створили багаторівневу системну структуру, що включає рівні інфраструктури, моделі, служби великих моделей та застосунків. Ці системи мають дві основні характеристики: по-перше, великі моделі виконують центральну функцію, використовуючи традиційні моделі як навички; по-друге, рівень великих моделей використовує стратегію з кількома моделями, проводячи внутрішні змагання для вибору найкращого результату.
Прогалина в кадрах все ще велика
Застосування великих моделей вже почало приносити певні виклики та зміни до структури персоналу фінансової сфери.
Деякі робочі місця починають замінюватись великими моделями. Проте деякі банки не бажають, щоб великі моделі призвели до скорочення персоналу, а навпаки, сподіваються, що великі моделі принесуть нові можливості, підвищать якість обслуговування працівників і ефективність роботи, одночасно звільняючи частину працівників для виконання більш цінних завдань.
Серед них є також міркування про стабільність кадрів та структури. З іншого боку, це також пов'язано з тим, що в галузі ще є дефіцит кадрів на багатьох посадах. Великі банки мають багато роботи, яку потрібно виконати, частина ІТ-потреб має терміни виконання, які навіть заплановані на кінець наступного року; вони сподіваються, що великі моделі зможуть допомогти співробітникам підвищити ефективність і швидкість, а не призвести до скорочення кадрів.
Більш важливо, що поява великих моделей стала швидкою і потужною, і в короткий термін постачання рідкісних кадрів важко співвіднести з різким зростанням попиту. Потреба в кадрах, які безпосередньо застосовують великі моделі, відносно проста — потрібні ті, хто вміє ставити питання. Але якщо створювати великі моделі в галузі чи компанії, тоді фінансові установи повинні мати кваліфіковану команду з вертикальних технологій великих моделей.
Деякі установи вже вжили заходів. Є компанії, які об'єдналися з командою людських ресурсів банківської лабораторії, щоб систематизувати практику кадрового перенавчання з використанням великих моделей у корпоративних застосуваннях, розробили серію навчальних курсів, таких як налаштування запитів, доопрацювання, управління великими моделями тощо, і співпрацюють з різними відділами, щоб створити спільні проектні групи, які сприяють підвищенню кваліфікації працівників підприємства.
У цьому процесі структура персоналу фінансових установ також зазнає деяких змін і реформ. Розробники великих моделей легше залишаться в цьому середовищі.
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Тенденції застосування великих моделей у фінансовій сфері: від захоплення до реалізації стратегічних рішень та постійного зростання потреби в кадрах.
Еволюція технологій великих моделей у фінансовій сфері: від захоплення до раціональності
З моменту появи ChatGPT фінансовий сектор швидко охопила хвиля ентузіазму, і в індустрії широко поширені побоювання, що нові технології можуть залишити їх позаду. Це відчуття тривоги на деякий час охопило всі куточки, навіть у храмах можна почути обговорення теми великих моделей.
Однак ця тривога поступово вщухає, а думки людей стають все більш ясними та раціональними. Ставлення фінансової сфери до великих моделей пройшло кілька етапів: у лютому-березні панувала загальна тривога; у квітні-травні почали формувати команди та діяти; протягом наступних кількох місяців, шукаючи напрямок і реалізацію, стикалися з труднощами, почали ставати раціональнішими; наразі більше уваги приділяється еталонним випадкам, намагаються перевірити перевірені сценарії.
Новий тренд полягає в тому, що багато фінансових установ підняли великі моделі на стратегічний рівень. За неповними даними, серед компаній, що торгуються на A-ринку, щонайменше 11 банків у своїх останніх піврічних звітах чітко заявили про те, що досліджують застосування великих моделей. З останніх дій видно, що вони також ведуть більш чітке осмислення та планування шляхів з стратегічної та верхньої точки зору.
Від піднесеного ентузіазму до раціональної стабільності
В порівнянні з кількома місяцями тому, розуміння фінансовими клієнтами великих моделей суттєво покращилося. На початку року, коли тільки з'явився ChatGPT, хоча всі були сповнені ентузіазму, однак знання про сутність великих моделей та способи їх застосування було обмеженим.
На даному етапі деякі великі банки виступили з ініціативою і почали проводити різноманітні рекламні кампанії, що використовують популярність. З іншого боку, з появою великих моделей від кількох виробників, технологічні відділи провідних фінансових установ активно обговорюють питання створення великих моделей з великими компаніями. Вони в основному сподіваються на власне створення великих моделей, запитуючи про обробку наборів даних, закупівлю серверів, методи навчання та інші питання.
Після травня ситуація поступово змінюється. Обмеженість ресурсів обчислювальної потужності, високі витрати та інші фактори змусили багато фінансових установ перейти від простого бажання побудувати свої рішення до більшої уваги до прикладної цінності. "Зараз кожна фінансова установа цікавиться, що зробили інші за допомогою великих моделей, які результати вони досягли."
Різні підприємства різного масштабу також поділяються на два шляхи: великі фінансові установи можуть впроваджувати провідні базові великі моделі, створювати власні корпоративні великі моделі, а також використовувати форму налаштування, щоб створити великі моделі завдань у професійних сферах; малі та середні фінансові установи можуть за потреби впроваджувати різні API великих моделей або послуги приватного розгортання.
Оскільки фінансова індустрія має високі вимоги до відповідності даних, безпеки та надійності, деякі особи вважають, що прогрес впровадження великих моделей у цій індустрії насправді трохи відстає від очікувань на початку року.
Деякі фінансові установи почали вирішувати різні "перешкоди" у процесі впровадження великих моделей. У сфері обчислювальної потужності в галузі з'явилося кілька рішень:
Пряме створення обчислювальної потужності, висока вартість, але висока безпека, підходить для великих фінансових установ, які бажають створити власні моделі галузі або підприємства.
Гібридне розгортання обчислювальних потужностей, при цьому чутливі дані не виходять за межі домену, приймає виклики від публічної хмари до інтерфейсу великих моделей сервісів, одночасно обробляючи локальні дані через приватне розгортання. Витрати нижчі, підходить для фінансових установ середнього та малого бізнесу з обмеженими коштами.
Проте багато малих і середніх установ все ще стикаються з проблемою відсутності можливості купити або дозволити собі графічні процесори. Щоб вирішити цю проблему, відповідні органи проводять дослідження, вивчаючи можливість створення інфраструктури великих моделей для конкретних галузей, зосереджуючи обчислювальні потужності, ресурси універсальних великих моделей тощо, щоб малим і середнім фінансовим установам також була доступна послуга великих моделей і запобігти "технологічній відсталості".
Окрім обчислювальної потужності, багато фінансових установ поступово посилюють управління даними. Все більше середніх фінансових установ починають будувати централізовані платформи даних та системи управління даними. Деякі банки вирішують проблеми з даними за допомогою великих моделей + MLOps, реалізуючи автоматизацію всього процесу, а також єдине управління та ефективну обробку багатоджерельних гетерогенних даних.
Вхід з зовнішньої сцени
Протягом останніх півроку постачальники великих моделей і фінансові установи шукали сценарії: розумний офіс, інтелектуальна розробка, розумний маркетинг, інтелектуальне обслуговування клієнтів, розумні дослідження інвестицій, інтелектуальний контроль ризиків, аналіз потреб тощо.
Кожен фінансовий інститут має багатий задум про великі моделі. Але для реальної реалізації всі погоджуються, що спочатку потрібно впроваджувати їх всередині, а потім зовні. Наразі технології великих моделей ще не є зрілими, а фінансова галузь є сильно регульованою, з високими вимогами до безпеки та довіри.
У короткостроковій перспективі не рекомендується безпосередньо використовувати для клієнтів. Фінансові установи повинні в першу чергу використовувати великі моделі для аналізу та розуміння фінансових текстів і зображень, а також для творчих інтелектуально-інтенсивних сценаріїв, у формі асистента для підвищення ефективності роботи співробітників.
На даний момент кодовий помічник вже реалізований у багатьох фінансових установах. У сфері розумного офісу також є чимало випадків. Але експерти вважають, що ці широко реалізовані сценарії насправді ще не є основними застосуваннями фінансових установ, і великі моделі ще на певній відстані від глибокого занурення у бізнес-верстви фінансової галузі.
Є прогнози, що до кінця цього року з'явиться низка проектів або інформації про тендери, які насправді використовують великі моделі в основних бізнес-сценаріях фінансових установ.
Перед цим відбуваються деякі зміни на рівні верхнього дизайну. Уся майбутня система інтелектуалізації та цифровізації буде побудована на основі великих моделей. Це вимагає від фінансової галузі переробки системи в процесі впровадження великих моделей. Водночас не можна ігнорувати цінність традиційних малих моделей, а слід забезпечити їхню взаємодію з великими моделями.
В даний час вже кілька провідних фінансових установ на основі великих моделей створили багаторівневу системну структуру, що включає рівні інфраструктури, моделі, служби великих моделей та застосунків. Ці системи мають дві основні характеристики: по-перше, великі моделі виконують центральну функцію, використовуючи традиційні моделі як навички; по-друге, рівень великих моделей використовує стратегію з кількома моделями, проводячи внутрішні змагання для вибору найкращого результату.
Прогалина в кадрах все ще велика
Застосування великих моделей вже почало приносити певні виклики та зміни до структури персоналу фінансової сфери.
Деякі робочі місця починають замінюватись великими моделями. Проте деякі банки не бажають, щоб великі моделі призвели до скорочення персоналу, а навпаки, сподіваються, що великі моделі принесуть нові можливості, підвищать якість обслуговування працівників і ефективність роботи, одночасно звільняючи частину працівників для виконання більш цінних завдань.
Серед них є також міркування про стабільність кадрів та структури. З іншого боку, це також пов'язано з тим, що в галузі ще є дефіцит кадрів на багатьох посадах. Великі банки мають багато роботи, яку потрібно виконати, частина ІТ-потреб має терміни виконання, які навіть заплановані на кінець наступного року; вони сподіваються, що великі моделі зможуть допомогти співробітникам підвищити ефективність і швидкість, а не призвести до скорочення кадрів.
Більш важливо, що поява великих моделей стала швидкою і потужною, і в короткий термін постачання рідкісних кадрів важко співвіднести з різким зростанням попиту. Потреба в кадрах, які безпосередньо застосовують великі моделі, відносно проста — потрібні ті, хто вміє ставити питання. Але якщо створювати великі моделі в галузі чи компанії, тоді фінансові установи повинні мати кваліфіковану команду з вертикальних технологій великих моделей.
Деякі установи вже вжили заходів. Є компанії, які об'єдналися з командою людських ресурсів банківської лабораторії, щоб систематизувати практику кадрового перенавчання з використанням великих моделей у корпоративних застосуваннях, розробили серію навчальних курсів, таких як налаштування запитів, доопрацювання, управління великими моделями тощо, і співпрацюють з різними відділами, щоб створити спільні проектні групи, які сприяють підвищенню кваліфікації працівників підприємства.
У цьому процесі структура персоналу фінансових установ також зазнає деяких змін і реформ. Розробники великих моделей легше залишаться в цьому середовищі.