Эволюция технологий больших моделей в финансовом секторе: от безумия к разуму
С момента появления ChatGPT финансовая индустрия быстро охватила волну интереса, и в отрасли широко распространены опасения быть отстраненными от новых технологий. Эта тревога в какой-то момент распространилась по всем уголкам, даже в храмах можно было услышать обсуждение тем больших моделей.
Однако эта тревога постепенно утихает, а мысли людей становятся более ясными и рациональными. Отношение финансовой отрасли к большим моделям прошло несколько этапов: в феврале и марте преобладало чувство тревоги; в апреле и мае начали формироваться команды для активных действий; в последующие месяцы возникли трудности в поиске направления и реализации, началось стремление к рациональности; в настоящее время больше внимания уделяется эталонным случаям, пытаясь проверить уже протестированные сценарии.
Новая тенденция заключается в том, что многие финансовые учреждения подняли большие модели на стратегический уровень. По неполным данным, среди компаний,上市 на A-акции, как минимум 11 банков в своих последних полугодовых отчетах четко заявили, что исследуют применение больших моделей. Судя по недавним действиям, они также ведут более четкие размышления и планирование путей с точки зрения стратегии и высшего уровня проектирования.
От высокой энтузиазма к рациональному возвращению
По сравнению с несколькими месяцами назад, понимание финансовыми клиентами больших моделей значительно возросло. В начале года, когда только появился ChatGPT, хотя все были полны энтузиазма, понимание сути и способов применения больших моделей было ограниченным.
На этом этапе некоторые крупные банки первыми начали действовать и запустили различные рекламные кампании «на волне популярности». С другой стороны, с выходом большого числа производителей, выпускающих большие модели, технические отделы некоторых ведущих финансовых учреждений активно обсуждают вопросы строительства больших моделей с крупными компаниями. Они в целом надеются создать собственные большие модели и задают вопросы по обработке наборов данных, закупке серверов, методам обучения и т.д.
После мая ситуация постепенно изменилась. Из-за нехватки вычислительных ресурсов и высоких затрат многие финансовые учреждения начали переходить от простой надежды на создание собственных решений к более внимательному отношению к прикладной ценности. "Теперь каждое финансовое учреждение интересуется тем, что сделали другие с большими моделями и каких результатов они достигли."
Разные компании также делятся на два пути: крупные финансовые учреждения могут внедрить ведущие базовые большие модели, построить собственные корпоративные большие модели и одновременно использовать методы дообучения для формирования специализированных больших моделей для задач в определенных областях; малые и средние финансовые учреждения могут по мере необходимости использовать API различных больших моделей или услуги по приватной развертке.
Из-за высоких требований финансовой отрасли к соблюдению данных, безопасности и надежности, некоторые считают, что фактический прогресс внедрения крупных моделей в этой отрасли немного отстает от первоначальных ожиданий в начале года.
Некоторые финансовые учреждения начали решать различные "препятствия" в процессе внедрения больших моделей. В отношении вычислительной мощности в отрасли возникло несколько решений:
Прямое создание вычислительной мощности, высокая стоимость, но высокая безопасность, подходит для крупных финансовых учреждений, желающих создать собственные отраслевые или корпоративные модели.
Гибридное развертывание вычислительной мощности, при этом чувствительные данные не покидают домен, принимая вызовы интерфейса служб крупных моделей из публичного облака, одновременно обрабатывая локальные данные через приватное развертывание. Низкие затраты, подходит для относительно слабых по финансам малых и средних финансовых учреждений.
Однако многие малые и средние учреждения по-прежнему сталкиваются с проблемой невозможности приобрести или оплатить графические процессоры (GPU). В связи с этой проблемой соответствующие органы проводят исследование, чтобы выяснить, можно ли создать компромиссный подход для строительства инфраструктуры больших моделей, ориентированной на определенные отрасли, сосредоточив вычислительные мощности и ресурсы универсальных больших моделей, чтобы малые и средние финансовые учреждения также могли использовать услуги больших моделей и предотвратить "технологическое отставание".
Помимо вычислительной мощности, многие финансовые учреждения также постепенно усиливают управление данными. Все больше средних финансовых учреждений начинают строить централизованные данные и системы управления данными. Некоторые банки решают проблемы с данными с помощью больших моделей и MLOps, достигая автоматизации всего процесса, а также единого управления и эффективной обработки многопоточных и гетерогенных данных.
Вход через внешние сценарии
В течение последних полутора лет поставщики больших моделей и финансовые учреждения искали сценарии, такие как интеллектуальный офис, интеллектуальная разработка, уммаркетинг, интеллектуальная служба поддержки, умные инвестиционные исследования, интеллектуальный риск-менеджмент, анализ потребностей и другие.
Каждое финансовое учреждение имеет богатые идеи по поводу больших моделей. Но для того чтобы они действительно заработали, все согласны с тем, что сначала нужно работать внутри, а затем выходить за пределы. В настоящее время технологии больших моделей еще не зрелые, а финансовая отрасль является сильно регулируемой, с высоким уровнем безопасности и доверия.
В краткосрочной перспективе не рекомендуется использовать напрямую для клиентов. Финансовым учреждениям следует в первую очередь применять большие модели для анализа и понимания финансовых текстов и изображений, а также для создания интеллектуально насыщенных сценариев, используя их в качестве помощника для повышения эффективности работы сотрудников.
На данный момент кодовые помощники уже внедрены в ряде финансовых учреждений. В области интеллектуального офиса также имеется немало примеров. Однако специалисты отрасли считают, что эти широко внедренные сценарии на самом деле еще не являются основными приложениями финансовых учреждений, и большим моделям еще предстоит пройти определенное расстояние, чтобы углубиться в бизнес-уровень финансовой отрасли.
Существуют прогнозы, что до конца этого года появится ряд проектов по строительству или тендерам, в которых действительно будут использоваться крупные модели в основных бизнес-сценариях финансовых учреждений.
До этого времени проводились некоторые изменения на уровне верхнего дизайна. Вся будущая интеллектуальная и цифровая система будет заново построена на основе больших моделей. Это требует от финансовой отрасли перестройки систем в процессе внедрения больших моделей. В то же время нельзя игнорировать ценность традиционных малых моделей, и необходимо обеспечить их совместную работу с большими моделями.
В настоящее время несколько ведущих финансовых учреждений на основе больших моделей создали многослойные системные структуры, включающие уровни инфраструктуры, модельного уровня, уровня услуг больших моделей и уровня приложений. Эти структурные системы обычно имеют две основные характеристики: во-первых, большие модели выполняют центральную функцию, вызывая традиционные модели как навыки; во-вторых, уровень больших моделей использует стратегию нескольких моделей, проводя внутренние соревнования и выбирая наиболее эффективные.
Пробел в талантах по-прежнему огромен
Применение больших моделей уже начало вызывать некоторые вызовы и изменения в структуре персонала финансовой отрасли.
Некоторые рабочие места начинают заменяться большими моделями. Однако некоторые банки не хотят, чтобы большие модели привели к сокращению штатов, а надеются, что большие модели создадут новые возможности, повысят качество обслуживания сотрудников и эффективность работы, а также освободят часть сотрудников для выполнения более ценных задач.
Здесь не обходится без учета стабильности персонала и структуры. С другой стороны, в отрасли также существует нехватка кадров на многих должностях. У крупных банков есть множество задач, которые необходимо выполнить, и сроки выполнения некоторых ИТ-запросов даже отложены до конца следующего года, они надеются, что большие модели помогут сотрудникам повысить эффективность и скорость, а не приведут к сокращению персонала.
Более того, приход больших моделей был стремительным и бурным, и в короткие сроки дефицит квалифицированных кадров не может соответствовать резко возросшему спросу. Прямые требования к кадрам для применения больших моделей относительно просты, нужны люди, умеющие задавать вопросы. Но если речь идет о создании отраслевой или корпоративной большой модели, то финансовым учреждениям необходима компетентная команда специалистов по вертикальным большим моделям.
Некоторые организации уже предприняли действия. Некоторые компании объединили команду по управлению человеческими ресурсами банковских лабораторий, чтобы проанализировать практику трансформации персонала при использовании крупных моделей в корпоративных приложениях, разработали серию учебных курсов, таких как оптимизация запросов, дообучение, управление крупными моделями и т.д., и сотрудничали с различными отделами для создания совместных проектных групп, чтобы способствовать повышению квалификации сотрудников компании.
В этом процессе структура персонала финансовых учреждений также претерпит некоторые изменения и реформы. Разработчики, использующие большие модели, будут легче оставаться в этой среде.
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Тренды применения больших моделей в финансовом секторе: от восторга к реализации Стратегическое планирование и потребность в кадрах продолжают расти
Эволюция технологий больших моделей в финансовом секторе: от безумия к разуму
С момента появления ChatGPT финансовая индустрия быстро охватила волну интереса, и в отрасли широко распространены опасения быть отстраненными от новых технологий. Эта тревога в какой-то момент распространилась по всем уголкам, даже в храмах можно было услышать обсуждение тем больших моделей.
Однако эта тревога постепенно утихает, а мысли людей становятся более ясными и рациональными. Отношение финансовой отрасли к большим моделям прошло несколько этапов: в феврале и марте преобладало чувство тревоги; в апреле и мае начали формироваться команды для активных действий; в последующие месяцы возникли трудности в поиске направления и реализации, началось стремление к рациональности; в настоящее время больше внимания уделяется эталонным случаям, пытаясь проверить уже протестированные сценарии.
Новая тенденция заключается в том, что многие финансовые учреждения подняли большие модели на стратегический уровень. По неполным данным, среди компаний,上市 на A-акции, как минимум 11 банков в своих последних полугодовых отчетах четко заявили, что исследуют применение больших моделей. Судя по недавним действиям, они также ведут более четкие размышления и планирование путей с точки зрения стратегии и высшего уровня проектирования.
От высокой энтузиазма к рациональному возвращению
По сравнению с несколькими месяцами назад, понимание финансовыми клиентами больших моделей значительно возросло. В начале года, когда только появился ChatGPT, хотя все были полны энтузиазма, понимание сути и способов применения больших моделей было ограниченным.
На этом этапе некоторые крупные банки первыми начали действовать и запустили различные рекламные кампании «на волне популярности». С другой стороны, с выходом большого числа производителей, выпускающих большие модели, технические отделы некоторых ведущих финансовых учреждений активно обсуждают вопросы строительства больших моделей с крупными компаниями. Они в целом надеются создать собственные большие модели и задают вопросы по обработке наборов данных, закупке серверов, методам обучения и т.д.
После мая ситуация постепенно изменилась. Из-за нехватки вычислительных ресурсов и высоких затрат многие финансовые учреждения начали переходить от простой надежды на создание собственных решений к более внимательному отношению к прикладной ценности. "Теперь каждое финансовое учреждение интересуется тем, что сделали другие с большими моделями и каких результатов они достигли."
Разные компании также делятся на два пути: крупные финансовые учреждения могут внедрить ведущие базовые большие модели, построить собственные корпоративные большие модели и одновременно использовать методы дообучения для формирования специализированных больших моделей для задач в определенных областях; малые и средние финансовые учреждения могут по мере необходимости использовать API различных больших моделей или услуги по приватной развертке.
Из-за высоких требований финансовой отрасли к соблюдению данных, безопасности и надежности, некоторые считают, что фактический прогресс внедрения крупных моделей в этой отрасли немного отстает от первоначальных ожиданий в начале года.
Некоторые финансовые учреждения начали решать различные "препятствия" в процессе внедрения больших моделей. В отношении вычислительной мощности в отрасли возникло несколько решений:
Прямое создание вычислительной мощности, высокая стоимость, но высокая безопасность, подходит для крупных финансовых учреждений, желающих создать собственные отраслевые или корпоративные модели.
Гибридное развертывание вычислительной мощности, при этом чувствительные данные не покидают домен, принимая вызовы интерфейса служб крупных моделей из публичного облака, одновременно обрабатывая локальные данные через приватное развертывание. Низкие затраты, подходит для относительно слабых по финансам малых и средних финансовых учреждений.
Однако многие малые и средние учреждения по-прежнему сталкиваются с проблемой невозможности приобрести или оплатить графические процессоры (GPU). В связи с этой проблемой соответствующие органы проводят исследование, чтобы выяснить, можно ли создать компромиссный подход для строительства инфраструктуры больших моделей, ориентированной на определенные отрасли, сосредоточив вычислительные мощности и ресурсы универсальных больших моделей, чтобы малые и средние финансовые учреждения также могли использовать услуги больших моделей и предотвратить "технологическое отставание".
Помимо вычислительной мощности, многие финансовые учреждения также постепенно усиливают управление данными. Все больше средних финансовых учреждений начинают строить централизованные данные и системы управления данными. Некоторые банки решают проблемы с данными с помощью больших моделей и MLOps, достигая автоматизации всего процесса, а также единого управления и эффективной обработки многопоточных и гетерогенных данных.
Вход через внешние сценарии
В течение последних полутора лет поставщики больших моделей и финансовые учреждения искали сценарии, такие как интеллектуальный офис, интеллектуальная разработка, уммаркетинг, интеллектуальная служба поддержки, умные инвестиционные исследования, интеллектуальный риск-менеджмент, анализ потребностей и другие.
Каждое финансовое учреждение имеет богатые идеи по поводу больших моделей. Но для того чтобы они действительно заработали, все согласны с тем, что сначала нужно работать внутри, а затем выходить за пределы. В настоящее время технологии больших моделей еще не зрелые, а финансовая отрасль является сильно регулируемой, с высоким уровнем безопасности и доверия.
В краткосрочной перспективе не рекомендуется использовать напрямую для клиентов. Финансовым учреждениям следует в первую очередь применять большие модели для анализа и понимания финансовых текстов и изображений, а также для создания интеллектуально насыщенных сценариев, используя их в качестве помощника для повышения эффективности работы сотрудников.
На данный момент кодовые помощники уже внедрены в ряде финансовых учреждений. В области интеллектуального офиса также имеется немало примеров. Однако специалисты отрасли считают, что эти широко внедренные сценарии на самом деле еще не являются основными приложениями финансовых учреждений, и большим моделям еще предстоит пройти определенное расстояние, чтобы углубиться в бизнес-уровень финансовой отрасли.
Существуют прогнозы, что до конца этого года появится ряд проектов по строительству или тендерам, в которых действительно будут использоваться крупные модели в основных бизнес-сценариях финансовых учреждений.
До этого времени проводились некоторые изменения на уровне верхнего дизайна. Вся будущая интеллектуальная и цифровая система будет заново построена на основе больших моделей. Это требует от финансовой отрасли перестройки систем в процессе внедрения больших моделей. В то же время нельзя игнорировать ценность традиционных малых моделей, и необходимо обеспечить их совместную работу с большими моделями.
В настоящее время несколько ведущих финансовых учреждений на основе больших моделей создали многослойные системные структуры, включающие уровни инфраструктуры, модельного уровня, уровня услуг больших моделей и уровня приложений. Эти структурные системы обычно имеют две основные характеристики: во-первых, большие модели выполняют центральную функцию, вызывая традиционные модели как навыки; во-вторых, уровень больших моделей использует стратегию нескольких моделей, проводя внутренние соревнования и выбирая наиболее эффективные.
Пробел в талантах по-прежнему огромен
Применение больших моделей уже начало вызывать некоторые вызовы и изменения в структуре персонала финансовой отрасли.
Некоторые рабочие места начинают заменяться большими моделями. Однако некоторые банки не хотят, чтобы большие модели привели к сокращению штатов, а надеются, что большие модели создадут новые возможности, повысят качество обслуживания сотрудников и эффективность работы, а также освободят часть сотрудников для выполнения более ценных задач.
Здесь не обходится без учета стабильности персонала и структуры. С другой стороны, в отрасли также существует нехватка кадров на многих должностях. У крупных банков есть множество задач, которые необходимо выполнить, и сроки выполнения некоторых ИТ-запросов даже отложены до конца следующего года, они надеются, что большие модели помогут сотрудникам повысить эффективность и скорость, а не приведут к сокращению персонала.
Более того, приход больших моделей был стремительным и бурным, и в короткие сроки дефицит квалифицированных кадров не может соответствовать резко возросшему спросу. Прямые требования к кадрам для применения больших моделей относительно просты, нужны люди, умеющие задавать вопросы. Но если речь идет о создании отраслевой или корпоративной большой модели, то финансовым учреждениям необходима компетентная команда специалистов по вертикальным большим моделям.
Некоторые организации уже предприняли действия. Некоторые компании объединили команду по управлению человеческими ресурсами банковских лабораторий, чтобы проанализировать практику трансформации персонала при использовании крупных моделей в корпоративных приложениях, разработали серию учебных курсов, таких как оптимизация запросов, дообучение, управление крупными моделями и т.д., и сотрудничали с различными отделами для создания совместных проектных групп, чтобы способствовать повышению квалификации сотрудников компании.
В этом процессе структура персонала финансовых учреждений также претерпит некоторые изменения и реформы. Разработчики, использующие большие модели, будут легче оставаться в этой среде.