Tendencias en la aplicación de grandes modelos en el sector financiero: de la locura a la implementación, el calentamiento continuo de la planificación estratégica y la demanda de talento.
La evolución de la tecnología de modelos grandes en la industria financiera: de la euforia a la racionalidad
Desde el lanzamiento de ChatGPT, el sector financiero ha experimentado una rápida ola de entusiasmo, y en general, la industria teme quedar atrás frente a la nueva ola de tecnología. Esta ansiedad se ha propagado a todos los rincones, e incluso en los templos se puede escuchar a personas discutiendo sobre el tema de los grandes modelos.
Sin embargo, esta ansiedad está empezando a calmarse gradualmente, y el pensamiento de las personas se está volviendo más claro y racional. La actitud de la industria financiera hacia los grandes modelos ha pasado por varias etapas: en febrero y marzo, había una sensación general de ansiedad; en abril y mayo, comenzaron a formar equipos y a actuar; en los meses siguientes, encontraron dificultades en la búsqueda de dirección y en el proceso de implementación, y empezaron a volverse más racionales; actualmente, hay más atención en casos de referencia, intentando validar escenarios probados.
Una nueva tendencia es que numerosas instituciones financieras han elevado los grandes modelos a un nivel estratégico. Según estadísticas incompletas, al menos 11 bancos en las empresas que cotizan en A-shares han declarado explícitamente en sus últimos informes semestrales que están explorando la aplicación de grandes modelos. A partir de las acciones recientes, también están reflexionando y planificando sus caminos de manera más clara desde un nivel estratégico y de diseño superior.
De la pasión desbordante al regreso racional
En comparación con hace unos meses, la comprensión de los clientes financieros sobre los grandes modelos ha mejorado notablemente. A principios de año, cuando apareció ChatGPT, aunque todos estaban muy entusiasmados, su comprensión sobre la naturaleza y las formas de aplicación de los grandes modelos era limitada.
En esta etapa, algunos grandes bancos han sido los primeros en actuar, comenzando diversas campañas publicitarias para "aprovechar el momento". Por otro lado, con varias empresas lanzando grandes modelos, los departamentos de tecnología de algunas instituciones financieras líderes están activamente discutiendo sobre la construcción de grandes modelos con las grandes empresas. En general, esperan construir grandes modelos por su cuenta y preguntan sobre el procesamiento de conjuntos de datos, la compra de servidores, métodos de entrenamiento, entre otros temas.
A partir de mayo, la situación comenzó a cambiar. Limitadas por la escasez de recursos de computación y altos costos, muchas instituciones financieras empezaron a pasar de la simple esperanza de construir por sí mismas a centrarse más en el valor de la aplicación. "Ahora, cada institución financiera está interesada en lo que otros han logrado con grandes modelos y qué resultados han obtenido."
Las empresas de diferentes tamaños también siguen dos caminos: las grandes instituciones financieras pueden introducir modelos de base líderes, construir modelos grandes propios y, al mismo tiempo, adoptar formas de ajuste fino para formar modelos grandes de tareas en campos especializados; las pequeñas y medianas instituciones financieras pueden, según sea necesario, introducir API de varios modelos grandes o servicios de despliegue privatizados.
Debido a los altos requisitos de conformidad, seguridad y confiabilidad de los datos en la industria financiera, algunas personas creen que el avance de la implementación de grandes modelos en este sector ha sido en realidad un poco más lento de lo esperado a principios de año.
Algunas instituciones financieras han comenzado a abordar varios "grilletes" en el proceso de implementación de grandes modelos. En términos de potencia de cálculo, han surgido varias soluciones en la industria:
Construir la potencia de cálculo directamente, alto costo pero alta seguridad, adecuado para grandes instituciones financieras que desean construir modelos a gran escala en la industria o la empresa.
Implementación de potencia de cálculo híbrida, aceptando la llamada a interfaces de servicios de grandes modelos desde la nube pública sin que los datos sensibles salgan del dominio, al mismo tiempo que se procesa el servicio de datos local a través de una implementación privatizada. Costos relativamente bajos, adecuado para instituciones financieras pequeñas y medianas con recursos limitados.
Sin embargo, muchas instituciones pequeñas y medianas aún enfrentan el problema de no poder comprar o no poder permitirse tarjetas GPU. Para abordar este problema, las autoridades pertinentes están realizando investigaciones sobre el tema, explorando si es posible construir, de manera intermedia, una infraestructura de modelos grandes dirigida a industrias específicas, concentrando recursos de potencia de cálculo y modelos grandes generales, para que las pequeñas y medianas instituciones financieras también puedan acceder a los servicios de modelos grandes y evitar quedarse atrás en la "tecnología".
Además de la capacidad de cálculo, muchas instituciones financieras también han comenzado a fortalecer la gobernanza de datos. Cada vez más instituciones financieras medianas están comenzando a construir plataformas de datos y sistemas de gobernanza de datos. Algunos bancos han resuelto problemas de datos a través de modelos grandes + MLOps, logrando la automatización de todo el proceso, así como la gestión unificada y el procesamiento eficiente de datos heterogéneos de múltiples fuentes.
Desde el escenario periférico
Durante más de medio año, los proveedores de servicios de modelos grandes y las instituciones financieras han estado buscando escenarios, como oficinas inteligentes, desarrollo inteligente, marketing inteligente, servicio al cliente inteligente, investigación y inversión inteligente, control de riesgos inteligente, análisis de demandas, entre otros.
Cada institución financiera tiene ricas ideas sobre los grandes modelos. Pero para que realmente se implementen, el consenso es empezar internamente antes de pasar externamente. Actualmente, la tecnología de grandes modelos aún no está madura, y la industria financiera es un sector altamente regulado, seguro y confiable.
No se recomienda usarlo directamente con los clientes en el corto plazo. Las instituciones financieras deben priorizar el uso de modelos grandes para el análisis y la comprensión de textos e imágenes financieras en escenarios de alta intensidad intelectual, utilizando la colaboración humano-máquina en forma de asistente para mejorar la eficiencia del trabajo del personal.
Actualmente, el asistente de código se ha implementado en varias instituciones financieras. También hay numerosos casos en el ámbito de la oficina inteligente. Sin embargo, los expertos de la industria consideran que estos escenarios ampliamente implementados aún no son aplicaciones centrales de las instituciones financieras, y que los modelos grandes todavía están a cierta distancia de profundizar en la capa de negocios de la industria financiera.
Se prevé que antes de finales de este año aparezcan proyectos de construcción o información de licitación que utilicen verdaderamente grandes modelos en los escenarios centrales de negocio de las instituciones financieras.
Antes de esto, se están llevando a cabo algunos cambios en el diseño de alto nivel. Todo el sistema inteligente y digital del futuro se volverá a construir sobre la base de modelos grandes. Esto requiere que la industria financiera reestructure sus sistemas en el proceso de implementación de modelos grandes. Al mismo tiempo, no se debe pasar por alto el valor de los modelos pequeños tradicionales, sino que se debe permitir que los modelos grandes y pequeños colaboren.
Actualmente, varias instituciones financieras líderes han construido un marco de sistema en capas que incluye la capa de infraestructura, la capa de modelo, la capa de servicio de gran modelo y la capa de aplicación, basado en grandes modelos. Estos marcos tienen dos características principales: primero, el gran modelo desempeña un papel central, utilizando modelos tradicionales como habilidades; segundo, la capa de gran modelo adopta una estrategia de múltiples modelos, compitiendo internamente para seleccionar el mejor rendimiento.
La brecha de talento sigue siendo enorme
La aplicación de grandes modelos ya ha comenzado a traer algunos desafíos y transformaciones a la estructura del personal en la industria financiera.
Algunos puestos de trabajo comienzan a ser reemplazados por grandes modelos. Sin embargo, algunos bancos no desean que los grandes modelos resulten en despidos, sino que esperan que los grandes modelos traigan nuevas oportunidades, mejoren la calidad del servicio al cliente y la eficiencia laboral, al mismo tiempo que liberen a algunos empleados para que realicen tareas de mayor valor.
Esto incluye consideraciones sobre la estabilidad del personal y la estructura. Por otro lado, también se debe a que hay muchas vacantes en varios puestos dentro del sector. Los grandes bancos tienen una gran cantidad de trabajo que necesita ser completado, y algunos plazos de requisitos de TI incluso se extienden hasta finales del próximo año; esperan que los grandes modelos puedan ayudar a los empleados a mejorar su eficiencia y velocidad, en lugar de provocar reducciones de personal.
Más importante aún, el auge de los grandes modelos ha sido repentino y ardiente, y en un corto período de tiempo, la escasez de talento es difícil de igualar con la demanda en aumento. La demanda de talento que aplica directamente los grandes modelos es relativamente simple, se necesita gente que sepa hacer preguntas. Pero si se trata de construir un gran modelo específico para la industria o la empresa, se requiere que las instituciones financieras cuenten con un equipo técnico vertical competente en grandes modelos.
Algunas instituciones han tomado medidas. Hay empresas que se han unido al equipo de recursos humanos del laboratorio bancario para revisar las prácticas de transición del personal en la aplicación de grandes modelos en las empresas, diseñando una serie de cursos de formación, como la optimización de prompts, el ajuste fino y la operación de grandes modelos, y colaborando con varios departamentos para establecer grupos de proyectos conjuntos que impulsen la mejora de las capacidades del personal en la empresa.
En este proceso, la estructura de personal de las instituciones financieras también experimentará algunos ajustes y cambios. Los desarrolladores que utilicen modelos grandes tendrán más facilidad para mantenerse en este entorno.
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
Tendencias en la aplicación de grandes modelos en el sector financiero: de la locura a la implementación, el calentamiento continuo de la planificación estratégica y la demanda de talento.
La evolución de la tecnología de modelos grandes en la industria financiera: de la euforia a la racionalidad
Desde el lanzamiento de ChatGPT, el sector financiero ha experimentado una rápida ola de entusiasmo, y en general, la industria teme quedar atrás frente a la nueva ola de tecnología. Esta ansiedad se ha propagado a todos los rincones, e incluso en los templos se puede escuchar a personas discutiendo sobre el tema de los grandes modelos.
Sin embargo, esta ansiedad está empezando a calmarse gradualmente, y el pensamiento de las personas se está volviendo más claro y racional. La actitud de la industria financiera hacia los grandes modelos ha pasado por varias etapas: en febrero y marzo, había una sensación general de ansiedad; en abril y mayo, comenzaron a formar equipos y a actuar; en los meses siguientes, encontraron dificultades en la búsqueda de dirección y en el proceso de implementación, y empezaron a volverse más racionales; actualmente, hay más atención en casos de referencia, intentando validar escenarios probados.
Una nueva tendencia es que numerosas instituciones financieras han elevado los grandes modelos a un nivel estratégico. Según estadísticas incompletas, al menos 11 bancos en las empresas que cotizan en A-shares han declarado explícitamente en sus últimos informes semestrales que están explorando la aplicación de grandes modelos. A partir de las acciones recientes, también están reflexionando y planificando sus caminos de manera más clara desde un nivel estratégico y de diseño superior.
De la pasión desbordante al regreso racional
En comparación con hace unos meses, la comprensión de los clientes financieros sobre los grandes modelos ha mejorado notablemente. A principios de año, cuando apareció ChatGPT, aunque todos estaban muy entusiasmados, su comprensión sobre la naturaleza y las formas de aplicación de los grandes modelos era limitada.
En esta etapa, algunos grandes bancos han sido los primeros en actuar, comenzando diversas campañas publicitarias para "aprovechar el momento". Por otro lado, con varias empresas lanzando grandes modelos, los departamentos de tecnología de algunas instituciones financieras líderes están activamente discutiendo sobre la construcción de grandes modelos con las grandes empresas. En general, esperan construir grandes modelos por su cuenta y preguntan sobre el procesamiento de conjuntos de datos, la compra de servidores, métodos de entrenamiento, entre otros temas.
A partir de mayo, la situación comenzó a cambiar. Limitadas por la escasez de recursos de computación y altos costos, muchas instituciones financieras empezaron a pasar de la simple esperanza de construir por sí mismas a centrarse más en el valor de la aplicación. "Ahora, cada institución financiera está interesada en lo que otros han logrado con grandes modelos y qué resultados han obtenido."
Las empresas de diferentes tamaños también siguen dos caminos: las grandes instituciones financieras pueden introducir modelos de base líderes, construir modelos grandes propios y, al mismo tiempo, adoptar formas de ajuste fino para formar modelos grandes de tareas en campos especializados; las pequeñas y medianas instituciones financieras pueden, según sea necesario, introducir API de varios modelos grandes o servicios de despliegue privatizados.
Debido a los altos requisitos de conformidad, seguridad y confiabilidad de los datos en la industria financiera, algunas personas creen que el avance de la implementación de grandes modelos en este sector ha sido en realidad un poco más lento de lo esperado a principios de año.
Algunas instituciones financieras han comenzado a abordar varios "grilletes" en el proceso de implementación de grandes modelos. En términos de potencia de cálculo, han surgido varias soluciones en la industria:
Construir la potencia de cálculo directamente, alto costo pero alta seguridad, adecuado para grandes instituciones financieras que desean construir modelos a gran escala en la industria o la empresa.
Implementación de potencia de cálculo híbrida, aceptando la llamada a interfaces de servicios de grandes modelos desde la nube pública sin que los datos sensibles salgan del dominio, al mismo tiempo que se procesa el servicio de datos local a través de una implementación privatizada. Costos relativamente bajos, adecuado para instituciones financieras pequeñas y medianas con recursos limitados.
Sin embargo, muchas instituciones pequeñas y medianas aún enfrentan el problema de no poder comprar o no poder permitirse tarjetas GPU. Para abordar este problema, las autoridades pertinentes están realizando investigaciones sobre el tema, explorando si es posible construir, de manera intermedia, una infraestructura de modelos grandes dirigida a industrias específicas, concentrando recursos de potencia de cálculo y modelos grandes generales, para que las pequeñas y medianas instituciones financieras también puedan acceder a los servicios de modelos grandes y evitar quedarse atrás en la "tecnología".
Además de la capacidad de cálculo, muchas instituciones financieras también han comenzado a fortalecer la gobernanza de datos. Cada vez más instituciones financieras medianas están comenzando a construir plataformas de datos y sistemas de gobernanza de datos. Algunos bancos han resuelto problemas de datos a través de modelos grandes + MLOps, logrando la automatización de todo el proceso, así como la gestión unificada y el procesamiento eficiente de datos heterogéneos de múltiples fuentes.
Desde el escenario periférico
Durante más de medio año, los proveedores de servicios de modelos grandes y las instituciones financieras han estado buscando escenarios, como oficinas inteligentes, desarrollo inteligente, marketing inteligente, servicio al cliente inteligente, investigación y inversión inteligente, control de riesgos inteligente, análisis de demandas, entre otros.
Cada institución financiera tiene ricas ideas sobre los grandes modelos. Pero para que realmente se implementen, el consenso es empezar internamente antes de pasar externamente. Actualmente, la tecnología de grandes modelos aún no está madura, y la industria financiera es un sector altamente regulado, seguro y confiable.
No se recomienda usarlo directamente con los clientes en el corto plazo. Las instituciones financieras deben priorizar el uso de modelos grandes para el análisis y la comprensión de textos e imágenes financieras en escenarios de alta intensidad intelectual, utilizando la colaboración humano-máquina en forma de asistente para mejorar la eficiencia del trabajo del personal.
Actualmente, el asistente de código se ha implementado en varias instituciones financieras. También hay numerosos casos en el ámbito de la oficina inteligente. Sin embargo, los expertos de la industria consideran que estos escenarios ampliamente implementados aún no son aplicaciones centrales de las instituciones financieras, y que los modelos grandes todavía están a cierta distancia de profundizar en la capa de negocios de la industria financiera.
Se prevé que antes de finales de este año aparezcan proyectos de construcción o información de licitación que utilicen verdaderamente grandes modelos en los escenarios centrales de negocio de las instituciones financieras.
Antes de esto, se están llevando a cabo algunos cambios en el diseño de alto nivel. Todo el sistema inteligente y digital del futuro se volverá a construir sobre la base de modelos grandes. Esto requiere que la industria financiera reestructure sus sistemas en el proceso de implementación de modelos grandes. Al mismo tiempo, no se debe pasar por alto el valor de los modelos pequeños tradicionales, sino que se debe permitir que los modelos grandes y pequeños colaboren.
Actualmente, varias instituciones financieras líderes han construido un marco de sistema en capas que incluye la capa de infraestructura, la capa de modelo, la capa de servicio de gran modelo y la capa de aplicación, basado en grandes modelos. Estos marcos tienen dos características principales: primero, el gran modelo desempeña un papel central, utilizando modelos tradicionales como habilidades; segundo, la capa de gran modelo adopta una estrategia de múltiples modelos, compitiendo internamente para seleccionar el mejor rendimiento.
La brecha de talento sigue siendo enorme
La aplicación de grandes modelos ya ha comenzado a traer algunos desafíos y transformaciones a la estructura del personal en la industria financiera.
Algunos puestos de trabajo comienzan a ser reemplazados por grandes modelos. Sin embargo, algunos bancos no desean que los grandes modelos resulten en despidos, sino que esperan que los grandes modelos traigan nuevas oportunidades, mejoren la calidad del servicio al cliente y la eficiencia laboral, al mismo tiempo que liberen a algunos empleados para que realicen tareas de mayor valor.
Esto incluye consideraciones sobre la estabilidad del personal y la estructura. Por otro lado, también se debe a que hay muchas vacantes en varios puestos dentro del sector. Los grandes bancos tienen una gran cantidad de trabajo que necesita ser completado, y algunos plazos de requisitos de TI incluso se extienden hasta finales del próximo año; esperan que los grandes modelos puedan ayudar a los empleados a mejorar su eficiencia y velocidad, en lugar de provocar reducciones de personal.
Más importante aún, el auge de los grandes modelos ha sido repentino y ardiente, y en un corto período de tiempo, la escasez de talento es difícil de igualar con la demanda en aumento. La demanda de talento que aplica directamente los grandes modelos es relativamente simple, se necesita gente que sepa hacer preguntas. Pero si se trata de construir un gran modelo específico para la industria o la empresa, se requiere que las instituciones financieras cuenten con un equipo técnico vertical competente en grandes modelos.
Algunas instituciones han tomado medidas. Hay empresas que se han unido al equipo de recursos humanos del laboratorio bancario para revisar las prácticas de transición del personal en la aplicación de grandes modelos en las empresas, diseñando una serie de cursos de formación, como la optimización de prompts, el ajuste fino y la operación de grandes modelos, y colaborando con varios departamentos para establecer grupos de proyectos conjuntos que impulsen la mejora de las capacidades del personal en la empresa.
En este proceso, la estructura de personal de las instituciones financieras también experimentará algunos ajustes y cambios. Los desarrolladores que utilicen modelos grandes tendrán más facilidad para mantenerse en este entorno.