Presentación GEI No. 8

Objetivo: Apoyar a la Subgerencia General de Servicios Corporativos (SGGSC) en las labores de aprobación de iniciativas de innovación, relacionadas con la IA y en la presentación de recomendaciones al Comité de Planeación sobre la asignación de recursos financieros.

Grupo Ejecutivo de Innovación (GEI)

Gestión de Innovación

10 de Octubre de 2024

Adicional, en la reunión de resultados del piloto de Chatbot de la SGCL (09 de julio), se generó el compromiso de establecer las necesidades de Chatbots en el Banco. Ejercicio ejecutado por los BRMs.

Contexto GEI - 24 de mayo

Necesidades de Chatbots basados en IA Generativa Desde las áreas de negocio a través de los BRMs

5.

Informe de la Cultura y Gestión de Conocimiento para la IA Capacitaciones y Portal de información

4.

Informe de otros frentes de IA en Banrep Para los propósitos de Productividad Personal, Gestión de TI y Negocio

3.

Informe de Estrategia de Adopción de IA Marco de Gobierno y siguientes pasos

2.

Informe de Seguimiento de Pilotos IA Colecciones de SGCL & Traducción de informes PM de GT

1.

Agenda

• Aprendizajes

• Traducción de informes PM de la GT

• Colecciones de la SGCL

Informe de Seguimiento de Pilotos de IA

Presenta el Equipo de Tecnología del Área de Negocio (ETAN) Elber Pardo y Hugo Albarracin

Colecciones de la SGCL

Agenda

Acuerdo: La SGCL seguirá utilizando y evolucionando la solución de Colecciones construida en el piloto hasta que en Q2-2025 se instale y se pruebe en ambientes de Desarrollo/Pruebas y Producción.

Realización de pruebas de la solución de Colecciones en ambientes Des/Pru. Posteriormente en Producción - ETAN/DGT/DAI

Implementación y configuración de los ambientes y componentes en Azure - DGT/DAI

Diseño del servicio de acuerdo a las lecciones aprendidas del piloto - ETAN/DAI/DGT

Imple. Colecciones en Productivo - Q2 2025

Paso 3

Implementación del Servicio - Q1 2025

Paso 2

Diseño del Servicio - Q4 2024

Paso 1

Pasos requeridos para construir una plataforma (servicio) de IA que permita implementar multiples Soluciones seguras y robustas de IA para Banrep

Siguientes pasos - Colecciones de la SGCL

Agenda

Alcance del piloto: El piloto busca evalúar el uso de IA Generativa para traducir informes de política monetaria del idioma español al inglés.

Objetivos del piloto:

• Mejorar la imagen del Banco ofreciendo informes más oportunos y de calidad hacia los mercados internacionales.
• Disminuir el tiempo de traducción.
• Reducir costos y tiempo de revisión.

El equipo técnico revisa la traducción, ajusta la calidad y terminología, y genera el resumen en inglés en formato de bullet points.

Revisión del equipo técnico

Paso 4

Tarda entre 20 días y un 1 en devolver la versión en inglés. El contrato incluye la traducción del informe de política monetaria y los comunicados de prensa.

Se envía a una empresa de traductores externa, que cobra por palabra traducida. El informe tiene alrededor de cincuenta páginas en español y un resumen de dos bloques de texto.

La Sección de Gestión del Proceso de Pronóstico elabora el informe de política monetaria trimestralmente.

Traducción del informe

Paso 3

Envío a traductores

Paso 2

Elaboración de Informe

Paso 1

Pasos del proceso manual de traducción

Traducción de Informes de PM de la GT

Agenda

Siguientes pasos:

• Realizar afinamiento y ajuste al modelo GPT 4o con pares de parrafos en español e inglés.
• Ejecutar pruebas de traducción con fragmentos de informes.
• Analizar y evaluar los resultados con el área usuaria para establecer precisión, tono y estilo.
• Iterar para convertir al modelo más experto.
• Se estima terminar las pruebas en Diciembre. Pruebas con el área usuaria Q1 del 2025.

Traducción de Informes de PM de la GT (cont')

Agenda

Muchos aprendizajes tecnológicos:Para diseñar un servicio de IA Generativa y una infraestructura de datos segura y robusta que le permita al Banco implementar soluciones hacia todas las áreas de negocio, considerando el involucramiento de varios grupos de tecnología (DGT, ETANs, DGGI y DAI).

Las big-techs están tomando decisiones

No hay expertos, todos estamos aprendiendo

Crear un ecosistema de contactos referentes

Tod@s debemos aprender de IA

Muy importante! La Estrategia de Adopción

Aprendizajes generales de pilotos de IA

Agenda

• Marco de Gobierno y siguientes pasos

Informe de Estrategia de Adopción de IA

Siguientes pasos

Ver documento

Informe de Estrategia de Adopción de IA

Agenda

• Para los propositos de Productividad Personal, Gestión de TI y Negocio

Informe de otros frentes de IA en Banrep

Productividad Personal

Para el propósito de mejorar la Productividad Personal

Gestión de TI

Para el propósito de mejorar la Gestión de TI

Negocio

Para mejorar o resolver una necesidad o problemática en cualquier proceso de negocio

Informe de otros frentes de IA en Banrep

Agenda

• Portal de información

• Capacitaciones

Informe de la Cultura y Gestión de Conocimiento para la IA

2024

2024

2023

2024

2024

2024

2024

Innovación e IA

Charlas, capacitaciones y concurso que incluyen Metodologías de Innovación e Ingeniería de Prompts hacía líderes y profesionales.

Actividades de Capacitación y Divulgación

Agenda

Evento Cali - Sucursal

Evento de Gerentes - Armenia

Evento de Gerentes - Bogotá

Hackaprompt - Todo el Banco

Evento Neiva - Agencia

Evento Ibagué - FM

Evento Bogotá - SGIT

Agenda

Colección de documentos y enlaces de interés alojados dentro del Banrep. Se espera poner el enlace a la CRI, el documento de conclusiones de los pilotos y otro tipo de documentación interna que surja.

Consolidado de preguntas de interés sobre la estrategia de IA y su aplicación en el Banrep. Se espera complementarla con preguntas sobre la CRI.

Marco general de la estrategia, documento y equipo de trabajo.

Rutas de aprendizaje recomendadas. Vínculos a páginas internas y externas. Prompts y recomendaciones para el uso de prompts.

Documentos

Preguntas Frecuentes

Estrategia de adopción

Recursos

Portal

Contenido del portal

Agenda

• Desde las áreas de negocio a través de los BRMs

Necesidades de Chatbots basados en IA Generativa

Para solucionar preguntas del público en temas del DTE y DTI

Para responder a usuarios del régimen cambiario (uso de abogados internos) - DCIP

Para atender y responder consultas de la comunidad en temas económicos - DTIE

Para la guía a pensionados, ex-empleados o candidatos - DGGH

Portal de Investigaciones Económicas - CAIE

Portal Web Banrep - DCEE

Recomendación: Cada necesidad de Chatbot debe contar con el conocimiento y la aprobación del Subgerente a cargo del proceso que se va a intervenir. Similar a cualquier proyecto de tecnología, se debe contar con la asignación de un Usuario que defina los requerimientos, apruebe los diseños, realice las pruebas y entregue soporte funcional una vez se encuentre implementado. Logro: Chatbot de Portal Web Cultural (preguntele al Bibliotecario) en producción desde agosto 2024.

Necesidades de Chatbots basados en IA Generativa

Agenda

Preguntas?

En Colombia, actualmente no se dispone de proveedores especializados en la implementación de soluciones de IA Generativa. Igualmente, los fabricantes internacionales de esta tecnología, como Microsoft, Google, AWS, entre otros, están en proceso de aprendizaje para diseñar y desarrollar soluciones a través de sus socios y canales de distribución.

La carrera de la IA se centra en ganar conocimiento experimentando desde la prueba y el error. En general, todas las industrias están evaluando qué casos de uso implementar, enfrentándose al principal desafío de establecer el valor y el impacto que la IA generativa puede aportar a sus organizaciones.

No hay expertos, todos estamos aprendiendo

Debemos establecer contactos y referentes clave para aprender de sus experiencias. Es fundamental asistir a charlas y realizar un seguimiento constante a Bancos Centrales, proveedores u otras instituciones que hayan alcanzado un mayor nivel de adopción de la IA Generativa, con el propósito de recopilar lecciones aprendidas y guiar nuestra propia estrategia. Además, es importante fomentar el intercambio de conocimientos y prácticas exitosas, así como identificar oportunidades de colaboración que nos permitan acelerar el proceso de adopción.

Crear un ecosistema de contactos referentes

Operación y gestión de servicios

• Exploración de capacidades de IA incluidas en herramientas de monitoreo y automatización.

Ciclo de vida del Software

• Exploración con proveedores en el uso de IA para generación de código y ejecución de pruebas automatizadas.

Seguridad y Ciberdefensa

• Detección de phishing sobre correos sospechosos - SOAR.
• Detección de comportamiento anómalo - Sentinel.
• Para 2025 se comprarán cámaras con IA incorporada.

Muchos están experimentando sin una estrategia organizacional y eso hará que los pilotos y pruebas tengan considerables dificultades en el proceso de su paso a productivo y posterior escalamiento empresarial. Es fundamental el involucramiento de la alta gerencia, la alineación de la IA con los objetivos de negocio y crear una infraestructura robusta y bien organizada de los datos corporativos.

Muy importante! La Estrategia de Adopción

Analítica de datos para DSIF & CUD

• Implementación de Machine Learning para el análisis de datos en el DSIF y las transacciones inusuales en el CUD.
• En exploración para posibilidad de implementar procesamiento de lenguaje natural (NLP) para consultas relacionadas con la bodega de datos del Banco (Teradata).

Los grandes fabricantes están tomando decisiones orientadas a descontinuar productos y servicios con el fin de enfocar sus esfuerzos e inversiones en la integración y potenciación de su IA Generativa. Esto ha provocado que los pilotos o pruebas se vean afectados cuando se anuncia la discontinuación del desarrollo y evolución de aquellos productos y servicios que no forman parte de esta competencia comercial.

Las big-techs están tomando decisiones

No solo la Comunidad Techie debe aprender a utilizar la IA; tod@s los emplead@s deben comprender su funcionamiento y cómo aprovecharla. Este esfuerzo no debe ser impulsado únicamente por el grupo de innovación (DAI), sino que debe contar con el apoyo de la alta gerencia, el ejemplo de los líderes en su uso, y la promoción por parte de la DGGH. Hemos empezado a trabajar en capacitaciones hacía líderes y profesionales y en coordinación con la DGGH para que los planes de entrenamiento incluyan el uso y apropiación de la IA.

Tod@s debemos aprender de IA

Productividad Personal:

• Se cuenta con 88 suscripciones de Office 365 + Copilot para que los usuarios experimenten. Casos con mayor uso corresponden al asistente en Teams para generar resumen de reuniones, construcción de correos y documentos.
• Estadística de uso: