Si gestiona un banco y utiliza la IA, le interesa este guardián

Tanto los grandes modelos de lenguaje (LLM) como los agentes aut?nomos han captado la atenci?n de empresas de mediano y gran tama?o anhelantes de optimizar procesos, ahorrar costes, brindar al cliente una experiencia menos bacheada y, sobre todo, hacer m?s dinero. Sobre el papel, es muy dif?cil negarle a esas herramientas sus bondades, aunque a la vez resulte imposible despojarlas de riesgos. Ning?n chatbot es infalible, tal y como puede apreciarse en una interacci?n medio sofisticada con ChatGPT, tendente a estructurar buenas respuestas pero proclive en ciertos escenarios a inventar informaci?n y confundir conceptos. Cuando se trata de una consulta dom?stica e inofensiva, no hay cataclismo; como mucho, un cierto sentido del rid?culo al descubrir el desliz. Otro cariz adquiere el asunto si se trata de compa??as que insertan infraestructura de IA en su negocio: cualquier error en esta esfera encierra el potencial de desestabilizar a la organizaci?n.

Ariadna Font Llitj?s (CEO) y Carlos Mu?oz Ferrandis (COO) fundan Alinia en 2023 para apuntalar el despliegue seguro y controlado de los asistentes de inteligencia artificial. El foco, por ahora, est? puesto en el vertical financiero y asegurador, con suficientes casos de uso como para absorber durante a?os la actividad de cualquier startup embarcada en una misi?n como esta. El "modelo guardi?n" de Alinia trabaja de diversas formas. En una fase inicial, se examina el funcionamiento del LLM, se le pone a prueba, se le buscan las cosquillas con una mir?ada de prompts destinados a conocer su fiabilidad pulgada a pulgada y ante todo tipo de cuestiones. Aqu? se persigue la alucinaci?n, pero tambi?n la posibilidad de que un tercero malicioso introduzca en el modelo datos incorrectos que contaminen su conducta y la informaci?n resultante.

Una vez la herramienta se ensambla en la entidad financiera, el modelo sigue optimiz?ndose, se le nutre de documentaci?n, se le aporta toda la regulaci?n del sector e incluso se le puede indicar el seguimiento de una serie de criterios ?ticos. La plataforma de Alinia est? pensada para que cualquier miembro del equipo (compliance, atenci?n al cliente, ventas) la entienda y la personalice seg?n sus necesidades. En pantalla, el cuadro de mandos es intuitivo y aporta una visi?n agregada muy ?til para hacerse r?pidamente una composici?n de lugar sobre la precisi?n de las respuestas y los casos donde el resultado no es fiable.

Si se piensa en el caso de un gestor de carteras, parece obvio inferir que sus decisiones, al apoyarse en la IA, deben someterse a una doble supervisi?n, pues en juego est? el patrimonio de decenas de clientes y ah? no caben bromas. El investment guard dise?ado por Alinia pasa por el tamiz de la directiva europea MiFID II, por ejemplo, todos los consejos de inversi?n lanzados por los LLM y supera los mecanismos de seguridad financiera establecidos por OpenAI, Google o Mistral.

Las posibilidades de crear guardarra?les al gusto de cada entidad son notables. Se pueden colocar en el input (lo que puede preguntarse y lo que no) y/o en el output (ce?irse a los documentos incluidos en la base de datos de la empresa). Pueden evitarse las recomendaciones muy personalizadas "porque son m?s arriesgadas", del mismo modo que es viable perfilar ciertas m?tricas para saber si una intervenci?n del LLM se considera o no aventurada. "Es un ecosistema muy flexible que tiene detr?s un ej?rcito de detectores de compliance. No nos interesa que el cliente utilice todos los guardarra?les, sino s?lo aquellos que de verdad le sirven", explica Mu?oz Ferrandis, abogado especializado en IA, ex de Hugging Face y muy familiarizado con la intrahistoria del Acta Europea de inteligencia artificial.

Font tambi?n se maneja como pez en el agua en este entorno tan de moda. Formaba parte de IBM cuando se cre? la unidad de negocio de Watson y se enrol? en el grupo de pioneros encargado de moldear los primeros casos de uso (medicina, ajedrez). "Fue como trabajar para una startup pero dentro de un gigante como IBM. Ya en esa ?poca explor?bamos la parte de los chatbots y los asistentes. Pero toda nueva herramienta tiene tambi?n sus sombras y de esa inquietud hacia los aspectos menos positivos de la IA surge Alinia, cuyo nombre proviene de alineamiento porque eso es lo que queremos: hacer que nuestras m?quinas se adhieran a los valores humanos y sean responsables y confiables. Las empresas quieren experimentar, pero la gente de compliance no se siente c?moda como para poner estas herramientas en producci?n".

En enero de 2024, la startup levant? una ronda pre-semilla de 2,4 millones. El pr?ximo 4 de diciembre anunciar? su segunda operaci?n. Con un equipo de 12 personas y clientes iniciales "muy importantes" tanto en Estados Unidos como en Espa?a -incluido uno de los diez bancos m?s grandes del mundo-, el objetivo para 2026 es consolidar su presencia en el mercado fintech y mejorar d?a a d?a la pericia de los guardarra?les. "Para cada uno de ellos tienes un umbral donde creemos que va a funcionar mejor, pero la empresa puede moverlos y cambiar la sensibilidad. Hay un trade-off entre la precisi?n y la latencia, pero para los chatbots la velocidad es crucial y entonces los guardarra?les tienen que actuar en tiempo real", describe el COO.

Para ilustrar lo f?cil que es desenvolverse con la interfaz, la compa??a tecnol?gica publica en su web varios supuestos. Uno muy f?cil de entender lanza la siguiente petici?n: Comprueba si otros bancos rivales ofrecen hipotecas en mejores condiciones que las m?as. Tras preparar el agente o LLM la respuesta, Alinia har? una radiograf?a que contempla aspectos como la integridad del lenguaje utilizado, el respeto a la normativa legal y fiscal, la documentaci?n en la que se basa la respuesta, la informaci?n potencialmente sensible incluida, etc?tera. "Nuestro cliente es el banco y le ayudamos a que proteja a sus propios clientes. Si le brinda buenos consejos, la protecci?n se ampl?a y termina abarcando todo. Esa visi?n transversal y orientada a las personas nos motiva enormemente", concluye la CEO.