El uso de la inteligencia artificial y machine learning está cambiando los modelos de negocios de las empresas que operan en los mercados de capitales, afirmó la abogada Agustina Bomio en la segunda edición de LegalTech Summit, en su disertación sobre la incidencia de la robótica en el mundo financiero.
Bomio, quien es socia del Estudio Bragard Abogados, dijo que el uso de estas tecnologías tiene aplicaciones variadas, algunas de las cuales ya se están usando ampliamente en los mercados internacionales y también en Uruguay.
“Quizás los más extendidos sean los utilizados como soporte de risk managment y los servicios para la identificación y monitoreo de las cuentas”, reseñó.
La expositora planteó que la inteligencia artificial impulsa que las computadoras imiten las decisiones humanas para solucionar problemas, “y el machine learning puede definirse como el desarrollo de programas de computación capaces de aprender desde la experiencia, sin tener programación explicita para tal cosa”.
También advirtió que un elemento esencial para hacer un uso seguro de la inteligencia artificial es generar un sistema robusto —“una data de calidad”—, de desarrollo y testing en un ambiente cerrado y controlado antes de poner el algoritmo a funcionar. El objetivo es evitar que exista un comportamiento inexplicable o inesperado.
“Una mala base de datos o una base de datos insuficiente es uno de los principales riesgos asociados al uso de algoritmos”, remarcó. Y advirtió: “Un riesgo es que el algoritmo contenga información que lo lleve a tomar decisiones discriminatorias y no queridas para determinados participantes del mercado. Como los algoritmos son creados por humanos, son susceptibles de tener datos discriminatorios, pero si la base de datos que se usa además es sesgada, parcial o limitada, este problema puede incrementarse”, dijo.
Bomio recordó que Francia, Países Bajos y Luxemburgo han aprobado regulación específica, con énfasis en controlar el data set de los algoritmos para evitar consecuencias irracionales o discriminatorias.
Por otro lado, advirtió que al salir al mercado “el riesgo principal está asociado a la falta de transparencia y a la posibilidad de entender las implicancias del uso del algoritmo, tanto para la firma que lo propone como para el mercado, las contrapartes, los clientes y los reguladores”.
Bomio remarcó luego que el código fuente “es el ADN del programa, donde se establecen las pautas de programación para su funcionamiento” y “como todo software, el programa de inteligencia artificial sufre actualizaciones y modificaciones que implican ajustes en el código fuente”, el cual “se protege bajo las normas de propiedad intelectual”.
“Por eso, el planteo de si se debe dar acceso al regulador o no al código fuente es por demás controvertido”, precisó.
La expositora recordó que el 6 de mayo de 2010 en Estados Unidos hubo un evento conocido como “Flash Crash”, que provocó una baja del 9% del Down Jones en 20 minutos, por la manipulación en el uso de un algoritmo de trading. Reaccionando a esto se intentó elaborar una regulación que preveía —entre otras cosas— el acceso del regulador al código fuente, la cual fue vista por el mercado como extremadamente exigente e incluso violatoria de derechos constitucionales básicos como el derecho de propiedad.
“Esto llevó a que esa regulación fuera abandonada pero abrió una discusión sobre si los reguladores deben poder acceder o no a los códigos fuente, que no está concluida. Una solución atractiva parecería ser la adoptada por Alemania, que obligó a quienes usen algoritmos a registrar su existencia y a identificar los trades con un número a modo de cédula de identidad. Esto permite hacer un análisis ex post del comportamiento aun cuando no se acceda al código fuente y parecería una solución muy razonable”, agregó.
Riesgo principal
Bomio precisó luego que el riesgo principal es claramente el de manipulación del mercado y conductas ilícitas, es decir, “cuestiones más bien éticas y de implicancias directas sobre los mercados”, los cuales “pueden ser sobre el precio de determinados instrumentos o sobre la fiabilidad y confianza del mercado o del sistema en sí”.
Los algoritmos de trading están preparados para ejecutar miles y miles de órdenes en pocos segundos, por tanto, si el algoritmo comete un error por interpretar mal un dato o si tienen un error de programación por mínimo que sea, puede llegar a provocar que muchas personas pierdan parte relevante de sus inversiones, detalló la expositora.
Asimismo, Bomio dijo que se plantea un problema bastante relevante en tanto muchas jurisdicciones exigen que exista intencionalidad para que se configure la manipulación del mercado. “Obviamente es más difícil probar la intencionalidad de un algoritmo y por eso se plantea la necesidad de poder traquear los cambios y la configuración del mismo para poder detectar sesgos en la programación o que por ejemplo el programa siempre tienda a comprar aquellos instrumentos de partes relacionadas o con los que se tiene mejor acuerdo de colocación”, explicó.
Cómo mitigar riesgos
Bomio detalló luego las medidas que se pueden adoptar para mitigar los riesgos, elaboradas en setiembre de 2021 por la International Organization of Securities Commision. Ellas son:
Personal superior. Requerir de las firmas que designen personal superior responsable por el desarrollo, testing, monitoreo, control y ajustes de su inteligencia artificial y ML technology.
Testeo y monitoreo en ambientes seguros. El objetivo es testear el comportamiento de los algoritmos en diferentes situaciones y tener controles de performance antes de ponerlo en práctica. Son fundamentales porque el algoritmo puede modificar su razonamiento a medida que incrementa sus operaciones y la base de datos sobre la cual trabaja incorporando experiencias propias.
Departamento de control. Las firmas tienen que desarrollar departamentos capaces de controlar y monitorear el funcionamiento de los algoritmos.
Tercerizaciones. Se debe contar con medidas y regulaciones especiales para cuando los programadores que trabajan sobre el algoritmo son proveedores externos a la organización. Se tiene que monitorear su performance. Se debe detallar cuáles son los límites de las tareas tercerizadas y explicitar cómo se ejerce ese control y los remedios ante baja performance.
Transparencia y divulgación. Determinar cuál es el grado de divulgación que se ejerce sobre los clientes. Se hace especial énfasis en que se provea información sustancial sobre el comportamiento y los riesgos.
Base de datos. Medidas para controlar que la base de datos de la cual se nutre el algoritmo es suficiente y que no contiene información susceptible de perturbar o manipular el proceso de aprendizaje del algoritmo en sí.
Situación en Uruguay
Respecto a Uruguay, Bomio advirtió que no hay una normativa que regule estos temas; sí es bastante robusta la existente “en cuanto al control de las tercerizaciones que es un elemento fundamental. No obstante, quizás sea relevante incorporar en el futuro alguna salvaguarda adicional para poder asegurarse de que se lo puede desconectar al algoritmo fácilmente”.
“En la información que se pide y se analiza para dar las licencias actuales de intermediación de valores y gestión de portafolios es claro que el componente de capacitación humana es fundamental; por lo que lejos estamos de tener normas que admitan licencias de mero trading o advice electrónico. Esto hoy no está contemplado, pero no hay nada que impida que las organizaciones utilicen estos sistemas para mejorar sus tomas de decisiones y hacer sus servicios más eficientes”, remarcó.
En cuanto al robo trading, recordó que existe una prohibición expresa de tercerizar la ejecución de las órdenes, por lo que entiendo que para dicha actividad los programas y desarrollos deberían ser propios y no tercerizados.
“El robo advising revisado por los asesores, es decir, el robo advising que actúa como un researcher de lujo, ya se está utilizando y es un mecanismo eficaz de reducir costos, mejorar carteras de inversión y ajustar carteras en tiempos eficientes para los mercados”, concluyó.
