[20/06/2022] La inteligencia artificial es ya parte de nuestra vida cotidiana. Su adopción se ha dado poco a poco, en verticales que se caracterizan por implementar tecnología para lograr ventajas competitivas; aquí encontramos a la banca, los grandes retailers y las empresas mineras. Son estas empresas las que nos colocaron frente a frente con los algoritmos que les permiten reconocer nuestras voces o encontrar patrones en nuestros comportamientos.
Pero ahora la inteligencia artificial ha trascendido a estas industrias, la podemos encontrar incluso en una empresa de menor tamaño que busca pronosticar la demanda de sus clientes, o en organizaciones médicas que desean ayudar a los doctores con sus diagnósticos. La inteligencia artificial ha permeado en la sociedad peruana, y ello ha configurado desafíos no solo a nivel de implementación de soluciones sino también de la ética que deben mantener las organizaciones al utilizar estas herramientas. La inteligencia artificial ahora también debe enfrentar estos retos.
[Reciba lo último de CIO Perú suscribiéndose a nuestro newsletter semanal]
David Tolosana, director de Soluciones y Tecnología de Microsoft Perú. 
La evolución de una herramienta
Quizás la forma más sencilla de definir la inteligencia artificial es la que nos proporcionó David Tolosana, director de Soluciones y Tecnología de Microsoft Perú. "La inteligencia artificial no es más que algoritmos y datos. Según qué algoritmo y según qué cantidad de datos lo llamaremos de una manera o de otra”, explica.
Y de ahí provienen los otros nombres que hemos escuchado desde hace algunos años, como aprendizaje automático, aprendizaje profundo o incluso deep fake, la parte oscura de la inteligencia artificial.
"La inteligencia artificial se hace con diferentes técnicas. Una de ellas es el machine learning y eso enfoca diversas técnicas y algoritmos que permiten aprender patrones de los datos”, señala también Alejandro Ballesta, gerente general de PREDIQT.
Esas técnicas han permitido que las empresas utilicen la tecnología para resolver diversos problemas de negocios. Así, se han establecido ya algunos casos de uso que ya son cotidianos en la industria. Y quizás el más conocido sea el de los bots.
"Usamos asistentes virtuales para, a través del DNI, el celular o el WhatsApp inclusive, acortar los ciclos de aprobaciones de crédito en algunas instituciones financieras. Entonces, es superbueno porque el robot responde a una necesidad de mercado: la gente quiere que la evaluación crediticia sea lo más rápido que se pueda”, detalla Gonzalo Flores, gerente de Cloud para IBM Perú, Ecuador & Bolivia.
Otro de los casos de uso comunes es el de la segmentación de clientes. A través de modelos de aprendizaje automático (machine learning) se puede identificar cuáles grupos de clientes son los más adecuados para una campaña que esté próxima a lanzarse. Igualmente, común es los forecast de demanda que anteriormente se realizaban mediante métodos estadísticos simples, pero que ahora pueden aprovechar las herramientas de la inteligencia artificial.
Gonzalo Flores, gerente de Cloud para IBM Perú, Ecuador & Bolivia.
Y, ciertamente, son las empresas de los sectores más grandes las que utilizan estas herramientas. Un caso que relató Tolosana, por ejemplo, es el de una empresa minera local que está utilizando la visión artificial -parte de la inteligencia artificial- para hacer detección de vertidos. La empresa tiene cámaras instaladas en distintos torrentes y con ellas analiza el caudal. Lo que hace es detectar si el caudal cambia, por ejemplo, con espuma o un color algo diferente que puede indicar que puede haber un vertido no controlado. Anteriormente, eso se hacía patrullando visualmente, no había forma de cubrirlo todo, podría haber una fuga y tardar días o semanas en detectar que realmente estaba pasando algo. Ahora es inmediato.
"Típicamente, las empresas mineras están dispuestas a innovar e invertir mucho en tecnología de avanzada, como la inteligencia artificial. Y ¿cómo aplican la inteligencia artificial las grandes mineras? En minería uno de los factores críticos de éxito es la seguridad”, explica Jorge Yaqui, director de Tecnología y Portafolio de South Latin America (SoLA) de Logicalis.
En general, esas son los casos de uso más comunes y esas son las industrias que más usualmente están aplicando en el país la inteligencia artificial en muchas de sus vertientes. También hay otros casos de uso que no son muy comunes, pero que también han destacado por su practicidad.
Yaqui, por ejemplo, nos habló del perfilamento. Este se utiliza, generalmente, cuando se tiene que tratar con muchas personas, y es necesario realizar un screening para filtrar a los grupos en los que una organización se encuentra interesado.
"Si quiero contratar a una persona lo típico es que yo tenga una especie de perfil. Una vez que toman todos estos datos, los sistemas de inteligencia artificial procesan toda la información y son capaces de hacer un match basado en los datos que has proporcionado y el perfil que está buscando la compañía”, sostiene el ejecutivo.
En general, se puede apreciar que las organizaciones grandes son las que han comenzado a utilizar la inteligencia artificial porque su tamaño se lo permite, tanto en términos de necesidades como de los datos que tiene a la mano -la materia prima para la inteligencia artificial- para trabajar. Sin olvidar, claro, su evidente capacidad económica.
"Los titanes de la economía aquí en Perú son los del servicio financieros, los retails y las empresas operadoras de telecomunicaciones y también las aseguradoras. Por un lado, tienen gran cantidad de datos, tienen bases de clientes muy grandes; y, por otro lado, tienen procesos que pueden ser digitalizados y mejorados constantemente”, afirma Andrés Villa, Big Data & Analytics Solutions Specialist de SAS Perú.
Sin embargo, una de las características de la actual inteligencia artificial es que ya no es de uso exclusivo de las organizaciones de gran tamaño. Como ha sucedido con otras tecnologías, está pasando por un proceso de 'democratización' que hace que la tecnología pueda ser utilizada por empresas de tamaño menor.
Jorge Yaqui, director de Tecnología y Portafolio de South Latin America (SoLA) de Logicalis.
Uno de estos casos es el que presentó Tolosana mediante la firma María Almenara. Esta pastelería utiliza inteligencia artificial para pronosticar la demanda de sus productos, logrando así que no haya un exceso de stock, pero tampoco que falten productos. Lo que antes se lograba con la experiencia de los trabajadores más antiguos de la empresa, ahora se logra alimentando a un modelo de inteligencia artificial con todos los datos que tiene la firma sobre los productos vendidos y no vendidos. Si antes, en el mejor de los casos, lograban un 90% de acierto en sus predicciones, ahora se llega al 99%. La inteligencia artificial ha ayudado a una firma no masiva a mejorar sus procesos.
Datos y modelos
Ya sea que la firma sea colosal y de menor tamaño lo importante es que tenga datos, muchos datos, buenos datos. Los datos, dijo uno de los entrevistados, es como la harina para hacer el pan, sin ella no se puede hacer el producto.
"Yo he visto que las empresas hoy en día han hecho un muy buen trabajo en capturar mucha más data, almacenar mucho más data, y poder convivir con esas estructuras nuevas de data”, sostiene Villa de SAS.
Pero al mismo tiempo, también reconoce que falta orquestación internamente dentro de las empresas, ya que se puede encontrar unidades de negocio que no saben que tienen cierto tipo de dato que es vital para resolver su problema, mientras que otras saben que existe el dato, pero no confían en él.
"Hay muchas empresas que tienen repositorios muy dispersos, entonces solo el hecho de combinarlos es un esfuerzo grande, pero abre la puerta a aplicar modelos más avanzados”, agrega Tolosana de Microsoft.
Esto ha llevado a que las firmas proveedoras tengan dentro de sus servicios de inteligencia artificial ofertas para mejorar la calidad de los datos que tienen y para ordenarlos mejor, conforme a las necesidades de los modelos que se están construyendo.
"Nuestro foco está en ayudar a las empresas a identificar cuáles son los casos de uso que les generan valor, qué datos necesitan para eso, usar lo que tienen disponibles y si no están disponibles hay una oportunidad de datificazión, e inclusive podemos enriquecer esos modelos con datos de terceros a través de socios estratégicos que nosotros tenemos”, señala Ballesta.
Sin embargo, los datos no son el único elemento al momento de confeccionar los modelos de inteligencia artificial. Quizás una de las primeras preguntas que se deban hacer las firmas que desean ingresar al campo de la inteligencia artificial es ¿para qué desean hacer el modelo?
"Hasta hace muy poco, cuando se hablaba de la inteligencia artificial, se pensaba que el entregable era el modelo. Resulta que el entregable no es el modelo, sino la aplicación del modelo al proceso de negocio y todas las actividades que tienes que hacer antes y después”, explica Tolosana.
Andrés Villa, Big Data & Analytics Solutions Specialist de SAS Perú.Antes de armar un modelo y buscar los datos necesarios para él, se debe de tener en claro qué requerimiento de negocio va a solucionar. De lo contrario, ingresar a la inteligencia artificial pensando en '¿qué puedo hacer con inteligencia artificial en la empresa?' puede ocasionar que se tenga una respuesta sin antes haber tenido una pregunta, es decir, un requerimiento puntual.
Los otros problemas
Pero no solo hay que cuidar el objetivo del modelo, también hay que cuidar en sí la creación del modelo. Existen diversos peligros que pueden poner en riesgo la efectividad del modelo y uno de los más recurrentes es la aparición de sesgos.
Los sesgos (bias) pueden hacer que un modelo de inteligencia artificial opere de acuerdo no solo con los parámetros impuestos por sus creadores, sino también por sus formas de pensar. Y un sesgo puede aparecer de manera muy sencilla: basta, por ejemplo, con que para estudiar a un grupo de personas solo se tome a las personas de un par de distritos no representativos de una ciudad. En este caso, el sesgo se puede presentar por los datos que se han utilizado para alimentar el modelo.
Cabe mencionar que el anterior es un caso muy sencillo, algo que ya se evita incluso con modelos estadísticos simples, la calidad de la muestra influye sobre el resultado final. Pero el que sea simple no significa que no pueda ocurrir. Se puede dar también el caso de introducir sesgos al momento de perfilar a un tipo de cliente. En sí, el perfilamiento no es una actividad discriminatoria, pero se puede convertir en una actividad discriminatoria si al modelo se le alimenta con datos que le hagan concluir que un cierto grupo de personas tiene un comportamiento considerado negativo por la sociedad. El ejemplo más claro, por supuesto, es el racismo.
Otro peligro o reto que se tiene que enfrentar es el llamado efecto 'caja negra'. Si alimentamos a un modelo con cierta cantidad de datos, éste nos ofrecerá unos resultados que podremos considerar adecuados. El problema surge cuando algunos de esos resultados no resultan adecuados y simplemente no podemos saber cómo es que la inteligencia artificial los ha generado. Es una caja negra que no nos permite ver hacia dentro y revisar la forma en que ha llegado a sus resultados.
Si un cliente de un banco desea saber porque el sistema señala que un cliente no es apto para un préstamo, sería bueno que el banco le pueda indicar cuáles son los parámetros que el modelo uso para denegar su pedido.
Los sesgos y el efecto caja negra, por supuesto, se pueden superar.
"Cuando se trata de la programación siempre se recomienda que sean equipos multidisciplinarios, que no sea una sola persona la que haga el programa. Y en la toma de datos es importante la educación, el entrenamiento y la concientización de las personas que trabajan con estos datos”, anota Yaqui.
Y en el caso de la caja negra, por ejemplo, SAS cuenta con algoritmos que pueden calcular o pueden determinar cuáles son las variables más importantes para el resultado de ciertos tipos de algoritmos que son por naturaleza caja negra.
Es más, por el lado de Microsoft, poseen una herramienta que se llama Responsible AI Dashboard que no solo permite hacer análisis de los modelos, sino que también ayuda a identificar si éste tiene algún problema de sesgo, privacidad, seguridad o transparencia de manera que se pueda corregir el modelo y tomar las medidas para que eso no genere después un efecto negativo.
La ética
Desafortunadamente, no solo se puede llegar a malos resultados debido a un error, también puede ser intencional.
Alejandro Ballesta, gerente general de PREDIQT.
"Tenemos un caso en que una clínica nos pidió que hagamos modelos para predecir la rentabilidad de la persona que llama. Obviamente, esto genera un conflicto de ética porque la persona enferma, sin importar que tan rentable pueda ser, necesita la atención. Nosotros desistimos de ese proyecto por un tema de ética”, sostuvo Ballesta de PREDIQT.
El tema está cobrando tal relevancia, que en algunas organizaciones ya están conformando comités de ética que, precisamente, se encargan de revisar los casos en los que el uso de la inteligencia artificial podría causar algún efecto negativo sobre la sociedad o sobre algún grupo en particular.
"Hemos formado un council con la Universidad de Notre Dame donde IBM ha puesto horas y una cantidad de dinero importante para formar un comité, un laboratorio, que se dedica a cuidar el tema de la ética detrás de la inteligencia artificial”, sostiene Flores.
De hecho, IBM preguntó a los ejecutivos su opinión sobre la inteligencia artificial ética y se encontraron tres tendencias. Primero, los ejecutivos de negocio -no técnicos- son la fuerza que impulsa la ética de la inteligencia artificial en las organizaciones. Segundo, la inteligencia artificial confiable es un diferenciador estratégico y se está implementando mecanismos de supervisión y revisión. Y, tercero, para las organizaciones es urgente la prioridad de integrar principios éticos a sus soluciones de inteligencia artificial.
En general, los comités de ética, de hecho, son los que pueden detener el avance de un proyecto de inteligencia artificial. En Microsoft, el comité de ética detuvo un proyecto, en la región, porque "me explicaron que había un riesgo de que esto se puede utilizar para 'el mal', y la verdad que, por pequeño que sea el riesgo, es mejor no correrlo”, relata Tolosana.
Las empresas comparten sus lineamientos sobre la ética de la inteligencia artificial, pero no son solo las empresas proveedoras las que se encuentran preocupadas por establecer estos lineamientos.
En noviembre del año pasado, los estados miembros de la Unesco adoptaron el primer acuerdo mundial sobre la ética de la inteligencia artificial. El texto establece valores y principios comunes que guiarán la construcción de la infraestructura jurídica necesaria para garantizar un desarrollo saludable de la inteligencia artificial.
"Asistimos a un aumento de los prejuicios de género y étnicos, a amenazas significativas contra la privacidad, la dignidad y la capacidad de acción, a los peligros de la vigilancia masiva y al aumento del uso de tecnologías de la IA poco fiables en la aplicación de la ley, por nombrar algunos. Hasta ahora, no había normas universales que dieran respuesta a estos problemas”, afirma un documento de la organización.
Fruto de esta preocupación es que se desarrolló una Recomendación. Esta tiene como objetivo hacer realidad las ventajas que la inteligencia artificial aporta a la sociedad y reducir los riesgos que conlleva. La Recomendación propone acciones sobre cuatro campos: la protección de datos; la prohibición de los marcadores sociales y la vigilancia masiva; la evaluación del impacto ético; y la protección del medio ambiente.
La organización también llama la atención sobre los dilemas éticos que en la actualidad se han detectado: los sesgos en la inteligencia artificial, el uso de los vehículos autónomos, la creación de arte usando inteligencia artificial, y el uso de la inteligencia artificial en los tribunales de justicia.
Quizás, al final, la base de todo es pensar más en la persona que en la solución. Como afirma Ballesta: "nosotros tratamos de enfocarnos más en el usuario final que en la generación de valor para evitar los problemas de ética”.
Jose Antonio Trujillo, CIO Perú