[14/06/2023] ServiceNow está haciendo que la IA generativa sea accesible desde más áreas de su plataforma de desarrollo de bajo código, poniéndola en primer plano en los chatbots que las empresas están empezando a utilizar para interactuar con sus aplicaciones ServiceNow.
[Reciba lo último de CIO Perú suscribiéndose a nuestro newsletter semanal]
Pero a medida que proveedores de software como ServiceNow, Salesforce o SAP ofrecen nuevas formas de aprovechar las capacidades de la IA generativa, como resumir texto o generar nuevo texto o imágenes a partir de una simple indicación, existen riesgos que los CIO deben tener en cuenta antes de dar rienda suelta a la tecnología con sus datos.
El mes pasado, ServiceNow presentó sus primeras herramientas de IA generativa: el controlador de IA generativa de ServiceNow para conectar grandes modelos lingüísticos (LLM) a su plataforma de automatización de software, y Now Assist for Search, que utiliza esos LLM y los propios datos de una empresa para generar respuestas en lenguaje natural a las consultas realizadas en un agente virtual.
Now Assist para agente virtual
La última incorporación, Now Assist for Virtual Agent, se basa en estos fundamentos para facilitar a las empresas el empleo de la IA generativa de forma más amplia en el diseño y la ejecución de procesos empresariales.
Al igual que Salesforce con su producto Einstein GPT, ServiceNow ha optado por adoptar la IA generativa de forma modular, permitiendo a los CIO elegir con qué proveedor de LLM se integran.
En el caso de ServiceNow, la elección se limita inicialmente a OpenAI, creador de GPT y otros modelos disponibles públicamente, o Microsoft Azure, que también utiliza tecnología OpenAI. Sin embargo, la compañía se ha asociado recientemente con Nvidia para ayudar a las empresas a desarrollar LLM personalizados entrenados con sus propios datos, y también ha trabajado con Hugging Face en un LLM de acceso abierto que las empresas podrán utilizar para crear modelos privados que se adapten a sus propias necesidades.
Esta distinción entre lo público y lo privado es crucial, afirmó Neil Ward-Dutton, vicepresidente de IDC, analista especializado en IA y automatización inteligente de procesos.
"Vemos mucha confusión entre los modelos de fundación pública promovidos por organizaciones como OpenAI (GPT-4, etc.) y los modelos de IA generativa que, en nuestra opinión, acabarán aportando valor a las empresas, que no serán necesariamente públicos", afirmó.
Muchos usos de la IA generativa sólo resultarán atractivos para las empresas cuando puedan acceder a modelos especializados, protegidos del acceso público, entrenados y ajustados para su sector o incluso sólo para su organización. Otras aplicaciones, que no necesitan datos específicos de la empresa ni altos niveles de precisión, pueden basarse en modelos públicos.
"Vendedores como Salesforce, ServiceNow y otros no siempre distinguen bien entre estos dos enfoques", señaló. "Todos ellos están cubriendo sus apuestas, asociándose con empresas como OpenAI, Google o Anthropic para acceder a modelos públicos, pero también asociándose con Nvidia, Hugging Face y Cohere para ayudarles a implementar modelos especializados para los clientes".
ServiceNow ejecuta servicios compartidos internamente en su plataforma Now, y recientemente ha empezado a probar el uso de IA generativa en conversaciones con agentes virtuales, según Chris Bedi, CIO de la empresa. Los equipos de comercialización la utilizan para acceder a bases de conocimientos sobre políticas y procesos que facilitan la renovación de contratos.
La idea es que, en lugar de que el agente virtual genere enlaces a una pila de artículos de la base de conocimientos que los trabajadores tienen que leer por sí mismos, "les decimos 'aquí tienen los pequeños fragmentos de contenido que pueden ayudarles' en cada momento de la conversación, lo que debería aumentar la productividad y la velocidad", afirmó.
Basura dentro, basura fuera
Bedi también ve un riesgo en dar a las herramientas de IA generativa acceso a los datos equivocados, pero no es algo nuevo.
"Es el problema de la basura entrante y saliente, al que los informáticos se han enfrentado desde siempre", sostuvo, pero con un matiz. Con las herramientas de búsqueda tradicionales, "si había datos erróneos, salían a la luz. Pero la inteligencia artificial generativa es mucho más eficaz porque hace que la información sea más fácil de encontrar y digerir para los humanos. Hay que asegurarse de que lo que se indexa en los grandes modelos lingüísticos está actualizado".
El riesgo de que aparezcan datos erróneos -que no es exclusivo de la implementación de ServiceNow- es la razón por la que Ward-Dutton de IDC recomienda a los CIO que pregunten a sus proveedores de software sobre el origen de los elementos de IA generativa que incluyen y los datos con los que se entrenan.
Las empresas querrán saber si el modelo subyacente es público o será privado para su organización, con qué datos se ha preentrenado, y cómo pueden protegerse contra los sesgos en los datos de entrenamiento, afirma.
Algunos proveedores de software están empezando a añadir capas a sus plataformas de IA generativa para que la información que ofrecen sea más fiable.
Con el tiempo, anotó Bedi, incluso eso podría ser manejado por grandes modelos lingüísticos. "Los modelos pueden mirar a los modelos", afirmó. "Esa tecnología se está desarrollando muy rápidamente".
La forma en que se hace marca la diferencia, indicó Ward-Dutton, quien aconsejó a los CIO que se preguntaran cómo la capa de confianza de un proveedor, si existe, garantiza realmente la calidad de los datos. "¿Es a través de la gestión de cómo se entrenan los modelos en primer lugar", anotó, "o en el intento de corregir o minimizar los problemas con el contenido que los modelos crean después del hecho?"
Aconsejó a los CIO crear entornos de laboratorio donde puedan probar las tecnologías de IA generativa con seguridad, explorando casos de uso y examinando las afirmaciones de los proveedores.
Eso es lo que hizo Bedi en ServiceNow con su propia tecnología, para ver cómo funcionaba. Los directores de sistemas de información que quieran hacer lo mismo podrían obtener mejores resultados siguiendo su estrategia de diversidad: realizar pruebas piloto con una mezcla de empleados fijos y recién llegados.
"Pensamos que era importante, porque la gente que se ha incorporado recientemente hará preguntas que la gente veterana no hará, porque sólo la conocen a través del conocimiento tribal", indicó. "Además, los empleados veteranos detectan mucho mejor que los recién llegados las cosas que les parecen raras".
Eso le permitió empezar sin preocuparse de si tenía un repositorio de contenidos perfecto en el que pudiera basarse el agente virtual.
Un grupo limitado de clientes de ServiceNow ya tiene acceso a Now Assist for Search y, ahora, a Now Assist for Virtual Agent. Para los demás, la empresa tiene previsto generalizar las funciones como parte de su lanzamiento de la plataforma de Vancouver en septiembre del 2023.
Basado en el artículo de Peter Sayer (CIO) y editado por CIO Perú