[13/06/2023] Salesforce anunció ayer Salesforce AI Cloud que combina Slack GPT, Tableau GPT, Apex GPT, MuleSoft GPT, Flow GPT, Service GPT, Marketing GPT y Commerce GPT, anunciados anteriormente por la empresa, junto con la nueva capa de confianza Einstein Trust y una herramienta de ingeniería para la formación de grandes modelos lingüísticos (LLM).
La nueva oferta agrupada, que se centra en aplicaciones de IA generativa, según el CEO Marc Benioff, se basa en la unificación de la pila tecnológica existente de Salesforce que ya se ofrecía a través de productos como Einstein GPT, Data Cloud, Tableau, Flow y MuleSoft.
Sin interfaz unificada para AI Cloud
Aunque Salesforce está promocionando AI Cloud como una oferta combinada a través de Cloud Starter Pack, que cuesta 360 mil dólares anuales, e incluye una evaluación gratuita de la preparación para la IA por parte de Salesforce Professional Services, no tiene una interfaz única y unificada, señaló la compañía.
"Gran parte de la nube de IA en realidad se manifestará como asistentes a través de diferentes ofertas de nube que tenemos, por ejemplo, Sales GPT en Sales Cloud, Marketing GPT en Marketing Cloud y Service GPT en Service Cloud", anotó Jayesh Govindarajan, vicepresidente senior de ciencia de datos e ingeniería en Salesforce.
"Sin embargo, si es un proveedor de servicios independiente y quiere crear sus propios avisos, AI Cloud ofrecerá una consola local independiente con una experiencia de bajo código para entrenar grandes modelos de lenguaje", indicó Govindarajan, añadiendo que Salesforce ya había firmado con socios de servicios, incluyendo Accenture, Deloitte y PwC.
El Starter Pack de AI Cloud, según la analista principal de Forrester Liz Herbert, es sólo un modelo de precios de productos que la compañía está promoviendo, y "no muchos clientes de Salesforce utilizarán ese modelo o se verán obligados a comprarlo", ya que la mayoría de las empresas ya tienen CRM y otras suites de software instaladas.
"Si nos fijamos en cómo un cliente típico ya está suscrito a Salesforce, entonces es muy poco probable que la agrupación sea una forma común de que alguien compre", anotó Herbert, añadiendo que Salesforce tampoco era muy específica sobre los elementos de precios para las empresas que quieren utilizar sólo una o más ofertas bajo AI Cloud. Se espera que la estructura de precios se adapte, con el tiempo, al uso de las diferentes ofertas de AI Cloud, indicó Herbert.
Salesforce AI Cloud ofrece una selección de LLM
La arquitectura de AI Cloud de Salesforce está construida de tal forma que admite múltiples LLM y su formación, según la empresa.
La arquitectura AI Cloud está soportada por la arquitectura de infraestructura de nube pública de la compañía, Hyperforce, que a su vez soporta la capa Data Cloud, seguida de una capa que aloja múltiples LLM (propias o de terceros), sobre la que reside la nueva capa de confianza Einstein de la compañía, según ha informado la compañía.
La arquitectura Trusted AI Cloud de Salesforce consta de varias capas.
La capa de confianza separa los motores de IA generativa basados en Einstein GPT -como Slack GPT, Tableau GPT, Marketing GPT y Commerce GPT-, una herramienta de ingeniería de avisos, y los motores de predicción, señaló Salesforce.
Los LLM que AI Cloud ofrece actualmente incluyen modelos de terceros de Amazon Web Services (AWS), Anthropic y Cohere, entre otros.
La empresa también se ha asociado con OpenAI para utilizar su API para acceder a modelos como GPT-4, que impulsa ChatGPT.
Salesforce también proporcionará sus propios LLM, como CodeGen, COdeT5+ y CodeTF para la implementación de IA generativa en aplicaciones, en particular las que tienen como objetivo aumentar la productividad, reducir la brecha de talento y reducir el costo de la implementación tecnológica.
Se ha creado una nueva división, denominada Salesforce AI Research, para tratar de desarrollar nuevas aplicaciones para la IA mediante el avance de nuevos LLM o el perfeccionamiento de los ya existentes.
Las empresas, según Salesforce, también pueden obtener sus propios LLM entrenados en sus propios datos específicos de dominio.
"Estos modelos, ya se ejecuten a través de Amazon SageMaker o Vertex AI de Google, se conectarán directamente a AI Cloud a través de la capa de confianza GPT de Einstein. En este escenario, los datos de los clientes pueden permanecer dentro de los límites de confianza de los clientes", anotó la compañía.
No es la primera vez que alguien ofrece estas capacidades. Otros destacados proveedores de tecnología, como AWS e IBM, ya proporcionan ofertas similares en forma de Amazon Bedrock e IBM Watsonx.
¿Cómo funcionan juntos varios LLM?
Contrariamente a las prácticas de algunos grandes proveedores de software que afirman mezclar diferentes LLM para ofrecer aplicaciones de IA generativa, AI Cloud de Salesforce "elige el LLM adecuado para la tarea adecuada", según la empresa.
"La determinación del LLM adecuado se basa en los resultados que el sistema ha visto anteriormente", anotó Govindarajan, añadiendo que el motor de recomendación LLM está aprendiendo de los datos en todas las implementaciones de Salesforce.
Por ejemplo, si Marketing GPT crea una página de destino, Govindarajan explica que el sistema realiza un seguimiento del rendimiento de dicha página, ya que los datos de rendimiento también se almacenan en Marketing Cloud de Salesforce.
"Si la página de destino ha funcionado realmente bien, entonces sugerirá el mismo LLM que ha utilizado para construir la página de destino a otro usuario que también quiera crear una página de destino similar", señaló Govindarajan.
Esta misma lógica también se aplica a los múltiples sabores de Einstein GPT a través de diferentes ofertas de Salesforce Cloud que entrenan continuamente a los asistentes, anotó la empresa.
"Estos asistentes generativos de IA, como Slack GPT o Tableau GPT, rastrean si el usuario termina siguiendo una sugerencia. También realiza un seguimiento de las ediciones o cambios en el resultado generado. Esto le ayuda a aprender continuamente y a ser más personalizado para los usuarios", afirmó Govindarajan.
La capa Einstein GPT Trust utiliza IAM
La capa Einstein GPT Trust de Salesforce no es nueva ni diferenciada, según Herbert de Forrester, que afirma que sigue los mismos principios que la mayoría de los demás proveedores ofrecen en términos de seguridad. Como la mayoría de los demás proveedores, Salesforce utiliza los derechos de gestión de identidades y accesos (IAM) en la empresa para salvaguardar la privacidad y seguridad de los datos, afirmó Govindarajan de Salesforce.
"Una vez que un usuario ejecuta una consulta en su sistema, la pila tecnológica detrás de estos asistentes de IA generativa busca en las bases de datos sobre el atributo que necesita y al que tiene acceso, seguido por la pila que crea un modelo de búsqueda semántica basado en el gráfico de conocimiento de toda la empresa y el empleado que solicita la consulta", indicó Govindarajan.
"Los datos vectorizados recuperados se guardan en el servidor de la empresa, se enmascaran y luego se introducen en el gran modelo lingüístico para generar un resultado o respuesta. De este modo, la pila está copiando o imbuyendo las políticas de gestión de identidad y acceso que ya existen para ese empleado", añadió Govindarajan.
La arquitectura de la capa Einstein Trust también se ha construido de tal forma que, una vez procesada la consulta, la información contenida en ella no se conserva, explicó la empresa, añadiendo que se comprueba la toxicidad del resultado generado y se mantiene un registro de auditoría de todas las consultas.
Disponibilidad
Las ofertas de AI Cloud, según la empresa, estarán disponibles en diferentes fases, con Einstein GPT y Service GPT disponibles de forma general en junio.
Commerce GPT estará disponible en julio. Se espera que otras ofertas del paquete alcancen la disponibilidad general el año que viene, tras haber estado en fase piloto durante la mayor parte del 2023.
Será interesante ver cómo reaccionan los clientes a la nueva oferta de Salesforce, que es más un paquete de ofertas existentes que una plataforma completamente nueva. Sin embargo, los analistas creen que Salesforce AI Cloud ayudará a imponer una mayor confianza en el uso de la IA generativa por parte de las empresas.
"Salesforce reconoce que existen barreras para la adopción de la IA, especialmente la confianza. Por ello, están redoblando sus esfuerzos en este aspecto. El otro reto es que pronto tendremos una plétora de LLM: de código abierto, públicos y privados, lo que provocará confusión sobre cuál implantar. Por eso, AI Cloud de Salesforce permite a los usuarios conectar el LLM de su elección", afirmó Sanjeev Mohan, analista principal de SanjMo.
Basado en el artículo de Anirban Ghoshal (CIO) y editado por CIO Perú