[21/02/2023] Para las empresas, los chatbots como ChatGPT tienen el potencial de automatizar tareas mundanas o mejorar las comunicaciones complejas, como crear campañas de ventas por correo electrónico, corregir el código de la computadora, o mejorar la atención al cliente.
La firma de investigación Gartner predice que, para el 2025, el mercado de software de IA alcanzará casi 134,8 mil millones de dólares, y se espera que el crecimiento del mercado se acelere del 14,4%, en el 2021, al 31,1% en el 2025 -superando con creces el crecimiento general en el mercado de software.
[Reciba lo último de CIO Perú suscribiéndose a nuestro newsletter semanal]
Una gran parte de ese mercado será la tecnología de chatbot, que utiliza inteligencia artificial (IA) y procesamiento de lenguaje natural para responder a las consultas de los usuarios. Las respuestas similares a las humanas están en forma de prosa; los programas más sofisticados permiten preguntas y respuestas de seguimiento, y pueden modificarse para fines comerciales específicos.
En un informe de la semana pasada, Gartner explicó los posibles usos de ChatGPT y su modelo de lenguaje base GPT-3 (también existen GPT 3.5 y 4), que se pueden personalizar.
ChatGPT, lanzado por el laboratorio de investigación OpenAI en noviembre, se volvió viral de inmediato y tuvo un millón de usuarios en solo sus primeros cinco días debido a la forma sofisticada en que genera respuestas profundas en prosa, similares a las humanas, a las consultas.
Se usa más comúnmente -por ahora- en un modo de uso directo ("listo para usarse”) como una interfaz de chat web basada en texto. No hay acceso a la API en este momento, aunque GPT-3 ofrece acceso a la API. (Microsoft también planea ofrecer APIs para su versión Azure OpenAI de ChatGPT, disponible pronto).
Las empresas pueden usar el enfoque directo ("listo para usarse”) para aumentar o crear contenido, manipular el texto en los correos electrónicos para suavizar el lenguaje o tomar un tono particular, y para resumir o simplificar el contenido. "Esto se puede hacer con inversiones limitadas”, explicó Gartner en su informe.
¿Cuál es la diferencia entre ChatGPT, GPT-3 y Azure OpenAI?
Tanto ChatGPT como GPT-3 (que significa Transformador Generativo Previamente entrenado) son máquinas con modelos de aprendizaje de lenguaje entrenados por OpenAI, un laboratorio de investigación y una empresa con sede en San Francisco. Si bien ChatGPT y GPT-3 pueden producir respuestas de texto similares a las humanas a las consultas, no son iguales en sofisticación.
Una de las principales diferencias entre ChatGPT y GPT-3 es su tamaño y capacidad, según un arquitecto de soluciones senior de TripStax.
"ChatGPT está diseñado específicamente para aplicaciones de chatbot, mientras que GPT-3 tiene un propósito más general y se puede usar para una gama más amplia de tareas”, escribió Muhammad A. en una entrada de blog. "Esto significa que ChatGPT puede ser más efectivo para generar respuestas en un contexto conversacional, mientras que GPT-3 puede ser más adecuado para tareas como la traducción de idiomas o la creación de contenido”.
No es posible personalizar ChatGPT, ya que no se puede acceder al modelo de lenguaje en el que se basa. Aunque su empresa creadora se llama OpenAI, ChatGPT no es una aplicación de software de código abierto. Sin embargo, OpenAI ha puesto a disposición el modelo GPT-3, así como otros modelos grandes de lenguaje (LLMs, por sus siglas en inglés). Los LLM son aplicaciones de aprendizaje automático que pueden realizar una serie de tareas de procesamiento de lenguaje natural.
"Debido a que los datos subyacentes son específicos de acuerdo a los objetivos, existe un control significativamente mayor sobre el proceso, lo que posiblemente genere mejores resultados”, afirmó Gartner. "Aunque este enfoque requiere habilidades significativas, curación de datos y financiamiento, el surgimiento de un mercado para modelos especializados de terceros, aptos para el propósito, puede hacer que esta opción sea cada vez más atractiva”.
Por ejemplo, ChatGPT es apalancado por el servicio OpenAI de Microsoft, lo que brinda a los desarrolladores de aplicaciones y empresas una forma de aprovechar la nueva tecnología. Pero el nuevo y mejorado motor de búsqueda Bing de Microsoft, usa GPT-4 (la última versión de OpenAI).
ChatGPT se basa en un modelo de texto más pequeño, con una capacidad de alrededor de 117 millones de parámetros. GPT-3, que fue entrenado con 45TB de datos de texto, es significativamente más grande, con una capacidad de 175 mil millones de parámetros, señaló Muhammad.
ChatGPT tampoco está conectado a Internet y ocasionalmente puede producir respuestas incorrectas. Tiene un conocimiento limitado de los eventos mundiales después del 2021 y, en ocasiones, también puede producir instrucciones dañinas o contenido sesgado, según las preguntas frecuentes de OpenAI.
"ChatGPT es una aplicación compuesta de pre y post preparación y evaluación, y una versión personalizada de GPT-3.5”, afirmó Bern Elliot, vicepresidente y analista distinguido de Gartner. "Usted envía preguntas junto con cualquier información adicional, llamadas avisos. Si bien no puede acceder al GPT-3 personalizado en ChatGPT, la forma en que hace la pregunta -las solicitudes- pueden tener un efecto importante en la calidad del resultado”.
Esto generalmente se denomina "ingeniería de solicitudes” y se puede hacer en cualquier modelo de lenguaje grande. En muchos casos, los usuarios también pueden acceder a un LLM subyacente, como GPT-3.
ChatGPT y GPT-3
Fundamentalmente, afirmó Gartner, ChatGPT se puede usar para mejorar la creación de contenido y la automatización de la transformación, al tiempo que brinda una experiencia de usuario rápida y atractiva.
La forma más sencilla de usar ChatGPT es como una solicitud de preguntas y respuestas. Por ejemplo, "¿Cuántas millas en auto se necesitan para ir de Boston a San Francisco?”.
ChatGPT también se puede utilizar para crear contenido escrito o aumentar el contenido ya escrito para darle una entonación diferente, suavizando o profesionalizando el lenguaje.
"Hay muchas formas en que ChatGPT puede producir un 'borrador' de texto que cumpla con la longitud y el estilo deseados, que luego puede ser revisado por el usuario”, afirmó Gartner en su informe. "Los usos específicos incluyen borradores de descripciones de marketing, cartas de recomendación, ensayos, manuales o instrucciones, guías de capacitación, publicaciones de redes sociales o de noticias”.
"Crear material de campaña de ventas por correo electrónico o sugerir respuestas a los agentes de los clientes es un uso razonable”, agregó Elliot de Gartner.
La tecnología de chatbot también puede ofrecer resúmenes de conversaciones, artículos, correos electrónicos y páginas web.
Otro uso de ChatGPT y GPT-3 es mejorar los chatbots existentes para servicio al cliente, logrando que ofrezcan respuestas más detalladas y similares a las humanas.
Las plataformas también pueden mejorar la identificación de la intención del cliente, resumir conversaciones, responder preguntas de los clientes y dirigir a los clientes hacia los recursos. Hacer esto requiere contexto empresarial, descripciones de servicios, permisos, lógica comercial, formalidad del tono e incluso tono de marca, que debería agregarse al modelo de lenguaje GPT-3.
Ventas y marketing también podrían usar ChatGPT y GPT-3 para clientes potenciales en una página web o a través de un chatbot para brindar recomendaciones y descripciones de productos. Nuevamente, la plataforma de chatbot debería personalizarse con el contexto empresarial.
Los chatbots también se han utilizado como asistentes personales para administrar horarios, resumir correos electrónicos, redactar correos electrónicos y respuestas, y redactar documentos comunes.
En educación, los chatbots se pueden usar para crear experiencias de aprendizaje personales, como lo haría un tutor. Y, en el cuidado de la salud, los chatbots y las aplicaciones pueden proporcionar descripciones de lenguaje simple de información médica y recomendaciones de tratamiento.
Ingeniería de solicitudes
El modelo GPT-3, dentro del servicio ChatGPT, no se puede modificar por sí solo, explicó Elliot, pero los usuarios pueden obtener el modelo base, GPT-3, y modificarlo por separado para usarlo en un motor de chatbot (sin la aplicación ChatGPT). El modelo GPT-3 simplemente se usaría como otros LLM.
Por ejemplo, los usuarios pueden agregar datos y ajustar parámetros del modelo o conjunto de datos GTP-3. La forma en que alguien envía preguntas a esos modelos también puede verse influenciada por la redacción utilizada para hacer las preguntas. "Entonces, nuevamente, la ingeniería de solicitudes puede ser útil”, afirmó Elliot.
"Aunque este enfoque requiere habilidades significativas, curación de datos y financiamiento, el surgimiento de un mercado para modelos especializados de terceros, aptos para el propósito, puede hacer que esta opción sea cada vez más atractiva”, señaló Gartner en su informe.
Si bien recién emerge, el uso de ChatGPT y GPT-3 para la generación, traducción, explicación y verificación de código de software promete aumentar el proceso de desarrollo. Su uso es más probable en un ambiente de desarrollo integrado (IDE, por sus siglas en inglés), según Gartner.
Por ejemplo, un desarrollador podría escribir en el cuadro de búsqueda: "este código no funciona de la manera que esperaba, ¿cómo lo soluciono?” Es probable que la primera respuesta no solucione el problema, pero con preguntas de seguimiento a las respuestas, ChatGPT podría idear una solución, según OpenAI.
ChatGPT también puede escribir código de prosa, convertir código de un lenguaje de programación a otro, corregir código erróneo y explicar código.
"Sugerir alternativas al código de software o identificar errores de codificación es válido”, afirmó Elliot. "Pero no permita que ChatGPT 'arregle' el código, sino que sugiera áreas para revisar”.
Por ejemplo, OpenAI proporcionó este ejemplo de consulta de codificación y respuesta en su página de preguntas frecuentes:
Riesgos de los chatbots
Gartner advirtió que existen riesgos al confiar en ChatGPT porque es posible que muchos usuarios no comprendan las limitaciones de datos, seguridad y analítica.
Una de las mayores preocupaciones para las empresas es que ChatGPT puede exagerar, generando prosa elocuente con respuestas en lenguaje natural que contienen poco contenido de valor o, peor aún, declaraciones falsas, afirmó Gartner. "Debería ser obligatorio que los usuarios revisen la respuesta para verificar su precisión, idoneidad y utilidad real antes de aceptar cualquier resultado”.
El uso de un chatbot también puede correr el riesgo de exponer información confidencial y de identificación personal (PII, por sus siglas en inglés), por lo que es importante que las empresas tengan en cuenta qué datos se utilizan para alimentar el chatbot y evitar incluir información confidencial. También es fundamental trabajar con proveedores que ofrezcan políticas sólidas de propiedad y uso de datos.
El CEO de OpenAI, Sam Altman, advirtió a los usuarios en un tuit en diciembre, que ChatGPT es "increíblemente limitado”, afirmado que es un error "confiar en él para algo importante en este momento”.
"Es una vista previa del progreso; tenemos mucho trabajo por hacer en cuanto a solidez y veracidad”, escribió Altman, y agregó que ChatGPT es mejor para la "inspiración creativa”.
Gartner, en su informe, esencialmente estuvo de acuerdo: "Reconozca que esta es una etapa muy temprana y una tecnología demasiado promocionada” con usos potencialmente significativos. "Así que proceda, pero no se pase de la raya”.
Sugirió que las empresas fomenten el pensamiento "fuera de la caja” sobre los procesos de trabajo, definan pautas de uso y gobernanza en torno a la IA, y desarrollen un grupo de trabajo -un pipeline de informes manual/humano- para el CIO y el CEO.
Elliot sugirió que los usuarios favorezcan el servicio abierto Azure ChatGPT de Microsoft sobre OpenAI ChatGPT para la empresa, "ya que Microsoft ofrece seguridad empresarial y controles de cumplimiento asociados con otros productos de Microsoft”.
"Si planea usar información confidencial, planee usar Azure”, anota Elliot.
(Microsoft ha dicho que planea habilitar políticas de seguridad y confidencialidad en Azure OpenAI, como lo hace con otros servicios de Azure).
Finalmente, no permita que los empleados le pregunten a OpenAI preguntas de ChatGPT que revelan datos empresariales confidenciales, agrega Elliot. "Emita políticas claras que eduquen a los empleados sobre los riesgos inherentes relacionados con ChatGPT”.
IA y guerras de búsqueda
Fundada en el 2015, OpenAI contó con el respaldo de inversores como Elon Musk, Amazon Web Services (AWS), Infosys, YC Research y Altman, quien se convirtió en CEO de OpenAI en el 2019, año en que la compañía se hizo pública.
Otros primeros inversores incluyeron a Microsoft, que invirtió mil millones de dólares en OpenAI en el 2019, y a inicios de mes anunció planes para realizar una inversión adicional multimillonaria. Microsoft también anunció que su motor de búsqueda Bing se está actualizando utilizando GPT-4, la última versión del modelo de lenguaje IA creado por OpenAI.
Ese anuncio inició una especie de guerra de chatbots de búsqueda entre Microsoft y Google. Microsoft espera que su uso de GPT-4 le dé a Bing un impulso sobre el motor de búsqueda dominante de Google. Google acaba de anunciar su propio tipo de tecnología de chatbot llamado Bard. Es un servicio de IA conversacional impulsado por una tecnología llamada Language Model for Dialogue Applications (o LaMDA) para abreviar).
Preply, una plataforma global de aprendizaje de idiomas, publicó los resultados de un estudio que comparó la inteligencia de Google con ChatGPT. Preply reunió lo que llamó "un panel de expertos en comunicación” que evaluó cada plataforma de IA en 40 desafíos de inteligencia.
El desafío mostró a ChatGPT venciendo a Google 23 a 16, con un empate. Google, sin embargo, destacó en las preguntas y consultas básicas donde la información cambia con el tiempo.
Basado en el artículo de Lucas Mearian (Computerworld) y editado por CIO Perú
Puede ver también: