[08/03/2023] Vince Kellen es consciente de las limitaciones bien documentadas de ChatGPT, DALL-E y otras tecnologías de IA generativa -que las respuestas pueden no ser sinceras, las imágenes generadas pueden carecer de integridad compositiva, y los resultados pueden ser sesgados-, pero sigue adelante de todos modos. Kellen, CIO de la Universidad de California en San Diego (UCSD), afirma que los empleados ya utilizan ChatGPT para escribir código y descripciones de puestos de trabajo.
El generador de texto ChatGPT de OpenAI, junto con su primo generador de imágenes DALL-E, son los más destacados entre una serie de grandes modelos lingüísticos, también conocidos como modelos de lenguaje generativo o IA generativa, que han cautivado la imaginación del público durante el último año. Los modelos responden a peticiones escritas para generar una variedad de respuestas que van desde documentos de texto e imágenes hasta código de programación.
[Reciba lo último de CIO Perú suscribiéndose a nuestro newsletter semanal]
Kellen considera que el código generado por ChatGPT es una herramienta que mejora la productividad, del mismo modo que los compiladores supusieron una mejora con respecto al lenguaje ensamblador. "Algo que produce bibliotecas y software no es diferente de buscar en GitHub", señala. "También lo utilizamos para redactar descripciones de puestos de trabajo que tienen en cuenta nuestro contenido y formato. Luego se puede pasar a la edición muy rápidamente, en busca de errores y confabulaciones". Aunque la tecnología todavía está en sus primeras etapas, para algunas aplicaciones empresariales, como las que hacen un uso intensivo de contenidos y flujos de trabajo, su innegable influencia ya está aquí, pero hay que proceder con cautela.
Lista para las aplicaciones adecuadas
La IA generativa está lista para su uso en codificación, flujos de trabajo administrativos, refinamiento de datos y casos de uso sencillos como el rellenado previo de formularios, afirma Oliver Wittmaier, CIO y propietario de producto de DB SYSTEL GmbH, filial propiedad al 100% de DB AG y socio digital de todas las empresas del grupo. Y en el sector del transporte, afirma, "la IA puede influir directa o indirectamente en la evitación del transporte, la dirección del transporte y la gestión del transporte".
La generación de contenidos también es un área de especial interés para Michal Cenkl, director de innovación y experimentación de Mitre Corp. "Quiero un resumen contextual y un refinamiento a través del diálogo, y eso es lo que ofrecen estos modelos de gran lenguaje", anota. Actualmente, su equipo está estudiando dos casos de uso en los ámbitos del conocimiento y la experiencia. "El primero es si quiero escribir un correo electrónico a uno de nuestros patrocinadores que resuma el trabajo que hemos hecho y que sea relevante para ellos, y escribirlo en el contexto de las comunicaciones que ya hemos tenido con ellos. Eso es increíblemente poderoso".
La segunda es para la contratación de personal. Normalmente, Cenkl revisa los currículos y busca por etiquetas de habilidades para encontrar a las personas adecuadas para un proyecto. La IA generativa puede facilitarlo. "Por ejemplo, podría preguntar: '¿Qué puede hacer Michael en este proyecto?', basándome en lo que está haciendo ahora, y obtener un resumen de lo que podría hacer sin que yo tenga que construirlo a partir de un currículum".
Y en CarMax, empresa de venta de autos usados, llevan más de un año utilizando IA generativa, aprovechando las API de OpenAI para consolidar el texto de las reseñas de los clientes en resúmenes más manejables y legibles. Pero el director de informática, Shamim Mohammad, señala que su equipo ha ampliado el uso de la tecnología a otras áreas.
Una de las aplicaciones, en imágenes de vehículos, se concibió como una forma de mejorar la experiencia del cliente. La IA optimiza las imágenes de cada vehículo que la empresa incorpora a su inventario, que en un momento dado incluye entre 50 mil y 60 mil vehículos, sostiene. "Hacemos que cada imagen sea lo más realista posible sin perder su validez", afirma. Por ejemplo, sus científicos de datos crearon un modelo de "barredora digital" que sustituye una foto del interior de un auto que tiene el suelo sucio por una imagen que muestra uno limpio. "Sigue siendo el mismo auto, pero tiene mejor aspecto y es una mejor experiencia para el cliente", anota.
Del mismo modo, Nike ha estado utilizando IA generativa para generar imágenes de prototipos de productos, comenta el analista de Forrester, Rowan Curran. "Puede utilizar un modelador de texto a 3D, hacer pruebas en el espacio tridimensional y obtener una sensación mucho más visceral de cómo se verá en el mundo real, todo ello con muy poco esfuerzo", señala.
Aplicaciones con mayor potencial de rentabilidad
La creación de código y la mejora de la experiencia del cliente son las principales áreas que las empresas pueden aprovechar hoy en día utilizando IA generativa, y tienen el mayor potencial de recuperación de la inversión en términos de aumento de la eficiencia, comenta Mohammad.
Gary Jeter, vicepresidente ejecutivo y director de informática de TruStone Financial Credit Union, afirma que estas son las áreas que sus desarrolladores también han perseguido con la implementación de GitHub del Codex de OpenAI. Y afirma que el uso de la IA generativa para la codificación ha funcionado bien. Cenkl añade que los modelos de IA generativa funcionan mejor en la codificación que en el lenguaje humano, porque los lenguajes de programación están más estructurados. "Puede desentrañar esa estructura, y por eso funciona", anota Cenkl.
CarMax está aprovechando al máximo el Copilot de GitHub, donde dice que los ingenieros generan en algunos casos hasta el 40% de su código. "Esto está evolucionando rápidamente", afirma Mohammad. "Pero tiene que asegurarse de que no hay infracción de derechos de autor, contenido falso o malware incrustado si lo está usando para crear software". No se puede enchufar ese código sin más, sin supervisión.
Según Curran, otras áreas propicias para las aplicaciones empresariales son la generación de textos de marketing, imágenes y diseños, y la creación de mejores resúmenes de los datos existentes para que la gente pueda consumirlos de forma más eficaz. "Algunos incluso utilizan estos grandes modelos lingüísticos para limpiar datos no estructurados", afirma. Y, como está pasando, las capacidades de IA generativa podrían empezar a aparecer en algunos programas informáticos de empresa, desde el software de asistencia técnica a las aplicaciones de Microsoft Office.
No confíe, verifique
Aparte de las ventajas, los CIO que implanten esta tecnología deben ser conscientes de los posibles problemas de propiedad intelectual relacionados con los resultados generados, advierte Mohammad, de CarMax. Los modelos generativos, como DALL-E que se entrena con datos de Internet, han generado contenidos que pueden infringir los derechos de autor, motivo por el cual Getty Images demandó recientemente a Stability AI por su herramienta de generación de arte impulsada por IA Stable Diffusion.
La tecnología también necesita supervisión humana. "Los sistemas como ChatGPT no tienen ni idea de lo que están creando, y son muy buenos convenciéndole de que lo que dicen es exacto, incluso cuando no lo es", afirma Cenkl. No hay garantía de IA: no hay atribución o información de referencia que le permita saber cómo se le ocurrió la respuesta, y no hay explicabilidad de IA, que indique por qué se escribió algo de la forma en que se hizo. "No se sabe cuál es la base ni qué partes del conjunto de entrenamiento influyen en el modelo", afirma. "Lo que se obtiene es puramente un análisis basado en un conjunto de datos existente, por lo que hay posibilidades no sólo de sesgo, sino de errores de hecho".
Wittmaier es optimista respecto a la tecnología, pero aún no está convencido de que se vaya a implantar en los clientes lo que considera una tecnología en fase inicial. En este punto, dice, hay potencial a corto plazo en el entorno de la suite de oficina, chatbots de contacto con el cliente, funciones de help desk y documentación en general, pero en términos de áreas relacionadas con la seguridad en el negocio de la empresa de transporte, añade, la respuesta es un claro no. "Todavía tenemos mucho que aprender y mejorar para poder incluir la IA generativa en áreas tan sensibles", sostiene.
Jeter tiene preocupaciones similares. Aunque su equipo utilizó ChatGPT para identificar una corrección de código y desplegarla en un sitio web en 30 minutos -"Habría tardado mucho más sin ChatGPT", y cree que es útil para redactar los términos y condiciones de los contratos- no está del todo probado. "No expondremos ninguna IA generativa a miembros externos", afirma. "TruStone no será puntera en este espacio".
Cuando TruStone empiece a utilizar la tecnología en beneficio de sus miembros, añade, controlará las conversaciones mediante revisiones humanas y automatizadas para proteger a sus miembros y a la marca.
En la actualidad, la clave del éxito de la implantación sigue siendo la presencia de una persona que revise los contenidos generados para comprobar su exactitud y conformidad, afirma Kellen, de la UCSD. "Asegurarse de que la máquina toma la decisión correcta se convierte en un importante punto de litigio", señala. "Pasará bastante tiempo antes de que las organizaciones [la utilicen] para algo que sea de alto riesgo, como los diagnósticos médicos". Pero la IA generativa funciona bien para generar algo como resúmenes de revisión, siempre que haya un humano supervisándolos. "Eso nos ralentiza un poco, pero es lo correcto", afirma. Con el tiempo, añade, "encontraremos formas automatizadas de garantizar que la calidad sea buena. Pero ahora mismo, hay que tener un proceso de revisión para asegurarse de que el contenido generado es preciso".
Otro riesgo bien documentado, además de la precisión, es el potencial de sesgo en los modelos introducidos a partir de los datos utilizados para entrenarlos. Esto es especialmente problemático cuando la IA generativa está utilizando contenido de Internet, como lo hace ChatGPT, pero eso puede ser un problema menor cuando se entrena el modelo contra sus propios datos corporativos privados, que puede revisar para detectar posibles sesgos, anota Kellen. "Cuanto más nos acercamos a la empresa, donde la clase de datos es más limitada y más mundana, más brilla la IA generativa", afirma.
Lo que hay que entender sobre los modelos de gran lenguaje, añade Cenkl, es que estas máquinas son hasta cierto punto sabias. "No entienden, pero son muy buenas calculando", señala.
Cambios en las funciones y responsabilidades laborales
"La tecnología ha mejorado las cosas, pero también nos ha creado mucho trabajo extra", comenta Mohammad. Sin embargo, cree que la IA generativa es diferente. "Es emocionante porque nos va a quitar algunas de las cosas que no nos gusta hacer y nos va a hacer más inteligentes", anota. "Aumentará a los humanos".
Pero Curran señala que no se espera que la IA generativa sustituya por completo ninguna función a corto plazo. "Puede reducir el número de personas necesarias para ejecutar una función, como en el desarrollo de contenidos, la gestión de información de productos o el desarrollo de software", afirma. "Pero siempre habrá la necesidad de un humano en el bucle". Y Mohammad añade que, aunque la tecnología pueda escribir y resumir, siempre será necesaria la inteligencia humana para garantizar la calidad y controlar lo que se ha generado para mejorarlo.
Pasos para empezar
Ahora es el momento de ponerse al día con la tecnología de IA generativa y empezar a experimentar, sostiene Kellen. "Los CIO tienen que meterse en este rompecabezas antes de dejarse embaucar por los proveedores que están integrando la tecnología en sus ofertas de software empresarial", afirma. "Si el año que viene lo dejan para más tarde, se quedarán atrás".
Es importante informarse y profundizar más allá del debate público sobre ChatGPT para comprender que esta tecnología es mucho más compleja que una aplicación, señala Curran. A continuación, empiece a considerar casos de uso en los que la IA generativa podría mejorar la eficacia o la calidad de los procesos existentes. Por último, pregúntese qué tipo de capacidades necesitará, y si debe adquirirlas de un proveedor o crearlas usted mismo.
A partir de ahí, es cuestión de probar la tecnología y plantearse posibles casos de uso. "Muchos de sus sistemas, tanto si utilizan datos estructurados como no estructurados, tendrán al menos algún componente de lenguaje natural e interfaz conversacional", señala Cenkl. "Piense en los datos que tiene y qué parte de ellos se pueden aumentar con estas tecnologías", y luego demuestra el potencial. Por ejemplo, Jeter anota que generó una plantilla de términos y condiciones y la envió a su departamento de cumplimiento para mostrar cómo podrían usarla.
Los modelos generativos de IA son grandes, y entrenarlos desde cero es caro, así que la mejor manera de empezar es utilizar uno de los servicios en la nube, indica Curran. CarMax, por ejemplo, utiliza el servicio Azure OpenAI de Microsoft con GPT 3.5. "Los datos que cargamos son nuestros, no se comparten con otros", agrega Mohammad. "Podemos tener cantidades masivas de datos y procesarlos muy rápidamente para ejecutar nuestros modelos. Si tiene un equipo pequeño o un problema de negocio que podría aprovechar la tecnología de IA generativa, dale una oportunidad".
Basado en el artículo de Robert Mitchell (CIO) y editado por CIO Perú
Puede ver también: