[29/08/2023] OpenAI ha presentado ChatGPT Enterprise, una versión de su servicio de IA generativa que permite a las empresas decidir cómo se entrena el modelo y cuánto tiempo puede almacenar los datos corporativos utilizados para tal fin.
El nuevo servicio ChatGPT también ofrece mayor seguridad y privacidad mediante el uso de cifrado para los datos en reposo (AES-256) y en tránsito (TLS 1.2+), y el inicio de sesión único Security Assertion Markup Language (SAML) para la autenticación empresarial.
OpenAI también dijo que ha abierto el ancho de banda para que las organizaciones se conecten a GPT-4, el gran modelo de lenguaje (LLM) en el que se basa y entrena ChatGPT. La empresa planea ofrecer un acceso "ilimitado y de mayor velocidad" al LLM, así como entradas y seguimientos de ventanas contextuales de 32k tokens, cuatro veces más largas que las disponibles hasta ahora. (Un token son aproximadamente cuatro caracteres o 0,75 palabras. Como punto de referencia, las obras completas de Shakespeare tienen unas 900 mil palabras o 1,2 millones de tokens, según OpenAI).
"Esto marca otro paso hacia un asistente de IA para el trabajo que ayuda con cualquier tarea, protege los datos de su empresa y está personalizado para su organización", sostuvo OpenAI en una publicación de blog. "Usted posee y controla sus datos empresariales en ChatGPT Enterprise. No nos entrenamos en sus datos de negocio o conversaciones, y nuestros modelos no aprenden de su uso. ChatGPT Enterprise elimina todos los límites de uso y funciona hasta dos veces más rápido".
OpenAI también ofrece una "herramienta de tokenización" a través de la cual los usuarios pueden ver cuántos tokens produce un texto.
La startup con sede en San Francisco también dijo que la versión Enterprise de ChatGPT tiene una nueva consola de administración con gestión masiva de miembros, verificación de dominios y un plug-in de panel de análisis para obtener información sobre el uso, antes conocido como Code Interpreter.
"Esta función permite a los equipos técnicos y no técnicos analizar la información en segundos, ya sea para los investigadores financieros que crujen los datos de mercado, los vendedores que analizan los resultados de las encuestas, o los científicos de datos que depuran un script ETL (ETL significa extraer, transformar y cargar)".
ChatGPT y otros modelos generativos de IA han sido entrenados para comprender el lenguaje natural y el código, y pueden proporcionar salidas de texto en respuesta a las entradas o consultas de los usuarios. Las entradas a los GPT también se denominan "prompts". Los usuarios "programan" un modelo GPT mediante el diseño de instrucciones o ejemplos de cómo llevar a cabo una tarea; este proceso se conoce como ingeniería de instrucciones.
Las GPT se pueden utilizar en una amplia variedad de tareas, como la generación de contenidos o códigos, el resumen, la conversación o la escritura creativa, entre otras.
La mayoría de los LLM, como el GPT-4 de OpenAI, están preentrenados como motores de predicción de próximas palabras o contenidos: así es como los utilizan la mayoría de las empresas. Y aunque los chatbots basados en LLMs han producido su cuota de errores, los LLMs preentrenados funcionan relativamente bien produciendo contenidos en su mayoría precisos y convincentes que, como mínimo, pueden utilizarse como punto de partida para otras tareas.
Sin embargo, muchos sectores requieren LLM más personalizados, que entiendan una jerga específica y produzcan contenidos adaptados a sus usuarios. Los LLM para el sector sanitario, por ejemplo, pueden necesitar procesar e interpretar historiales médicos electrónicos (EHR), sugerir tratamientos o crear un resumen de la atención sanitaria del paciente basado en notas del médico o grabaciones de voz. Un LLM orientado al sector de los servicios financieros puede resumir las llamadas de beneficios, crear transcripciones de reuniones y realizar análisis de fraudes para proteger a los consumidores.
Las organizaciones que deseen utilizar GPT-4 de forma totalmente personalizada, sin el LLM GPT-4 de propósito más general, incluirán ahora créditos gratuitos para utilizar la API de OpenAI con ese fin como parte del precio.
ChatGPT Enterprise ya está disponible; OpenAI no detalló ningún precio, que dependerá de las necesidades de la empresa.
Basado en el artículo de Lucas Mearian (Computerworld) y editado por CIO Perú