[17/11/2023] Dell ha dado a conocer una asociación con Hugging Face para ayudarle a desarrollar modelos de IA generativa de código abierto para que los utilicen la infraestructura y los clientes de Dell. A través de esta asociación, Dell proporcionará una solución de IA preempaquetada.
Hugging Face desarrolla herramientas para crear aplicaciones utilizando modelos de aprendizaje automático e inteligencia artificial (IA) de código abierto. Dell dijo que planea utilizar las herramientas de software para crear un portal "Hugging Face Dell" con contenedores dedicados y scripts para inferir y afinar los modelos generativos de IA, según un blog de Dell.
"Las organizaciones pueden ir a Hugging Face y seleccionar un modelo que se ajuste a sus necesidades. Dell proporcionará ajustes para maximizar la compatibilidad y el rendimiento de sus servidores", afirmó Jack Gold, analista principal de J. Gold Associates. "Es básicamente una forma de que Dell mueva más su hardware".
El servicio significa que Dell consultará con un cliente que utilice Hugging Face para elegir el modelo de IA de código abierto que mejor se adapte a sus necesidades. A continuación, Dell toma el modelo, lo optimiza para el servidor Dell PowerEdge y se lo proporciona al cliente como un "contenedor" que puede ejecutar en su servidor on-prem, ya sea uno nuevo que compren a Dell o uno que ya tengan, según Gold.
"La ventaja para el cliente es el tiempo que tarda en obtener la solución, ya que no tiene que construir su propio modelo, lo que podría ser muy costoso y requerir mucho tiempo", afirmó. "...El uso de un modelo de código abierto puede no ser tan preciso como la formación de su propio modelo, pero para algunos usos, lo suficientemente bueno está bien".
Para Dell, la asociación con Hugging Face proporciona una ventaja en la venta de más servidores para cargas de trabajo de IA, que están creciendo para muchas empresas. Dell también indicará a los clientes lo que pueden ejecutar de forma segura on-prem, en lugar de en la nube pública. Adquirir una solución de IA en la nube pública puede ser caro y se corre el riesgo de exponer o perder datos de propiedad.
Shivani Agarwal, consultor senior de Dell Generative AI Solutions, dijo que el servicio debería ayudar a los usuarios a implementar de forma fácil y segura modelos de código abierto disponibles en Hugging Face con servidores Dell y sistemas de almacenamiento de datos.
"Con el tiempo, Hugging Face lanzará contenedores actualizados con modelos optimizados para la infraestructura de Dell, ofreciendo mejoras en el rendimiento y soporte para nuevos casos de uso y modelos GenAI", indicó Agarwal en una publicación de blog. "Esta asociación permite una experiencia de usuario mejorada on-prem, y mejora drásticamente el tiempo de creación de valor para nuestros clientes que construyen soluciones GenAI. Los clientes pueden pasar menos tiempo resolviendo versiones de bibliotecas y controladores e identificando dependencias y pasar más tiempo desarrollando e implementando".
Dell ofrece servicios de expertos y un taller gratuito de medio día sobre la elección de modelos de IA para las empresas.
Basado en el artículo de Lucas Mearian (Computerworld) y editado por CIO Perú