[08/08/2023] Tres cuartas partes de las empresas globales están implementando o considerando prohibir ChatGPT y otras aplicaciones de IA generativa en el lugar de trabajo, con riesgos para la seguridad de los datos, la privacidad y la reputación corporativa que impulsan las decisiones de actuar. Según un nuevo estudio de Blackberry, el 61% de las empresas que están implantando o considerando prohibir la IA generativa consideran que se trata de medidas a largo plazo o permanentes. Las conclusiones de Blackberry se basan en una encuesta realizada a dos mil responsables de la toma de decisiones de TI en Norteamérica (EE.UU. y Canadá), Europa (Reino Unido, Francia, Alemania y Países Bajos), Japón y Australia.
Los datos llegan una semana después de la publicación de OWASP Top 10 for LLMs, que detalla los principales retos de seguridad y protección asociados a los grandes modelos de lenguaje (LLM), en los que se basan muchos chatbots de IA generativa. También llega en un momento en que las organizaciones se enfrentan a la realidad de tener que aplicar políticas de seguridad específicas para la IA generativa en medio del crecimiento vertiginoso y la adopción de la tecnología en las empresas. Una cuestión clave en la mente de muchas personas es hasta qué punto la IA generativa está marcando el comienzo de una nueva era de TI en la sombra.
La preocupación por la seguridad impulsa las prohibiciones de la IA generativa
A pesar de que la mayoría de los responsables de la toma de decisiones de TI encuestados reconocen la oportunidad de las aplicaciones de IA generativa en el lugar de trabajo para aumentar la eficiencia (55%) y la innovación (52%), y mejorar la creatividad (51%), el 83% expresó su preocupación de que las aplicaciones de IA generativa no seguras supongan una amenaza de ciberseguridad para su entorno de TI corporativo, inclinándose por prohibiciones completas, según Blackberry. Es más, aunque el 81% de los encuestados está a favor de utilizar herramientas de IA generativa para la defensa de la ciberseguridad con el fin de evitar que los ciberdelincuentes les pillen desprevenidos, el 80% cree que las organizaciones están en su derecho de controlar las aplicaciones que los empleados utilizan con fines empresariales.
Las organizaciones deben adoptar un enfoque cauteloso, pero dinámico, con respecto a las aplicaciones de IA generativa en el lugar de trabajo, señaló Shishir Singh, CTO de ciberseguridad de BlackBerry. "Prohibir las aplicaciones de IA generativa en el lugar de trabajo puede significar la anulación de una gran cantidad de beneficios empresariales potenciales. A medida que las plataformas maduren y la normativa entre en vigor, podría introducirse flexibilidad en las políticas de las organizaciones. La clave estará en contar con las herramientas adecuadas para la visibilidad, supervisión y gestión de las aplicaciones utilizadas en el lugar de trabajo".
Basado en el artículo de Michael Hill (CSO) y editado por CIO Perú