Llegamos a ustedes gracias a:



Noticias

IBM da importante paso en la apertura de la caja negra de la IA

[27/09/2018] IBM introdujo tecnología que brinda a las empresas una nueva transparencia en la IA, lo que les permite aprovechar su poder al máximo.

El servicio de software, que detecta automáticamente los sesgos y explica cómo toma decisiones la IA -a medida que se toman las decisiones-, se ejecuta en IBM Cloud y ayuda a las organizaciones a administrar sistemas de IA de una amplia variedad de actores de la industria. IBM Services también trabajará con las empresas para ayudarlas a aprovechar el nuevo servicio de software.

Además, IBM Research lanzará a la comunidad de código abierto un kit de herramientas de mitigación y detección de sesgos en la IA, presentando herramientas y capacitación para alentar la colaboración global en torno al tratamiento de los sesgos en la IA.

"IBM lideró la industria en el establecimiento de los principios de Confianza y Transparencia para el desarrollo de nuevas tecnologías de IA, afirmó Beth Smith, gerente general de Watson AI en IBM. "Es hora de traducir los principios en prácticas. Brindamos nueva transparencia y control a las empresas que usan la IA y enfrentan el mayor riesgo potencial de cualquier toma de decisiones defectuosa.

La ejecutiva añadió que las nuevas capacidades de Confianza y Transparencia de IBM Cloud funcionan con modelos creados a partir de una gran variedad de frameworks de aprendizaje automático y ambientes con IA incorporada como Watson, TensorFlow, SparkML, AWS SageMaker y AzureML. Esto significa que las organizaciones pueden aprovechar estos nuevos controles para la mayoría de los frameworks de AI más utilizados por las empresas.

"El servicio de software también se puede programar para monitorear los factores de decisión únicos de cualquier flujo de trabajo empresarial, lo que permite personalizarlo para el uso específico de la organización, indicó Smith.

Anoto, asimismo, que el servicio de software completamente automatizado explica la toma de decisiones y detecta sesgos en los modelos de inteligencia artificial en el tiempo de ejecución, a medida que se toman decisiones, capturando resultados potencialmente injustos a medida que ocurren. Cabe la pena recalcar que también recomienda automáticamente qué datos agregar al modelo para ayudar a mitigar cualquier sesgo que se ha detectado.

Las explicaciones se proporcionan en términos fáciles de entender, mostrando qué factores ponderaron la decisión en una dirección frente a la otra, la confianza en la recomendación y los factores detrás de esa confianza. Además, los registros de la precisión, desempeño y equidad del modelo, y el linaje de los sistemas de IA, se rastrean y recuerdan fácilmente para el servicio al cliente, las normativas o el cumplimiento normativo, como el cumplimiento del GDPR.

"Se accede a todas estas capacidades a través de paneles visuales, lo que brinda a los usuarios de negocios una capacidad incomparable para comprender, explicar y gestionar las decisiones dirigidas por la IA y reducir la dependencia en las habilidades especializadas en IA, señaló Smith.

IBM también está proporcionando nuevos servicios de consultoría para ayudar a las empresas a diseñar procesos de negocios e interfaces entre los humanos y la IA para minimizar aún más el impacto del sesgo en la toma de decisiones.