Comunicados

IBM da un gran paso para abrir la caja negra de la inteligencia artificial

Nuevos controles de detección y mitigación de sesgo basados en nube abordan necesidad de mayor transparencia en la toma de decisiones IA
Sep 19, 2018
NYSE - 19 sep 2018: IBM (NYSE: IBM) presentó hoy una tecnología que da a las organizaciones nueva transparencia en inteligencia artificial (IA), permitiéndoles aprovechar más plenamente su potencial.

 

El servicio de software, que detecta automáticamente el sesgo y explica cómo toma decisiones la inteligencia artificial (al mismo tiempo que se toman las decisiones), se ejecuta en la IBM Cloud y colabora con las organizaciones en la gestión de sistemas de IA de una amplia variedad de proveedores de la industria. IBM Services también trabajará con las empresas para ayudarlas a aprovechar el nuevo servicio de software.

 

Además, IBM Research lanzará a la comunidad de código abierto un kit de herramientas de mitigación y detección de prejuicios de inteligencia artificial, que presenta herramientas y educación para alentar la colaboración global en torno al tratamiento del sesgo en IA.

"IBM ha liderado la industria en el establecimiento de principios de confianza y transparencia para el desarrollo de nuevas tecnologías de inteligencia artificial", comentó Beth Smith,

Gerente General de Watson AI en IBM. "Es hora de traducir los principios a la práctica. Brindamos nueva transparencia y control a las empresas que usan IA y enfrentan el mayor riesgo potencial de una toma de decisiones defectuosa".

Estos desarrollos se basan en una nueva investigación del Institute for Business Value de IBM, que revela que mientras que el 82% por ciento de las empresas considera realizar implementaciones de inteligencia artificial, el 60% teme problemas relacionados con la responsabilidad y el 63% carece del talento interno para administrar la tecnología con seguridad.

 

Visibilidad de las decisiones IA

Las nuevas capacidades de confianza y transparencia en la IBM Cloud funcionan con modelos creados a partir de una amplia variedad de entornos de aprendizaje automático y entornos de construcción de inteligencia artificial como Watson, Tensorflow, SparkML, AWS SageMaker y AzureML. Esto significa que las organizaciones pueden aprovechar estos nuevos controles para la mayoría de los marcos de IA más utilizados por las empresas.

El servicio de software también se puede programar para monitorear los factores de decisión únicos de cualquier flujo de trabajo de negocios, lo que permite personalizarlo para el uso específico de la organización.

El servicio de software totalmente automatizado explica la toma de decisiones, detecta el sesgo en los modelos de inteligencia artificial en tiempo de ejecución (a medida que se toman decisiones), y capta los resultados potencialmente injustos a medida que ocurren. Es importante destacar que también recomienda automáticamente datos para agregar al modelo a fin de ayudar a mitigar cualquier sesgo que haya detectado.

Las explicaciones se dan en términos fáciles de entender y se muestran qué factores se ponderaron en la decisión en una dirección frente a otra, la confiabilidad en la recomendación y los factores detrás de dicha confiabilidad. Además, los registros de la precisión, el rendimiento y la equidad del modelo, y el linaje de los sistemas de IA, se rastrean y recuerdan fácilmente por razones de servicio al cliente, normativas o de cumplimiento, como el cumplimiento de la regulación de protección de datos (GDPR).

Se accede a todas estas capacidades a través de tableros visuales, lo que brinda a los usuarios de negocios una capacidad incomparable para comprender, explicar y gestionar decisiones dirigidas por IA y reducir la dependencia de habilidades especializadas de inteligencia artificial.

IBM también está poniendo a disposición nuevos servicios de consultoría para ayudar a las empresas a diseñar procesos de negocios e interfaces humano-IA para minimizar aún más el impacto del sesgo en la toma de decisiones.

 

Empoderar a la comunidad de fuente abierta a construir IA más justa

Además, IBM Research está poniendo a disposición de la comunidad de código abierto el conjunto de herramientas AI Fairness 360: una biblioteca de algoritmos, códigos y tutoriales novedosos que brindarán a los académicos, investigadores y científicos de datos herramientas y conocimientos para integrar la detección de sesgos a medida que construyen e implementan modelos de machine learning. Mientras que otros recursos de código abierto se han centrado únicamente en comprobar el sesgo en los datos de capacitación, el kit de herramientas IBM AI Fairness 360 creado por IBM Research ayudará a verificar y mitigar el sesgo en los modelos de inteligencia artificial. Invita a la comunidad global de código abierto a trabajar en conjunto para avanzar en la ciencia y facilitar el tratamiento del sesgo en AI. Puedes leer más en el siguiente blog.

Estudio revela prioridades y obstáculos para la gran implementación de IA

Según el estudio recién publicado de IBM de 5.000 ejecutivos de alto rango, el informe del IBM Institute for Business Value sobre AI 2018, se está produciendo un cambio significativo en cómo los líderes empresariales observan el potencial de IA para impulsar el valor de negocios y el crecimiento de los ingresos.

Algunos hallazgos clave:

  • El 82% de las empresas y el 93% de las empresas de alto rendimiento están considerando o están avanzando en la adopción de la IA con un enfoque en la generación de ingresos.
  • El 60% teme problemas relacionados con la responsabilidad y el 63% carece de las habilidades para aprovechar el potencial de IA.
  • Los CEO perciben que el mayor valor en la adopción de la IA está en TI, seguridad de la información, innovación, servicio al cliente y gestión de riesgos.
  • La adopción de IA es más alta y es probable que se acelere más rápido en industrias más digitalizadas como los servicios financieros.

 

Acerca de IBM e Inteligencia Artificial

Líder mundial en software, servicios y tecnología de IA para empresas, IBM ha implementado las soluciones Watson AI en millares de proyectos con clientes en 20 industrias y 80 países. Las soluciones Watson AI de IBM son ampliamente utilizadas en industrias, incluidas siete de las 10 mayores compañías automotrices y ocho de las 10 mayores compañías de petróleo y gas.

# # #

 

Contacto(s)

María Fernanda Martínez Domínguez

External Communications maria.fernanda.martinez@ibm.com

Release Categories