Muchas plataformas informáticas tienen un sistema de recomendación. Por ejemplo, YouTube recomienda nuevos videos, Instagram propone nuevos perfiles para seguir y Spotify sugiere nuevas canciones. Todo eso es gracias a la inteligencia artificial.
Que una inteligencia artificial sea explicable (XIA) significa que se conoce cómo y por qué el algoritmo toma las decisiones o realiza las predicciones y que se tiene la capacidad de justificar los resultados que produce. Contrasta con el concepto de la «caja negra» en aprendizaje automático, en el que sus diseñadores no pueden explicar por qué la ia llegó a una decisión concreta.
Los sistemas de inteligencia artificial (IA) también aprenden trucos indeseables, que no reflejan los deseos de los diseñadores. Por ejemplo, un sistema de 2017, encargado del reconocimiento de imágenes, aprendió a «hacer trampas», al buscar una etiqueta de Copyright que estaba asociada con imágenes de caballos, en lugar de aprender a identificar si un caballo fue realmente fotografiado. En otro sistema de 2017, una ia de aprendizaje supervisado, encargada de captar los elementos en un mundo virtual, aprendió a «hacer trampas», al colocar su manipulador entre el objeto y el espectador, de tal manera que parecía falsamente estar captando el objeto.
Existen dos tipos de explicaciones: las globales y las locales. Las primeras sirven para describir el comportamiento del algoritmo en general. En el caso de una plataforma de streaming como Netflix, su motor de recomendaciones no propondrá una película muy larga justo antes de la hora de dormir. En el caso de las explicaciones locales se usan para explicar el comportamiento del algoritmo, en ocasiones más concretas y personalizadas. En ese caso se tendrá en cuenta el perfil individual de cada usuario, en el que puede haber variaciones frente a las recomendaciones globales.
COMENTAR
Responder comentario