Xai Aplicada Ao Processamento de Linguagem Natural: Uma Perspectiva do Usuário

O crescente uso da inteligência artificial por não especialistas da área gera questionamentos quanto à confiabilidade, à responsabilização e à compreensão das decisões tomadas por meio desses sistemas. Para lidar essas questões, foram desenvolvidos métodos para explicar a engenharia por trás dos modelos, conhecidos como Inteligência Artificial Explicável (XAI). Embora esses métodos pareçam oferecer uma solução promissora, ainda é necessário compreender se eles funcionam de forma eficaz em aplicações reais. Assim, realizamos um estudo com usuários que demonstrou que, apesar de as explicações serem compreensíveis, ainda permanecem dúvidas que podem ser reduzidas por meio de instruções associadas às visualizações explicativas.