O problema da caixa-preta
A GLACIS (dezembro de 2025) documenta o gap: 85% dos consumidores querem explicações quando IA os afeta, mas 60% dos modelos em produção permanecem inexplicáveis. GDPR (Artigo 22), AI Act (agosto de 2026) e Colorado AI Act (junho de 2026) convergem em requisitos de explicabilidade obrigatória.
O campo XAI se dividiu em quatro trilhos em 2026: explicação post-hoc (LIME, SHAP — relevantes mas insuficientes para LLMs de fronteira); interpretabilidade mecanística (engenharia reversa das computações internas — o desenvolvimento de transparência mais importante para modelos de fronteira); modelagem intrínseca baseada em conceitos (interpretável por design); e explicação centrada no humano (focada em se as explicações são realmente úteis e acionáveis).
Modos de falha de LLMs: alucinação factual (modelos geram informações plausíveis mas incorretas com confiança similar às corretas); dependência de formato (a mesma informação em formatos diferentes produz outputs diferentes); viés de treinamento (modelos reproduzem padrões dos dados incluindo vieses históricos); falha em raciocínio causal (LLMs excedem em correlações estatísticas mas falham em raciocínio causal além dos padrões de treinamento).
A UST (abril de 2026) articula a mudança mais importante: explicabilidade está evoluindo de uma feature de modelo isolada para uma capacidade de ponta a ponta de empresa — combinando medição, intervenção, proveniência e governança. Organizações que operacionalizam isso agora terão estratégias de IA mais resilientes.
