A caixa-preta da IA aparece quando um sistema produz respostas, previsões ou classificações úteis, mas seu caminho interno é difícil de explicar. O problema cresce quando essa opacidade atinge usuários, instituições e até desenvolvedores. A questão deixa de ser apenas técnica: quem responde, como responde e com base em que explicação?
