Segundo relatório da McKinsey de 2024, 78% das
organizações entrevistadas afirmam já usar IA em pelo menos
uma função de negócio.
Apesar do entusiasmo, essa inserção de tecnologia
disruptiva implica sérios riscos, como imprecisão dos resultados,
quebra de privacidade e violação de propriedade intelectual.
Esses riscos são tão evidentes que, segundo o mesmo estudo,
cerca de 27% dos entrevistados afirmam que 100% dos
resultados da IA generativa são revisados por humanos antes do
uso. Ainda, o relatório aponta que não há uma propensão a
abordar riscos relacionados à precisão ou explicabilidade dos
resultados da IA.
Ivette Luna. Da predição à compreensão: o papel da explicabilidade na implementação
de IA em políticas públicas. In: Jornal da UNICAMP, 29 de setembro de 2025.
Internet:<jornal.unicamp.br> (com adaptações).
No que se refere a ética, transparência e responsabilidade no uso de IA, julgue o próximo item.
Explicabilidade e interpretabilidade tratam do desafio de entender como os modelos de aprendizado de máquina funcionam, devido especialmente à natureza de “caixa-preta” de muitos modelos, que pode tornar difícil ou impossível a capacidade de explicar uma previsão ou decisão.
