a falta de explicabilidade dos modelos de IA e machine learning impede que os profissionais de saúde compreendam as decisões tomadas por eles, o que pode levar a erros médicos.

a utilização de IA e machine learning na saúde pode levar à discriminação de grupos minoritários, como mulheres e pessoas com deficiência, se os dados utilizados para treinar os modelos forem enviesados.

a falta de transparência nos algoritmos de machine learning pode dificultar a compreensão das decisões clínicas tomadas pelas máquinas, comprometendo a autonomia do paciente e a relação médico-paciente.

a privacidade e segurança dos dados dos pacientes não são um problema importante no uso de IA e machine learning na saúde, pois sempre são utilizados dados anonimizados previamente.

modelos de IA podem ser enviesados se os dados utilizados para treinamento forem desbalanceados, o que pode levar à discriminação de grupos específicos de pacientes, como minorias étnicas ou pessoas com doenças raras.