Flashcard FC462580
Quem responde quando um algoritmo nega crédito?
Inteligência Artificial (IA)
Quem responde quando um algoritmo nega crédito?
Mostrar resposta e comentário
Resposta
• O responsável humano pela decisão deve ser identificado, podendo ser o fornecedor do algoritmo, a instituição que o implementou ou o gestor do processo de decisão.• Deve existir um processo de revisão acessível ao interessado, com possibilidade de reanálise humana e correção de erros de dados ou modelo.
1. Identificar o responsável pela operação do sistema;
2. Disponibilizar revisão humana e justificativa técnica;
Como a banca pode cobrar na prova:
• A banca geralmente cobra casos práticos sobre negação de crédito por algoritmo, cobrando identificação de responsáveis e medidas de remediação.
• Fique atento porque a alternativa "a culpa é do algoritmo" costuma ser trapaceira, então procure a entidade que operou ou decidiu com base no sistema.
• Outro ponto importante são os direitos do consumidor, que frequentemente aparecem em questões sobre revisão e transparência de decisões automatizadas.
• Lembre-se de que a existência de revisão humana é exigência comum; alternativas que afirmam inexistência de revisão tendem a ser incorretas.
Conteúdo do catálogo FC Concursos · Atualizado em