Flashcard FC462675
O que é um feedback loop e como ele amplifica o viés?
Inteligência Artificial (IA)
O que é um feedback loop e como ele amplifica o viés?
Mostrar resposta e comentário
Resposta
Feedback loop ocorre quando decisões baseadas no modelo influenciam os dados futuros, reforçando vieses iniciais.1. Uma decisão automatizada altera o comportamento real ou a coleta de dados
2. Esses novos dados são reincorporados ao treinamento do modelo
3. O modelo subsequente intensifica a tendência inicial, criando um ciclo de amplificação
• Exemplo: modelos de policiamento preditivo direcionam mais patrulha a áreas já visadas, gerando mais registros e justificando futuras ações
Como a banca pode cobrar na prova:
• A banca geralmente apresenta um cenário dinâmico e pede para explicar como decisões podem alterar dados futuros, então descreva o ciclo claramente.
• Fique atento porque questões podem pedir a identificação do ponto de intervenção para quebrar o ciclo, como auditoria contínua ou política de ação humana.
• Outro ponto importante é o exemplo prático, que costuma ser cobrado com policiamento e crédito, então tenha exemplos prontos.
• Lembre-se de que medidas de monitoramento e retroalimentação controlada são respostas esperadas em alternativas práticas.
Conteúdo do catálogo FC Concursos · Atualizado em