Flashcard FC613745
Por que um sistema de IA pode apresentar erros ou informações incorretas?
Sem classificação
FUNDATEC · 2025
Por que um sistema de IA pode apresentar erros ou informações incorretas?
Mostrar resposta e comentário
Resposta
Porque os modelos aprendem padrões estatísticos a partir dos dados de treinamento e incorporam distorções, vieses e erros presentes nesses dados, que podem ser amplificados pelo processo de otimização.• Vieses nos dados: Conjuntos com estereótipos, linguagem discriminatória ou amostras desbalanceadas fazem a IA reproduzir essas falhas de forma sistemática.
• Erros de rotulagem: Rótulos incorretos e informações imprecisas são incorporados ao modelo durante o treinamento e levam a respostas erradas.
• Amplificação por otimização: O processo de ajuste do modelo pode intensificar vieses existentes, produzindo respostas incorretas ou injustas.
• Mitigações: Curadoria e balanceamento dos dados, validação cuidadosa, auditoria e supervisão humana contínua reduzem erros e vieses.
Veja como foi cobrado:
https://flashcardsconcursos.com.br/portal/flashcard/610306
Conteúdo do catálogo FC Concursos · Atualizado em