Flashcard FC689449
Por que o autor recomenda margens de segurança, redundância e overbuilding para LLMs?
Interpretação de Textos (Understanding)
FGV · 2025
Por que o autor recomenda margens de segurança, redundância e overbuilding para LLMs?
Mostrar resposta e comentário
Resposta
Porque LLMs têm um problema de segurança inerente e são probabilísticos, de modo que não é possível eliminar totalmente o risco, exigindo limites, redundância e maior margem de segurança.
• LLMs: não separam código de dados, são suscetíveis a prompt injection e não conseguem eliminar o risco por completo.
• Engenharia vitoriana: compensava a incerteza dos materiais com overbuilding e redundância, resultando em obras duradouras.
• Determinismo: software convencional é determinístico e trata falhas como erros a corrigir, enquanto LLMs são probabilísticos e requerem abordagens que lidem com aleatoriedade.
Veja como foi cobrado:
https://flashcardsconcursos.com.br/portal/flashcard/689025
Conteúdo do catálogo FC Concursos · Atualizado em