Questão FC514948
No que se refere a processamento de linguagem natural, árvores de decisão e Python, julgue o item que se segue. Considere que um algoritmo de árvore de decisão utilize entropia com
Inteligência Artificial (IA)
CEBRASPE (CESPE) · 2025
No que se refere a processamento de linguagem natural, árvores de decisão e Python, julgue o item que se segue.
Considere que um algoritmo de árvore de decisão utilize entropia como medida de impureza para realizar as divisões dos dados em diferentes nós da árvore. Considere ainda quea entropia seja máxima quando a distribuição das classes é perfeitamente equilibrada e mínima quando todos os exemplos pertencem a uma única classe. Nesse caso, em uma partição contendo 100 exemplos classificados em três categorias A, B e C, a entropia da partição é maior no cenário em que há 33 exemplos de cada classe do que no cenário em que há 90 exemplos da classe A, 5 da classe B e 5 da classe C, mesmo que o número total de exemplos na partição seja o mesmo em ambos os casos.
Mostrar resposta e comentário
Gabarito
Certo
Comentário do professor
Entropia é uma medida de impureza ou incerteza usada em machine learning para avaliar a mistura de classes. Matematicamente: \(H = -\sum_i p_i\log_2 p_i\), onde \(p_i\) são as proporções de cada classe.
Num cenário com ~33% em cada das três classes ( \(p_i\approx 1/3\) ), a entropia é máxima: \(H \approx -3\cdot\frac{1}{3}\log_2\frac{1}{3}\approx 1{,}585\) bits. Já no cenário 90/5/5% ( \(p_A=0{,}9,p_B=p_C=0{,}05\) ) a entropia cai para cerca de \(H\approx 0{,}569\) bits.
Portanto, com igual número total de exemplos, a partição mais equilibrada produz maior entropia, explicando por que o item foi julgado CERTO.
Conteúdo do catálogo FC Concursos · Atualizado em