Acerca dos conceitos de mineração de dados, aprendizado de máquina e bigdata, julgue o próximo item. Entropia da informação é uma medida de certeza de que o intervalo contém um par

Gabarito

Errado

Comentário do professor

Comentário:  A entropia, segundo a Teoria da Informação, é uma forma de medir o grau médio de incerteza sobre as fontes de informação, permitindo a quantificação da informação presente que flui no sistema.

Em termos simples, quanto mais incerta for a ocorrência de um evento (maior aleatoriedade), maior será a entropia. Por outro lado, se o resultado é mais previsível (menor incerteza), a entropia será menor.

A entropia da informação, conforme introduzida por Claude Shannon na Teoria da Informação, é usada para medir a incerteza ou desordem em um sistema. Em aprendizado de máquina, por exemplo, a entropia é usada em algoritmos como árvores de decisão (ex.: ID3, C4.5) para determinar a impureza de um conjunto de dados.

A "certeza de que o intervalo contém um parâmetro da população" está mais relacionada a conceitos estatísticos, como intervalos de confiança, que medem a probabilidade de um parâmetro populacional estar dentro de um intervalo estimado.

A entropia da informação não mede "certeza", mas sim incerteza ou desordem. A questão inverte o conceito ao associar entropia a "certeza".

Além disso, a ideia de "intervalo que contém um parâmetro da população" pertence ao campo da inferência estatística (ex.: intervalos de confiança), não à entropia da informação.

Padrão mental de Erro Identificado, na questão:
Este erro se encaixa no padrão mental previamente identificado: "Confusão de Conceitos". A questão confunde entropia da informação (medida de incerteza) com intervalos de confiança (medida de certeza estatística).