물리:정보_엔트로피

Differences

This shows you the differences between two versions of the page.

Link to this comparison view

Next revision
Previous revision
물리:정보_엔트로피 [2022/03/28 00:33] – created yong물리:정보_엔트로피 [2023/09/05 15:46] (current) – external edit 127.0.0.1
Line 6: Line 6:
 \end{equation} \end{equation}
  
-여기서 $\log$는 밑이 2인 로그를 의미한다. $H(X)$가 가질수 있는 양의 범위는 $p_x=[0,1]\,, H(X)=[0,1]$이며, $p_x=0.5$에서 최댓값을 가지, 이를 기준으로 대칭인 함수값을 얻는다.+여기서 $\log$는 밑이 2인 로그를 의미한다. $H(p_x)$가 가질수 있는 양의 범위는 $p_x=[0,1]\,, H(p_x)=[0,1]$이며, $p_x=0.5$에서 최댓값을 가지, 이를 기준으로 대칭인 함수값을 얻는다.
 이 때 $p_x=0$인 경우에서 로그의 정의로 인해 $\log0$에 대해 해석하지 못하는 문제가 있지만, 선형함수가 로그보다 더 빠르게 값이 줄기 때문에 $p_x=0$ 이면 $H(X)=0\log0\simeq0$으로 간주한다. 이 때 $p_x=0$인 경우에서 로그의 정의로 인해 $\log0$에 대해 해석하지 못하는 문제가 있지만, 선형함수가 로그보다 더 빠르게 값이 줄기 때문에 $p_x=0$ 이면 $H(X)=0\log0\simeq0$으로 간주한다.
  
  • 물리/정보_엔트로피.1648395235.txt.gz
  • Last modified: 2023/09/05 15:46
  • (external edit)