DataAnalytics/데이터사이언스융합학과_ (1) 썸네일형 리스트형 [Data Science Application]Probability Review_information theory(Entropy concepts and cross entropy) what it means? that's the our main goal of this theme. #1. measuring information Shannon's definition of the information obtain o, outcome Si of a probabilistic experiments S: unit of measurement is bit (Binary Infomation uniT) 엔트로피를 더 쉬운 개념으로 풀어보자. 1개의 동전을 던지는 기계가 있다고 하자, H =0.5 T = 0.5의 확률로 수렴할 것이다. -> 결과(H,T) 결정하기위한 이진응답 number of bits는 1이다. 2개의 동전을 던지는 기계가 있다고하자(HH=0.25,HT=0.25,TH=0.25,TT=0... 이전 1 다음