Correlation의 한계와 Mutual Infromation의 도입
https://process-mining.tistory.com/141
Mutual Information이란? (상호의존정보란?, Normalized Mutual Information, Maximal Information Coefficient)
어떤 random variable들 X, Y가 있을 때, 우리는 이들이 어떤 관계인지를 궁금해 할 수 있다. 이를 위해 우리는 각 random variable들의 확률 분포가 주어져 있다면 KL divergence를 활용해 이들이 얼마나 비
process-mining.tistory.com
'정보이론' 카테고리의 다른 글
[정보이론] Convex vs Strictly Convex (0) | 2022.04.17 |
---|---|
[정보이론] Jensen's inequality 그래프로 설명 (0) | 2022.03.23 |
[정보이론] KL divergence란 (0) | 2022.03.21 |