Likelihood
パラメータ θ が与えられたとき、観測データ Z が生成される確率 Pr(Z|θ)。尤度が高いほど、そのパラメータの値はデータと整合的(もっともらしい)。最大尤度法では尤度を最大化するパラメータを推定する。Bayes推論では尤度×事前分布が事後分布の形を決める。
「尤度 Pr(Z|θ) とはパラメータが θ のときこのデータ Z が観測される確率」
「EMアルゴリズムで対数尤度が単調に増加し収束する」
「尤度とはもしパラメータがこの値だったら観測されたデータはどれくらい起きやすいか」
「尤度関数が左右対称(正規分布型)であることが一致の第三条件」