機械学習

この記事では最尤法について解説したあとに, カルバック・ライブラー情報量（Kullback-Leibler divergence）との関係について解説する. また最尤法の応用例として, 線形回帰問題で2乗和誤差を用いる理由について説明する. w

この記事では情報理論の基礎的な用語、特に、自己情報量、シャノンエントロピー（平均情報量）、カルバック・ライブラー情報量（カルバック・ライブラーダイバージェンス、Kullback-Leibler divergence）、交差エントロピー（クロスエントロピー）についてまとめる.

この記事では条件付き確率やベイズの定理について解説します. また病気の検査結果についての例題を紹介します. この例題では, 検査結果が陽性だったときに, 一定の条件のもとで, その結果が正しい確率の求め方を解説します.

この記事では, 行列の特異値分解（SVD：singular value decomposition）の数学的な理論や証明について詳しく解説します。pythonによる計算方法などは, 以下の記事で解説しています. 【svd】特異値分...