解説175 K平均法（scikit-learn実装、EMアルゴリズム） скачать в хорошем качестве

解説175 K平均法（scikit-learn実装、EMアルゴリズム）

Character: 紲星あかり https://github.com/HackerInTokyo/code... K平均法は、教師なし学習の クラスタリング手法です。/ こちらのように、データを３つのかたまりに 分類します。/ この場合は、３つの塊があり、それぞれに星印の重心が計算されています。/ 重心はXとYの平均です。/ K平均法を、サイキットラーンで実装してみます。/ まずはこちらのように、だいたい３つに集まっているデータを生成します。/ プログラムは、こちらでDLできます。/ 概要欄を参照してください。/ コードは、このようになります。/ パラメータの詳細は、サイキットラーンのページを参考にしてください。/ 次に、緑、オレンジ、灰色に分類された３つのグループと、重心を表示します。/ これで完成です。/ K平均法は、プロトタイプ法の１つです。/ ややこしい言い方になりますが、特定の構造を持たないブラックボックスで、/ 標本間の距離の平均と分散のみを利用します。/ サンプリングが適切にされている、つまり、プロトタイプが適切に配置されていれば、/ ある程度の、 複雑な決定境界も識別できます。/ ちなみに、K平均法をハードクラスタリング、混合ガウス分布をソフトクラスタリングと呼びます。/ どちらもEMアルゴリズムに基づいています。/ EMアルゴリズムは、凸関数である対数尤度関数のパラメータの最大値をみつけます。/ EMアルゴリズムは、隠れマルコフモデルや、ロジスティック回帰など、幅広い応用があります。/ こちらは、K平均法での例になります。/ Eステップは、疑似的な確率分布を割り当てる、つまり、データ内の点を、/ いくつかの色で彩色することにあたります。/ こちらの図では、左の青の部分です。/ Mステップは、生成した確率分布が最大となる値を見つけます。/ こちらでは、赤で塗った部分が対応します。/