0
・7 min read
数行のコードで機械学習ができる PyCaret のチュートリアルを試してみた クラスタリング
前回の記事に引き続き、 PyCaret のチュートリアルを試してみたいと思います。
今回はクラスタリング(Clustering Tutorial (CLU101) - Level Beginner)に沿って試してみたいと思います。
PyCaret とは
PyCaret is an open-source, low-code machine learning library in Python that automates machine learning workflows.
と公式に記載あるように、わずかなコード量で実装できる Python の機械学習のライブラリです。
クラスタリングのチュートリアル
クラスタリングとは
クラスタリングは、データ間の類似度に基づいてグループ分けしていく手法です。
以下のような使い方があるらしいです。
- 購入履歴や興味に基づく顧客セグメンテーションを行い、ターゲットを絞ったマーケティングキャンペーンを設計する。
- タグ、トピック、ドキュメントのコンテンツに基づいてドキュメントを複数のカテゴリにクラスタリングする。
- 社会科学や生命科学の実験結果を分析し、データから自然なグループ分けやパターンを見出す。
今回のチュートリアルは3つ目のケースに該当すると思います。
それでは、チュートリアルに沿って進めていきたいと思います。
Magicode 上で進めますが、 一部のグラフ表示ができない(plolty が magicode で動作する方法がわからない)ので、手元で試す場合には、 colab など別の環境での実施をおすすめします。
PyCaret のインストール
Collecting pycaret
Downloading pycaret-2.3.10-py3-none-any.whl (320 kB)
[?25l
|█ | 10 kB 15.3 MB/s eta 0:00:01
|██ | 20 kB 16.4 MB/s eta 0:00:01
|███ | 30 kB 15.7 MB/s eta 0:00:01
|████ | 40 kB 10.5 MB/s eta 0:00:01
|█████▏ | 51 kB 6.4 MB/s eta 0:00:01
|██████▏ | 61 kB 7.4 MB/s eta 0:00:01
|███████▏ | 71 kB 7.3 MB/s eta 0:00:01
|████████▏ | 81 kB 7.3 MB/s eta 0:00:01
|█████████▏ | 92 kB 8.1 MB/s eta 0:00:01
|██████████▎ | 102 kB 8.3 MB/s eta 0:00:01
|███████████▎ | 112 kB 8.3 MB/s eta 0:00:01
|████████████▎ | 122 kB 8.3 MB/s eta 0:00:01
|█████████████▎ | 133 kB 8.3 MB/s eta 0:00:01
|██████████████▎ | 143 kB 8.3 MB/s eta 0:00:01
|███████████████▍ | 153 kB 8.3 MB/s eta 0:00:01
|████████████████▍ | 163 kB 8.3 MB/s eta 0:00:01
|█████████████████▍ | 174 kB 8.3 MB/s eta 0:00:01
|██████████████████▍ | 184 kB 8.3 MB/s eta 0:00:01
|███████████████████▍ | 194 kB 8.3 MB/s eta 0:00:01
|████████████████████▌ | 204 kB 8.3 MB/s eta 0:00:01
|█████████████████████▌ | 215 kB 8.3 MB/s eta 0:00:01
|██████████████████████▌ | 225 kB 8.3 MB/s eta 0:00:01
|███████████████████████▌ | 235 kB 8.3 MB/s eta 0:00:01
|████████████████████████▋ | 245 kB 8.3 MB/s eta 0:00:01
|█████████████████████████▋ | 256 kB 8.3 MB/s eta 0:00:01
|██████████████████████████▋ | 266 kB 8.3 MB/s eta 0:00:01
|███████████████████████████▋ | 276 kB 8.3 MB/s eta 0:00:01
|████████████████████████████▋ | 286 kB 8.3 MB/s eta 0:00:01
|█████████████████████████████▊ | 296 kB 8.3 MB/s eta 0:00:01
|██████████████████████████████▊ | 307 kB 8.3 MB/s eta 0:00:01
|███████████████████████████████▊| 317 kB 8.3 MB/s eta 0:00:01
|████████████████████████████████| 320 kB 8.3 MB/s
[?25h
Requirement already satisfied: seaborn in /srv/conda/envs/notebook/lib/python3.7/site-packages (from pycaret) (0.11.2)
Collecting Boruta
Downloading Boruta-0.3-py3-none-any.whl (56 kB)
[?25l
|█████▉ | 10 kB 30.1 MB/s eta 0:00:01
|███████████▋ | 20 kB 39.4 MB/s eta 0:00:01
|█████████████████▍ | 30 kB 50.0 MB/s eta 0:00:01
|███████████████████████▏ | 40 kB 57.5 MB/s eta 0:00:01
|█████████████████████████████ | 51 kB 63.0 MB/s eta 0:00:01
|████████████████████████████████| 56 kB 14.9 MB/s
[?25hRequirement already satisfied: pandas in /srv/conda/envs/notebook/lib/python3.7/site-packages (from pycaret) (1.1.5)
Collecting pyod
Downloading pyod-1.0.0.tar.gz (118 kB)
[?25l
|██▊ | 10 kB 30.1 MB/s eta 0:00:01
|█████▌ | 20 kB 37.7 MB/s eta 0:00:01
|████████▎ | 30 kB 45.2 MB/s eta 0:00:01
|███████████ | 40 kB 51.7 MB/s eta 0:00:01
|█████████████▉ | 51 kB 55.5 MB/s eta 0:00:01
|████████████████▌ | 61 kB 61.1 MB/s eta 0:00:01
|███████████████████▎ | 71 kB 63.7 MB/s eta 0:00:01
|██████████████████████ | 81 kB 65.7 MB/s eta 0:00:01
|████████████████████████▉ | 92 kB 69.4 MB/s eta 0:00:01
|███████████████████████████▋ | 102 kB 69.7 MB/s eta 0:00:01
|██████████████████████████████▍ | 112 kB 69.7 MB/s eta 0:00:01
|████████████████████████████████| 118 kB 69.7 MB/s
[?25h Preparing metadata (setup.py) ... [?25l
-
done
[?25h
Collecting imbalanced-learn==0.7.0
Downloading imbalanced_learn-0.7.0-py3-none-any.whl (167 kB)
[?25l
|██ | 10 kB 33.1 MB/s eta 0:00:01
|████ | 20 kB 39.6 MB/s eta 0:00:01
|█████▉ | 30 kB 49.6 MB/s eta 0:00:01
|███████▉ | 40 kB 56.5 MB/s eta 0:00:01
|█████████▉ | 51 kB 61.5 MB/s eta 0:00:01
|███████████▊ | 61 kB 67.4 MB/s eta 0:00:01
|█████████████▊ | 71 kB 71.0 MB/s eta 0:00:01
|███████████████▊ | 81 kB 71.0 MB/s eta 0:00:01
|█████████████████▋ | 92 kB 74.3 MB/s eta 0:00:01
|███████████████████▋ | 102 kB 66.6 MB/s eta 0:00:01
|█████████████████████▋ | 112 kB 66.6 MB/s eta 0:00:01
|███████████████████████▌ | 122 kB 66.6 MB/s eta 0:00:01
|█████████████████████████▌ | 133 kB 66.6 MB/s eta 0:00:01
|███████████████████████████▌ | 143 kB 66.6 MB/s eta 0:00:01
|█████████████████████████████▍ | 153 kB 66.6 MB/s eta 0:00:01
|███████████████████████████████▍| 163 kB 66.6 MB/s eta 0:00:01
|████████████████████████████████| 167 kB 66.6 MB/s
[?25h
Collecting pyyaml<6.0.0
Downloading PyYAML-5.4.1-cp37-cp37m-manylinux1_x86_64.whl (636 kB)
[?25l
|▌ | 10 kB 26.8 MB/s eta 0:00:01
|█ | 20 kB 33.0 MB/s eta 0:00:01
|█▌ | 30 kB 38.3 MB/s eta 0:00:01
|██ | 40 kB 41.3 MB/s eta 0:00:01
|██▋ | 51 kB 44.3 MB/s eta 0:00:01
|███ | 61 kB 48.7 MB/s eta 0:00:01
|███▋ | 71 kB 52.0 MB/s eta 0:00:01
|████▏ | 81 kB 54.7 MB/s eta 0:00:01
|████▋ | 92 kB 57.3 MB/s eta 0:00:01
|█████▏ | 102 kB 59.6 MB/s eta 0:00:01
|█████▋ | 112 kB 59.6 MB/s eta 0:00:01
|██████▏ | 122 kB 59.6 MB/s eta 0:00:01
|██████▊ | 133 kB 59.6 MB/s eta 0:00:01
|███████▏ | 143 kB 59.6 MB/s eta 0:00:01
|███████▊ | 153 kB 59.6 MB/s eta 0:00:01
|████████▎ | 163 kB 59.6 MB/s eta 0:00:01
|████████▊ | 174 kB 59.6 MB/s eta 0:00:01
|█████████▎ | 184 kB 59.6 MB/s eta 0:00:01
|█████████▉ | 194 kB 59.6 MB/s eta 0:00:01
|██████████▎ | 204 kB 59.6 MB/s eta 0:00:01
|██████████▉ | 215 kB 59.6 MB/s eta 0:00:01
|███████████▎ | 225 kB 59.6 MB/s eta 0:00:01
|███████████▉ | 235 kB 59.6 MB/s eta 0:00:01
|████████████▍ | 245 kB 59.6 MB/s eta 0:00:01
|████████████▉ | 256 kB 59.6 MB/s eta 0:00:01
|█████████████▍ | 266 kB 59.6 MB/s eta 0:00:01
|██████████████ | 276 kB 59.6 MB/s eta 0:00:01
|██████████████▍ | 286 kB 59.6 MB/s eta 0:00:01
|███████████████ | 296 kB 59.6 MB/s eta 0:00:01
|███████████████▍ | 307 kB 59.6 MB/s eta 0:00:01
|████████████████ | 317 kB 59.6 MB/s eta 0:00:01
|████████████████▌ | 327 kB 59.6 MB/s eta 0:00:01
|█████████████████ | 337 kB 59.6 MB/s eta 0:00:01
|█████████████████▌ | 348 kB 59.6 MB/s eta 0:00:01
|██████████████████ | 358 kB 59.6 MB/s eta 0:00:01
|██████████████████▌ | 368 kB 59.6 MB/s eta 0:00:01
|███████████████████ | 378 kB 59.6 MB/s eta 0:00:01
|███████████████████▋ | 389 kB 59.6 MB/s eta 0:00:01
|████████████████████ | 399 kB 59.6 MB/s eta 0:00:01
|████████████████████▋ | 409 kB 59.6 MB/s eta 0:00:01
|█████████████████████ | 419 kB 59.6 MB/s eta 0:00:01
|█████████████████████▋ | 430 kB 59.6 MB/s eta 0:00:01
|██████████████████████▏ | 440 kB 59.6 MB/s eta 0:00:01
|██████████████████████▋ | 450 kB 59.6 MB/s eta 0:00:01
|███████████████████████▏ | 460 kB 59.6 MB/s eta 0:00:01
|███████████████████████▊ | 471 kB 59.6 MB/s eta 0:00:01
|████████████████████████▏ | 481 kB 59.6 MB/s eta 0:00:01
|████████████████████████▊ | 491 kB 59.6 MB/s eta 0:00:01
|█████████████████████████▏ | 501 kB 59.6 MB/s eta 0:00:01
|█████████████████████████▊ | 512 kB 59.6 MB/s eta 0:00:01
|██████████████████████████▎ | 522 kB 59.6 MB/s eta 0:00:01
|██████████████████████████▊ | 532 kB 59.6 MB/s eta 0:00:01
|███████████████████████████▎ | 542 kB 59.6 MB/s eta 0:00:01
|███████████████████████████▉ | 552 kB 59.6 MB/s eta 0:00:01
|████████████████████████████▎ | 563 kB 59.6 MB/s eta 0:00:01
|████████████████████████████▉ | 573 kB 59.6 MB/s eta 0:00:01
|█████████████████████████████▍ | 583 kB 59.6 MB/s eta 0:00:01
|█████████████████████████████▉ | 593 kB 59.6 MB/s eta 0:00:01
|██████████████████████████████▍ | 604 kB 59.6 MB/s eta 0:00:01
|██████████████████████████████▉ | 614 kB 59.6 MB/s eta 0:00:01
|███████████████████████████████▍| 624 kB 59.6 MB/s eta 0:00:01
|████████████████████████████████| 634 kB 59.6 MB/s eta 0:00:01
|████████████████████████████████| 636 kB 59.6 MB/s
[?25hRequirement already satisfied: IPython in /srv/conda/envs/notebook/lib/python3.7/site-packages (from pycaret) (7.31.1)
Collecting mlflow
Downloading mlflow-1.25.1-py3-none-any.whl (16.8 MB)
[?25l
| | 10 kB 36.2 MB/s eta 0:00:01
| | 20 kB 45.9 MB/s eta 0:00:01
| | 30 kB 56.7 MB/s eta 0:00:01
| | 40 kB 64.3 MB/s eta 0:00:01
| | 51 kB 69.7 MB/s eta 0:00:01
|▏ | 61 kB 75.8 MB/s eta 0:00:01
|▏ | 71 kB 66.9 MB/s eta 0:00:01
|▏ | 81 kB 70.9 MB/s eta 0:00:01
|▏ | 92 kB 63.3 MB/s eta 0:00:01
|▏ | 102 kB 56.0 MB/s eta 0:00:01
|▏ | 112 kB 56.0 MB/s eta 0:00:01
|▎ | 122 kB 56.0 MB/s eta 0:00:01
|▎ | 133 kB 56.0 MB/s eta 0:00:01
|▎ | 143 kB 56.0 MB/s eta 0:00:01
|▎ | 153 kB 56.0 MB/s eta 0:00:01
|▎ | 163 kB 56.0 MB/s eta 0:00:01
|▎ | 174 kB 56.0 MB/s eta 0:00:01
|▍ | 184 kB 56.0 MB/s eta 0:00:01
|▍ | 194 kB 56.0 MB/s eta 0:00:01
|▍ | 204 kB 56.0 MB/s eta 0:00:01
|▍ | 215 kB 56.0 MB/s eta 0:00:01
|▍ | 225 kB 56.0 MB/s eta 0:00:01
|▌ | 235 kB 56.0 MB/s eta 0:00:01
|▌ | 245 kB 56.0 MB/s eta 0:00:01
|▌ | 256 kB 56.0 MB/s eta 0:00:01
|▌ | 266 kB 56.0 MB/s eta 0:00:01
|▌ | 276 kB 56.0 MB/s eta 0:00:01
|▌ | 286 kB 56.0 MB/s eta 0:00:01
|▋ | 296 kB 56.0 MB/s eta 0:00:01
|▋ | 307 kB 56.0 MB/s eta 0:00:01
|▋ | 317 kB 56.0 MB/s eta 0:00:01
|▋ | 327 kB 56.0 MB/s eta 0:00:01
|▋ | 337 kB 56.0 MB/s eta 0:00:01
|▋ | 348 kB 56.0 MB/s eta 0:00:01
|▊ | 358 kB 56.0 MB/s eta 0:00:01
|▊ | 368 kB 56.0 MB/s eta 0:00:01
|▊ | 378 kB 56.0 MB/s eta 0:00:01
|▊ | 389 kB 56.0 MB/s eta 0:00:01
|▊ | 399 kB 56.0 MB/s eta 0:00:01
|▉ | 409 kB 56.0 MB/s eta 0:00:01
|▉ | 419 kB 56.0 MB/s eta 0:00:01
|▉ | 430 kB 56.0 MB/s eta 0:00:01
|▉ | 440 kB 56.0 MB/s eta 0:00:01
|▉ | 450 kB 56.0 MB/s eta 0:00:01
|▉ | 460 kB 56.0 MB/s eta 0:00:01
|█ | 471 kB 56.0 MB/s eta 0:00:01
|█ | 481 kB 56.0 MB/s eta 0:00:01
|█ | 491 kB 56.0 MB/s eta 0:00:01
|█ | 501 kB 56.0 MB/s eta 0:00:01
|█ | 512 kB 56.0 MB/s eta 0:00:01
|█ | 522 kB 56.0 MB/s eta 0:00:01
|█ | 532 kB 56.0 MB/s eta 0:00:01
|█ | 542 kB 56.0 MB/s eta 0:00:01
|█ | 552 kB 56.0 MB/s eta 0:00:01
|█ | 563 kB 56.0 MB/s eta 0:00:01
|█ | 573 kB 56.0 MB/s eta 0:00:01
|█▏ | 583 kB 56.0 MB/s eta 0:00:01
|█▏ | 593 kB 56.0 MB/s eta 0:00:01
|█▏ | 604 kB 56.0 MB/s eta 0:00:01
|█▏ | 614 kB 56.0 MB/s eta 0:00:01
|█▏ | 624 kB 56.0 MB/s eta 0:00:01
|█▏ | 634 kB 56.0 MB/s eta 0:00:01
|█▎ | 645 kB 56.0 MB/s eta 0:00:01
|█▎ | 655 kB 56.0 MB/s eta 0:00:01
|█▎ | 665 kB 56.0 MB/s eta 0:00:01
|█▎ | 675 kB 56.0 MB/s eta 0:00:01
|█▎ | 686 kB 56.0 MB/s eta 0:00:01
|█▎ | 696 kB 56.0 MB/s eta 0:00:01
|█▍ | 706 kB 56.0 MB/s eta 0:00:01
|█▍ | 716 kB 56.0 MB/s eta 0:00:01
|█▍ | 727 kB 56.0 MB/s eta 0:00:01
|█▍ | 737 kB 56.0 MB/s eta 0:00:01
|█▍ | 747 kB 56.0 MB/s eta 0:00:01
|█▌ | 757 kB 56.0 MB/s eta 0:00:01
|█▌ | 768 kB 56.0 MB/s eta 0:00:01
|█▌ | 778 kB 56.0 MB/s eta 0:00:01
|█▌ | 788 kB 56.0 MB/s eta 0:00:01
|█▌ | 798 kB 56.0 MB/s eta 0:00:01
|█▌ | 808 kB 56.0 MB/s eta 0:00:01
|█▋ | 819 kB 56.0 MB/s eta 0:00:01
|█▋ | 829 kB 56.0 MB/s eta 0:00:01
|█▋ | 839 kB 56.0 MB/s eta 0:00:01
|█▋ | 849 kB 56.0 MB/s eta 0:00:01
|█▋ | 860 kB 56.0 MB/s eta 0:00:01
|█▋ | 870 kB 56.0 MB/s eta 0:00:01
|█▊ | 880 kB 56.0 MB/s eta 0:00:01
|█▊ | 890 kB 56.0 MB/s eta 0:00:01
|█▊ | 901 kB 56.0 MB/s eta 0:00:01
|█▊ | 911 kB 56.0 MB/s eta 0:00:01
|█▊ | 921 kB 56.0 MB/s eta 0:00:01
|█▉ | 931 kB 56.0 MB/s eta 0:00:01
|█▉ | 942 kB 56.0 MB/s eta 0:00:01
|█▉ | 952 kB 56.0 MB/s eta 0:00:01
|█▉ | 962 kB 56.0 MB/s eta 0:00:01
|█▉ | 972 kB 56.0 MB/s eta 0:00:01
|█▉ | 983 kB 56.0 MB/s eta 0:00:01
|██ | 993 kB 56.0 MB/s eta 0:00:01
|██ | 1.0 MB 56.0 MB/s eta 0:00:01
|██ | 1.0 MB 56.0 MB/s eta 0:00:01
|██ | 1.0 MB 56.0 MB/s eta 0:00:01
|██ | 1.0 MB 56.0 MB/s eta 0:00:01
|██ | 1.0 MB 56.0 MB/s eta 0:00:01
|██ | 1.1 MB 56.0 MB/s eta 0:00:01
|██ | 1.1 MB 56.0 MB/s eta 0:00:01
|██ | 1.1 MB 56.0 MB/s eta 0:00:01
|██ | 1.1 MB 56.0 MB/s eta 0:00:01
|██ | 1.1 MB 56.0 MB/s eta 0:00:01
|██▏ | 1.1 MB 56.0 MB/s eta 0:00:01
|██▏ | 1.1 MB 56.0 MB/s eta 0:00:01
|██▏ | 1.1 MB 56.0 MB/s eta 0:00:01
|██▏ | 1.1 MB 56.0 MB/s eta 0:00:01
|██▏ | 1.1 MB 56.0 MB/s eta 0:00:01
|██▏ | 1.2 MB 56.0 MB/s eta 0:00:01
|██▎ | 1.2 MB 56.0 MB/s eta 0:00:01
|██▎ | 1.2 MB 56.0 MB/s eta 0:00:01
|██▎ | 1.2 MB 56.0 MB/s eta 0:00:01
|██▎ | 1.2 MB 56.0 MB/s eta 0:00:01
|██▎ | 1.2 MB 56.0 MB/s eta 0:00:01
|██▎ | 1.2 MB 56.0 MB/s eta 0:00:01
|██▍ | 1.2 MB 56.0 MB/s eta 0:00:01
|██▍ | 1.2 MB 56.0 MB/s eta 0:00:01
|██▍ | 1.2 MB 56.0 MB/s eta 0:00:01
|██▍ | 1.3 MB 56.0 MB/s eta 0:00:01
|██▍ | 1.3 MB 56.0 MB/s eta 0:00:01
|██▌ | 1.3 MB 56.0 MB/s eta 0:00:01
|██▌ | 1.3 MB 56.0 MB/s eta 0:00:01
|██▌ | 1.3 MB 56.0 MB/s eta 0:00:01
|██▌ | 1.3 MB 56.0 MB/s eta 0:00:01
|██▌ | 1.3 MB 56.0 MB/s eta 0:00:01
|██▌ | 1.3 MB 56.0 MB/s eta 0:00:01
|██▋ | 1.3 MB 56.0 MB/s eta 0:00:01
|██▋ | 1.4 MB 56.0 MB/s eta 0:00:01
|██▋ | 1.4 MB 56.0 MB/s eta 0:00:01
|██▋ | 1.4 MB 56.0 MB/s eta 0:00:01
|██▋ | 1.4 MB 56.0 MB/s eta 0:00:01
|██▋ | 1.4 MB 56.0 MB/s eta 0:00:01
|██▊ | 1.4 MB 56.0 MB/s eta 0:00:01
|██▊ | 1.4 MB 56.0 MB/s eta 0:00:01
|██▊ | 1.4 MB 56.0 MB/s eta 0:00:01
|██▊ | 1.4 MB 56.0 MB/s eta 0:00:01
|██▊ | 1.4 MB 56.0 MB/s eta 0:00:01
|██▊ | 1.5 MB 56.0 MB/s eta 0:00:01
|██▉ | 1.5 MB 56.0 MB/s eta 0:00:01
|██▉ | 1.5 MB 56.0 MB/s eta 0:00:01
|██▉ | 1.5 MB 56.0 MB/s eta 0:00:01
|██▉ | 1.5 MB 56.0 MB/s eta 0:00:01
|██▉ | 1.5 MB 56.0 MB/s
too many strings
colab では、以下の様にインストールしました。
後続の from pycaret.classification import * の部分でエラーが発生してしまったので、 stack overflowの記事を参考にしました。
一応 Colab mode を有効にします。
Colab mode enabled.
データの取得
PyCaret で取得できる Mice Protein Expression というデータを使っていきます。
ざっくりとした理解ですが、マウスのクラスタリングです。
(普通/ダウン症) x (学習刺激あり/無し) x (治療薬の投与のあり/無し) の8つの区分( class )あるマウスのデータセットのようです。
元のデータはこちらとのことです。
Classes:
c-CS-s: control mice, stimulated to learn, injected with saline (9 mice)
c-CS-m: control mice, stimulated to learn, injected with memantine (10 mice)
c-SC-s: control mice, not stimulated to learn, injected with saline (9 mice)
c-SC-m: control mice, not stimulated to learn, injected with memantine (10 mice)
t-CS-s: trisomy mice, stimulated to learn, injected with saline (7 mice)
t-CS-m: trisomy mice, stimulated to learn, injected with memantine (9 mice)
t-SC-s: trisomy mice, not stimulated to learn, injected with saline (9 mice)
t-SC-m: trisomy mice, not stimulated to learn, injected with memantine (9 mice)
| MouseID | DYRK1A_N | ITSN1_N | BDNF_N | NR1_N | NR2A_N | pAKT_N | pBRAF_N | pCAMKII_N | pCREB_N | ... | pCFOS_N | SYP_N | H3AcK18_N | EGR1_N | H3MeK4_N | CaNA_N | Genotype | Treatment | Behavior | class | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 0 | 309_1 | 0.503644 | 0.747193 | 0.430175 | 2.816329 | 5.990152 | 0.218830 | 0.177565 | 2.373744 | 0.232224 | ... | 0.108336 | 0.427099 | 0.114783 | 0.131790 | 0.128186 | 1.675652 | Control | Memantine | C/S | c-CS-m |
| 1 | 309_2 | 0.514617 | 0.689064 | 0.411770 | 2.789514 | 5.685038 | 0.211636 | 0.172817 | 2.292150 | 0.226972 | ... | 0.104315 | 0.441581 | 0.111974 | 0.135103 | 0.131119 | 1.743610 | Control | Memantine | C/S | c-CS-m |
| 2 | 309_3 | 0.509183 | 0.730247 | 0.418309 | 2.687201 | 5.622059 | 0.209011 | 0.175722 | 2.283337 | 0.230247 | ... | 0.106219 | 0.435777 | 0.111883 | 0.133362 | 0.127431 | 1.926427 | Control | Memantine | C/S | c-CS-m |
| 3 | 309_4 | 0.442107 | 0.617076 | 0.358626 | 2.466947 | 4.979503 | 0.222886 | 0.176463 | 2.152301 | 0.207004 | ... | 0.111262 | 0.391691 | 0.130405 | 0.147444 | 0.146901 | 1.700563 | Control | Memantine | C/S | c-CS-m |
| 4 | 309_5 | 0.434940 | 0.617430 | 0.358802 | 2.365785 | 4.718679 | 0.213106 | 0.173627 | 2.134014 | 0.192158 | ... | 0.110694 | 0.434154 | 0.118481 | 0.140314 | 0.148380 | 1.839730 | Control | Memantine | C/S | c-CS-m |
5 rows × 82 columns
取得したデータセットをモデル作成用( data )と予測用( data_unseen )とに95:5に分けます。
Data for Modeling: (1026, 82)
Unseen Data For Predictions: (54, 82)
前処理
setup() を使って前処理をします。
実行すると、投入したデータの型のチェックを自動で実施してくれます。
問題なければ、カーソルをあわせ、 Enter を押します。
| Description | Value | |
|---|---|---|
| 0 | session_id | 123 |
| 1 | Original Data | (1026, 82) |
| 2 | Missing Values | True |
| 3 | Numeric Features | 77 |
| 4 | Categorical Features | 4 |
| 5 | Ordinal Features | False |
| 6 | High Cardinality Features | False |
| 7 | High Cardinality Method | None |
| 8 | Transformed Data | (1026, 91) |
| 9 | CPU Jobs | -1 |
| 10 | Use GPU | False |
| 11 | Log Experiment | False |
| 12 | Experiment Name | cluster-default-name |
| 13 | USI | 85ca |
| 14 | Imputation Type | simple |
| 15 | Iterative Imputation Iteration | None |
| 16 | Numeric Imputer | mean |
| 17 | Iterative Imputation Numeric Model | None |
| 18 | Categorical Imputer | mode |
| 19 | Iterative Imputation Categorical Model | None |
| 20 | Unknown Categoricals Handling | least_frequent |
| 21 | Normalize | True |
| 22 | Normalize Method | zscore |
| 23 | Transformation | False |
| 24 | Transformation Method | None |
| 25 | PCA | False |
| 26 | PCA Method | None |
| 27 | PCA Components | None |
| 28 | Ignore Low Variance | False |
| 29 | Combine Rare Levels | False |
| 30 | Rare Level Threshold | None |
| 31 | Numeric Binning | False |
| 32 | Remove Outliers | False |
| 33 | Outliers Threshold | None |
| 34 | Remove Multicollinearity | False |
| 35 | Multicollinearity Threshold | None |
| 36 | Remove Perfect Collinearity | False |
| 37 | Clustering | False |
| 38 | Clustering Iteration | None |
| 39 | Polynomial Features | False |
| 40 | Polynomial Degree | None |
| 41 | Trignometry Features | False |
| 42 | Polynomial Threshold | None |
| 43 | Group Features | False |
| 44 | Feature Selection | False |
| 45 | Feature Selection Method | classic |
| 46 | Features Selection Threshold | None |
| 47 | Feature Interaction | False |
| 48 | Feature Ratio | False |
| 49 | Interaction Threshold | None |
Missing Values 、Original Data や Transformed Data など処理の前後の情報などが表示されます。
Original Data は shape (1026, 82) つまり、1026 samples と 82 features でしたが、 setup() の前処理によって、Transformed Data は(1026, 92)になりました。
これは、 class などのいくつかの特徴量を自動でエンコーディングしてくれたためです。
モデルの作成
create_model() を使ってモデルを作っていきます。
ここでは、 kmeans のモデルを作成してきます。
| Silhouette | Calinski-Harabasz | Davies-Bouldin | Homogeneity | Rand Index | Completeness | |
|---|---|---|---|---|---|---|
| 0 | 0.1187 | 137.5261 | 2.0715 | 0 | 0 | 0 |
KMeans(algorithm='auto', copy_x=True, init='k-means++', max_iter=300,
n_clusters=4, n_init=10, n_jobs=-1, precompute_distances='deprecated',
random_state=123, tol=0.0001, verbose=0)
初期値 n_clusters=4 で実行したので、4つのクラスに分類するモデルができました。
pycaret.clustering では、以下の9種類が使えるとのことです。
| Name | Reference | |
|---|---|---|
| ID | ||
| kmeans | K-Means Clustering | sklearn.cluster._kmeans.KMeans |
| ap | Affinity Propagation | sklearn.cluster._affinity_propagation.Affinity... |
| meanshift | Mean Shift Clustering | sklearn.cluster._mean_shift.MeanShift |
| sc | Spectral Clustering | sklearn.cluster._spectral.SpectralClustering |
| hclust | Agglomerative Clustering | sklearn.cluster._agglomerative.AgglomerativeCl... |
| dbscan | Density-Based Spatial Clustering | sklearn.cluster._dbscan.DBSCAN |
| optics | OPTICS Clustering | sklearn.cluster._optics.OPTICS |
| birch | Birch Clustering | sklearn.cluster._birch.Birch |
| kmodes | K-Modes Clustering | kmodes.kmodes.KModes |
詳細は
To see the complete list of models in the library please see docstring or use models function.
とのことです。
モデルを使って分類
作成した k-means のモデルを使って分類していきます。
assign_model() を使います。
| MouseID | DYRK1A_N | ITSN1_N | BDNF_N | NR1_N | NR2A_N | pAKT_N | pBRAF_N | pCAMKII_N | pCREB_N | ... | SYP_N | H3AcK18_N | EGR1_N | H3MeK4_N | CaNA_N | Genotype | Treatment | Behavior | class | Cluster | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 0 | 3501_12 | 0.344930 | 0.626194 | 0.383583 | 2.534561 | 4.097317 | 0.303547 | 0.222829 | 4.592769 | 0.239427 | ... | 0.455172 | 0.252700 | 0.218868 | 0.249187 | 1.139493 | Ts65Dn | Memantine | S/C | t-SC-m | Cluster 3 |
| 1 | 3520_5 | 0.630001 | 0.839187 | 0.357777 | 2.651229 | 4.261675 | 0.253184 | 0.185257 | 3.816673 | 0.204940 | ... | 0.496423 | 0.155008 | 0.153219 | NaN | 1.642886 | Control | Memantine | C/S | c-CS-m | Cluster 0 |
| 2 | 3414_13 | 0.555122 | 0.726229 | 0.278319 | 2.097249 | 2.897553 | 0.222222 | 0.174356 | 1.867880 | 0.203379 | ... | 0.344964 | 0.136109 | 0.155530 | 0.185484 | 1.657670 | Ts65Dn | Memantine | C/S | t-CS-m | Cluster 2 |
| 3 | 3488_8 | 0.275849 | 0.430764 | 0.285166 | 2.265254 | 3.250091 | 0.189258 | 0.157837 | 2.917611 | 0.202594 | ... | 0.390880 | 0.127944 | 0.207671 | 0.175357 | 0.893598 | Control | Saline | S/C | c-SC-s | Cluster 1 |
| 4 | 3501_7 | 0.304788 | 0.617299 | 0.335164 | 2.638236 | 4.876609 | 0.280590 | 0.199417 | 4.835421 | 0.236314 | ... | 0.470932 | 0.245277 | 0.202171 | 0.240372 | 0.795637 | Ts65Dn | Memantine | S/C | t-SC-m | Cluster 3 |
5 rows × 83 columns
一番右に新しく Cluster の列が追加されました。
また、一番左の MouseID ですが、これは setup() の際に ignore_features = ['MouseID'], で除外しているので、クラスタリングの特徴量からは除外されています。
モデルのプロット
plot_model() を使ってクラスタリングの結果を可視化していきます。
PCA plot
こちらは、 ploty でこんな感じで描画されます。
Elbow plot
findfont: Font family ['sans-serif'] not found. Falling back to DejaVu Sans.
findfont: Font family ['sans-serif'] not found. Falling back to DejaVu Sans.
findfont: Font family ['sans-serif'] not found. Falling back to DejaVu Sans.
<Figure size 576x396 with 1 Axes>
この例だと、 5 が適切なクラスタの数だと提案してくれています。
(モデルを作り直すのが面倒なので、今回はそのまま4分類で進めます。)
Silhouette Plot
<Figure size 576x396 with 1 Axes>
Distribution Plot
それぞれのクラスタにどれくらいの量のデータがあるかを見ていきます。
こちらは、 ploty でこんな感じで描画されます。
claster 3 のデータの数が一番多いことがわかります。
さらに、 引数に feature を追加すると、より細かく確認することができます。
こちらは、 ploty でこんな感じで描画されます。
class t-SC-m と c-SC-m は Cluster 3 に分類されるデータが多いことがわかります。
こちらは、 ploty でこんな感じで描画されます。
予測用のデータにモデルを使い予測する
予測用に取り分けておいたデータ data_unseen に対して、作成した k-means のモデルを使い予測をします。 predict_model() を使います。
| MouseID | DYRK1A_N | ITSN1_N | BDNF_N | NR1_N | NR2A_N | pAKT_N | pBRAF_N | pCAMKII_N | pCREB_N | ... | SYP_N | H3AcK18_N | EGR1_N | H3MeK4_N | CaNA_N | Genotype | Treatment | Behavior | class | Cluster | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 0 | 309_6 | 0.447506 | 0.628176 | 0.367388 | 2.385939 | 4.807635 | 0.218578 | 0.176233 | 2.141282 | 0.195188 | ... | 0.439833 | 0.116657 | 0.140766 | 0.142180 | 1.816389 | Control | Memantine | C/S | c-CS-m | Cluster 2 |
| 1 | 311_3 | 0.704633 | 0.802537 | 0.350110 | 2.467733 | 5.548400 | 0.205323 | 0.165058 | 2.107281 | 0.171401 | ... | 0.454509 | 0.111089 | 0.157731 | 0.158543 | 1.404481 | Control | Memantine | C/S | c-CS-m | Cluster 2 |
| 2 | 321_4 | 0.505093 | 0.695549 | 0.376029 | 2.915585 | 5.917957 | 0.226734 | 0.174271 | 2.663039 | 0.190038 | ... | 0.591586 | 0.131515 | 0.188391 | NaN | 1.699260 | Control | Memantine | C/S | c-CS-m | Cluster 0 |
| 3 | 3415_12 | 0.429133 | 0.563175 | 0.258429 | 2.028151 | 3.542553 | 0.214075 | 0.176759 | 3.165139 | 0.167430 | ... | 0.371618 | 0.118223 | 0.171071 | 0.173702 | 1.405727 | Control | Memantine | C/S | c-CS-m | Cluster 1 |
| 4 | 3415_15 | 0.373648 | 0.471165 | 0.257909 | 1.860032 | 2.938526 | 0.218262 | 0.150380 | 2.610132 | 0.142571 | ... | 0.277665 | 0.086785 | 0.126537 | 0.112690 | 0.790975 | Control | Memantine | C/S | c-CS-m | Cluster 1 |
5 rows × 83 columns
Cluster 列が追加され、分類がされていることがわかります。
モデルの保存
save_model() を使い、モデルを保存します。
Transformation Pipeline and Model Successfully Saved
(Pipeline(memory=None,
steps=[('dtypes',
DataTypes_Auto_infer(categorical_features=[],
display_types=True,
features_todrop=['MouseID'],
id_columns=[], ml_usecase='regression',
numerical_features=[],
target='UNSUPERVISED_DUMMY_TARGET',
time_features=[])),
('imputer',
Simple_Imputer(categorical_strategy='most frequent',
fill_value_categorical=None,
fill_value_numer...
('fix_perfect', 'passthrough'),
('clean_names', Clean_Colum_Names()),
('feature_select', 'passthrough'), ('fix_multi', 'passthrough'),
('dfs', 'passthrough'), ('pca', 'passthrough'),
['trained_model',
KMeans(algorithm='auto', copy_x=True, init='k-means++',
max_iter=300, n_clusters=4, n_init=10, n_jobs=-1,
precompute_distances='deprecated', random_state=123,
tol=0.0001, verbose=0)]],
verbose=False),
'Final KMeans Model.pkl')
モデルのロード
load_model() を使い、先ほど保存したモデルをロードします。
Transformation Pipeline and Model Successfully Loaded
ロードしたモデルを使い、分類します。
| MouseID | DYRK1A_N | ITSN1_N | BDNF_N | NR1_N | NR2A_N | pAKT_N | pBRAF_N | pCAMKII_N | pCREB_N | ... | SYP_N | H3AcK18_N | EGR1_N | H3MeK4_N | CaNA_N | Genotype | Treatment | Behavior | class | Cluster | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 0 | 309_6 | 0.447506 | 0.628176 | 0.367388 | 2.385939 | 4.807635 | 0.218578 | 0.176233 | 2.141282 | 0.195188 | ... | 0.439833 | 0.116657 | 0.140766 | 0.142180 | 1.816389 | Control | Memantine | C/S | c-CS-m | Cluster 2 |
| 1 | 311_3 | 0.704633 | 0.802537 | 0.350110 | 2.467733 | 5.548400 | 0.205323 | 0.165058 | 2.107281 | 0.171401 | ... | 0.454509 | 0.111089 | 0.157731 | 0.158543 | 1.404481 | Control | Memantine | C/S | c-CS-m | Cluster 2 |
| 2 | 321_4 | 0.505093 | 0.695549 | 0.376029 | 2.915585 | 5.917957 | 0.226734 | 0.174271 | 2.663039 | 0.190038 | ... | 0.591586 | 0.131515 | 0.188391 | NaN | 1.699260 | Control | Memantine | C/S | c-CS-m | Cluster 0 |
| 3 | 3415_12 | 0.429133 | 0.563175 | 0.258429 | 2.028151 | 3.542553 | 0.214075 | 0.176759 | 3.165139 | 0.167430 | ... | 0.371618 | 0.118223 | 0.171071 | 0.173702 | 1.405727 | Control | Memantine | C/S | c-CS-m | Cluster 1 |
| 4 | 3415_15 | 0.373648 | 0.471165 | 0.257909 | 1.860032 | 2.938526 | 0.218262 | 0.150380 | 2.610132 | 0.142571 | ... | 0.277665 | 0.086785 | 0.126537 | 0.112690 | 0.790975 | Control | Memantine | C/S | c-CS-m | Cluster 1 |
5 rows × 83 columns
以上、 PyCaret のクラスタリングのチュートリアルでした。
可視化も簡単にできて便利そうです。