|
|
<!--
|
|
|
CO_OP_TRANSLATOR_METADATA:
|
|
|
{
|
|
|
"original_hash": "7cdd17338d9bbd7e2171c2cd462eb081",
|
|
|
"translation_date": "2025-09-05T09:22:23+00:00",
|
|
|
"source_file": "5-Clustering/2-K-Means/README.md",
|
|
|
"language_code": "hk"
|
|
|
}
|
|
|
-->
|
|
|
# K-Means 分群
|
|
|
|
|
|
## [課前測驗](https://ff-quizzes.netlify.app/en/ml/)
|
|
|
|
|
|
在這節課中，你將學習如何使用 Scikit-learn 和之前導入的尼日利亞音樂數據集來創建分群。我們將介紹 K-Means 分群的基礎知識。請記住，正如你在之前的課程中學到的，分群有很多方法，使用哪種方法取決於你的數據。我們將嘗試 K-Means，因為它是最常見的分群技術。讓我們開始吧！
|
|
|
|
|
|
你將學到的術語：
|
|
|
|
|
|
- Silhouette 分數
|
|
|
- 肘部法則
|
|
|
- 慣性
|
|
|
- 方差
|
|
|
|
|
|
## 介紹
|
|
|
|
|
|
[K-Means 分群](https://wikipedia.org/wiki/K-means_clustering) 是一種源自信號處理領域的方法。它用於將數據分組並劃分為 'k' 個分群，通過一系列觀測來完成。每次觀測都會將數據點分配到距離最近的 '均值' 或分群的中心點。
|
|
|
|
|
|
分群可以被視覺化為 [Voronoi 圖](https://wikipedia.org/wiki/Voronoi_diagram)，其中包括一個點（或“種子”）及其對應的區域。
|
|
|
|
|
|
|
|
|
|
|
|
> 信息圖由 [Jen Looper](https://twitter.com/jenlooper) 提供
|
|
|
|
|
|
K-Means 分群過程[通過三步流程執行](https://scikit-learn.org/stable/modules/clustering.html#k-means)：
|
|
|
|
|
|
1. 演算法通過從數據集中抽樣選擇 k 個中心點。接著進行迴圈：
|
|
|
1. 將每個樣本分配到最近的中心點。
|
|
|
2. 通過計算分配到之前中心點的所有樣本的平均值來創建新的中心點。
|
|
|
3. 計算新舊中心點之間的差異，並重複直到中心點穩定。
|
|
|
|
|
|
使用 K-Means 的一個缺點是需要確定 'k'，即中心點的數量。幸運的是，“肘部法則”可以幫助估算 'k' 的良好起始值。你將很快嘗試它。
|
|
|
|
|
|
## 前置條件
|
|
|
|
|
|
你將在本課的 [_notebook.ipynb_](https://github.com/microsoft/ML-For-Beginners/blob/main/5-Clustering/2-K-Means/notebook.ipynb) 文件中工作，其中包括你在上一課中完成的數據導入和初步清理。
|
|
|
|
|
|
## 練習 - 準備工作
|
|
|
|
|
|
首先再次查看歌曲數據。
|
|
|
|
|
|
1. 為每一列調用 `boxplot()` 創建一個箱型圖：
|
|
|
|
|
|
```python
|
|
|
plt.figure(figsize=(20,20), dpi=200)
|
|
|
|
|
|
plt.subplot(4,3,1)
|
|
|
sns.boxplot(x = 'popularity', data = df)
|
|
|
|
|
|
plt.subplot(4,3,2)
|
|
|
sns.boxplot(x = 'acousticness', data = df)
|
|
|
|
|
|
plt.subplot(4,3,3)
|
|
|
sns.boxplot(x = 'energy', data = df)
|
|
|
|
|
|
plt.subplot(4,3,4)
|
|
|
sns.boxplot(x = 'instrumentalness', data = df)
|
|
|
|
|
|
plt.subplot(4,3,5)
|
|
|
sns.boxplot(x = 'liveness', data = df)
|
|
|
|
|
|
plt.subplot(4,3,6)
|
|
|
sns.boxplot(x = 'loudness', data = df)
|
|
|
|
|
|
plt.subplot(4,3,7)
|
|
|
sns.boxplot(x = 'speechiness', data = df)
|
|
|
|
|
|
plt.subplot(4,3,8)
|
|
|
sns.boxplot(x = 'tempo', data = df)
|
|
|
|
|
|
plt.subplot(4,3,9)
|
|
|
sns.boxplot(x = 'time_signature', data = df)
|
|
|
|
|
|
plt.subplot(4,3,10)
|
|
|
sns.boxplot(x = 'danceability', data = df)
|
|
|
|
|
|
plt.subplot(4,3,11)
|
|
|
sns.boxplot(x = 'length', data = df)
|
|
|
|
|
|
plt.subplot(4,3,12)
|
|
|
sns.boxplot(x = 'release_date', data = df)
|
|
|
```
|
|
|
|
|
|
這些數據有點雜亂：通過觀察每一列的箱型圖，你可以看到異常值。
|
|
|
|
|
|
|
|
|
|
|
|
你可以遍歷數據集並移除這些異常值，但這樣會使數據變得非常少。
|
|
|
|
|
|
1. 現在選擇你將用於分群練習的列。選擇範圍相似的列，並將 `artist_top_genre` 列編碼為數值數據：
|
|
|
|
|
|
```python
|
|
|
from sklearn.preprocessing import LabelEncoder
|
|
|
le = LabelEncoder()
|
|
|
|
|
|
X = df.loc[:, ('artist_top_genre','popularity','danceability','acousticness','loudness','energy')]
|
|
|
|
|
|
y = df['artist_top_genre']
|
|
|
|
|
|
X['artist_top_genre'] = le.fit_transform(X['artist_top_genre'])
|
|
|
|
|
|
y = le.transform(y)
|
|
|
```
|
|
|
|
|
|
1. 現在你需要選擇目標分群的數量。你知道數據集中有 3 個歌曲類型，因此我們嘗試 3：
|
|
|
|
|
|
```python
|
|
|
from sklearn.cluster import KMeans
|
|
|
|
|
|
nclusters = 3
|
|
|
seed = 0
|
|
|
|
|
|
km = KMeans(n_clusters=nclusters, random_state=seed)
|
|
|
km.fit(X)
|
|
|
|
|
|
# Predict the cluster for each data point
|
|
|
|
|
|
y_cluster_kmeans = km.predict(X)
|
|
|
y_cluster_kmeans
|
|
|
```
|
|
|
|
|
|
你會看到一個陣列，列印出每行數據框的預測分群（0、1 或 2）。
|
|
|
|
|
|
1. 使用此陣列計算 'Silhouette 分數'：
|
|
|
|
|
|
```python
|
|
|
from sklearn import metrics
|
|
|
score = metrics.silhouette_score(X, y_cluster_kmeans)
|
|
|
score
|
|
|
```
|
|
|
|
|
|
## Silhouette 分數
|
|
|
|
|
|
尋找接近 1 的 Silhouette 分數。此分數範圍從 -1 到 1，如果分數為 1，則分群密集且與其他分群分離良好。接近 0 的值表示分群重疊，樣本非常接近鄰近分群的決策邊界。[（來源）](https://dzone.com/articles/kmeans-silhouette-score-explained-with-python-exam)
|
|
|
|
|
|
我們的分數是 **0.53**，介於中間。這表明我們的數據不太適合這種分群，但我們繼續。
|
|
|
|
|
|
### 練習 - 建立模型
|
|
|
|
|
|
1. 導入 `KMeans` 並開始分群過程。
|
|
|
|
|
|
```python
|
|
|
from sklearn.cluster import KMeans
|
|
|
wcss = []
|
|
|
|
|
|
for i in range(1, 11):
|
|
|
kmeans = KMeans(n_clusters = i, init = 'k-means++', random_state = 42)
|
|
|
kmeans.fit(X)
|
|
|
wcss.append(kmeans.inertia_)
|
|
|
|
|
|
```
|
|
|
|
|
|
這裡有幾個部分需要解釋。
|
|
|
|
|
|
> 🎓 range：這是分群過程的迭代次數
|
|
|
|
|
|
> 🎓 random_state："決定中心點初始化的隨機數生成。" [來源](https://scikit-learn.org/stable/modules/generated/sklearn.cluster.KMeans.html#sklearn.cluster.KMeans)
|
|
|
|
|
|
> 🎓 WCSS："分群內平方和" 測量分群內所有點到分群中心點的平均平方距離。[來源](https://medium.com/@ODSC/unsupervised-learning-evaluating-clusters-bd47eed175ce)
|
|
|
|
|
|
> 🎓 慣性：K-Means 演算法試圖選擇中心點以最小化“慣性”，“慣性是分群內部一致性的度量。” [來源](https://scikit-learn.org/stable/modules/clustering.html)。該值在每次迭代中附加到 wcss 變數。
|
|
|
|
|
|
> 🎓 k-means++：在 [Scikit-learn](https://scikit-learn.org/stable/modules/clustering.html#k-means) 中，你可以使用 'k-means++' 優化，它“初始化中心點，使它們（通常）彼此距離較遠，從而可能比隨機初始化獲得更好的結果。”
|
|
|
|
|
|
### 肘部法則
|
|
|
|
|
|
之前，你推測因為你目標是 3 個歌曲類型，所以應選擇 3 個分群。但真的是這樣嗎？
|
|
|
|
|
|
1. 使用“肘部法則”確認。
|
|
|
|
|
|
```python
|
|
|
plt.figure(figsize=(10,5))
|
|
|
sns.lineplot(x=range(1, 11), y=wcss, marker='o', color='red')
|
|
|
plt.title('Elbow')
|
|
|
plt.xlabel('Number of clusters')
|
|
|
plt.ylabel('WCSS')
|
|
|
plt.show()
|
|
|
```
|
|
|
|
|
|
使用你在上一步中建立的 `wcss` 變數創建一個圖表，顯示肘部的“彎曲”位置，這表明最佳分群數量。可能確實是 **3**！
|
|
|
|
|
|
|
|
|
|
|
|
## 練習 - 顯示分群
|
|
|
|
|
|
1. 再次嘗試此過程，這次設置三個分群，並以散點圖顯示分群：
|
|
|
|
|
|
```python
|
|
|
from sklearn.cluster import KMeans
|
|
|
kmeans = KMeans(n_clusters = 3)
|
|
|
kmeans.fit(X)
|
|
|
labels = kmeans.predict(X)
|
|
|
plt.scatter(df['popularity'],df['danceability'],c = labels)
|
|
|
plt.xlabel('popularity')
|
|
|
plt.ylabel('danceability')
|
|
|
plt.show()
|
|
|
```
|
|
|
|
|
|
1. 檢查模型的準確性：
|
|
|
|
|
|
```python
|
|
|
labels = kmeans.labels_
|
|
|
|
|
|
correct_labels = sum(y == labels)
|
|
|
|
|
|
print("Result: %d out of %d samples were correctly labeled." % (correct_labels, y.size))
|
|
|
|
|
|
print('Accuracy score: {0:0.2f}'. format(correct_labels/float(y.size)))
|
|
|
```
|
|
|
|
|
|
此模型的準確性不太好，分群的形狀給了你提示原因。
|
|
|
|
|
|
|
|
|
|
|
|
這些數據太不平衡，相關性太低，列值之間的方差太大，無法很好地分群。事實上，形成的分群可能受到我們上面定義的三個類型的影響或偏斜。這是一個學習過程！
|
|
|
|
|
|
在 Scikit-learn 的文檔中，你可以看到像這樣的模型，分群劃分不太清晰，存在“方差”問題：
|
|
|
|
|
|
|
|
|
> 信息圖來自 Scikit-learn
|
|
|
|
|
|
## 方差
|
|
|
|
|
|
方差被定義為“與平均值的平方差的平均值” [（來源）](https://www.mathsisfun.com/data/standard-deviation.html)。在這個分群問題的背景下，它指的是數據集中數字偏離平均值的程度。
|
|
|
|
|
|
✅ 這是一個很好的時機來思考所有可能的方式來解決這個問題。進一步調整數據？使用不同的列？使用不同的演算法？提示：嘗試[縮放你的數據](https://www.mygreatlearning.com/blog/learning-data-science-with-k-means-clustering/)以進行標準化並測試其他列。
|
|
|
|
|
|
> 試試這個 '[方差計算器](https://www.calculatorsoup.com/calculators/statistics/variance-calculator.php)' 來更好地理解這個概念。
|
|
|
|
|
|
---
|
|
|
|
|
|
## 🚀挑戰
|
|
|
|
|
|
花些時間使用這個 notebook，調整參數。你能通過更多清理數據（例如移除異常值）來提高模型的準確性嗎？你可以使用權重來給某些數據樣本更多的權重。還有什麼方法可以創建更好的分群？
|
|
|
|
|
|
提示：嘗試縮放你的數據。notebook 中有註解的程式碼，添加標準縮放以使數據列在範圍上更接近。你會發現雖然 Silhouette 分數下降了，但肘部圖中的“彎曲”變得更平滑。這是因為未縮放的數據允許方差較小的數據具有更大的權重。閱讀更多關於這個問題的內容[這裡](https://stats.stackexchange.com/questions/21222/are-mean-normalization-and-feature-scaling-needed-for-k-means-clustering/21226#21226)。
|
|
|
|
|
|
## [課後測驗](https://ff-quizzes.netlify.app/en/ml/)
|
|
|
|
|
|
## 回顧與自學
|
|
|
|
|
|
看看一個 K-Means 模擬器[例如這個](https://user.ceng.metu.edu.tr/~akifakkus/courses/ceng574/k-means/)。你可以使用這個工具來視覺化樣本數據點並確定其中心點。你可以編輯數據的隨機性、分群數量和中心點數量。這是否幫助你更好地理解數據如何分組？
|
|
|
|
|
|
另外，看看 [這份關於 K-Means 的講義](https://stanford.edu/~cpiech/cs221/handouts/kmeans.html) 來自斯坦福。
|
|
|
|
|
|
## 作業
|
|
|
|
|
|
[嘗試不同的分群方法](assignment.md)
|
|
|
|
|
|
---
|
|
|
|
|
|
**免責聲明**：
|
|
|
本文件已使用人工智能翻譯服務 [Co-op Translator](https://github.com/Azure/co-op-translator) 進行翻譯。儘管我們致力於提供準確的翻譯，但請注意，自動翻譯可能包含錯誤或不準確之處。原始語言的文件應被視為權威來源。對於重要信息，建議使用專業人工翻譯。我們對因使用此翻譯而引起的任何誤解或錯誤解釋概不負責。 |
