11 KiB
K-Means 分群
課前測驗
在這節課中,你將學習如何使用 Scikit-learn 和之前導入的尼日利亞音樂數據集來創建分群。我們將介紹 K-Means 分群的基礎知識。請記住,正如你在之前的課程中學到的,分群有很多方法,使用哪種方法取決於你的數據。我們將嘗試 K-Means,因為它是最常見的分群技術。讓我們開始吧!
你將學到的術語:
- Silhouette 分數
- 肘部法則
- 慣性
- 方差
介紹
K-Means 分群 是一種源自信號處理領域的方法。它用於將數據分組並劃分為 'k' 個分群,通過一系列觀測來完成。每次觀測都會將數據點分配到距離最近的 '均值' 或分群的中心點。
分群可以被視覺化為 Voronoi 圖,其中包括一個點(或“種子”)及其對應的區域。
信息圖由 Jen Looper 提供
K-Means 分群過程通過三步流程執行:
- 演算法通過從數據集中抽樣選擇 k 個中心點。接著進行迴圈:
- 將每個樣本分配到最近的中心點。
- 通過計算分配到之前中心點的所有樣本的平均值來創建新的中心點。
- 計算新舊中心點之間的差異,並重複直到中心點穩定。
使用 K-Means 的一個缺點是需要確定 'k',即中心點的數量。幸運的是,“肘部法則”可以幫助估算 'k' 的良好起始值。你將很快嘗試它。
前置條件
你將在本課的 notebook.ipynb 文件中工作,其中包括你在上一課中完成的數據導入和初步清理。
練習 - 準備工作
首先再次查看歌曲數據。
-
為每一列調用
boxplot()
創建一個箱型圖:plt.figure(figsize=(20,20), dpi=200) plt.subplot(4,3,1) sns.boxplot(x = 'popularity', data = df) plt.subplot(4,3,2) sns.boxplot(x = 'acousticness', data = df) plt.subplot(4,3,3) sns.boxplot(x = 'energy', data = df) plt.subplot(4,3,4) sns.boxplot(x = 'instrumentalness', data = df) plt.subplot(4,3,5) sns.boxplot(x = 'liveness', data = df) plt.subplot(4,3,6) sns.boxplot(x = 'loudness', data = df) plt.subplot(4,3,7) sns.boxplot(x = 'speechiness', data = df) plt.subplot(4,3,8) sns.boxplot(x = 'tempo', data = df) plt.subplot(4,3,9) sns.boxplot(x = 'time_signature', data = df) plt.subplot(4,3,10) sns.boxplot(x = 'danceability', data = df) plt.subplot(4,3,11) sns.boxplot(x = 'length', data = df) plt.subplot(4,3,12) sns.boxplot(x = 'release_date', data = df)
這些數據有點雜亂:通過觀察每一列的箱型圖,你可以看到異常值。
你可以遍歷數據集並移除這些異常值,但這樣會使數據變得非常少。
-
現在選擇你將用於分群練習的列。選擇範圍相似的列,並將
artist_top_genre
列編碼為數值數據:from sklearn.preprocessing import LabelEncoder le = LabelEncoder() X = df.loc[:, ('artist_top_genre','popularity','danceability','acousticness','loudness','energy')] y = df['artist_top_genre'] X['artist_top_genre'] = le.fit_transform(X['artist_top_genre']) y = le.transform(y)
-
現在你需要選擇目標分群的數量。你知道數據集中有 3 個歌曲類型,因此我們嘗試 3:
from sklearn.cluster import KMeans nclusters = 3 seed = 0 km = KMeans(n_clusters=nclusters, random_state=seed) km.fit(X) # Predict the cluster for each data point y_cluster_kmeans = km.predict(X) y_cluster_kmeans
你會看到一個陣列,列印出每行數據框的預測分群(0、1 或 2)。
-
使用此陣列計算 'Silhouette 分數':
from sklearn import metrics score = metrics.silhouette_score(X, y_cluster_kmeans) score
Silhouette 分數
尋找接近 1 的 Silhouette 分數。此分數範圍從 -1 到 1,如果分數為 1,則分群密集且與其他分群分離良好。接近 0 的值表示分群重疊,樣本非常接近鄰近分群的決策邊界。(來源)
我們的分數是 0.53,介於中間。這表明我們的數據不太適合這種分群,但我們繼續。
練習 - 建立模型
-
導入
KMeans
並開始分群過程。from sklearn.cluster import KMeans wcss = [] for i in range(1, 11): kmeans = KMeans(n_clusters = i, init = 'k-means++', random_state = 42) kmeans.fit(X) wcss.append(kmeans.inertia_)
這裡有幾個部分需要解釋。
🎓 range:這是分群過程的迭代次數
🎓 random_state:"決定中心點初始化的隨機數生成。" 來源
🎓 WCSS:"分群內平方和" 測量分群內所有點到分群中心點的平均平方距離。來源
🎓 慣性:K-Means 演算法試圖選擇中心點以最小化“慣性”,“慣性是分群內部一致性的度量。” 來源。該值在每次迭代中附加到 wcss 變數。
🎓 k-means++:在 Scikit-learn 中,你可以使用 'k-means++' 優化,它“初始化中心點,使它們(通常)彼此距離較遠,從而可能比隨機初始化獲得更好的結果。”
肘部法則
之前,你推測因為你目標是 3 個歌曲類型,所以應選擇 3 個分群。但真的是這樣嗎?
-
使用“肘部法則”確認。
plt.figure(figsize=(10,5)) sns.lineplot(x=range(1, 11), y=wcss, marker='o', color='red') plt.title('Elbow') plt.xlabel('Number of clusters') plt.ylabel('WCSS') plt.show()
使用你在上一步中建立的
wcss
變數創建一個圖表,顯示肘部的“彎曲”位置,這表明最佳分群數量。可能確實是 3!
練習 - 顯示分群
-
再次嘗試此過程,這次設置三個分群,並以散點圖顯示分群:
from sklearn.cluster import KMeans kmeans = KMeans(n_clusters = 3) kmeans.fit(X) labels = kmeans.predict(X) plt.scatter(df['popularity'],df['danceability'],c = labels) plt.xlabel('popularity') plt.ylabel('danceability') plt.show()
-
檢查模型的準確性:
labels = kmeans.labels_ correct_labels = sum(y == labels) print("Result: %d out of %d samples were correctly labeled." % (correct_labels, y.size)) print('Accuracy score: {0:0.2f}'. format(correct_labels/float(y.size)))
此模型的準確性不太好,分群的形狀給了你提示原因。
這些數據太不平衡,相關性太低,列值之間的方差太大,無法很好地分群。事實上,形成的分群可能受到我們上面定義的三個類型的影響或偏斜。這是一個學習過程!
在 Scikit-learn 的文檔中,你可以看到像這樣的模型,分群劃分不太清晰,存在“方差”問題:
信息圖來自 Scikit-learn
方差
方差被定義為“與平均值的平方差的平均值” (來源)。在這個分群問題的背景下,它指的是數據集中數字偏離平均值的程度。
✅ 這是一個很好的時機來思考所有可能的方式來解決這個問題。進一步調整數據?使用不同的列?使用不同的演算法?提示:嘗試縮放你的數據以進行標準化並測試其他列。
試試這個 '方差計算器' 來更好地理解這個概念。
🚀挑戰
花些時間使用這個 notebook,調整參數。你能通過更多清理數據(例如移除異常值)來提高模型的準確性嗎?你可以使用權重來給某些數據樣本更多的權重。還有什麼方法可以創建更好的分群?
提示:嘗試縮放你的數據。notebook 中有註解的程式碼,添加標準縮放以使數據列在範圍上更接近。你會發現雖然 Silhouette 分數下降了,但肘部圖中的“彎曲”變得更平滑。這是因為未縮放的數據允許方差較小的數據具有更大的權重。閱讀更多關於這個問題的內容這裡。
課後測驗
回顧與自學
看看一個 K-Means 模擬器例如這個。你可以使用這個工具來視覺化樣本數據點並確定其中心點。你可以編輯數據的隨機性、分群數量和中心點數量。這是否幫助你更好地理解數據如何分組?
另外,看看 這份關於 K-Means 的講義 來自斯坦福。
作業
免責聲明:
本文件已使用人工智能翻譯服務 Co-op Translator 進行翻譯。儘管我們致力於提供準確的翻譯,但請注意,自動翻譯可能包含錯誤或不準確之處。原始語言的文件應被視為權威來源。對於重要信息,建議使用專業人工翻譯。我們對因使用此翻譯而引起的任何誤解或錯誤解釋概不負責。