You can not select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
ML-For-Beginners/translations/hk/5-Clustering/2-K-Means
leestott 3773c80b49
🌐 Update translations via Co-op Translator
2 weeks ago
..
solution 🌐 Update translations via Co-op Translator 3 weeks ago
README.md 🌐 Update translations via Co-op Translator 2 weeks ago
assignment.md 🌐 Update translations via Co-op Translator 3 weeks ago
notebook.ipynb 🌐 Update translations via Co-op Translator 3 weeks ago

README.md

K-Means 分群

課前測驗

在這節課中,你將學習如何使用 Scikit-learn 和之前導入的尼日利亞音樂數據集來創建分群。我們將介紹 K-Means 分群的基礎知識。請記住,正如你在之前的課程中學到的,分群有很多方法,使用哪種方法取決於你的數據。我們將嘗試 K-Means因為它是最常見的分群技術。讓我們開始吧

你將學到的術語:

  • Silhouette 分數
  • 肘部法則
  • 慣性
  • 方差

介紹

K-Means 分群 是一種源自信號處理領域的方法。它用於將數據分組並劃分為 'k' 個分群,通過一系列觀測來完成。每次觀測都會將數據點分配到距離最近的 '均值' 或分群的中心點。

分群可以被視覺化為 Voronoi 圖,其中包括一個點(或“種子”)及其對應的區域。

voronoi 圖

信息圖由 Jen Looper 提供

K-Means 分群過程通過三步流程執行

  1. 演算法通過從數據集中抽樣選擇 k 個中心點。接著進行迴圈:
    1. 將每個樣本分配到最近的中心點。
    2. 通過計算分配到之前中心點的所有樣本的平均值來創建新的中心點。
    3. 計算新舊中心點之間的差異,並重複直到中心點穩定。

使用 K-Means 的一個缺點是需要確定 'k',即中心點的數量。幸運的是,“肘部法則”可以幫助估算 'k' 的良好起始值。你將很快嘗試它。

前置條件

你將在本課的 notebook.ipynb 文件中工作,其中包括你在上一課中完成的數據導入和初步清理。

練習 - 準備工作

首先再次查看歌曲數據。

  1. 為每一列調用 boxplot() 創建一個箱型圖:

    plt.figure(figsize=(20,20), dpi=200)
    
    plt.subplot(4,3,1)
    sns.boxplot(x = 'popularity', data = df)
    
    plt.subplot(4,3,2)
    sns.boxplot(x = 'acousticness', data = df)
    
    plt.subplot(4,3,3)
    sns.boxplot(x = 'energy', data = df)
    
    plt.subplot(4,3,4)
    sns.boxplot(x = 'instrumentalness', data = df)
    
    plt.subplot(4,3,5)
    sns.boxplot(x = 'liveness', data = df)
    
    plt.subplot(4,3,6)
    sns.boxplot(x = 'loudness', data = df)
    
    plt.subplot(4,3,7)
    sns.boxplot(x = 'speechiness', data = df)
    
    plt.subplot(4,3,8)
    sns.boxplot(x = 'tempo', data = df)
    
    plt.subplot(4,3,9)
    sns.boxplot(x = 'time_signature', data = df)
    
    plt.subplot(4,3,10)
    sns.boxplot(x = 'danceability', data = df)
    
    plt.subplot(4,3,11)
    sns.boxplot(x = 'length', data = df)
    
    plt.subplot(4,3,12)
    sns.boxplot(x = 'release_date', data = df)
    

    這些數據有點雜亂:通過觀察每一列的箱型圖,你可以看到異常值。

    異常值

    你可以遍歷數據集並移除這些異常值,但這樣會使數據變得非常少。

  2. 現在選擇你將用於分群練習的列。選擇範圍相似的列,並將 artist_top_genre 列編碼為數值數據:

    from sklearn.preprocessing import LabelEncoder
    le = LabelEncoder()
    
    X = df.loc[:, ('artist_top_genre','popularity','danceability','acousticness','loudness','energy')]
    
    y = df['artist_top_genre']
    
    X['artist_top_genre'] = le.fit_transform(X['artist_top_genre'])
    
    y = le.transform(y)
    
  3. 現在你需要選擇目標分群的數量。你知道數據集中有 3 個歌曲類型,因此我們嘗試 3

    from sklearn.cluster import KMeans
    
    nclusters = 3 
    seed = 0
    
    km = KMeans(n_clusters=nclusters, random_state=seed)
    km.fit(X)
    
    # Predict the cluster for each data point
    
    y_cluster_kmeans = km.predict(X)
    y_cluster_kmeans
    

你會看到一個陣列列印出每行數據框的預測分群0、1 或 2

  1. 使用此陣列計算 'Silhouette 分數'

    from sklearn import metrics
    score = metrics.silhouette_score(X, y_cluster_kmeans)
    score
    

Silhouette 分數

尋找接近 1 的 Silhouette 分數。此分數範圍從 -1 到 1如果分數為 1則分群密集且與其他分群分離良好。接近 0 的值表示分群重疊,樣本非常接近鄰近分群的決策邊界。(來源)

我們的分數是 0.53,介於中間。這表明我們的數據不太適合這種分群,但我們繼續。

練習 - 建立模型

  1. 導入 KMeans 並開始分群過程。

    from sklearn.cluster import KMeans
    wcss = []
    
    for i in range(1, 11):
        kmeans = KMeans(n_clusters = i, init = 'k-means++', random_state = 42)
        kmeans.fit(X)
        wcss.append(kmeans.inertia_)
    
    

    這裡有幾個部分需要解釋。

    🎓 range這是分群過程的迭代次數

    🎓 random_state"決定中心點初始化的隨機數生成。" 來源

    🎓 WCSS"分群內平方和" 測量分群內所有點到分群中心點的平均平方距離。來源

    🎓 慣性K-Means 演算法試圖選擇中心點以最小化“慣性”,“慣性是分群內部一致性的度量。” 來源。該值在每次迭代中附加到 wcss 變數。

    🎓 k-means++:在 Scikit-learn 中,你可以使用 'k-means++' 優化,它“初始化中心點,使它們(通常)彼此距離較遠,從而可能比隨機初始化獲得更好的結果。”

肘部法則

之前,你推測因為你目標是 3 個歌曲類型,所以應選擇 3 個分群。但真的是這樣嗎?

  1. 使用“肘部法則”確認。

    plt.figure(figsize=(10,5))
    sns.lineplot(x=range(1, 11), y=wcss, marker='o', color='red')
    plt.title('Elbow')
    plt.xlabel('Number of clusters')
    plt.ylabel('WCSS')
    plt.show()
    

    使用你在上一步中建立的 wcss 變數創建一個圖表,顯示肘部的“彎曲”位置,這表明最佳分群數量。可能確實是 3

    肘部法則

練習 - 顯示分群

  1. 再次嘗試此過程,這次設置三個分群,並以散點圖顯示分群:

    from sklearn.cluster import KMeans
    kmeans = KMeans(n_clusters = 3)
    kmeans.fit(X)
    labels = kmeans.predict(X)
    plt.scatter(df['popularity'],df['danceability'],c = labels)
    plt.xlabel('popularity')
    plt.ylabel('danceability')
    plt.show()
    
  2. 檢查模型的準確性:

    labels = kmeans.labels_
    
    correct_labels = sum(y == labels)
    
    print("Result: %d out of %d samples were correctly labeled." % (correct_labels, y.size))
    
    print('Accuracy score: {0:0.2f}'. format(correct_labels/float(y.size)))
    

    此模型的準確性不太好,分群的形狀給了你提示原因。

    分群

    這些數據太不平衡,相關性太低,列值之間的方差太大,無法很好地分群。事實上,形成的分群可能受到我們上面定義的三個類型的影響或偏斜。這是一個學習過程!

    在 Scikit-learn 的文檔中,你可以看到像這樣的模型,分群劃分不太清晰,存在“方差”問題:

    問題模型

    信息圖來自 Scikit-learn

方差

方差被定義為“與平均值的平方差的平均值” (來源)。在這個分群問題的背景下,它指的是數據集中數字偏離平均值的程度。

這是一個很好的時機來思考所有可能的方式來解決這個問題。進一步調整數據?使用不同的列?使用不同的演算法?提示:嘗試縮放你的數據以進行標準化並測試其他列。

試試這個 '方差計算器' 來更好地理解這個概念。


🚀挑戰

花些時間使用這個 notebook調整參數。你能通過更多清理數據例如移除異常值來提高模型的準確性嗎你可以使用權重來給某些數據樣本更多的權重。還有什麼方法可以創建更好的分群

提示嘗試縮放你的數據。notebook 中有註解的程式碼,添加標準縮放以使數據列在範圍上更接近。你會發現雖然 Silhouette 分數下降了,但肘部圖中的“彎曲”變得更平滑。這是因為未縮放的數據允許方差較小的數據具有更大的權重。閱讀更多關於這個問題的內容這裡

課後測驗

回顧與自學

看看一個 K-Means 模擬器例如這個。你可以使用這個工具來視覺化樣本數據點並確定其中心點。你可以編輯數據的隨機性、分群數量和中心點數量。這是否幫助你更好地理解數據如何分組?

另外,看看 這份關於 K-Means 的講義 來自斯坦福。

作業

嘗試不同的分群方法


免責聲明
本文件已使用人工智能翻譯服務 Co-op Translator 進行翻譯。儘管我們致力於提供準確的翻譯,但請注意,自動翻譯可能包含錯誤或不準確之處。原始語言的文件應被視為權威來源。對於重要信息,建議使用專業人工翻譯。我們對因使用此翻譯而引起的任何誤解或錯誤解釋概不負責。