ML-For-Beginners/translations/mo/5-Clustering/1-Visualize

聚類簡介

聚類是一種無監督學習方法，假設數據集是未標記的，或者其輸入未與預定義的輸出匹配。它使用各種算法來整理未標記的數據，並根據數據中識別出的模式提供分組。

🎥 點擊上方圖片觀看影片。在學習聚類的機器學習時，欣賞一些尼日利亞舞廳音樂——這是 PSquare 在 2014 年的一首高評價歌曲。

課前測驗

簡介

聚類在數據探索中非常有用。讓我們看看它是否能幫助發現尼日利亞觀眾消費音樂的趨勢和模式。

✅ 花一分鐘思考一下聚類的用途。在日常生活中，聚類發生在你有一堆洗好的衣物需要分類成家人衣物的時候 🧦👕👖🩲。在數據科學中，聚類發生在分析用戶偏好或確定任何未標記數據集的特徵時。聚類在某種程度上幫助我們理解混亂，就像整理襪子抽屜一樣。

🎥 點擊上方圖片觀看影片：麻省理工學院的 John Guttag 介紹聚類

在專業環境中，聚類可以用於確定市場細分，例如確定哪些年齡段購買哪些商品。另一個用途是異常檢測，例如從信用卡交易數據集中檢測欺詐行為。或者你可能使用聚類來確定一批醫學掃描中的腫瘤。

✅ 花一分鐘思考一下你可能在銀行、電子商務或商業環境中遇到過的聚類。

🎓 有趣的是，聚類分析起源於 1930 年代的人類學和心理學領域。你能想像它可能是如何被使用的嗎？

另外，你可以用它來分組搜索結果，例如按購物鏈接、圖片或評論分組。當你有一個大型數據集需要縮減並進行更細緻的分析時，聚類技術非常有用，因此可以在構建其他模型之前用來了解數據。

✅ 一旦你的數據被組織成聚類，你可以為其分配一個聚類 ID。這種技術在保護數據集隱私時非常有用；你可以用聚類 ID 而不是更具識別性的數據來引用數據點。你能想到其他使用聚類 ID 而不是聚類中其他元素來識別的原因嗎？

在這個學習模組中深入了解聚類技術。

聚類入門

Scikit-learn 提供了大量方法來執行聚類。你選擇的類型將取決於你的使用案例。根據文檔，每種方法都有不同的優勢。以下是 Scikit-learn 支持的方法及其適用場景的簡化表格：

方法名稱	使用場景
K-Means	通用用途，歸納式
Affinity propagation	多個、不均勻的聚類，歸納式
Mean-shift	多個、不均勻的聚類，歸納式
Spectral clustering	少量、均勻的聚類，轉導式
Ward hierarchical clustering	多個、受限的聚類，轉導式
Agglomerative clustering	多個、受限的、非歐幾里得距離，轉導式
DBSCAN	非平面幾何、不均勻的聚類，轉導式
OPTICS	非平面幾何、不均勻且密度可變的聚類，轉導式
Gaussian mixtures	平面幾何，歸納式
BIRCH	大型數據集且有異常值，歸納式

🎓 我們如何創建聚類與我們如何將數據點分組有很大關係。讓我們解釋一些術語：

🎓 '轉導式' vs. '歸納式'

轉導式推理是基於觀察到的訓練案例並映射到特定測試案例。歸納式推理是基於訓練案例並映射到一般規則，然後應用於測試案例。

舉例：假設你有一個部分標記的數據集。一些是“唱片”，一些是“CD”，一些是空白。你的任務是為空白部分提供標籤。如果你選擇歸納式方法，你會訓練一個模型尋找“唱片”和“CD”，並將這些標籤應用於未標記的數據。這種方法可能難以分類實際上是“磁帶”的物品。而轉導式方法則更有效地處理這些未知數據，因為它努力將相似的物品分組，然後為整個分組分配標籤。在這種情況下，聚類可能反映“圓形音樂物品”和“方形音樂物品”。

🎓 '非平面' vs. '平面'幾何

源自數學術語，非平面 vs. 平面幾何指的是通過“平面”（歐幾里得）或“非平面”（非歐幾里得）幾何方法測量點之間的距離。

'平面'在此上下文中指的是歐幾里得幾何（部分被教為“平面”幾何），而非平面指的是非歐幾里得幾何。幾何與機器學習有什麼關係？作為兩個根植於數學的領域，必須有一種通用方法來測量聚類中點之間的距離，這可以根據數據的性質以“平面”或“非平面”的方式完成。歐幾里得距離是通過兩點之間線段的長度來測量的。非歐幾里得距離則沿曲線測量。如果你的數據在可視化後似乎不在平面上，你可能需要使用專門的算法來處理它。

信息圖由 Dasani Madipalli 提供

🎓 '距離'

聚類由其距離矩陣定義，例如點之間的距離。這些距離可以通過幾種方式測量。歐幾里得聚類由點值的平均值定義，並包含一個“中心點”或中心點。因此距離是通過到該中心點的距離來測量的。非歐幾里得距離指的是“聚類中心”，即最接近其他點的點。聚類中心可以通過多種方式定義。

🎓 '受限'

受限聚類在這種無監督方法中引入了“半監督”學習。點之間的關係被標記為“不能鏈接”或“必須鏈接”，因此對數據集施加了一些規則。

舉例：如果一個算法在一批未標記或半標記的數據上自由運行，它生成的聚類可能質量較差。在上述例子中，聚類可能會分組“圓形音樂物品”、“方形音樂物品”、“三角形物品”和“餅乾”。如果給出一些約束或規則（“物品必須由塑料製成”，“物品需要能夠產生音樂”），這可以幫助“約束”算法做出更好的選擇。

🎓 '密度'

被認為“噪聲”的數據被認為是“密集”的。每個聚類中的點之間的距離可能在檢查時顯示為更密集或更稀疏，因此需要使用適當的聚類方法來分析這些數據。這篇文章展示了使用 K-Means 聚類與 HDBSCAN 算法探索具有不均勻聚類密度的噪聲數據集的區別。

聚類算法

有超過 100 種聚類算法，其使用取決於手頭數據的性質。讓我們討論一些主要的算法：

• 層次聚類。如果物品是根據其與附近物品的接近程度而分類，而不是與更遠的物品，則聚類是基於其成員與其他物品的距離形成的。Scikit-learn 的凝聚聚類是層次聚類。

  

  信息圖由 Dasani Madipalli 提供

• 中心點聚類。這種流行的算法需要選擇“k”，即要形成的聚類數量，之後算法確定聚類的中心點並圍繞該點收集數據。K-means 聚類是中心點聚類的一個流行版本。中心點由最近的平均值確定，因此得名。聚類的平方距離被最小化。

  

  信息圖由 Dasani Madipalli 提供

• 基於分佈的聚類。基於統計建模，基於分佈的聚類集中於確定數據點屬於某個聚類的概率，並據此分配。高斯混合方法屬於此類。

• 基於密度的聚類。數據點根據其密度或圍繞彼此的分組分配到聚類中。遠離群體的數據點被認為是異常值或噪聲。DBSCAN、Mean-shift 和 OPTICS 屬於此類聚類。

• 基於網格的聚類。對於多維數據集，創建一個網格，並將數據分配到網格的單元中，從而創建聚類。

練習 - 聚類你的數據

聚類作為一種技術在適當的可視化支持下效果更佳，因此讓我們開始可視化我們的音樂數據。這個練習將幫助我們決定針對這些數據的性質最有效使用哪種聚類方法。

1. 打開此文件夾中的 notebook.ipynb。

2. 導入 Seaborn 套件以進行良好的數據可視化。

   !pip install seaborn
   

3. 從 nigerian-songs.csv 附加歌曲數據。加載一個包含歌曲數據的數據框。通過導入庫並輸出數據準備探索這些數據：

   import matplotlib.pyplot as plt
   import pandas as pd
   
   df = pd.read_csv("../data/nigerian-songs.csv")
   df.head()
   

   查看數據的前幾行：

   	name	album	artist	artist_top_genre	release_date	length	popularity	danceability	acousticness	energy	instrumentalness	liveness	loudness	speechiness	tempo	time_signature
   0	Sparky	Mandy & The Jungle	Cruel Santino	alternative r&b	2019	144000	48	0.666	0.851	0.42	0.534	0.11	-6.699	0.0829	133.015	5
   1	shuga rush	EVERYTHING YOU HEARD IS TRUE	Odunsi (The Engine)	afropop	2020	89488	30	0.71	0.0822	0.683	0.000169	0.101	-5.64	0.36	129.993	3
   2	LITT!	LITT!	AYLØ	獨立R&B	2018	207758	40	0.836	0.272	0.564	0.000537	0.11	-7.127	0.0424	130.005	4
   3	Confident / Feeling Cool	Enjoy Your Life	Lady Donli	奈及利亞流行音樂	2019	175135	14	0.894	0.798	0.611	0.000187	0.0964	-4.961	0.113	111.087	4
   4	wanted you	rare.	Odunsi (The Engine)	非洲流行音樂	2018	152049	25	0.702	0.116	0.833	0.91	0.348	-6.044	0.0447	105.115	4

4. 獲取數據框的基本資訊，呼叫 info()：

   df.info()
   

   輸出如下所示：

   <class 'pandas.core.frame.DataFrame'>
   RangeIndex: 530 entries, 0 to 529
   Data columns (total 16 columns):
    #   Column            Non-Null Count  Dtype  
   ---  ------            --------------  -----  
    0   name              530 non-null    object 
    1   album             530 non-null    object 
    2   artist            530 non-null    object 
    3   artist_top_genre  530 non-null    object 
    4   release_date      530 non-null    int64  
    5   length            530 non-null    int64  
    6   popularity        530 non-null    int64  
    7   danceability      530 non-null    float64
    8   acousticness      530 non-null    float64
    9   energy            530 non-null    float64
    10  instrumentalness  530 non-null    float64
    11  liveness          530 non-null    float64
    12  loudness          530 non-null    float64
    13  speechiness       530 non-null    float64
    14  tempo             530 non-null    float64
    15  time_signature    530 non-null    int64  
   dtypes: float64(8), int64(4), object(4)
   memory usage: 66.4+ KB
   

5. 通過呼叫 isnull() 並驗證總和是否為 0，仔細檢查是否有空值：

   df.isnull().sum()
   

   看起來不錯：

   name                0
   album               0
   artist              0
   artist_top_genre    0
   release_date        0
   length              0
   popularity          0
   danceability        0
   acousticness        0
   energy              0
   instrumentalness    0
   liveness            0
   loudness            0
   speechiness         0
   tempo               0
   time_signature      0
   dtype: int64
   

6. 描述數據：

   df.describe()
   

   	release_date	length	popularity	danceability	acousticness	energy	instrumentalness	liveness	loudness	speechiness	tempo	time_signature
   count	530	530	530	530	530	530	530	530	530	530	530	530
   mean	2015.390566	222298.1698	17.507547	0.741619	0.265412	0.760623	0.016305	0.147308	-4.953011	0.130748	116.487864	3.986792
   std	3.131688	39696.82226	18.992212	0.117522	0.208342	0.148533	0.090321	0.123588	2.464186	0.092939	23.518601	0.333701
   min	1998	89488	0	0.255	0.000665	0.111	0	0.0283	-19.362	0.0278	61.695	3
   25%	2014	199305	0	0.681	0.089525	0.669	0	0.07565	-6.29875	0.0591	102.96125	4
   50%	2016	218509	13	0.761	0.2205	0.7845	0.000004	0.1035	-4.5585	0.09795	112.7145	4
   75%	2017	242098.5	31	0.8295	0.403	0.87575	0.000234	0.164	-3.331	0.177	125.03925	4
   max	2020	511738	73	0.966	0.954	0.995	0.91	0.811	0.582	0.514	206.007	5

🤔 如果我們使用的是無需標籤數據的無監督方法（如聚類），為什麼還要顯示帶有標籤的數據？在數據探索階段，這些標籤很有用，但對於聚類算法來說並非必要。你完全可以移除列標題，僅通過列號來引用數據。

觀察數據的一般值。注意，受歡迎度可以為 "0"，這表示歌曲沒有排名。我們稍後會移除這些數據。

1. 使用條形圖找出最受歡迎的音樂類型：

   import seaborn as sns
   
   top = df['artist_top_genre'].value_counts()
   plt.figure(figsize=(10,7))
   sns.barplot(x=top[:5].index,y=top[:5].values)
   plt.xticks(rotation=45)
   plt.title('Top genres',color = 'blue')
   

   

✅ 如果你想查看更多的前幾名數據，可以將 [:5] 改為更大的值，或者移除它以查看全部。

注意，當最受歡迎的音樂類型顯示為 "Missing" 時，這表示 Spotify 沒有對其進行分類，因此我們需要將其移除。

1. 通過篩選移除缺失數據：

   df = df[df['artist_top_genre'] != 'Missing']
   top = df['artist_top_genre'].value_counts()
   plt.figure(figsize=(10,7))
   sns.barplot(x=top.index,y=top.values)
   plt.xticks(rotation=45)
   plt.title('Top genres',color = 'blue')
   

   現在重新檢查音樂類型：

   

2. 顯然，前三大音樂類型在這個數據集中占據主導地位。我們專注於 afro dancehall、afropop 和 nigerian pop，並進一步篩選數據，移除任何受歡迎度為 0 的數據（這表示數據集中未分類的歌曲，對我們的目的來說可以視為噪聲）：

   df = df[(df['artist_top_genre'] == 'afro dancehall') | (df['artist_top_genre'] == 'afropop') | (df['artist_top_genre'] == 'nigerian pop')]
   df = df[(df['popularity'] > 0)]
   top = df['artist_top_genre'].value_counts()
   plt.figure(figsize=(10,7))
   sns.barplot(x=top.index,y=top.values)
   plt.xticks(rotation=45)
   plt.title('Top genres',color = 'blue')
   

3. 快速測試數據是否有特別強的相關性：

   corrmat = df.corr(numeric_only=True)
   f, ax = plt.subplots(figsize=(12, 9))
   sns.heatmap(corrmat, vmax=.8, square=True)
   

   

   唯一的強相關性是 energy 和 loudness 之間，這並不令人驚訝，因為響亮的音樂通常充滿活力。除此之外，相關性相對較弱。看看聚類算法如何處理這些數據會很有趣。

   🎓 請注意，相關性並不意味著因果關係！我們有相關性的證據，但沒有因果關係的證據。一個有趣的網站 提供了一些強調這一點的視覺化內容。

在這個數據集中，歌曲的受歡迎度和舞蹈性是否存在某種趨同？使用 FacetGrid 可以顯示出無論音樂類型如何，都有一些同心圓的趨勢。這是否意味著奈及利亞的音樂品味在某種程度上對舞蹈性有一定的偏好？

✅ 嘗試不同的數據點（如 energy、loudness、speechiness）以及更多或不同的音樂類型。你能發現什麼？查看 df.describe() 表格，了解數據點的一般分佈。

練習 - 數據分佈

這三種音樂類型在受歡迎度和舞蹈性方面的感知是否有顯著差異？

1. 檢查我們前三大音樂類型在受歡迎度和舞蹈性上的數據分佈，沿著給定的 x 和 y 軸進行分析。

   sns.set_theme(style="ticks")
   
   g = sns.jointplot(
       data=df,
       x="popularity", y="danceability", hue="artist_top_genre",
       kind="kde",
   )
   

   你可以發現圍繞一個一般趨勢點的同心圓，顯示數據點的分佈。

   🎓 請注意，此示例使用的是 KDE（核密度估計）圖，該圖通過連續的概率密度曲線來表示數據。這在處理多個分佈時非常有用。

   總體來看，這三種音樂類型在受歡迎度和舞蹈性方面大致一致。在這些大致對齊的數據中確定聚類將是一個挑戰：

   

2. 創建散點圖：

   sns.FacetGrid(df, hue="artist_top_genre", height=5) \
      .map(plt.scatter, "popularity", "danceability") \
      .add_legend()
   

   同一軸上的散點圖顯示了類似的趨勢：

   

總體來說，對於聚類分析，你可以使用散點圖來顯示數據的聚類，因此掌握這種類型的可視化非常有用。在下一課中，我們將使用 k-means 聚類來探索這些數據中有趣的重疊群組。

---

🚀挑戰

為了準備下一課，製作一個關於你可能在生產環境中發現並使用的各種聚類算法的圖表。這些聚類算法試圖解決哪些問題？

課後測驗

回顧與自學

在應用聚類算法之前，正如我們所學，了解數據集的性質是一個好主意。閱讀更多相關內容：這裡

這篇有幫助的文章 介紹了不同聚類算法在不同數據形狀下的行為。

作業

研究其他聚類的可視化方法

---

免責聲明：
本文件使用 AI 翻譯服務 Co-op Translator 進行翻譯。我們致力於提供準確的翻譯，但請注意，自動翻譯可能包含錯誤或不準確之處。應以原始語言的文件作為權威來源。對於關鍵資訊，建議尋求專業人工翻譯。我們對於因使用此翻譯而產生的任何誤解或錯誤解讀概不負責。