|
|
3 months ago | |
|---|---|---|
| .. | ||
| solution | 5 months ago | |
| README.md | 3 months ago | |
| assignment.md | 5 months ago | |
| notebook.ipynb | 10 months ago | |
README.md
Klasifikatori kuhinja 1
U ovoj lekciji koristit ćete skup podataka koji ste spremili iz prošle lekcije, pun izbalansiranih, čistih podataka o kuhinjama.
Koristit ćete ovaj skup podataka s različitim klasifikatorima kako biste predvidjeli određenu nacionalnu kuhinju na temelju grupe sastojaka. Istovremeno ćete naučiti više o nekim načinima na koje se algoritmi mogu koristiti za zadatke klasifikacije.
Kvizz prije predavanja
Priprema
Pod pretpostavkom da ste dovršili Lekciju 1, provjerite da li u korijenskoj mapi /data za ove četiri lekcije postoji datoteka cleaned_cuisines.csv.
Vježba - predvidi nacionalnu kuhinju
-
Uvježbajte u mapi notebook.ipynb ove lekcije te uvezite tu datoteku zajedno s Pandas knjižnicom:
import pandas as pd cuisines_df = pd.read_csv("../data/cleaned_cuisines.csv") cuisines_df.head()Podaci izgledaju ovako:
| Unnamed: 0 | cuisine | almond | angelica | anise | anise_seed | apple | apple_brandy | apricot | armagnac | ... | whiskey | white_bread | white_wine | whole_grain_wheat_flour | wine | wood | yam | yeast | yogurt | zucchini | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 0 | 0 | indian | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | ... | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 |
| 1 | 1 | indian | 1 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | ... | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 |
| 2 | 2 | indian | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | ... | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 |
| 3 | 3 | indian | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | ... | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 |
| 4 | 4 | indian | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | ... | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 1 | 0 |
-
Sada uvezite još nekoliko knjižnica:
from sklearn.linear_model import LogisticRegression from sklearn.model_selection import train_test_split, cross_val_score from sklearn.metrics import accuracy_score,precision_score,confusion_matrix,classification_report, precision_recall_curve from sklearn.svm import SVC import numpy as np -
Podijelite koordinate X i y u dva podatkovna okvira za treniranje.
cuisinemože biti podatkovni okvir oznaka:cuisines_label_df = cuisines_df['cuisine'] cuisines_label_df.head()Izgledat će ovako:
0 indian 1 indian 2 indian 3 indian 4 indian Name: cuisine, dtype: object -
Izbrišite stupce
Unnamed: 0icuisinepozivom nadrop(). Ostatak podataka spremite kao značajke za treniranje:cuisines_feature_df = cuisines_df.drop(['Unnamed: 0', 'cuisine'], axis=1) cuisines_feature_df.head()Vaše značajke izgledaju ovako:
| almond | angelica | anise | anise_seed | apple | apple_brandy | apricot | armagnac | artemisia | artichoke | ... | whiskey | white_bread | white_wine | whole_grain_wheat_flour | wine | wood | yam | yeast | yogurt | zucchini | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | ... | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 |
| 1 | 1 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | ... | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 |
| 2 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | ... | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 |
| 3 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | ... | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 |
| 4 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | ... | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 1 | 0 |
Sada ste spremni za treniranje vašeg modela!
Odabir klasifikatora
Sada kada su vam podaci čisti i spremni za treniranje, morate odlučiti koji algoritam koristiti za taj posao.
Scikit-learn grupira klasifikaciju pod Nadzorovano učenje, i u toj kategoriji pronaći ćete mnogo načina za klasifikaciju. Raznolikost može u početku biti zbunjujuća. Sljedeće metode uključuju tehnike klasifikacije:
- Linearni modeli
- Strojevi potpornih vektora
- Stohastički gradijentni spust
- Najbliži susjedi
- Gaussovi procesi
- Odluke stabala
- Metode ansambla (voting Classifier)
- Multiklasni i multiizlazni algoritmi (multiklasna i multilabel klasifikacija, multiklasno-multiizlazna klasifikacija)
Također možete koristiti neuronske mreže za klasifikaciju podataka, ali to je izvan opsega ove lekcije.
Koji klasifikator odabrati?
Dakle, koji klasifikator odabrati? Često je isprobavanje nekoliko njih i traženje dobrog rezultata dobar način testiranja. Scikit-learn nudi usporedni prikaz jedan pored drugoga na kreiranom skupu podataka, uspoređujući KNeighbors, SVC na dva načina, GaussianProcessClassifier, DecisionTreeClassifier, RandomForestClassifier, MLPClassifier, AdaBoostClassifier, GaussianNB i QuadraticDiscrinationAnalysis, prikazujući rezultate vizualizirano:
Grafikon generiran u dokumentaciji Scikit-learn
AutoML rješava ovaj problem uredno izvođenjem ovih usporedbi u oblaku, omogućujući vam izbor najboljeg algoritma za vaše podatke. Isprobajte ovdje
Bolji pristup
Bolji način nego nasumično pogađati je pratiti ideje na ovom preuzimljivom ML Cheat sheetu. Ovdje otkrivamo da za naš problem s više klasa imamo neke izbore:
Dio Microsoftovog Algorithm Cheat Sheeta, s detaljima opcija za višeklasnu klasifikaciju
✅ Preuzmite ovaj cheat sheet, isprintajte ga i zalijepite na zid!
Razmišljanje
Pogledajmo možemo li racionalno pristupiti različitim pristupima s obzirom na uvjete koje imamo:
- Neuronske mreže su preteške. S obzirom na naš čisti, ali minimalni skup podataka i činjenicu da treniramo lokalno preko bilježnica, neuronske mreže su preteške za ovaj zadatak.
- Nema klasifikatora za dvije klase. Ne koristimo klasifikator za dvije klase, pa je opcija jedan-protiv-svih isključena.
- Stablo odluke ili logistička regresija mogu funkcionirati. Stablo odluke bi moglo funkcionirati, ili logistička regresija za višeklasne podatke.
- Višeklasno pojačano stablo odluke rješava drugačiji problem. Višeklasno pojačano stablo odluke najprikladnije je za neparametarske zadatke, npr. zadatke dizajnirane za izradu rangiranja, pa nije korisno za nas.
Korištenje Scikit-learn
Koristit ćemo Scikit-learn za analizu naših podataka. Međutim, postoji mnogo načina za korištenje logističke regresije u Scikit-learnu. Pogledajte parametre koje treba proslijediti.
U suštini postoje dva važna parametra - multi_class i solver - koje trebamo specificirati kad tražimo od Scikit-learna da izvrši logističku regresiju. Vrijednost multi_class specificira određeno ponašanje. Vrijednost solver označava koji algoritam se koristi. Nisu svi rješavači (solvers) kompatibilni sa svim vrijednostima multi_class.
Prema dokumentaciji, kod višeklasne varijante, algoritam treniranja:
- Koristi shemu jedan-protiv-ostalih (OvR) ako je opcija
multi_classpostavljena naovr - Koristi cross-entropy loss ako je opcija
multi_classpostavljena namultinomial. (Trenutno opcijamultinomialpodržana je samo kod rješavača ‘lbfgs’, ‘sag’, ‘saga’ i ‘newton-cg’)."
🎓 'shema' ovdje može biti 'ovr' (jedan-protiv-ostalih) ili 'multinomial'. Budući da je logistička regresija izvorno dizajnirana za binarnu klasifikaciju, ove sheme joj omogućuju da bolje rukuje višeklasnim zadacima. izvor
🎓 'solver' je definiran kao "algoritam koji se koristi u problemu optimizacije". izvor.
Scikit-learn nudi ovu tablicu za objašnjenje kako rješavači rukuju različitim izazovima koje predstavljaju različite strukture podataka:
Vježba - razdvojite podatke
Možemo se usredotočiti na logističku regresiju za naš prvi pokušaj treniranja budući da ste o njoj nedavno učili u prethodnoj lekciji.
Podijelite svoje podatke u grupe za treniranje i testiranje pozivom train_test_split():
X_train, X_test, y_train, y_test = train_test_split(cuisines_feature_df, cuisines_label_df, test_size=0.3)
Vježba - primijenite logističku regresiju
Budući da koristite višeklasni slučaj, morate odabrati koju shemu ćete koristiti i koji rješavač postaviti. Koristite LogisticRegression s višeklasnim postavkama i rješavačem liblinear za treniranje.
-
Kreirajte logističku regresiju s
multi_classpostavljenim naovri rješavačem postavljenim naliblinear:lr = LogisticRegression(multi_class='ovr',solver='liblinear') model = lr.fit(X_train, np.ravel(y_train)) accuracy = model.score(X_test, y_test) print ("Accuracy is {}".format(accuracy))✅ Isprobajte drugi rješavač poput
lbfgs, koji je često zadaniNapomena, koristite Pandas funkciju
ravelza spljoštenje podataka kad je potrebno.Točnost je dobra, preko 80%!
-
Možete vidjeti ovaj model u akciji testiranjem jednog reda podataka (#50):
print(f'ingredients: {X_test.iloc[50][X_test.iloc[50]!=0].keys()}') print(f'cuisine: {y_test.iloc[50]}')Rezultat je ispisan:
ingredients: Index(['cilantro', 'onion', 'pea', 'potato', 'tomato', 'vegetable_oil'], dtype='object') cuisine: indian✅ Isprobajte drugi broj retka i provjerite rezultate
-
Kopajući dublje, možete provjeriti točnost ove predikcije:
test= X_test.iloc[50].values.reshape(-1, 1).T proba = model.predict_proba(test) classes = model.classes_ resultdf = pd.DataFrame(data=proba, columns=classes) topPrediction = resultdf.T.sort_values(by=[0], ascending = [False]) topPrediction.head()Rezultat je ispisan - indijska kuhinja je najbolja procjena, s dobrom vjerojatnošću:
0 indian 0.715851 chinese 0.229475 japanese 0.029763 korean 0.017277 thai 0.007634 ✅ Možete li objasniti zašto je model prilično siguran da je ovo indijska kuhinja?
-
Dobijte više detalja ispisivanjem izvještaja o klasifikaciji, kao što ste to činili u lekcijama o regresiji:
y_pred = model.predict(X_test) print(classification_report(y_test,y_pred))precision recall f1-score support chinese 0.73 0.71 0.72 229 indian 0.91 0.93 0.92 254 japanese 0.70 0.75 0.72 220 korean 0.86 0.76 0.81 242 thai 0.79 0.85 0.82 254 accuracy 0.80 1199 macro avg 0.80 0.80 0.80 1199 weighted avg 0.80 0.80 0.80 1199
🚀Izazov
U ovoj lekciji ste koristili očišćene podatke za izgradnju modela strojnog učenja koji može predvidjeti nacionalnu kuhinju na temelju niza sastojaka. Odvojite malo vremena da proučite mnoge opcije koje Scikit-learn pruža za klasifikaciju podataka. Istražite dublje koncept 'solver' kako biste razumjeli što se događa iza scene.
Kviz nakon predavanja
Pregled i samostalno učenje
Istražite malo više matematiku iza logističke regresije u ovoj lekciji
Zadatak
Odricanje od odgovornosti: Ovaj je dokument preveden korištenjem AI usluge za prijevod Co-op Translator. Iako težimo točnosti, imajte na umu da automatski prijevodi mogu sadržavati pogreške ili netočnosti. Izvorni dokument na njegovom izvornom jeziku treba smatrati autoritativnim izvorom. Za kritične informacije preporučuje se profesionalni ljudski prijevod. Ne snosimo odgovornost za bilo kakve nesporazume ili pogrešna tumačenja koja proizlaze iz korištenja ovog prijevoda.


