|
|
12 months ago | |
|---|---|---|
| .. | ||
| README.md | 12 months ago | |
| assignment.ipynb | 1 year ago | |
| assignment.md | 1 year ago | |
| notebook.ipynb | 1 year ago | |
README.md
Življenjski cikel podatkovne znanosti: Analiza
![]() |
|---|
| Življenjski cikel podatkovne znanosti: Analiza - Sketchnote by @nitya |
Predhodni kviz
Predhodni kviz
Analiza v življenjskem ciklu podatkov potrjuje, da podatki lahko odgovorijo na zastavljena vprašanja ali rešijo določen problem. Ta korak se lahko osredotoči tudi na preverjanje, ali model pravilno obravnava ta vprašanja in probleme. Ta lekcija je osredotočena na raziskovalno analizo podatkov (EDA), ki vključuje tehnike za določanje značilnosti in odnosov znotraj podatkov ter pripravo podatkov za modeliranje.
Uporabili bomo primer podatkovne zbirke iz Kaggle, da pokažemo, kako to uporabiti s Pythonom in knjižnico Pandas. Ta podatkovna zbirka vsebuje število nekaterih pogostih besed, ki se pojavljajo v e-poštnih sporočilih, pri čemer so viri teh sporočil anonimni. Uporabite notebook v tej mapi za sledenje.
Raziskovalna analiza podatkov
Faza zajema v življenjskem ciklu je tista, kjer se pridobijo podatki ter opredelijo problemi in vprašanja, vendar kako vemo, da podatki lahko podpirajo končni rezultat? Spomnite se, da podatkovni znanstvenik lahko zastavi naslednja vprašanja, ko pridobi podatke:
- Ali imam dovolj podatkov za rešitev tega problema?
- Ali so podatki ustrezne kakovosti za ta problem?
- Če skozi te podatke odkrijem dodatne informacije, ali bi morali razmisliti o spremembi ali ponovni opredelitvi ciljev? Raziskovalna analiza podatkov je proces spoznavanja podatkov in se lahko uporabi za odgovore na ta vprašanja ter za prepoznavanje izzivov pri delu s podatkovno zbirko. Osredotočimo se na nekatere tehnike, ki se uporabljajo za dosego tega.
Profiliranje podatkov, opisna statistika in Pandas
Kako ocenimo, ali imamo dovolj podatkov za rešitev problema? Profiliranje podatkov lahko povzame in zbere splošne informacije o naši podatkovni zbirki s tehnikami opisne statistike. Profiliranje podatkov nam pomaga razumeti, kaj imamo na voljo, opisna statistika pa nam pomaga razumeti, koliko stvari imamo na voljo.
V nekaj prejšnjih lekcijah smo uporabili Pandas za pridobitev opisne statistike z uporabo funkcije describe(). Ta funkcija zagotavlja število, največje in najmanjše vrednosti, povprečje, standardni odklon in kvantile za numerične podatke. Uporaba opisne statistike, kot je funkcija describe(), vam lahko pomaga oceniti, koliko podatkov imate in ali jih potrebujete več.
Vzorčenje in poizvedovanje
Raziskovanje celotne velike podatkovne zbirke je lahko zelo zamudno in običajno naloga, ki jo opravi računalnik. Vendar pa je vzorčenje koristno orodje za razumevanje podatkov in omogoča boljše razumevanje, kaj je v podatkovni zbirki in kaj predstavlja. Z vzorcem lahko uporabite verjetnost in statistiko za oblikovanje splošnih zaključkov o svojih podatkih. Čeprav ni določenega pravila, koliko podatkov bi morali vzorčiti, je pomembno opozoriti, da več podatkov kot vzorčite, bolj natančno lahko oblikujete splošne zaključke o podatkih.
Pandas ima funkcijo sample(), kjer lahko podate argument, koliko naključnih vzorcev želite prejeti in uporabiti.
Splošno poizvedovanje podatkov vam lahko pomaga odgovoriti na splošna vprašanja in teorije, ki jih imate. V nasprotju z vzorčenjem vam poizvedbe omogočajo nadzor in osredotočenost na specifične dele podatkov, o katerih imate vprašanja.
Funkcija query() v knjižnici Pandas vam omogoča izbiro stolpcev in pridobitev preprostih odgovorov o podatkih prek pridobljenih vrstic.
Raziskovanje z vizualizacijami
Ni vam treba čakati, da so podatki temeljito očiščeni in analizirani, da začnete ustvarjati vizualizacije. Pravzaprav lahko vizualna predstavitev med raziskovanjem pomaga prepoznati vzorce, odnose in težave v podatkih. Poleg tega vizualizacije omogočajo komunikacijo s tistimi, ki niso vključeni v upravljanje podatkov, in so lahko priložnost za deljenje ter pojasnjevanje dodatnih vprašanj, ki niso bila obravnavana v fazi zajema. Oglejte si oddelek o vizualizacijah, da se naučite več o nekaterih priljubljenih načinih raziskovanja z vizualizacijami.
Raziskovanje za prepoznavanje nedoslednosti
Vse teme v tej lekciji lahko pomagajo prepoznati manjkajoče ali nedosledne vrednosti, vendar Pandas ponuja funkcije za preverjanje nekaterih od teh. isna() ali isnull() lahko preverita manjkajoče vrednosti. Pomemben del raziskovanja teh vrednosti v vaših podatkih je raziskovanje, zakaj so se tako pojavile. To vam lahko pomaga pri odločitvi, katere ukrepe sprejeti za njihovo rešitev.
Kviz po predavanju
Naloga
Omejitev odgovornosti:
Ta dokument je bil preveden z uporabo storitve za prevajanje z umetno inteligenco Co-op Translator. Čeprav si prizadevamo za natančnost, vas prosimo, da upoštevate, da lahko avtomatizirani prevodi vsebujejo napake ali netočnosti. Izvirni dokument v njegovem maternem jeziku je treba obravnavati kot avtoritativni vir. Za ključne informacije priporočamo profesionalni človeški prevod. Ne prevzemamo odgovornosti za morebitna napačna razumevanja ali napačne interpretacije, ki bi nastale zaradi uporabe tega prevoda.
