|
|
4 weeks ago | |
|---|---|---|
| .. | ||
| README.md | 4 weeks ago | |
| assignment.md | 7 months ago | |
README.md
הגדרת נתונים
![]() |
|---|
| הגדרת נתונים - סקטנוט מאת @nitya |
נתונים הם עובדות, מידע, תצפיות ומדידות המשמשים לגילויים ולתמיכה בהחלטות מושכלות. נקודת נתונים היא יחידה יחידה של נתון בתוך מערך נתונים, שהוא אוסף של נקודות נתונים. מערכי נתונים יכולים להגיע בפורמטים ומבנים שונים, ובדרך כלל יהיו מבוססים על המקור שלהם או מאיפה שהנתונים הגיעו. לדוגמה, ההכנסות החודשיות של חברה עשויות להיות בגליון אלקטרוני, אך נתוני קצב הלב השעתי משעון חכם עשויים להיות בפורמט JSON. נהוג שמדעני נתונים עובדים עם סוגים שונים של נתונים בתוך מערך נתונים.
שיעור זה מתמקד בזיהוי וסיווג נתונים לפי מאפיינים שלהם ומקורותיהם.
מבחן טרום-הרצאה
כיצד מתארים נתונים
נתונים גולמיים
נתונים גולמיים הם נתונים שהגיעו מהמקור שלהם במצבם הראשוני ולא עובדו או אורגנו. כדי להבין מה קורה עם מערך נתונים, יש לארגן אותו לפורמט שניתן להבין הן על ידי בני אדם והן על ידי הטכנולוגיה שהם עשויים להשתמש בה לניתוח נוסף. מבנה של מערך נתונים מתאר כיצד הוא מאורגן וניתן לסיווג למבנה מובנה, לא מובנה וחצי מובנה. סוגי מבנה אלו ישתנו בהתאם למקור אך בסופו של דבר יתאימו לאחת משלוש הקטגוריות האלו.
נתונים כמותיים
נתונים כמותיים הם תצפיות מספריות במערך נתונים וניתן בדרך כלל לנתחם, למדודם ולהשתמש בהם במתמטיקה. דוגמאות לנתונים כמותיים הן: אוכלוסיית מדינה, גובה של אדם או ההכנסות רבעוניות של חברה. עם ניתוח נוסף, ניתן להשתמש בנתונים כמותיים לגילוי מגמות עונתיות במדד איכות האוויר (AQI) או להערכת הסבירות לפקקי תנועה בשעת העומס בימי עבודה טיפוסיים.
נתונים איכותיים
נתונים איכותיים, הידועים גם כנתונים קטגוריים, הם נתונים שלא ניתן למדודם באופן אובייקטיבי כמו תצפיות של נתונים כמותיים. הם בדרך כלל בפורמטים שונים של נתונים סובייקטיביים שתופסים את האיכות של משהו, כמו מוצר או תהליך. לפעמים, נתונים איכותיים הם מספריים ולא בהכרח ישמשו במתמטיקה, כמו מספרי טלפון או חותמות זמן. דוגמאות לנתונים איכותיים הן: תגובות לווידאו, דגם הדגם של מכונית או הצבע האהוב על החברים הקרובים ביותר שלך. ניתן להשתמש בנתונים איכותיים כדי להבין אילו מוצרים הצרכנים מעדיפים או לזהות מילות מפתח פופולריות בקורות חיים לבקשות עבודה.
נתונים מובנים
נתונים מובנים הם נתונים המאורגנים לשורות ועמודות, כאשר לכל שורה יהיה אותו מערך עמודות. עמודות מייצגות ערכים מסוג מסוים ויינתנו להם שמות המתארים את מה שהערך מייצג, בעוד שהשורות מכילות את הערכים בפועל. לעיתים לעמודות יש חוקים או הגבלות על הערכים, כדי לוודא שהערכים מייצגים את העמודה בדיוק. לדוגמה, דמיין גליון אלקטרוני של לקוחות שבו כל שורה חייבת לכלול מספר טלפון ומספרי הטלפון לא מכילים תווים אלפביתיים. ייתכנו חוקים על עמודת הטלפון כדי לוודא שהיא אינה ריקה ומכילה רק מספרים.
יתרון של נתונים מובנים הוא שניתן לארגן אותם כך שיהיו קשורים לנתונים מובנים אחרים. עם זאת, מכיוון שהנתונים מעוצבים להיות מאורגנים בצורה ספציפית, ביצוע שינויים במבנה הכולל שלהם עלול לדרוש מאמץ רב. לדוגמה, הוספת עמודת דואר אלקטרוני לגליון הלקוחות שמחייבת רכיב שאינו ריק פירושה שתצטרך למצוא דרך להוסיף ערכים אלו לשורות הלקוחות הקיימות במערך הנתונים.
דוגמאות לנתונים מובנים: גליונות אלקטרוניים, מסדי נתונים יחסיים, מספרי טלפון, דפי חשבון בנק
נתונים לא מבנים
נתונים לא מבנים בדרך כלל לא ניתן לסווג לשורות או עמודות ואין להם פורמט או מערכת חוקים לעקוב אחריהם. מאחר שלנתונים לא מובנים יש פחות הגבלות על המבנה שלהם, קל יותר להוסיף מידע חדש בהשוואה למערך נתונים מובנה. אם חיישן שמודד לחץ ברומטרי כל 2 דקות קיבל עדכון שמאפשר לו למדוד ולרשום טמפרטורה, לא יהיה צורך לשנות את הנתונים הקיימים אם הם לא מובנים. עם זאת, הדבר עשוי להקשות או להאט את ניתוח הנתונים. לדוגמה, מדען שמנסה למצוא את הטמפרטורה הממוצעת בחודש האחרון מהנתונים של החיישנים, אבל מגלה שחיישן אחד רשום "e" במקום מספר טיפוסי כדי לציין שהוא היה מקולקל, מה שמשמעותו שהנתונים אינם שלמים.
דוגמאות לנתונים לא מבנים: קבצי טקסט, הודעות טקסט, קבצי וידאו
חצי מובנים
נתונים חצי מובנים כוללים תכונות שהופכות אותם לשילוב בין נתונים מובנים לנתונים לא מובנים. הם אינם בדרך כלל תואמים לפורמט של שורות ועמודות אך מאורגנים בצורה שנחשבת למובנית ועשויים לעקוב אחר פורמט קבוע או מערכת חוקים. המבנה ישתנה בין מקורות, כמו היררכיה מוגדרת היטב עד למשהו גמיש המאפשר אינטגרציה קלה של מידע חדש. מטה-נתונים הם אינדיקטורים המסייעים להחליט כיצד הנתונים מאורגנים ומאוחסנים ויכללו שמות שונים, בהתאם לסוג הנתונים. שמות נפוצים למטה-נתונים הם תגיות, אלמנטים, ישויות ותכונות. לדוגמה, הודעת דואר אלקטרוני טיפוסית כוללת נושא, גוף וקבוצת נמענים, וניתן לארגן אותה לפי מי ומתי נשלחה.
דוגמאות לנתונים חצי מובנים: HTML, קבצי CSV, JavaScript Object Notation (JSON)
מקורות נתונים
מקור נתונים הוא המיקום הראשוני בו נוצרו הנתונים, או איפה שהם "נמצאים", וישתנה בהתאם לאופן ומתי הם נאספו. נתונים שנוצרו על ידי משתמשיהם נחשבים לנתונים ראשוניים בעוד נתונים משניים מגיעים ממקור שאסף נתונים לשימוש כללי. לדוגמה, קבוצת מדענים שאוספת תצפיות ביער גשם תיחשב לראשונית ואם הם יחליטו לשתף את הנתונים עם מדענים אחרים, הנתונים יהיו משניים עבור אלו שמשתמשים בהם.
מסדי נתונים הם מקור נפוץ ותלויים במערכת לניהול מסדי נתונים לאירוח ותחזוקת הנתונים שבה משתמשים מפעילים שאילתות כדי לחקור את הנתונים. קבצים כמקור נתונים יכולים לכלול קבצי שמע, תמונה ווידאו וכן גליונות אלקטרוניים כמו Excel. מקורות אינטרנט הם מיקום נפוץ לאירוח נתונים, שבו ניתן למצוא מסדי נתונים וכן קבצים. ממשקי תכנות אפליקציות, הידועים גם כ-APIs, מאפשרים למתכנתים ליצור דרכים לשתף נתונים עם משתמשים חיצוניים דרך האינטרנט, בעוד תהליך של גריפת רשת (web scraping) מחלץ נתונים מדף אינטרנט. השיעורים בעבודה עם נתונים מתמקדים כיצד להשתמש במקורות נתונים שונים.
סיכום
בשיעור זה למדנו:
- מהן נתונים
- כיצד מתארים נתונים
- כיצד מסווגים ומקוטלגים נתונים
- היכן ניתן למצוא נתונים
🚀 אתגר
Kaggle הוא מקור מצוין למערכי נתונים פתוחים. השתמש בכלי חיפוש מערכי הנתונים כדי למצוא מערכי נתונים מעניינים וסווג 3-5 מערכים עם הקריטריונים הבאים:
- האם הנתונים כמותיים או איכותיים?
- האם הנתונים מובנים, לא מובנים או חצי מובנים?
מבחן לאחר ההרצאה
סיכום ולימוד עצמי
- יחידת Microsoft Learn זו, שכותרתה זיהוי פורמטי נתונים, כוללת פירוט מפורט של נתונים מובנים, חצי מובנים ולא מובנים.
מטלה
כתב ויתור: מסמך זה תורגם באמצעות שירות תרגום אוטומטי Co-op Translator. למרות שאנו שואפים לדיוק, יש לקחת בחשבון שתרגומים אוטומטיים עלולים להכיל שגיאות או אי-דיוקים. יש להחשיב את המסמך המקורי בשפתו הטבעית כמקור הסמכות. למידע קריטי מומלץ להשתמש בתרגום מקצועי על ידי מתרגם אדם. אנו לא אחראים לכל אי-הבנה או פירוש שגוי הנובע מהשימוש בתרגום זה.
