Big data

גידול בסך המידע הדיגיטלי העולמי הנשמר
Big Data ("בִּיג דָּאטָה", לפי החלטת האקדמיה ללשון העברית: נְתוּנֵי עָתֵק) הוא מונח המתייחס למאגר מידע הכולל נתונים מבוזרים, שאינם מאורגנים לפי שיטה כלשהי, שמגיעים ממקורות רבים, בכמויות גדולות, בפורמטים מגוונים, ובאיכויות שונות.

ניתן לאפיין נתוני עתק לפי חמישה מאפיינים (חמשת ה-V-ים):
# נפח (volume)
# מהירות (velocity)
# גיוון (variety)
# אי-יציבות (volatility)
# אי-אמינות (veracity)

האתגר בניהול נתוני עתק הפך תחום זה לעניין מרכזי בטכנולוגיית מידע. מסדי הנתונים היחסיים הקיימים אינם בנויים לאחסון ולניתוח כמויות מידע גדולות שרובן אינן מגיעות באופן מפורמט לפי תבניות אחידות וידועות מראש. העלות הזולה יחסית של אמצעי האחסון, מצד אחד, והכמות הגדולה של מידע המגיע משלל מקורות (אתרי אינטרנט, רשתות חברתיות, מכשירים סלולריים, מצלמות אבטחה, חיישנים ועוד), מצד שני, גורם לכך שמידע נאגר ללא מחיקה, ומאפשר יכולות ניתוח וזיהוי תבניות ומִתְאָמִים, הנדרשות בעולמות תוכן רבים.

ביג דאטה משמש לתיאור היקף מאסיבי של אוסף נתונים מובנה ושאינו מובנה, שגודלו העצום - וקצב עדכונו המהיר, לא היו בנמצא עד לפני זמן קצר.

נדרשות פרדיגמות מתקדמות, השונות מהשיטות המסורתיות, לעיבוד הנתונים וחילוץ המשמעות מהם. האמצעים והתהליכים במערכות הדיגיטליות העדכניות כיום מאפשרים לדלות מידע רלוונטי של נתונים מובנים, מובנים בחלקם או אף לא מובנים. שימוש בכלים וחומרה מחשובית מתאימים לגודל מאגר הנתונים וקצב עדכונו, מאפשרים מיון וסינון הנתונים, ניתוח הנתונים, חילוץ משמעות, זיהוי דפוסים, כדי לקבל תובנות חדשות שלא ניתן היה לרכוש קודם לכן בגלל מגבלות טכנולוגיות של זיכרון ומהירות עיבוד ותקשורת, שהתבטלו למעשה בצל ההתפתחויות הטכנולוגיות בשנים האחרונות. תובנות אלו מיועדות לסייע בידינו ללמוד יותר עלינו ועל העולם בו אנו חיים, ומגדילות מאוד את הפוטנציאל לסייע לחברה לשפר את יעילות ההתנהלות, תוך קבלת החלטות מהירות.

== הגדרת המונח ==
הגדרה מקובלת במחקר של המושג "נתוני עתק" היא זו המנוסחת בערך "big data" במילון אוקספורד: <ref></ref>

נהוג לתאר לכל הפחות שלושה היבטים אופייניים<ref>מאפיינים המכונים לעיתים כ"שלושת ה-V-ים" או The 3 V's of Big Data</ref> של נתוני העתק: נפח (volume), גיוון (variety) ומהירות (velocity). היבט הנפח מתייחס לעובדה שכפי שניתן להבין, מדובר בכמות עצומה של נתונים, העולה על יכולת התפיסה האנושית. גיוון מתייחס לעובדה שהנתונים נאספים ממקורות שונים והם אינם אחידים. מאפיין המהירות נובע מהיבט עקרוני של מידע דיגיטלי המצטבר בקצב גבוה מאוד.

== דוגמאות ליישומים ==
* מחקר מודיעין צבאי ומשטרתי – איסוף והצלבת נתונים משלל מקורות גלויים (הודעות טוויטר, רשומות כניסה ויציאה של משטרת הגבולות, תנועות מכשירים סלולריים ומכשירי GPS ועוד) ומקורות איסוף מידע ייעודיים (חיישנים שונים, מצלמות ועוד) לשם זיהוי תבניות וקשרים, שיכולים להצביע על פשעים עתידיים או לנתח בדיעבד מידע היסטורי, על מנת לאתר פעילות מחשידה שקדמה לאירועי טרור.
* מחקר מדעי החברה - בחינה של תהליכים בין אישיים, ארגוניים, או מערכתיים על ידי ניתוח נתונים הנאספים בפלפורמות ממוחשבות המבוססות על התנהגות אנושית ואשר אוגרות ארכיון של התנהגות המשתתפים. נתונים מסוג זה מכונים "עקבות דיגיטליים Digital Traces"<ref></ref> . למשל יש מחקרים המשתמשים בתגובות והתנהגות בפלטפורמת רדיט Redditt לבחון היבטים של דיכאון (דפרסיה)<ref></ref> . מחקרים אחרים משתמשים בנתונים הנצברים במעקב אחרי לקוחות הפונים למערכות שירות לקוחות לבחינת אפקטיביות של תהליכי שירות לקוחות<ref></ref><ref></ref> כמו כן יש חוקרים שיצרו בסיסי נתונים המבוססים על רדיט לבחינת היבטים שונים של לחץ נפשי<ref></ref>
* ביולוגיה – מיפוי גנום, מציאת מתאמים ותבניות לאיתור פגמים גנטיים והשפעה של תרופות. פתרון בעיות הדורשות רמה גבוהה של סימולציה על פני שדה של מאות נתונים, כגון חיזוי של מבני קיפול חלבונים.
* מטאורולוגיה – ניבוי מזג אוויר על סמך זרם של אלפי נתונים ממקורות מידע מגוונים (חיישנים קרקעיים ומוטסים, תמונות ווידאו, מדידות, מידע היסטורי וכדומה).
* פיזיקה – חישוב מבנים ותהליכים באסטרונומיה והתנהגות חלקיקים במערכות קוונטיות. אחסון וניתוח מיליוני אירועים והתנגשויות במאיצי חלקיקים וגלאי נייטרינו.
* מסחר – ניתוח תבניות ומגמות בסחר במניות בבורסה, בפרט בתחום האלגו טריידינג. כריית מידע ממיליוני טרנזקציות כספיות, לשם זיהוי התנהגות צרכנים, תמחור, גבייה וחיוב של צרכני תקשורת, גילוי הונאות וכן שימוש בסטטיסטיקות וכריית מידע לטובת ניבוי אירועים עתידיים.
* לוחמת סייבר – גילוי פרצות אבטחה, נהלים, הצפנות, ומאידך - גילוי ניסיונות פריצה ומעקב אחר מקורות התוקפים.
* אינדוקס וחיפוש מידע טקסטואלי – חיפוש במיליוני דפי טקסט, ספרים אלקטרוניים, דברי דואר אלקטרוני, מסמכים ארגוניים וכדומה.
* ספורט – ניתוח והצלבה של אלפי נתונים, הן נתוני זמן אמת והן נתוני עבר של משחקים, על מנת לסייע למאמן להנחות את קבוצתו, לבצע התאמות ולהתכונן למשחק הבא.
* תעשייה – זיהוי וחיזוי בעיות בפסי ייצור, מנועים, תחנות כוח, כורים גרעיניים וכדומה, על מנת לתקנן בטרם ייגרם נזק כלשהו.

== סוגיות ==
=== אחסון ===
עקב דרישת רוב הלקוחות לקבל תשובות מורכבות בזמן אמת או קרוב מאוד לכך, אמצעי האחסון המתקדמים, התומכים בכמויות מידע גדולות, נדרשים לאתגרים של כתיבה ושליפה מהירות מאוד. זאת מבלי לאבד יכולות של גיבוי ושחזור אמינים ואוטומטיים, גילוי ותיקון שגיאות, ביזור המידע על פני מספר אתרים גאוגרפיים, ודחיסת מידע נבונה.

=== כתיבת מידע ===
כתיבת המידע צריכה להיעשות בדרך סטנדרטית, שקופה ויעילה, באופן מנותק מהרכיבים יצרני המידע. מידע זורם כל העת מהתקנים רבים, שונים, בקצבים משתנים וללא כל שליטה של צרכן המידע (בעל המאגר) על שום היבט של זרם הנתונים שהוזכר לעיל.

על המאגרים לספק, מחד, תמיכה בתקנים של יצרני מידע מוכרים, ומאידך, גמישות רבה לשינויים ויצירה של מתאמים (adapters) חדשים.

=== שליפה, ניתוח ומציאת תבניות ===
האתגר הגדול ביותר הוא ביצוע שליפות מהירות של מידע, הן בדרכים קבועות מראש (שאילתות), אך בעיקר בדרך של זיהוי מהיר של תבניות וקשרים שונים, בלתי ניתנים לחיזוי אנושי מראש, בין מיליוני פיסות מידע מרוחקות בזמן, במקום, בפורמט ובמקור הקליטה שלהן.

לשם זיהוי תבניות ופיתוח מערכות לומדות, מוכנסים לשימוש בתחום אלגוריתמים מתחומי האלגוריתמים האקראיים, האלגוריתמים האבולוציוניים, בינה מלאכותית, בינה עסקית ועוד, שהורחבו והותאמו לעבודה בכמויות ובקצבים הנדרשים.

===פרטיות===
היקף המידע, מגוון המקורות של המידע והשימושים שנעשים בו מציבים אתגרים בקשר לפרטיות במידע. דיני הגנת הפרטיות הקיימים בתחילת המאה ה-21, בעיקר באיחוד האירופי, מבוססים ומותאמים לסוגיות של מאגרי מידע מקומיים, קטנים יותר בהיקפם, שהוקמו למטרה מסוימת. נתוני עתק לא בהכרח מותאמים לכללים אלה.

== דוגמאות לפתרונות ==
הפתרונות בתחום מגיעים מחברות מובילות ממספר תחומים:
* בתחום האחסון הדיגיטלי: EMC, IBM ו-נטאפ
* בתחום מסדי הנתונים היחסיים: טרהדטה או אורקל (על ידי Oracle Exadata) ו-IBM (באמצעות Netezza)
* בתחום החיפוש והמידע: גוגל או אמזון (שהיא גם מובילה בתחום מחשוב הענן, המשיק לתחום נתוני עתק)
* בתחום הסטטיסטיקה, כריית המידע והמודיעין העסקי: SAS, SPSS, Cloudera
* פתרונות חדשניים לא-SQL-יים: מסד הנתונים קסנדרה, המשמש את פייסבוק ו-MongoDB
* ועוד
פתרון כגון Google BigTable, מציע קובייה רב-ממדית, שכל "תא" בה מאחסן פיסת מידע בלתי מפורמטת (דף אינטרנט, תמונה, סרט וידאו, זרם נתונים בינאריים וכדומה). המפתח של התא הוא וקטור (רשימה) של שדות שמאפיינים את התא, שאחד מהם הוא חתימת-זמן מדויקת, לשם קבלת המימד ההיסטורי.

כיוונים אחרים באים מתחום החישוב המבוזר, וכוללים פתרונות כמו Google MapReduce ו-האדופ.

== בינה עסקית ונתוני עתק==
קיים קשר הדוק בין בינה עסקית (BI) לבין נתוני עתק. הקשר נובע מהצורך להשתמש בכמויות מידע גדולות מאוד על מנת לבצע ניתוחי בינה עסקית תקפים ומשמעותיים. התחום של בינה עסקית מבוססת נתוני עתק מתפתח בקצב מהיר. מכיוון שכלי בינה עסקית מסורתיים לא נבנו באופן המאפשר להם להתמודד עם כמויות כה גדולות של נתונים, פותחו בשנים האחרונות כלי בינה עסקית ייעודיים לנתוני עתק.

== ראו גם ==

==לקריאה נוספת==
* עופר דודזדה ואמיר סנדץ, (ביג דאטה) כלים מעשיים לניתוח בסיסי נתונים, הוצאת אוריון, אפריל 2014

== קישורים חיצוניים ==

* 
* 
* 
* 
* [https://web.archive.org/web/20180304054738/https://www.datawerks.com/big-data-solution/ Real Time Data Access and Total Data Integration]
* 

==הערות שוליים==

קטגוריה:מדעי המחשב
קטגוריה:הנדסת תוכנה
קטגוריה:מסדי נתונים
קטגוריה:כריית מידע
קטגוריה:סטטיסטיקה