stanford-oval/wikipedia huggingface dataset:
הפיגוע במשרדי שרלי הבדו
בעקבות הפיגועים

בעקבות הפיגוע הכריז נשיא צרפת פרנסואה הולנד על שלושה ימי אבל לאומי.
מדינות רבות גינו את הפיגוע. בישראל גינו את הפיגוע בין השאר נשיא מדינת ישראל ראובן ריבלין, ראש הממשלה בנימין נתניהו ושר החוץ אביגדור ליברמן, שקראו לעולם החופשי להתאחד נגד הטרור. בעקבות הפיגועים ב-9 בינואר הורה נתניהו ל"מוסד" לסייע לכוחות הביטחון הצרפתיים.
הפיגוע נגד "שרלי הבדו" לא נתפש רק כפיגוע גרידא אלא כמתקפה מכוונת על אחד מערכי היסוד של הליברליזם האירופאי והדמוקרטי: חופש הביטוי. הפיגוע עורר חשש כבד לפגיעה בפועל בחופש הביטוי בצרפת בפרט, ובאירופה בכלל, מחשש לפיגועים נוספים בעלי אופי דומה ומעשי אלימות וטרור שיבצעו מוסלמים בתגובה לביקורת על האסלאם. בעקבות הפיגוע התעוררו קשיים בהמשך הדפסת המגזין, לאחר שכמעט כל שדרת העריכה והכתיבה שלו נהרגה או נפצעה. מו"לים שונים ברחבי צרפת הכריזו כי יפעלו להמשך הדפסת והפצת העיתון כדי לא לאפשר למחבלים להשיג את מטרתם: סגירת העיתון, בשל קריקטורות הלועגות לאסלאם שפרסם.
בשעות הערב של יום הפיגוע החלו צעירים צרפתים רבים להתכנס בעצרות ענק ברחבי צרפת, להבעת תמיכה בעיתון ואבל על קורבנות הפיגוע. ברשתות החברתיות ובהפגנות נפוץ הסלוגן "Je suis Charlie" ("אני שרלי") לאות הזדהות עם העיתון ועם הנרצחים בפיגוע. ב-10 בינואר 2015 נכחו מאות אלפי בני אדם בעצרות ספונטניות בצרפת לזכר קורבנות הפיגועים (ב"שרלי הבדו" וב"היפר כשר"). למחרת נכחו יותר משלושה מיליון בני אדם בעצרות זיכרון וצעדות ברחבי צרפת, כאשר העצרת המרכזית נערכה בכיכר הרפובליקה במעמד נשיא צרפת פרנסואה הולנד ומנהיגים רבים מרחבי העולם. הסלוגן נישא במפגני הזדהות בכל העולם, ואף בטלוויזיה – לדוגמה: בסיום הפרק של הסדרה משפחת סימפסון ששודר באותו שבוע, היה סצנה קצרה שבה מגי סימפסון הניפה דגל עם הסלוגן "אני שארלי".
בעקבות הפיגוע חלה עלייה בגילויי אלימות נגד מוסלמים בצרפת. על פי נתוני משרד פנים הצרפתי נרשמו בימים שלאחר הפיגוע 21 מקרים של פגיעה במסגדים בצרפת באמצעות ירי ורימונים, ועוד מספר רב של איומים מילוליים כלפי מוסלמים.
ב-14 בינואר יצא המגזין "שרלי הבדו", שתפוצתו הרגילה 60,000 עותקים, בגיליון מיוחד וראשון לאחר הפיגוע במשרדיו. הגיליון נמכר בכ-3 מיליון עותקים ברחבי צרפת, שאזלו כבר ביום הראשון לפרסומו, ובעקבות הביקוש הרב הוחלט להדפיס 2 מיליון עותקים נוספים. שער הגיליון כלל קריקטורה של מוחמד דומע ומחזיק כרזת "אני שרלי" תחת הכותרת "הכל נסלח".
בעקבות הפיגועים > בישראל

בינואר 2015, בעקבות יציאת הגיליון המיוחד שפורסם לאחר הטבח במערכת העיתון, החליטה רשת סטימצקי להפיצו בישראל במכירה שתיערך בסניף הרשת בקניון איילון שברמת גן, אך נסוגה מהחלטתה לאחר איומים מגורמים אסלאמיים וחברי כנסת ערביים, והודיעה שתמכור את העיתון רק באתר האינטרנט שלה. עקב כך הודיע יו"ר "ישראל ביתנו", אביגדור ליברמן, שצעירי מפלגתו יפיצו את גיליונות העיתון בחינם, אך יו"ר ועדת הבחירות המרכזית, השופט סלים ג'ובראן, אסר זאת עקב האיסור על חלוקת מתנות. עתירה של "ישראל ביתנו" לבג"ץ הביאה לביטול החלטתו של השופט ג'ובראן, אך בג"ץ קיים דיון נוסף בסוגיה זו. בהליך נפרד נדחתה עתירה לבית המשפט המחוזי בחיפה להוצאת צו מניעה נגד הפצת הגיליון בישראל. ב-28 בפברואר נערכה בנצרת הפגנת אלפים, בראשות ראאד סלאח, מאזן גנאים ועלי סלאם, נגד חלוקת הגיליון.
בעקבות הפיגועים > מחאות בעולם המוסלמי

פרסום שער הגיליון לאחר הפיגוע ובו קריקטורה של מוחמד עוררה זעם בקרב מוסלמים רבים בעולם, ובמדינות מוסלמיות רבות פרצו מהומות, בדומה לתגובות בפרשת קריקטורות מוחמד משנת 2006.
בהפגנה בעיר זינדר בניז'ר נהרגו לפחות שלושה מפגינים ושוטר בעימותים אלימים.
בירושלים הפגינו מאות פלסטינים ליד מסגד אל-אקצא, נשאו שלטים בהם נכתב "האסלאם היא דת של שלום". חלק מהמפגינים הניפו דגלי חמאס, ולקראת סוף התהלוכה הציתו את דגל צרפת.
הפגנות נוספות התקיימו בטריפולי (לבנון), עמאן, אלג'יר, איסטנבול, ח'רטום, תוניס, דקר, ובמקומות נוספים.
קטר הביעה מחאה נגד שער הגיליון ונגד פרסומו הרחב בעיתונות המערבית. בהודעה רשמית נאמר: "פעולות חסרות טעם אלה לא משרתות אף מטרה והן רק מעודדות שנאה וזעם." הודעות דומות נמסרו על ידי שלטונות בחריין וערב הסעודית וכן על ידי המלך עבדאללה בירדן.
הפעיל הבריטי המוסלמי הקיצוני אנג'ם צ'ודארי כינה את שער הגיליון "הכרזת מלחמה".
הערות שוליים

↑   דב אלפון, פרשנות || הפיגוע בפריז: 11 בספטמבר של צרפת, באתר הארץ, 8 בינואר 2015
↑  ווינט, חסר בית ושני אחים מוסלמים: אלה המחבלים, באתר ynet, 7 בינואר 2015
↑  המחבל מהמרכול הכשר התראיין: "דאעש הורה על הפיגוע", באתר וואלה, 9 בינואר 2015.
1 2  ידיעה מתעדכנת, באתר הארץ, 11 בינואר 2015, אוחזר ב-9 בינואר 2015, שעה 15:30.
↑  אלעד שמחיוף, עמית ולדמן וערד ניר (חדשות 2), ‏רוצחי העיתונאים חוסלו בפשיטה, באתר ‏מאקו‏, 9 בינואר 2015
↑  מבזק ב-ynet,‏ 9 בינואר 2015.
↑  מבזק בגלי צה"ל, 9 בינואר 2014, 16:36.
↑  ידיעה במעריב אונליין, 9 בינואר 2015.
↑  "כולנו שרלי": קריקטוריסטים בעולם מגיבים לטבח בצרפת, באתר Feeder, ‏8 בינואר 2015
↑  אמיר תיבון, שליחנו לפריז‏, 3.7 מיליון בצעדות הזיכרון לנרצחי מתקפת הטרור בצרפת, באתר וואלה, 11 בינואר 2015
↑  ברחבי העולם זוכרים את נרצחי הפיגוע בפריז, באתר וואלה, 8 בינואר 2015
↑  עונה 26 פרק 11
↑  עלייה במעשים אנטי-מוסלמיים מאז הפיגוע ב"שרלי הבדו", באתר לה פיגארו (בצרפתית)
↑  יאיר אטינגר, התנפלות על דוכנים בצרפת: מהדורת "שארלי הבדו" אזלה בתוך דקות, באתר הארץ, 14 בינואר 2015
↑  חסן שעלאן, סטימצקי נכנעה ללחץ: ביטלה אירוע, עברה למכירת "שארלי הבדו" באינטרנט, באתר ynet, 25 בינואר 2015
↑  מורן אזולאי ואטילה שומפלבי, ליברמן: נפיץ את שארלי הבדו, לא יאיימו עלינו, באתר ynet, 25 בינואר 2015
↑  פסילת חלוקת שרלי הבדו בחינם - השופט סלים ג'ובראן
↑  בג"ץ 979/15 מפלגת ישראל ביתנו וח"כ אביגדור ליברמן נ' יו"ר ועדת הבחירות המרכזית לכנסת ה-20 ואח', ניתן ב־25 בפברואר 2015
↑  אורי ישראל פז, הרכב של 7 שופטים ידון מחדש בשאלה האם חלוקת שארלי הבדו היא מתנה אסורה, באתר "תקדין", 5 במרץ 2015
↑  ה"פ (חיפה) 51269-01-15 ארגון מיזאן לזכויות האדם ואחרים נגד סטימצקי (2005) בע"מ, ניתן ב-26 בינואר 2015
נעה שפיגל, נדחתה הבקשה למנוע מכירת "שארלי הבדו"; מאות עותקים נמכרו בשבע דקות, באתר הארץ, 26 בינואר 2015
↑  ג'קי חורי, אלפים הפגינו בנצרת נגד חלוקת העיתון "שארלי הבדו", באתר הארץ, 28 בפברואר 2015
↑  ארבעה הרוגים במחאות "שרלי הבדו", באתר BBC (באנגלית)
↑  מהומות בעולם המוסלמי עקב שער המגזין "שרלי הבדו", באתר ynetnews (באנגלית)
↑  כנסייה הוצתה, דגלים נשרפו: המוסלמים נגד "שארלי הבדו", באתר nana10‏, 16 בינואר 2015
↑  שער "שרלי הבדו" הוא הכרזת מלחמה, באתר CBS (באנגלית)
| --- | --- |
בקרת זהויות :  NLI: 987007385142405171  PLWABN: 9810548548205606  LCCN: sh2015001508 
"היפר כשר" בו התרחש פיגוע המיקוח.
"אני שרלי", תמונה המשמשת ברשת כסימן הזדהות עם קורבנות הפיגוע
המונים מתכנסים בכיכר הרפובליקה בפריז בערב שלאחר הרצח
אסף בנרף

| --- | --- |
אין תמונה חופשית
 לידה:  24 בספטמבר 1982 (בן 42) בת ים, ישראל
 
אסף בנרף (נולד ב-24 בספטמבר 1982) הוא מנצח, זמר, מעבד ומתרגם ישראלי. שימש כמנצח מקהלת האופרה הישראלית וכיום משמש כמנצח וכמנהל המוזיקלי של המקהלה הקאמרית אורטוריו ירושלים ושל א-קפלה אנסמבל קולי ירושלים.
ביוגרפיה

אסף בנרף נולד בבת ים וגדל בראשון לציון. החל את לימודי המוזיקה בגיל שבע. למד נגינה בכינור בהדרכת יעקב מילמן ואקרט לורנצן ונגינה בוויולה בהדרכת לילך לבנון. עם סיום לימודיו בבית הספר התיכון ע"ש תלמה ילין (2000), התמקד בלימודי זמרה בישראל ובאיטליה אצל מורים שונים, בהם אגנס מסיני, בועז סנאטור וארתורו טסטה.
כזמר מקהלה וכסולן, שר בנרף עם המקהלות והתזמורות החשובות בישראל, תחת שרביטיהם של זובין מהטה, דן אטינגר, אנדרו פארוט, דניאל אורן, קורט מאזור ואחרים. בהמשך התמקצע בניצוח תזמורות ומקהלות. לבנרף תואר ראשון בניצוח מן האקדמיה למוסיקה ולמחול בירושלים (כיתתו של איתן גלוברזון), ותואר שני בניצוח מאוניברסיטת פן סטייט (כיתתו של חרארדו אדלשטיין).
כמנצח, עבד עם מקהלות, תזמורות ואנסמבלים שונים במגוון פרויקטים מוזיקליים, בהם ראויים לציון הקלטת הדיסק "!Hail, Cremonus", המיוחד ליצירותיו של סקוט סלייפין לאנסמבל ויולות, וביצוע הבכורה הישראלית לרקוויאם מאת ניקולו יומלי, במסגרת הקונצרט המוזיקלי-ספרותי "נאפולי בצליל ובמילה". בעבר שימש כמנצח של מקהלת בלקנטו (2019-2020) ומקהלת האופרה הישראלית (2019-2023) וכיום משמש כמנצחן ומנהלן המוזיקלי של המקהלה הקאמרית אורטוריו ירושלים ומקהלת "א-קפלה אנסמבל קולי ירושלים".
מלבד המוזיקה הקלאסית, עסק בנרף גם בזמר העברי, כמנצחה של מקהלת "דורות" בשנים 2005–2022, וכן בשיר הנפוליטני, כמייסדו של "אנסמבל קָלאצ'ה" (Calace) שבו שימש כמעבד וכזמר סולן.
נוסף על תחום המוזיקה, עוסק בנרף בתרגום שירה משפות שונות, בדגש על איטלקית ושאר שפות מקומיות ודיאלקטים מאיטליה. תרגומיו לעברית ראו אור בספרים ובכתבי עת בהוצאות אחוזת בית, הקיבוץ המאוחד, חרגול ומאגנס. בשנת 2024 זכה בפרס על שם סוניה ברשילון למתרגם/ת המתחיל/ה מטעם איגוד אנשי הספר.
מלגות, מענקים ותחרויות

פרס למתרגמים בתחילת דרכם ע"ש סוניה ברשילון מטעם איגוד אנשי הספר, 2024.
מלגות הצטיינות מטעם קרן התרבות אמריקה ישראל
מענק השתלמות בניצוח מקהלה (כעוזר מנצח של סטנלי ספרבר) ע"ש גארי ברתיני
מענק בעבור פעילות "אנסמבל קלאצ'ה" מטעם עמותת "צפונות תרבות"
תחרות ע" לואיג'י מנצ'ינלי למנצחי אופרה באורבייטו – שלב הגמר
מלגות מטעם אוניברסיטת פן סטייט
הערות שוליים

↑  איגוד אנשי הספר, הפרס ע"ש סוניה ברשילון למתרגמת מתחילה מוענק השנה זו הפעם הרביעית, באתר פייסבוק, ‏21 בנובמבר 2024
חוק ליטלווד

חוק ליטלווד (באנגלית: Littlewood's law) קובע כי אדם יכול לצפות לחוות אירוע שהסתברותו אחד למיליון (שהוגדר בחוק כ"נס") בשיעור של אחד לחודש.
את החוק טבע ג'ון אדנזור ליטלווד, מתמטיקאי מאוניברסיטת קיימברידג', באוסף של עבודותיו הקרוי "אנתולוגיה של מתמטיקאי". מטרת חוק זה היא להפריך את ההסבר העל-טבעי לתופעות טבעיות שמה שמייחד אותן הן היותן נדירות וממילא ההתרחשות שלהן נראית כדבר בלתי מסתבר ללא הסבר על טבעי, והוא מהווה ניסוח קונקרטי לחוק המספרים הגדולים באמת.
ליטלווד מגדיר "נס" כאירוע יוצא דופן בעל משמעות מיוחדת המתרחש בתדירות של אחד למיליון. הוא מניח שבמהלך שעות שבהן אדם ער ועירני, הוא יראה או ישמע "אירוע" אחד בשנייה, אשר עשוי להיות יוצא דופן או בלתי-יוצא דופן. בנוסף, ליטלווד מניח כי האדם הוא ערני במשך כשמונה שעות ביום.
האדם יחווה תחת הנחות אלה ב-35 ימים כמיליון אירועים ויהיה אפשר לצפות אירוע "מיוחד" אחד כל 35 ימים בממוצע - ולכן, על פי הנמקה זו, אירועים שהם כביכול "נס" למעשה די שכיחים.
חוק ליטלווד נחקר רבות ונמצא כנכון בהקשרים רבים ושונים. הוא שימש כדי להסביר מגוון רחב של תופעות, כולל התרחשות של צירופי מקרים, וחוק המספרים הגדולים באמת. למרות יישומו הרחב, חוק ליטלווד הוא עדיין נושא לוויכוחים ומחקרים רבים בתחומי תורת ההסתברות והסטטיסטיקה.
ראו גם

צירוף מקרים
חוק המספרים הגדולים באמת
הערות שוליים

↑  Gwern Branwen, Origin of ‘Littlewood’s Law of Miracles’, 2019-02-16
ערך זה הוא קצרמרבנושא סטטיסטיקה. אתם מוזמנים לתרום לוויקיפדיה ו.
למידה עמוקה

למידה עמוקה (באנגלית: Deep Learning ולפעמים Deep Structured Learning) היא אוסף שיטות למידת מכונה מבוססות על רשתות עצביות מלאכותיות. שם התואר "עמוקה" בשם מתייחס ללמידה במבנה של שכבות, המאפשר לרשת ללמוד תכונות בהדרגה, תהליך המתבצע על ידי חילוץ דפוסים או תכונות מנתונים גולמיים כדי לשפר את ביצועי המודל. הלמידה יכולה להיות מונחית, מונחית למחצה או בלתי מונחית.
ארכיטקטורות למידה עמוקה כגון רשתות עצביות עמוקות (deep neural networks), למידת חיזוק עמוקה (deep reinforcement learning), רשתות עצביות חוזרות (recurrent neural networks), ורשתות קונבולוציה יושמו בתחומים מגוונים ביניהם: ראייה ממוחשבת, זיהוי דיבור, עיבוד שפה טבעית, תרגום מכונה, ביואינפורמטיקה, תכנון תרופות, ניתוח תמונות רפואיות, בדיקות חומרים ומשחקי לוח, בהן הניבו תוצאות דומות לאלו שהניבו מומחים אנושיים ובמקרים מסוימים אף עלו עליהן.
מודל הרשת העצבית המלאכותית נוצר בהשראת עיבוד מידע וצמתי תקשורת מבוזרים המצויים במערכות ביולוגיות. רשתות אלו שונות ממוח ביולוגי, היות שהמבנה של רשתות עצביות מלאכותיות נוטה להיות סטטי, בעוד שהמוח הביולוגי של רוב האורגניזמים החיים הוא דינמי. הבדל נוסף הוא, שמחשבים פועלים בעיקר בעיבוד טורי, או עם כמות קטנה של עיבוד מקבילי[דרוש מקור], ואילו מוחות של יצורים פועלים בעיבוד מקבילי[דרוש מקור].
חוקרי הבינה המלאכותית, מרווין מינסקי וסימור פפרט, הראו שפרספטרון (אלגוריתם הלומד תוך כדי ריצה) יחיד אינו יכול ליצור את השער הלוגי XOR, אולם משפט הקירוב האוניברסלי הראה שרשת בעלת שכבה נסתרת אחת ברוחב לא מוגבל עם פונקציית הפעלה לא ליניארית יכולה להיות מסַוֶג אוניברסלי. למידה עמוקה בדרך כלל עוסקת במספר גדול של שכבות בגודל מוגבל.
הגדרה

למידה עמוקה היא מחלקה של אלגוריתמים בתחום למידת המכונה המשתמש במספר שכבות כדי לחלץ בהדרגה תכונות ברמה גבוהה יותר מהקלט הגולמי. לדוגמה, בעיבוד תמונה דיגיטלי, שכבות נמוכות עשויות לזהות קצוות, בעוד שכבות גבוהות יותר עשויות לזהות את המושגים הרלוונטיים לאדם כגון ספַרוֹת, אותיות או פרצופים.
סקירה כללית

רוב המודלים המודרניים של למידה עמוקה מבוססים על רשתות עצביות מלאכותיות, במיוחד רשתות עצביות קונבולוציוניות (CNN), אם כי הם יכולים לכלול גם נוסחאות הצעה (פרופוזיציוניות) או משתנים סמויים המאורגנים בשכבה במודלים מחוּללים עמוקים (generative models) כמו הצמתים ברשת אמונה עמוקה ומכונת בולצמן עמוקה.
בלמידה עמוקה, כל שכבה לומדת להפוך את נתוני הקלט שלה לייצוג מופשט ומרוכב יותר. ביישום של זיהוי תמונה, הקלט הגולמי עשוי להיות מטריצה של פיקסלים; שכבת הייצוג הראשונה עשויה להפשיט את הפיקסלים ולקודד את הקצוות, השכבה השנייה עשויה להרכיב ולקודד סידורים של קצוות; השכבה השלישית עשויה לקודד אף ועיניים; והשכבה הרביעית עשויה לזהות שהתמונה מכילה פנים. נקודה חשובה היא שתהליך למידה עמוק יכול ללמוד אילו תכונות למקם בצורה אופטימלית באיזו רמה בעצמו. אמנם, זה לא בהכרח מבטל את הצורך בהנחיה ידנית. לדוגמה, מספר משתנה של שכבות וגודלי שכבות יכולים לספק רמות שונות של הפשטה.
המילה "עמוקה" ב"למידה עמוקה" מתייחסת למספר השכבות שבאמצעותן הנתונים עוברים עיבוד או שינוי. ליתר דיוק, למערכות למידה עמוקה יש עומק CAP (או credit assignment path) משמעותי. ה-CAP הוא שרשרת הטרנספורמציות מקלט לפלט. CAPs מתארים קשרים סיבתיים פוטנציאליים בין קלט ופלט. עבור רשת זרימה קדימה, העומק של ה-CAPs הוא זה של הרשת והוא מספר השכבות הנסתרות פלוס אחת (כיוון שגם שכבת הפלט מותאמת לפרמטרים). עבור רשתות עצביות חוזרות, שבהן אות עשוי להתפשט בשכבה יותר מפעם אחת, עומק ה-CAP עשוי להיות בלתי מוגבל. אין סף מוסכם אוניברסלי של עומק שמבדיל בין למידה "רדודה" ללמידה עמוקה, אבל רוב החוקרים מסכימים שלמידה עמוקה כוללת עומק CAP גבוה מ-2. CAP של עומק 2 הוכח כקירוב אוניברסלי במובן זה שהוא יכול לחקות כל פונקציה. יתרה מכך, שכבות נוספות אינן מוסיפות ליכולת קירוב הפונקציות של הרשת. מודלים עמוקים (CAP > 2) מסוגלים לחלץ תכונות טובות יותר ממודלים רדודים ומכאן, שכבות נוספות עוזרות ללמוד את התכונות בצורה יעילה.
ניתן לבנות ארכיטקטורות למידה עמוקה בשיטה חמדנית שכבה אחר שכבה. למידה עמוקה עוזרת להפריד את ההפשטות הללו ולבחור אילו תכונות משפרות את הביצועים.
עבור משימות למידה מפוקחות, שיטות למידה עמוקה מבטלות את הנדסת המאפיינים, על ידי תרגום הנתונים לייצוגי ביניים קומפקטיים הדומים לגורמים הראשיים, ומפיקות מבנים שכבתיים המסירים יתירות בייצוג.
ניתן ליישם אלגוריתמים של למידה עמוקה על משימות למידה-ללא-פיקוח. זהו יתרון חשוב מכיוון שהנתונים שאינם מתויגים נמצאים בשפע רב יותר מהנתונים המסומנים. דוגמאות למבנים עמוקים שניתן לאמן באופן לא מפוקח הם מדחסי היסטוריה עצבית ורשתות אמונה עמוקות.
פרשנויות

רשתות עצביות עמוקות מתפרשות בדרך כלל במונחים של משפט הקירוב האוניברסלי או היסק הסתברותי או בייסיאני.
משפט הקירוב האוניברסלי הקלאסי נוגע ליכולתן של רשתות זרימה קדימה עם שכבה נסתרת יחידה בגודל סופי לקירוב פונקציות רציפות. בשנת 1989 פורסמה ההוכחה הראשונה על ידי ג'ורג' סיבנקו עבור פונקציות הפעלה סיגמואידיות והוכללה לארכיטקטורות זרימה קדימה רב-שכבתיות.
משפט הקירוב האוניברסלי עבור רשתות עצביות עמוקות נוגע לקיבולת של רשתות עם רוחב מוגבל אך עם עומק שעשוי לגדול. לוּ הוכיח שאם הרוחב של רשת עצבית עמוקה עם הפעלת ReLU גדול בהחלט מממד הקלט, אזי הרשת יכולה להעריך כל פונקציה הניתנת לשילוב של אינטגרל לבג, אם הרוחב קטן או שווה לממד הקלט, אז רשת עצבים עמוקה אינה קירוב אוניברסלי.
הפרשנות ההסתברותית נובעת מתחום למידת המכונה. הוא כולל מסקנות, וכן את מושגי האופטימיזצה של אימון ובדיקה, הקשורים להתאוה והכללה, בהתאמה. ליתר דיוק, הפרשנות ההסתברותית מחשיבה את אי-ליניאריות ההפעלה כפונקציית התפלגות מצטר. הפרשנות ההסתברותית הובילה להכנסת הנשירה (dropout) כמסדרת (regulazier) ברשתות עצביות. הפרשנות ההסתברותית הוצגה על ידי חוקרים כולל הופפילד.
היסטוריה > מהפכת הלמידה העמוקה

בשנת 2012, צוות בראשות ג'ורג' א'דאהל זכה ב"אתגר הפעילות המולקולרית של מרק" באמצעות רשתות עצביות עמוקות רב-משימתיות כדי לחזות את היעד הביו-מולקולרי של תרופה אחת. בשנת 2014, הקבוצה של הוכריטר השתמשה בלמידה עמוקה כדי לזהות השפעות מחוץ למטרה ורעילויות של כימיקלים סביבתיים ברכיבים תזונתיים, במוצרים ביתיים ובתרופות וזכתה ב"אתגר הנתונים של Tox21" של המכונים NIH, FDA ו-NCATS.
השפעות נוספות משמעותיות בזיהוי תמונה או אובייקט הורגשו מ-2011 עד 2012. אף על פי שרשתות CNN שאומנו על-ידי back propagation היו בנמצא כבר עשרות שנים, והטמעות GPU של רשתות נוירונים היו בנמצא במשך שנים, כולל CNNs, היה צורך בהטמעות מהירות משמעותית של CNNs על GPUs כדי להתקדם בראייה ממוחשבת. בשנת 2011, גישה זו השיגה לראשונה ביצועים על אנושיים בתחרות זיהוי דפוסים חזותיים. כמו כן, ב-2011 היא זכתה בתחרות כתב היד הסיני של ICDAR, ובמאי 2012 היא זכתה בתחרות פילוח התמונות של ISBI. עד 2011, רשתות CNN לא מילאו תפקיד מרכזי בכנסים של ראייה ממוחשבת, אבל ביוני 2012, מאמר של סיקסאן בכנס המוביל CVPR הראה כיצד איגום מקסימלי של CNN ב-GPU יכול לשפר באופן דרמטי רשומות בנצ'מרק רבים של ראייה. באוקטובר 2012, מערכת דומה מאת קריזבסקי זכתה בתחרות ImageNet בקנה מידה גדול בהפרש משמעותי על פני שיטות למידת מכונה רדודות. בנובמבר 2012, המערכת של Ciresan זכתה גם בתחרות ה-ICPR בנושא ניתוח תמונות רפואיות גדולות לגילוי סרטן, ובשנה שלאחר מכן גם ב-MICCAI Grand Challenge באותו נושא. בשנים 2013 ו-2014, שיעור השגיאות במשימת ImageNet באמצעות למידה עמוקה הופחת עוד יותר, בעקבות מגמה דומה בזיהוי דיבור בקנה מידה גדול.
לאחר מכן הורחב סיווג התמונות למשימה המאתגרת יותר של יצירת תיאורים (כתוביות) לתמונות, לעיתים קרובות כשילוב של CNNs ו-LSTMs.
כמה חוקרים קובעים שהניצחון ב-ImageNet באוקטובר 2012 עיגן את תחילתה של "מהפכת הלמידה העמוקה" ששינתה את תעשיית הבינה המלאכותית.
במרץ 2019, יהושע בנג'יו, ג'פרי הינטון ויאן לקון זכו בפרס טיורינג על פריצות דרך מושגיות והנדסיות שהפכו רשתות עצביות עמוקות למרכיב קריטי במחשוב.
רשתות עצביות > רשתות עצבים מלאכותיות

רשתות עצביות מלאכותיות (ANNs) או מערכות מקושרות הן מערכות מחשוב בהשראת הרשתות העצביות הביולוגיות המהוות מוח חי. מערכות כאלה לומדות (משפרות בהדרגה את יכולתן) לבצע משימות על ידי בחינת דוגמאות, בדרך כלל ללא תכנות ספציפי למשימה. לדוגמה, בזיהוי תמונות, הם עשויים ללמוד לזהות תמונות המכילות חתולים על ידי ניתוח תמונות לדוגמה שסומנו באופן ידני כ"חתול" או "ללא חתול" ושימוש בתוצאות האנליטיות כדי לזהות חתולים בתמונות אחרות. הם מצאו את רוב השימוש ביישומים שקשה לבטא עם אלגוריתם מחשב מסורתי באמצעות תכנות לוגי "מסורתי".
ANN מבוסס על אוסף של יחידות מחוברות הנקראות נוירונים מלאכותיים, (בדומה לנוירונים ביולוגיים במוח). כל חיבור (סינפסה) בין נוירונים יכול להעביר אות לנוירון אחר. הנוירון הקולט (הפוסט-סינפטי) יכול לעבד את האות ואז לאותת לנוירונים במורד הזרם המחוברים אליו. לנוירונים יכול להיות מצב, המיוצג בדרך כלל על ידי מספרים ממשיים, בדרך כלל בין 0 ל-1. לנוירונים ולסינפסות עשוי להיות גם משקל שמשתנה ככל שהלמידה מתקדמת, מה שיכול להגביר או להקטין את עוצמת האות שהוא שולח במורד הזרם.
בדרך כלל, נוירונים מאורגנים בשכבות. שכבות שונות עשויות לבצע סוגים שונים של טרנספורמציות על הקלט שלהן. האותות עוברים מהשכבה הראשונה (הקלט עצמו), לשכבה האחרונה (הפלט), לפעמים לאחר חציית השכבות מספר פעמים.
המטרה המקורית של גישת הרשת העצבית הייתה לפתור בעיות באותו אופן שבו יעשה מוח אנושי. עם הזמן, תשומת הלב התמקדה בהתאמת יכולות מנטליות ספציפיות, מה שהוביל לסטיות מביולוגיה כגון התפשטות לאחור, או העברת מידע בכיוון ההפוך והתאמת הרשת לשקף מידע זה.
רשתות עצביות שימשו במגוון משימות, כולל ראייה ממוחשבת, זיהוי דיבור, תרגום מכונה, סינון רשתות חברתיות, משחקי לוח ווידאו ואבחון רפואי.
נכון לשנת 2017, לרשתות עצביות יש בדרך כלל כמה אלפים עד כמה מיליוני יחידות ומיליוני חיבורים. אף על פי שמספר זה הוא בכמה סדרי גודל פחות ממספר הנוירונים במוח אנושי, רשתות אלו יכולות לבצע משימות רבות ברמה גבוהה מעבר לזו של בני אדם (למשל, זיהוי פנים, משחק "Go").
רשתות עצביות > רשתות עצביות עמוקות

רשת עצבית עמוקה (DNN) היא רשת עצבית מלאכותית (ANN) עם שכבות מרובות בין שכבות הקלט והפלט. ישנם סוגים שונים של רשתות עצביות אך הן תמיד מורכבות מאותם מרכיבים: נוירונים, סינפסות, משקלים, הטיות ותפקודים. רכיבים אלו פועלים באופן יחסית דומה למוח האנושי וניתן לאמן אותם כמו כל אלגוריתם ML אחר.
לדוגמה, DNN שמאומן לזהות גזעי כלבים יעבור על התמונה הנתונה ויחשב את ההסתברות שהכלב בתמונה הוא גזע מסוים. המשתמש יכול לעיין בתוצאות ולבחור אילו הסתברויות הרשת צריכה להציג (מעל סף מסוים וכו') ולהחזיר את התווית המוצעת. כל מניפולציה מתמטית כשלעצמה נחשבת לשכבה, ול-DNN מורכב יש רבדים רבים, ומכאן השם רשתות "עמוקות".
DNNs יכולים למדל קשרים לא ליניאריים מורכבים. ארכיטקטורות DNN מייצרות מודלים מורכבים שבהם האובייקט מתבטא כקומפוזיציה מרובדת של פרימיטיבים. השכבות הנוספות מאפשרות הרכבה של תכונות משכבות נמוכות יותר, ועשויות ליצור מודלים של נתונים מורכבים עם פחות יחידות מאשר רשת רדודה בעלת ביצועים דומים. לדוגמה, הוכח כי קל יותר באופן אקספוננציאלי, לבצע קירוב לפולינומים דלילים רבי-משתנים עם DNNs מאשר עם רשתות רדודות.
ארכיטקטורות עמוקות כוללות גרסאות רבות של כמה גישות בסיסיות. כל ארכיטקטורה מצאה הצלחה בתחומים ספציפיים. לא תמיד ניתן להשוות את הביצועים של ארכיטקטורות מרובות, אלא אם כן הם הוערכו על אותם מערכי נתונים.
DNNs הם בדרך כלל רשתות הזנה קדימה שבהן נתונים זורמים משכבת הקלט לשכבת הפלט מבלי לחזור אחורה. בתחילה, ה-DNN יוצר מפה של נוירונים וירטואליים ומקצה ערכים מספריים אקראיים, או "משקלות", לקשרים ביניהם. המשקולות והכניסות מוכפלות ומחזירות פלט בין 0 ל-1. אם הרשת לא זיהתה במדויק דפוס מסוים, אלגוריתם יתאים את המשקולות. כך האלגוריתם יכול להפוך פרמטרים מסוימים למשפיעים יותר, עד שהוא יקבע את המניפולציה המתמטית הנכונה לעיבוד מלא של הנתונים.
רשתות עצביות חוזרות (RNNs), שבהן נתונים יכולים לזרום לכל כיוון, משמשות ליישומים כמו מודלים של שפות. זיכרון גדול לטווח-קצר יעיל במיוחד לשימוש זה.
רשתות קונבולוציה (CNN) משמשות בראייה ממוחשבת. CNNs יושמו גם למידול אקוסטי לזיהוי דיבור אוטומטי (ASR).
רשתות עצביות > רשתות עצביות עמוקות > אתגרים

כמו ב-ANN, בעיות רבות יכולות להתעורר עם DNNs עם הכשרה "נאיבית". שתי בעיות נפוצות הן התאמת יתר וזמן חישוב.
DNNs נוטים להתאים יתר על המידה משום שכבות ההפשטה הנוספות, המאפשרות להם למדל תלויות נדירות בנתוני האימון. הסדרת (רגולריזציה) שיטות כגון "הגיזום היחיד" של איבננקו או דעיכת משקל ( \ell _{2} רגוליזציה) או דלילות (  \ell _{1} - רגוליזציה) ניתן ליישם במהלך האימון כדי לטפל בחלק משמעותי מהתאמת היתר. לחלופין, הסדרת נשירה משמיטה באופן אקראי יחידות מהשכבות הנסתרות במהלך האימון. זה עוזר לשלול תלות נדירה. לבסוף, ניתן להגדיל את הנתונים באמצעות שיטות כגון חיתוך וסיבוב, כך שניתן להגדיל מערכי אימונים קטנים יותר כדי להקטין את הסיכוי להתאמת יתר.
DNNs חייבים לקחת בחשבון פרמטרים רבים של אימון, כגון הגודל (מספר השכבות ומספר היחידות לשכבה), קצב הלמידה והמשקלים הראשוניים. סריקה של מרחב הפרמטרים בחיפוש עבור פרמטרים אופטימליים ייתכן שלא יהיה אפשרי בשל עלות הזמן ומשאבי החישוב. טריקים שונים, כגון batching (חישוב גרדיאנט על מספר דוגמאות אימון בו-זמנית ולא דוגמאות בודדות) מאיצים את החישוב. יכולות עיבוד גדולות של ארכיטקטורות ליבות רבות (כגון GPUs או Intel Xeon Phi) הביאו להאצות משמעותיות באימון, בגלל ההתאמה של ארכיטקטורות עיבוד כאלה למטריצה ולחישובי וקטור.
לחלופין, מהנדסים עשויים לחפש סוגים אחרים של רשתות עצביות עם אלגוריתמי אימון פשוטים ומתכנסים יותר. CMAC (בקר דגם articulation cerebellar) הוא סוג כזה של רשת עצבית. זה לא דורש שיעורי למידה או משקלים ראשוניים אקראיים עבור CMAC. ניתן להבטיח שתהליך האימון יתכנס בשלב אחד עם אצווה חדשה של נתונים, והמורכבות החישובית של אלגוריתם האימון היא ליניארית ביחס למספר הנוירונים המעורבים.
חומרה

מאז שנות ה-2010, התקדמות הן באלגוריתמי למידת מכונה והן בחומרת המחשבים הובילה לשיטות יעילות יותר לאימון רשתות עצביות עמוקות, המכילות שכבות רבות של יחידות נסתרות לא ליניאריות ושכבת פלט גדולה מאוד באופן יחסי. עד שנת 2019, יחידות עיבוד גרפי (GPUs), לעיתים קרובות עם שיפורים ספציפיים ל-AI, החליפו את המעבדים כשיטה הדומיננטית לאימון AI ענן מסחרי בקנה מידה גדול. בשנת 2015 החלה גוגל להשתמש ביחידות (TPU) שפיתחה להאצת למידת מכונה של רשתות עצביות עמוקות, באמצעות תוכנת TensorFlow.
OpenAI העריכה את חישוב החומרה המשמש בפרויקטים הגדולים ביותר של למידה עמוקה מ-AlexNet (2012) ועד AlphaZero (2017), ומצאה עלייה של פי 300,000 בכמות החישוב הנדרשת, עם קו מגמה של זמן הכפל של 3.4 חודשים.
לקריאה נוספת

מרכוס דו סוטוי, תוכנת היצירתיות - איך לומדת הבינה המלאכותית לכתוב, לצייר ולחשוב, תרגמה: מיכל קירזנר-אפלבוים, ספרי עליית הגג וידיעות ספרים, 2022.
נדיה אברהם

| --- | --- |
אין תמונה חופשית
 לידה:  1933 בגדאד, ממלכת עיראק 
 פטירה:  2018 (בגיל 85 בערך) תל אביב-יפו, ישראל 
 מדינה:  ישראל 
 
נדיה אברהם (1933–2018) היא מחלוצות הקהילה הטרנסג'נדרית בישראל.