stanford-oval/wikipedia huggingface dataset:
רשת עצבית מלאכותית
מבנה רשת עצבית > ארכיטקטורות רשת

ארכיטקטורות רשת בולטות כוללות את "המשפחות" שלהלן:
רשת קונבולוציה – רשתות אלו מתאימות ללמידה של מידע שהוא אינווריאנטי (אנ') בזמן או במרחב והן מתאימות לעיבוד תמונות.
Recurrent Neural Network (אנ') – רשתות אלו נועדו "לפענח" מידע סדרתי – כלומר, להביא בחשבון את "סדר ההופעה" של התופעה בה מטפלים. רשתות אלו כוללות מרכיב של זיכרון – כך שהרשת "יודעת להתחשב" בהיסטוריה. רשתות אלו מתאימות במיוחד לקריאת כתב – כאשר יש חשיבות רבה לסדר הופעת האותיות, להפיכת "שמע" לטקסט וכדומה. ז'אנר ספציפי של רשתות אלו הן Bidirectional recurrent neural networks. מכיוון שהרשת מקבלת קטע לפענוח שהוא בעל אורך נתון – היא יכולה להביא בחשבון גם את סדר ההופעה "הרגיל", כלומר, להביא בחשבון את העבר לגבי "מה צפויה" להיות האות הבאה ובמקביל, היא יכולה "להסתכל" על הנתונים גם בכיוון ההפוך (למשל – מסוף המילה אל תחילתה). בנוסף, רשתות אלו מאפשרות להביא בחשבון זמנים (או יחסי קרבה) בעלי אורך משתנה, כלומר, לדוגמה, בהקשר של קריאת כתב, להביא בחשבון הן את האות הקרובה לאות שמנסים לפענח והן אותיות או חלקי מילים רחוקות יותר.
Autoencoder (אנ') – רשתות אלו בנויות בארכיטקטורה כזו שגודל השכבות החבויות יורד והולך ואחר כך, הוא גדל חזרה, בדרך כלל, לגודל המקורי, כלומר, רשת בארכיטקטורה הכוללת "צוואר בקבוק". במצב זה, החלק של הרשת מהשכבה של כניסת הנתונים ועד לצוואר בקבוק מהווה "מקודד" של המידע ואילו השכבה מצוואר הבקבוק ועד לשכבת יציאת הנתונים מהווה "מפענח". לרשתות כאלה יש שימושים רבים ולדוגמה, ניתן לאמן את הרשת על תמונות רבות של ואן גוך, מה שיגרום ל"מקודד" "להבין" מה מצויר בתמונה ואילו ה"מפענח" ילמד איך לקחת מידע מקודד שמבטא את "מה מצויר בתמונה" ולהפוך אותו לציור "בסגנון של ואן גוך". רשת כזו, לאחר שאומנה, יכולה לקלוט ציור או צילום אחר כלשהו, "להבין" מה יש בציור ואז "לפתוח מחדש" את המידע המקודד כך שבסופו של התהליך יתקבל הציור/ צילום המקורי – אבל בסגנון של "ואן גוך". שיטה זו מאפשרת להמיר צילומי יום לתמונות שכאילו צולמו בלילה וכדומה.
Generative adversarial network – רשתות הכוללות שתי ארכיטקטורות נפרדות. רשת אחת מהווה "גנרטור". רשת זו יודעת לייצר בעצמה את הישות שבה מתעניינים – נניח למשל תמונה של פרח. רשת שנייה מהווה "שופט" והיא מנסה להשוות בין התוצרים של ה"גנרטור" לבין תמונות אמיתיות של פרחים. אם השופט מצליח להבין איזה תמונה יוצרה על ידי הגנרטור ואיזה תמונה היא "אמיתית" – משפרים את ה"גנרטור", אם השופט לא מצליח להבחין בין התמונות האמיתיות לבין התמונות שהגנרטור מייצר – משפרים את "השופט" וחוזר חלילה. רשתות כאלה יכולות "לייצר בעצמן" ישויות מגוונות, דומות להפליא למציאות עצמה. נכון ל-2019, הודגמו כבר יכולות לייצר פורטרטים של אנשים לא קיימים, ציפורים, פרחים, קולות וכיוצא באלו. ארכיטקטורה זו פותחה ופורסמה לראשונה על ידי איאן גודפלו בשנת 2014.
רשת נוירונית מבוססת על מתמיר (Transformer based neural networks) (אנ') – רשתות נוירונים שהתפתחו בעולם הבנת השפה והן מתאימות במיוחד לטיפול במידע שמגיע כזרם של אלמנטים שונים (לדוגמה מילים במשפט). ברשתות נוירונים מסוג זה אלמנטים מרוחקים בקלט יכולים להשפיע על הפלט ללא איבוד הקשר. רשתות מסוג זה משמשות במודלי שפה גדולים כמו GPT, Bert, ועוד. ליבת המודל היא מציאת ההשפעה של אלמנטים בהיסטוריה על הפלט עבור ערך קלט נוכחי. כיוון שכל אלמנט בקלט משתתף במשפר הקשרים שונים, לדוגמה במשפט "האנשים נעלו את ביתם שבמושבה ונסעו לטיול במכונית" המילה ביתם מתייחסת לעזיבה בהקשר אחד ולמושבה בהקשר אחר", המודל מחשב במקביל מספר הקשרים שונים.
אלגוריתם ללימוד הרשת

הקלטים לנוירון מסוכמים בסכום משוקלל, ואם התוצאה עוברת ערך סף מסוים, הקלט מועבר ליציאה. תצורת הרשת המקובלת ביותר היא זרימה קדימה (Feed Forward) – זאת אומרת, שכבות של נוירונים עם חיבור של כולם עם כולם בין שכבות צמודות. השכבות שבין שכבת הקלט לשכבת הפלט נקראות שכבות חבויות. בהינתן רשת בה כוונו המשקולות, חישוב על ידה מתבצע על ידי הזנת הקלטים לשכבת הקלט וקבלת התוצאה שחלחלה ברשת לשכבת הפלט. מספר נוירונים רב מדי בשכבות החבויות יכול לגרום להתאמת יתר (over-fitting) על סדרת הלימוד. ישנה חשיבות לכך שפונקציית הסף ביציאה מהנוירון תהיה לא ליניארית כדי לפתור בעיות ברמת קושי גבוהה בעזרת הרשת.
הפונקציה אותה מממש כל תא היא פונקציית סיגמואיד (Sigmoid) המתוארת בשרטוט "Sigmoid Unit":
הביטויים המפורשים הם:
 {\begin{aligned}n_{j}=\mathrm {net} &=\sum _{i}w_{i}x_{i}\\o=\mathrm {output} &=\sigma (\mathrm {net} )\\\sigma (x)&={\frac {1}{1+e^{-x}}}\end{aligned}}
הפונקציה  \sigma  מקיימת תכונה יפה:
אם כן, הרשת בה השתמשנו היא רשת בעלת 3 שכבות, בכל שכבה מספר תאים כשכל תא מממש Sigmoid unit.
המשקולות שעל הקשרים בין הנוירונים (המשקולות הסינופטיות) הן אלה שאוגרות את הידע של הרשת במודל המפושט, לכן אלגוריתמי הלימוד השונים מבצעים את כוונון המשקולות לערכים שנותנים תוצאות חישוב טובות עבור מערך דוגמאות הלימוד. משימה זאת אינה פשוטה בגלל השכבות החבויות.
אחד מאלגוריתמי הלימוד המקובלים ביותר הוא אלגוריתם "פעפוע לאחור" (Back-Propagation או BP).
זהו אלגוריתם ללימוד מונחה (Supervised Learning). הוא מעביר את קלט הלימוד במורד רשת עם משקולות אקראיות, ומשווה את הפלט המתקבל לפלט הרצוי בכך שהוא מחשב את הטעות עבור כל נוירון פלט.
הרעיון העיקרי של BP הוא שהטעויות מחלחלות חזרה במעלה הרשת כך שמתבצעים כוונוני משקלות בעזרת אלגוריתם Gradient descent, שמנסה להקטין את הטעויות בפלט. אם תיקוני המשקולות נעשים בשיעור מספיק קטן, גדלים הסיכויים להתכנסות של הרשת לטעות מינימלית. אומנם תיתכן התכנסות למינימום מקומי בלבד, אך למעשה השיטה נותנת תוצאות טובות כיוון שניתן להפעילה שוב עם משקולות התחלתיות שונות. אף על פי שהלימוד בשיטה זו דורש משאבים רבים, ובעל זמן ריצה לא זניח, השימוש ברשת אחרי הלימוד הוא מהיר יותר.
אלגוריתם ללימוד הרשת > אלגוריתם Gradient Descent

את הרשת מאמנים על ידי עדכון המשקולות wi.
הרשת מוזנת בווקטור כניסה מסוים ונבחן מוצאה. בהתאם למוצא הדרוש עבור וקטור כניסה זה מעדכנים את המשקולות. אנו נדון רק באפשרות של עדכון המשקולות על מנת לצמצם את השגיאה הריבועית בין מוצא הרשת למוצא הדרוש. הניסוח המתמטי ל־Gradient Descent הוא:
מתחילים עם וקטור משקולות  {\vec {w}}=(w_{i})_{i\in I}.
חשב את השגיאה (או ה"עונש") על ידי  E({\vec {w}})={\frac {1}{2}}\sum _{d}(t_{d}-o_{d})^{2} כאשר td הוא הערך הרצוי ו־od הוא הפלט שבפועל מפיקה הרשת.
"אימון הרשת": עדכן את המשקולות  w_{i}\leftarrow w_{i}+\Delta w_{i} כאשר  .\Delta w_{i}=-\eta {\frac {\partial E}{\partial w_{i}}} זה למעשה גרדיאנט שכן  .\Delta {\vec {w}}=-\eta {\vec {\nabla }}E({\vec {w}}) ומכאן שם השיטה.
עבור סיגמואיד נקבל {\begin{aligned}{\frac {\partial E}{\partial w_{i}}}&={\frac {\partial }{\partial w_{i}}}{\frac {1}{2}}\sum _{d}(t_{d}-o_{d})^{2}={\frac {1}{2}}\sum _{d}{\frac {\partial }{\partial w_{i}}}(t_{d}-o_{d})^{2}\\&={\frac {1}{2}}\sum _{d}2(t_{d}-o_{d}){\frac {\partial }{\partial w_{i}}}(t_{d}-o_{d})=\sum _{d}(t_{d}-o_{d})\left(-{\frac {\partial o_{d}}{\partial w_{i}}}\right)\\&=-\sum _{d}(t_{d}-o_{d}){\frac {\partial o_{d}}{\partial n_{d}}}{\frac {\partial n_{d}}{\partial w_{i}}}\end{aligned}} כאשר  n_{d}=\mathrm {net} _{d}. אבל אנו יודעים ש־ {\frac {\partial o_{d}}{\partial n_{d}}}={\frac {\partial \sigma (n_{d})}{\partial n_{d}}}=o_{d}\cdot (1-o_{d})\ ,\quad {\frac {\partial n_{d}}{\partial w_{i}}}={\frac {\partial ({\vec {w}}\cdot {\vec {x}}_{d})}{\partial w_{i}}}=x_{i,d} ולכן  .{\frac {\partial E}{\partial w_{i}}}=-\sum _{d}(t_{d}-o_{d})\cdot o_{d}\cdot (1-o_{d})x_{i,d}.
בסך הכל:  .w_{i}\leftarrow w_{i}+\eta \sum _{d}(t_{d}-o_{d})\cdot o_{d}\cdot (1-o_{d})x_{i,d}
קיבלנו את המשוואה לפיה נעדכן את המשקולות בכל איטרציה כדי להביא למינימום את השגיאה הריבועית במוצא.
נשים לב כי כמו בכל שימוש באלגוריתם Gradient Descent אפשר להתכנס למינימום מקומי.
אלגוריתם ללימוד הרשת > אלגוריתם פעפוע לאחור (Back-Propagation)

בסעיף הקודם קיבלנו את המשוואה לעדכון המשקולות של תא מסוים בהינתן מוצאו והמוצא הדרוש ("מטרה"). עם זאת, במהלך אימון הרשת ידועה לנו רק שכבת היציאה של הרשת כולה (והמטרה שלה), ולא ידועים המוצאים/מטרות של שכבות הביניים. באמצעות אלגוריתם Back-propagation נעדכן את שכבות הביניים גם כן – שכבה אחרי שכבה.
תהליך "אימון" הרשת

תהליך זה הוא הקובע את המשקולות לזיהוי אוטומטי של תבניות ברשת העצבית.
להלן דוגמה פשוטה על האופן בו התהליך עשוי להתבצע. דמיינו אלגוריתם הנועד ללמד את הנוירון לעיל לזהות את התבנית המיועדת לו:
הצב בהתחלה משקולות רנדומליות בין הנוירונים.
אם הפלט נכון, אל תעשה כלום.
אם הפלט גבוה אך אמור להיות נמוך, הנמך את המשקולות הקשורות לנתוני הקלט הגבוהים.
אם הפלט נמוך אך אמור להיות גבוה, הגבה את המשקולות הקשורות לנתוני הקלט הנמוכים.
כל זאת, כאשר המצב ההתחלתי של ערכי המשקולות אקראי. חלקי המאמר הבאים עוסקים בשיטות שונות לאימון הרשת. יש שתי נקודות נוספות, שכדאי לשים לב אליהן כאן.
ראשית, בעזרת קביעת משקולות מתאימה, נוכל ליצור מהרשתות כמעט כל שער לוגי. לכן, אל לנו להתייחס לרשתות העצביות כאמצעי לזיהוי בלבד – הן דבר יותר גמיש מכך. למעשה, הן יותר כמו מעגל לוגי מצרפי הניתן לאימון. שנית, במקום שימוש בפלט בינארי בלבד, כפי שנעשה בכל הדוגמאות בהן עסקנו, נשתמש ככלל בפונקציה המתמטית הנקראת סיגמואיד לפלט הנוירונים שלנו. כלומר הפלט יהיה:
 o=\mathrm {output} ={\frac {1}{1+e^{-\mathrm {sum} }}}\quad \mathrm {sum} =\sum _{i}w_{i}x_{i}
ובכן בדוגמה בשרטוט 5[דרושה הבהרה] פלט הנוירון בשימוש בפונקציית הסיגמואיד יהיה  \mathrm {output} ={\frac {1}{1+e^{-0.18}}}=0.5549.
למעשה, פונקציה זו מחזירה תמיד מספר בין אפס לאחד, ולכן היא מתנהגת בדומה לפונקציית המדרגה הבינרית, היא בעלת יתרון במקרים בהם קיימות שתי תבניות דומות מאוד. במקרים אלו ניתנת לנוירון בדרך זו האפשרות להחזיר ערך ביניים. זו בעצם דרכו להגיד: "אני לא בטוח". שרטוט 12 מדגים את הרעיון.
תהליך הלמידה מתבצע על ידי "תגמול" "וענישה" של קשרים שונים ועל ידי חשיפת רשת הנוירונים לדוגמאות רבות. "תגמול" ו"ענישה" של הקשרים מתבצע על ידי שינוי המשקל של אותו הקשר, כך שכל קשר ש"מתוגמל" משקלו יגדל וכל קשר ש"נענש" משקלו ירד, תהליך זה משפיע במידה רבה על תהליך העיבוד ברשת הנוירונים ולקבלת תוצאה שונה. כל נוירון בשכבה הראשונה מתעדכן בנתון רלוונטי הנקרא קלט, ולאחר תהליך עיבוד בשכבות הביניים כל נוירון בשכבה האחרונה מיצר פלט הנקרא פתרון. כל אחד מן הנוירונים יכול להשפיע במידה מסוימת על המידע או על תהליך העיבוד שיתבצע בתא אחר בשל הקשרים הקיימים ברשת. פעולת החשיבה נעשית על ידי הזנת נתוני קלט לנוירונים שבשכבה העליונה, והעברת הנתונים בין הנוירונים ובמורד השכבות, עד שנוצר מערך של נתוני פלט בנוירונים שבשכבה התחתונה. נתוני הפלט מהווים מערך של פתרונות הרשת לנתוני הקלט. מדוגמה לדוגמה מתעדכנים "ערכי הסף" של הנוירונים שבמערכת, כך שהפלט יהיה אופטימלי. הערכים המתמטיים של ערכי הסף יכוילו, כך שכל קשר שצריך היה לאשרו יאושר, וכל קשר שצריך היה לדחותו יידחה. מעתה ואילך, אפשר לצפות שהרשת תקבל החלטות לאשר או לדחות באופן שמבטא בצורה מלאה את הניסיון הנצבר בתהליך הלמידה. יכולתה של רשת הנוירונים מושתתת על יכולתה לספק דיוק מקסימלי לכל פונקציה קיימת כאשר דיוק זה יכול להתבצע על ידי הגברת מורכבות הרשת והגדלת מספר השכבות החבויות.
יישומים

ניתן ליישם רשתות עצביות בחומרה אנלוגית או דיגיטלית. שלושה מגברים פשוטים נותנים את המשקל לקלט. אם אנו רוצים שהמערכת תלמד בזמן אמת, המגברים צריכים להיות בעלי הגברה דיגיטלית אלקטרונית. הפלט מסוכם, והסַף מופעל על ידי מַשוֶוה (Comparator).
מעגל מסוג זה נבנה בעזרת רכיבים הנקראים מגברי פעולה אנלוגיים (Op Amps) כחלק ממעגל משולב. החיסרון בגישה זו הוא הצורך ברכיבים רבים, אם במערכת נוירונים רבים. בדרך זהה ניתן לייצר מעגלים דיגיטליים: מגברי המשקולות יוחלפו במכפילים דיגיטליים, מגבר הסכום יוחלף בסוֹכֵם, והמשווה יוחלף במפענח, שיעביר אות אם פלט הסוכם יהיה גבוה מערך סף קבוע. בדומה לרשתות האנלוגיות, גם הרשתות הדיגיטליות בזבזניות מבחינת מקום ומשאבים, כיוון שהן נשענות על מכפילים בינאריים, שהם לרוב מעגלים גדולים ומורכבים.
לכן, הדרך הנפוצה ביותר לממש רשת עצבית היא על ידי הדמיה בתוכנה. דרך זו מאפשרת למתכנת לשנות פרמטרים, דוגמת מספר הנוירונים והאופן בו הם מחוברים; פעולה זו יכולה להיעשות בקלות וללא חיווט מחדש שעלותו גבוהה, ובכך מאפשרת הדמיה של חיבור נוירונים רבים בדרך פשוטה. קיימות חבילות תוכנה לכתיבה ואימון של רשתות עצביות, בהן Torch, Theano ו־TensorFlow.
במהלך שנות ה-2000, פותחו יכולות משופרות לתמיכה של חומרה ברשתות עצביות מלאכותיות, ובהן אימון של רשתות עצביות מלאכותיות באמצעות מעבד גרפי. חברת Nvidia פיתחה מגוון מעבדים שתכליתם לתמוך, בעיקר, יישומים של רשתות עצבים מלאכותיות וכך גם אינטל (לדוגמה נרוונה סיסטמס (אנ') ומובידיוס (אנ')) וגוגל (כגון Tensor processing unit (אנ')).
יישומים > מימוש רשת עצבית בתוכנה

מימוש של המודל התאורטי שהוצג לעיל כתוכנת מחשב הוא למעשה אלגוריתם בינה מלאכותית ללמידה חישובית ממשפחת הלמידה המונחית.
בניגוד לפיתוח תוכנה קלאסי, אשר מתמקד במציאת פתרון אלגוריתמי לבעיות, פיתוח בעזרת רשת עצבית מתמקד באימון הרשת, הזנתה במידע מתאים וניתוח הפתרון. משימות אלו הן אמנם מורכבות וקשות לפחות כמו הגישה המסורתית, אך לעיתים קרובות ניתן למצוא בעזרת טכניקה זו פתרונות או קירובים לבעיות קשות.
הדרך הפשוטה היא לאחסן את כל הפרמטרים במערכים: את הקלט והפלט מהרשת ניתן לאחסן במערך אחד ואת המשקולות בשני. לדוגמה, נוכל לאחסן את כל המשקולות במערך תלת־ממדי עם שלושת הפרמטרים הבאים:
[Weights[layer_number, neuron_number, connection_number (מספר שכבה, מספר נוירון, מספר חיבור).
הפלט (כמו גם הקלט) מכל נוירון במערך דו־ממדי עם הפרמטרים הבאים הוא:
[Output[ layer_number, neuron_number (מספר שכבה ומספר נוירון).
נשים לב כי השדות (O(1,1 ו־(O(1,2 הם קלט הרשת, והשדה (O(3,1 הוא הפלט.
נוכל לגרום למחשב לחשב את הפלט מרשת כזו על ידי אלגוריתם פשוט:
אתחל את כל המשקולות ושדות הפלט – השדות O ו־W להיות אפס.
קבע את הקלט – שדות (O(1,1 ו־(O(1,2 – לערכים הרצויים כאשר שכבה 1 היא הקלט.
קבע את המשקולות הרצויות לרשת.
חשב את הפלט מהרשת (בדומה לרשימת "חישוב פלט הרשת").
יישומים > חבילות תוכנה

לשפת פייתון ישנן מספר חבילות שמממשות רשתות נוירונים מסוגים שונים ומאפשרות שימוש במודולים מוכנים מראש לעיצוב הרשת, אימונה ופרישתה. חבילות אלו כוללות את TensorFlow מבית גוגל ואת Keras שמתלבשת עליה ובעלת API נוח יותר, ואת PyTorch שמשמשת את מטא (פייסבוק וכו').
רשתות עצביות בתעשייה ובאקדמיה

ב־2013 העמידה פייסבוק את מדען המחשב יאן לקון בראש מעבדת הבינה המלאכותית שלה, וב־2014 צירפה למעבדה גם את ולדימיר ופניק. גוגל צירפה אליה במרץ 2013 את ג'פרי הינטון וב־2014 רכשה את DeepMind המתמחה בתחום. אילון מאסק, מייסד חברת טסלה, PayPal ו-SpaceX הקים ב-2015 מיזם לקידום נושאי בינה מלאכותית, בכלל ורשתות עצביות מלאכותיות בפרט בשם OpenAI.
נכון ל-2019 – מינוף עסקי של תחום רשתות העצבים המלאכותיות מתפשט בקצב מאיץ. בתחום פועלות, ככל הנראה, עשרות אלפי חברות ברחבי העולם. ישנן מספר "רשימות" המפרטות את החברות היותר גדולות או יותר מבטיחות בתחום ובכלל זה:
רשימת החברות בעלות הערך הגבוה (של SingularityHub)
רשימה של מאה חברות, לפי האתר cbinsights
רשימה של 25 חברות מובילות, לפי האתר Datamation
אחת הדרכים המקובלות לבחינה ודירוג של האוניברסיטאות בתחום זה, היא הסתכלות על כמות הפרסומים במסגרת הוועדה השנתית שעוסקת בתחום Conference on Neural Information Processing Systems, לפי מדד זה, האוניברסיטאות המובילות בעולם בתחום הן:
אוניברסיטת קרנגי מלון
המכון הטכנולוגי של מסצ'וסטס
אוניברסיטת סטנפורד
אוניברסיטת קליפורניה בברקלי
המכון הטכנולוגי של ציריך
אוניברסיטת טורונטו
רשימה חלקית, על פי דירוג זה, אפשר למצוא ב-Ahead in AI Research? Insights from NIPS
רשתות עצביות בתעשייה ובאקדמיה > פעילות בישראל

נכון לשנת 2018, לפי דו"ח של מוסד שמואל נאמן למחקר מדיניות לאומית בהמשך למחקר שהוזמן על ידי המועצה הלאומית למחקר ופיתוח אזרחי, בישראל פועלות למעלה מ-800 חברות טכנולוגיות שיש להן פעילות בתחום בינה מלאכותית.
במהלך 2018, ישראל הקימה ועדה שתכליתה לבחון איך נכון למדינה להיערך בתחום הבינה מלאכותית, בראש הוועדה עומדים הפרופסורים יצחק בן ישראל ואביתר מתניה. ועדה זו הקימה 14 ועדות משנה לבחינה של היבטים שונים הקשורים לנושא והיא אמורה להגיש את המלצותיה במהלך 2019.
במקביל, הוועדה לתכנון ולתקצוב של האקדמיה, והמועצה להשכלה גבוהה אישרו, כבר במהלך 2018, 16 מסלולי לימוד לתארים אקדמאים בתחום וברוב האוניברסיטאות בישראל, אפשר ללמוד או לחקור היבטים שונים של התחום.
רשתות עצביות בתעשייה ובאקדמיה > תחומי יישום עיקריים

נכון ל-2019, תחומי היישום העיקריים של רשתות עצבים מלאכותיות כוללים את:
התחום הפיננסי (לדוגמה – חיזוי של ערך מניה, חיפוש אנומליות לטובת זיהוי זיופים וכיוצא באלו)
תחום ניהול משאבים של ארגונים גדולים
פענוח הדמייות רפואיות
דיאגנוסטיקה רפואית
אחזור וחיפוש מסמכים
חיפוש אנומליות רשת לטובת הגנת סייבר
זיהוי עצמים בתמונות ווידאו
תחבורה והפחתת עומסי תנועה (באמצעות התאמת פעולת הרמזורים למאפייני התנועה של צומת ספציפי)
רובוטיקה
ניתוח נתוני עתק בשוק הקמעונאי, בין השאר לטובת חיזוי והצפת המלצות לצרכנים פוטנציאליים
כימואינפורמטיקה: חיזוי תכונות של תרכובות כימיות, פיתוח תרופות וחומרים חדשים, תכנון סינתזה כימית
ראו גם

רשת עצבית
פרספטרון
Word2vec
לקריאה נוספת

Supervised learning in multilayer feedforward networks – "backpropagation", Bruno A. Olshausen, 1998.
Neural Networks for Pattern Recognition, Bishop, C.M., 1996
Elektor Electronics 1/2003 C.McLeod and G.Maxwell
Davies, F., & Moutinho, L., & Curry ,B., (1996). ATM user attitudes: a neural network analysis. Journal of Marketing Intelligence & Planning, 14(2), 26–32.
צ'ארלס אנתון

| --- | --- |

 לידה:  19 בנובמבר 1797 ניו יורק, ארצות הברית 
 פטירה:  29 ביולי 1867 (בגיל 69) ניו יורק, ארצות הברית 
 מדינה:  ארצות הברית 
 מקום קבורה:  St. Mark's Church in-the-Bowery Churchyard 
 השכלה:  מכללת קולומביה  אוניברסיטת קולומביה 
 מעסיק:  אוניברסיטת קולומביה 
 תפקיד:  מנהל בית ספר 
 חתימה:   
 
צ'ארלס אנתון (באנגלית: Charles Anthon;‏ 19 בנובמבר 1797 – 29 ביולי 1867) היה חוקר אמריקאי ללימודים קלאסיים.
ביוגרפיה

אנתון נולד בניו יורק. אחרי שסיים בהצטיינות את קולומביה קולג' של אוניברסיטת קולומביה, הוא למד משפטים וקיבל הסמכה לעריכת דין, אבל מעולם לא עסק במקצוע. ב־1820 הוא מונה לתפקיד פרופסור עוזר ליוונית ולטינית בקולג' שבו למד. לאחר עשר שנים מונה לפרופסור מן המניין. הוא שימש גם מנהל בית ספר לדקדוק ליד הקולג'. בשני התפקידים החזיק עד שנת 1864.
אנתון פרסם מהדורות לימודיות של יצירות יווניות ולטיניות של הורטיוס, הומרוס, יוליוס קיסר, ורגיליוס ויוצרים אחרים וכן ספרי לימוד ליוונית ולטינית ואת Classical Dictionary – אנציקלופדיה לנושאי הלימודים הקלאסיים. ספריו זכו לתפוצה רבה ואומצו אף באוניברסיטאות יוקרתיות, בהן אוקספורד וקיימברידג', אם כי הם גם ספגו ביקורת – לדעת מלומדים אחדים הפירושים שאנתון כתב הקלו על התלמידים יותר מדי. למשל, בשנת 1828 העורך הספרותי יו סווינטון ליגרי, (לימים התובע הכללי של ארצות הברית), אמר עליהם: "מי יכול להעריך את הנזק שיעשה ללימודים הקלאסיים השימוש במהדורות של אנתון? ללא ספק הם יגרמו להיווצרותם של מלומדים מלאכותיים." ההתנגדות לשיטתו של אנתון – ולסגנון ההוראה הנהוג בצפון ארצות הברית – היא שהניעה את בסיל לנו גילדרסליב הדרומי לחבר סדרה חדשה של ספרים ללימוד לטינית ויוונית, שהתמקדה בהבנה מעמיקה של דקדוק.
אנתון מת בניו יורק ב־1867.
הערות שוליים

↑  ההקדמה מאת וורד בריגז (Ward Briggs) לספר הדקדוק הלטיני של בסיל לנו גילדרסליב, 1997.
| --- | --- |
בקרת זהויות :  NLI: 987007285964405171  PLWABN: 9810588530305606  BNE: XX1507970  BnF: cb12686910c (data)  GND: 1104195569  ISNI: 0000 0001 0901 3340  LCCN: no96040858  NLA: 35835441  NLG: 137696  NTA: 080757871  SNAC: w6xw4zxc  SUDOC: 233856625  Trove: 1108946  VcBA: 495/195041  VIAF: 52044369   WorldCat (עם VIAF): 52044369
תעופה - מונחים

מונחי תעופה בעברית התפתחו במשך מרבית ההיסטוריה של התעופה ככלל, ושל התעופה בארץ ישראל מראשיתה, בפרט, ובעיקר לאחר הקמת חיל האוויר הישראלי, שביסס ועדה למונחי תעופה. מספר גדול של מונחים לועזים השתרשו ונשארו בשפה העברית, מקור מרבית המילים הללו הוא באנגלית, אף על פי שישנם מונחים שמקורם בצרפתית שהשתרשו בעברית במהלך שנות ה־50 וה־60, שבהן חיל האוויר התבסס על מטוסים צרפתים.
מונחי טיסה > מונחים בסיסיים > הכוחות הפועלים על כלי הטיס

עילוי (Lift) – כוח אווירודינמי הנוצר על גבי כנפי המטוס והמתנגד לכוח הכבידה, ווקטור העילוי תלוי במצב המטוס במרחב (ההטייה שלו)
משקל או מסה (Mass/Weight) – הכוח הטבעי הפועל על כלי טיס והמושך את כלי הטיס כלפי הקרקע, מתנגד לכוח העילוי.
דחף (Thrust) – הכוח הנוצר על ידי מנוע המטוס והמניע את כלי הטיס במרחב (קדימה, אחורה או לצדדים) ותלוי בכיוון ההתקנה של המנוע או הרכיב המייצר את הדחף.
גרר (Drag) – כוח אווירודינמי המתנגד לתנועת כלי הטיס באוויר מנוגד בכיוונו לתנועת כלי הטיס דרך גוש האוויר, ובדרך כלל לכיוון הדחף.
מונחי טיסה > מונחים בסיסיים > צירי תנועה

ככלל, כל צירי התנועה נפגשים במרכז הכובד של המטוס, המטוס נע סביב ולאורך הצירים הללו.
צירי תנועה ליניארית
הציר האורכי (Longitudinal) – הציר העובר בין זנב ואף המטוס, במושג הרגיל משמש בעיקר לחישובים במערכות ניווט אינרציאליות וליציבות. אם כי ציר זה מכוון על ידי ציר העלרוד.
הציר האופקי (Horizontal) – הציר העובר בדרך כלל בין הכנפיים ומרכז המסה. משמש לחישוב החלקה ויציבות רוחבית.
הציר האנכי (Vertical) – הציר העובר מלמעלה למטה במרכז המסה של המטוס משמש בעיקר לחישובים של תאוצה למערכות בקרת טיסה ומערכות אינרציאליות.
צירי תנועה זוויתית
ציר העלרוד (Pitch) – תנועה סביב הציר האופקי המכוונת את הציר האורכי. בדרך כלל מתייחסים לזווית עלרוד כמצב אף או זווית אף.
ציר הגלגול (Roll) – תנועה סביב הציר האורכי ומכוונת את הציר האופקי. מצב גלגול שהוא לא אופקי ייצר פנייה. התייחסות למצב גלגול לעיתים באה בהתייחסות למצב הכנף הנמוכה לכיוונה המטוס יפנה דהיינו כנף שמאל מטה (באנגלית Left Wing Down או LWD) או כנף ימין מטה (באנגלית Right Wing Down או RWD).
ציר הסבסוב (Yaw) – תנועה סביב הציר האנכי המכוונת את הציר האורכי. תנועה בסבסוב בדרך כלל לא רצוייה שכן פנייה מתבצעת על ידי ניהוג בגלגול.
צירי מרחב – צירים אלה מאפשרים תיאור של מצב המטוס יחסית לכדור הארץ.
זניט (Zenith) – ציר המצביע תמיד הרחק ממרכז כדור הארץ.
נדיר (Nadir) – ציר המצביע לכיוון מרכז כדור הארץ.
המרחב האופקי (Horizontal Plane (אנ')) – מרחב תנועה המקביל לכדור הארץ.
מונחי טיסה > מונחים בסיסיים > מונחים אווירודינמיים > יציבות כלי טיס

מרכז כובד (Center of Gravity בראשי תיבות CG) – נתון מחושב המציג את הנקודה הממוצעת של מסת כלי הטיס, לרוב הנתון הזה מהווה את הציר סביבו המטוס נע. הנתון משמש להערכת ביצועיו של מטוס ותכונות היציבות שלו.
מרכז לחץ (Center of Pressure (אנ') בראשי תיבות CP) – נתון מחושב המציג את הנקודה הממוצעת של הכוחות האווירודינמיים הפועלים על כלי הטיס הכולל את הגרר, זווית ההתקפה ומקדם העילוי. הנתון משמש להערכת ביצועיו של מטוס ותכונות היציבות שלו.
מרכז העילוי (Center of Lift בראשי תיבות CL לעיתים מכונה גם Neutral Point בראשי תיבות NP) – נתון מחושב המציג את הנקודה הממוצעת של כוחות העילוי הפועלים על כלי הטיס בה לא נוצר מומנט עלרוד בלי תלות בזווית התקפה. הנתון משמש להערכת ביצועיו של מטוס ותכונות היציבות שלו.
יציבות סטטית (Static Stability (אנ')) – נטיית כלי הטיס לתגובה רגעית לשגיאה.
יציבות דינמית (Dynamic Stability) – נטיית כלי הטיס לתגובה לאורך זמן לשגיאה.
התבדרות או תנודה (Oscillation (אנ') ) – מצב של אי יציבות דינמית בו המטוס מתבדר.
תנודה מושרית על ידי טייס (Pilot Induced Oscillation (אנ')) – תנודה הנגרמת עקב תפעול טייס המבצע תיקונים קיצוניים מדי המסוגלים להוציא את המטוס מסף היציבות הדינמית.
פרפור (Flutter (אנ')) – מצב של אי יציבות דינמית במבנה ארוך וגמיש כגון כנפי מטוס או להבי רוטור. מתאפיין בשינוי בזוויות הכנפיים ואיתן העילוי, זווית ההתקפה והעומס המשנות את ביצועי הכנפיים ואיתן את התנהגות המטוס באוויר. במצבי קיצון פרפור מסוגל לשבור את מבנה הכנף.
מונחי טיסה > מונחים בסיסיים > מצבי טיסה קיצוניים ומצבי חוסר יציבות

הזדקרות (Stall) – מצב בו זרימת האוויר עוזבת את פרופיל הכנף והיא בתורה מאבדת את העילוי, במצב זה המטוס מאבד גובה.
הזדקרות מואצת (Accelerated Stall) – הזדקרות המתרחשת במהירות גבוהה ממהירות ההזדקרות הסטנדרטית (Vs) במהלך פנייה עקב עלייה של מקדם העומס ואיתה מהירות ההזדקרות.
הזדקרות דינמית (Dynamic Stall) – מתרחשת בתנועה חדה ופתאומית כאשר שפת ההתקפה יוצרת מערבולת רגעית, מאפיינת בעיקר רוטורים או כנפיים מפרפרים.
הזדקרות עמוקה (Deep Stall) – מצב אופייני למטוסים בעלי זנב T, בו במהלך הזדקרות כנפי המטוס "מאפילות" עם מערבולתיהן על הגאי הגובה ולא מאפשרות זרימה סדירה עליהם, עקב כך יש קושי בהיחלצות ממצב זה.
סחרור (Spin) – הזדקרות לא מתואמת. מתאפיינת בסיבסוב המטוס בזמן צניחה, נחשב לאחד ממצבי הטיסה המסוכנים ביותר בגלל הקושי בהיחלצות ממצב זה ומכיוון שלרוב היחלצות לוקחת יותר זמן וגובה יחסית להזדקרות.
סחרור שטוח (Flat Spin) – סחרור מסוכן בו כלי הטיס מסתחרר ללא הפלת אפו מטה, מה שמקשה עוד יותר על היחלצות.
סחרור הפוך (Inverted Spin) – סחרור מסוכן בו כלי הטיס מסתחרר עם גחונו כלפי מעלה, מה שמקשה על היחלצות.