אוריינות AI

אוריינות AI או אוריינות בינה מלאכותית (ב"מ) (Artificial Intelligence Literacy) היא היכולת להבין בינה מלאכותית, להשתמש בה, לנטר אותה ולחשוב עליה באופן ביקורתי.<ref name=":3" /> המושג מתייחס בעיקר להקניית מיומנויות וידע בקרב הקהל הרחב, שאינו מומחה לבינה מלאכותית.<ref name=":3"></ref>

קיימת הסכמה רחבה לכך שאוריינות AI היא נדרשת, ושיש להקנות אותה לתלמידים וסטודנטים.<ref name=":3" /><ref name=":40"></ref> הבינה המלאכותית מיושמת בהקשרי חיים רחבים, כגון כלי רכב אוטונומיים, עוזרים וירטואליים, אבחון רפואי, גיוס עובדים ועוד.<ref name=":9"></ref> גם במערכת החינוך יש שימוש בבינה מלאכותית לטובת שיפור הלמידה, ההוראה והמינהל.<ref></ref> מי שמשתמש בכלים האלה צריך להבין אותם מספיק טוב כדי לקבל החלטות מושכלות ביחס אליהם, ולכן נדרשת אוריינות AI.

לאוריינות AI צפויות להיות השלכות תעסוקתיות משמעותיות, כך שמי שירכוש אוריינות כזאת יצליח יותר בשוק התעסוקה.<ref name=":38"></ref>

== הגדרות ==
אחת ההגדרות המוקדמות והשכיחות<ref name=":3" /> לאוריינות AI היא "מערכת של מיומנויות המאפשרת לאנשים להעריך באופן ביקורתי כלי בינה מלאכותית, לתקשר ולשתף פעולה עם אחרים בעזרת כלי בינה מלאכותית, ולהשתמש בבינה מלאכותית ככלי מקוון בבית ובעבודה."<ref name=":2"></ref>

הגדרות דומות אך מאוחרות יותר הן "היכולת להבין, להשתמש, לנטר ולחשוב באופן ביקורתי על כלי בינה מלאכותית",<ref name=":3" /> או "היכולת להבין בינה מלאכותית, להשתמש בה, להעריך אותה ולהפעיל אותה באופן מוסרי".<ref name=":0"></ref>

אוריינות AI קשורה לסוגי אוריינות אחרים. אוריינות דיגיטלית היא תנאי מקדים לאוריינות AI, אוריינות מדעית ואוריינות חישובית יכולות לתרום לה, ואוריינות נתונים חופפת לה במידה משמעותית.<ref name=":2" />

== תחומים ==
מקובל לחלק את המיומנות של אוריינות AI למספר תחומים. השכיחים ביניהם הם ידע תאורטי על האופן בו פועלת בינה מלאכותית, שימוש בכלי בינה מלאכותית, הערכה ביקורתית של בינה מלאכותית ואתיקה שלה. חלוקה זו היא מלאכותית, שכן התחומים קשורים אלה לאלה.<ref></ref>

=== ידע תאורטי ===
ידע והבנה תאורטיים מתייחסים להבנה בסיסית של מהי בינה מלאכותית ואיך היא פועלת. זה כולל היכרות עם אלגוריתמים של למידת מכונה ועם המגבלות וההטיות הקיימות במערכות בינה מלאכותית.<ref name=":1"></ref> משתמשים בעלי ידע תאורטי צריכים להכיר טכנולוגיות שונות המשתמשות בבינה מלאכותית, כולל מערכות קוגניטיביות, רובוטיקה ולמידת מכונה.<ref name=":2" />

=== יישום ===
יישום מתייחס ליכולת להשתמש בכלי בינה מלאכותית על מנת לפתור בעיות ולבצע משימות. לדוגמה, תכנות וניתוח קובצי נתונים גדולים.<ref name=":1" />

=== הערכה ===
הערכה מתייחסת ליכולת להעריך באופן ביקורתי את האיכות והמהימנות של מערכות בינה מלאכותית. הערכה מתייחסת גם ליכולת לתכנן ולבנות מערכות בינה מלאכותית הוגנות ומוסריות.<ref name=":1" /> לצורך ביצוע הערכה, המשתמשים צריכים גם ללמוד באילו תחומים הבינה המלאכותית חזקה, ובאילו תחומים היא חלשה.<ref name=":2" />

שימוש ביקורתי בעוזרים וירטואליים כמו אלקסה וסירי דורש גם פיתוח מיומנויות נוספות:<ref></ref>
* אוריינות פרטיות - היכולת לזהות איומים על הפרטיות, לנהל אותה ולהגן עליה
* אוריינות שכנוע - זיהוי ומניעה של השפעה של מערכות דמויות אדם
* יכולת רגשית - היכולת לנהל תסכול וחרדה העולים באינטראקציה עם עוזרים וירטואליים
* רפלקציה - היכולת לדעת מהם הצרכים, העקרונות המוסריים והסכנות האישיים

=== מוסר ===

כלים של בינה מלאכותית מקבלים החלטות המשפיעות משמעותית על האדם כמו איזו ריבית יקבל בבנק, האם יתקבל ללימודים או לעבודה.<ref name=":8"></ref> חלק מאוריינות AI הוא להיות מודעים להשפעות של AI על החיים ולוודא שהן נעשות באופן מוסרי. מוסר או אתיקה של בינה מלאכותית מתייחסים להבנת ההשלכות המוסריות של בינה מלאכותית, והיכולת לקבל החלטות מושכלות ביחס לשימוש בכלים של בינה מלאכותית.<ref name=":1" /> תחום זה כולל שיקולים ממספר תחומים וקיימות גישות שונות לקיטלוג האתגרים המוסריים.<ref name=":44"></ref>

==== אמון ====
הציבור נוטה לחשוב שמשום שהחלטה מתקבלת על-ידי מכונה אובייקטיבית, הרי שהיא תהיה הוגנת ובלתי מוטה. אך זוהי תפיסה שגויה.<ref name=":8" /> על מנת שניתן יהיה לתת אמון בכלי AI, יש להתייחס למספר מרכיבים.
* הוגנות - וידוא שהמודל מתייחס באופן הוגן כלפי כולם, במיוחד כלפי אוכלוסיות שסבלו היסטורית מייצוג חסר.<ref name=":8" /> למנוע אפליה, לכלול מנגנוני ניטור ולשקול נקודות מבט מגוונות.<ref name=":4"></ref> לשם כך, יש להרחיב גם את המגוון התרבותי של החוקרים והחוקרות בתחום.<ref></ref>
* הסברתיות - וידוא שניתן להסביר למשתמשים בשפה פשוטה את ההחלטות האלגוריתמיות והנתונים שבבסיסן<ref name=":4" /><ref name=":8" />
* חוסן ואבטחה - וידוא שמערכות הבינה המלאכותית בטוחות, מאובטחות ועמידות לפגיעות, ושלא ניתן לנצל אותן לרווח של אחד על חשבון אחרים<ref name=":4" /><ref name=":8" />
* שקיפות - יידוע של המשתמשים על השימוש בכלי AI לקבלת החלטה מסוימת, ולתת להם מידע על המודל הנמצא בשימוש.<ref name=":8" /> שקיפות במידע מאפשרת גם לצד שלישי לבקר את התנהגות האלגוריתם<ref name=":4" />
* פרטיות מידע - שמירה מפני שימוש לא מאושר במידע אישי<ref name=":2" /><ref name=":8" />
* דיוק - הכרה ודיווח על גורמי טעות ואי-ודאות באלגוריתמים ובנתונים<ref name=":4" />
* אַחְרָיוּתִיּוּת - וידוא שהמשתמשים והפלטפורמות לוקחים אחריות על האופן בו כלי הבינה המלאכותית פועלים ועל עמידה בעקרונות אתיים<ref name=":4" /><ref name=":10" />

==== האדם במרכז ====
מערכות AI צריכות להעצים את בני האדם, לאפשר להם לקבל החלטות מושכלות ולקדם את זכויותיהם.<ref name=":10"></ref>
*האדם במרכז ורווחה נפשית - מתן קדימות לצרכים ולרווחתם הנפשית של בני האדם<ref name=":4" />
* זכויות אדם - וידוא שהטכנולוגיות לא פוגעות בזכויות אדם<ref name=":4" />
* אוטונומיה - שמירה על שליטה אנושית על מערכות בינה מלאכותית כמו רכבים אוטונומיים

==== השפעות חברתיות וסביבתיות ====
*הכללה - הבטחת הגישה לבינה מלאכותית לכולם<ref name=":4" />
* קידמה - העדפת פרויקטים בעלי ערך גבוה<ref name=":4" />
* מיסאינפורמציה - מניעת הפצה של מידע שגוי, דיסאינפורמציה ופייק ניוז<ref name=":2" />
* קיימות - העדפת יישומים המספקים תובנות ארוכות טווח<ref name=":4" />

==== עקרונות לשימוש מוסרי ====
חברת IBM ניסחה עקרונות כלליים לשימוש מוסרי בכלי AI בארגון או חברה.<ref name=":8" />

# מטרת כלי ה־AI אינה להחליף את האדם, אלא להגביר את יכולותיו
# נתונים והתובנות המופקות מהם שייכים באופן בלעדי ליוצריהם
# מערכות AI צריכות לשמור על שקיפות והסברתיות

מכיוון שהאתגרים המוסריים אינם רק טכנולוגיים, אלא סוציוטכנולוגיים, יש להתייחס באופן הוליסטי ולשים לב לכמה עקרונות נוספים:

# צוות העבודה של כלי ה AI צריך להיות מגוון ולהכיל אנשים מקבוצות שונות של מגדר ומיעוטים, זאת כדי לשפר את חוכמת ההמונים
# על תהליך העבודה להיות מושתת על עקרונות מוסריים כמו שקיפות והסברתיות
# יש להשתמש בכלי עבודה שיאפשרו את יישום העקרונות המוסריים

=== ידע תומך ===
ידע תומך מתייחס למיומנויות ותחומי ידע המסייעים לעבודה עם בינה מלאכותית. לדוגמה, תכנות וסטטיסטיקה.<ref name=":1" />

== רמות חשיבה ==
ניתן גם לחלק את הפעולות להגברת אוריינות AI לשש רמות, לפי הרמה בטקסונומיה של בלום אותה הם מדגישים:<ref name=":5"></ref>
# לזכור - להעתיק, לשחזר ולזכור מושגים מתחום הבינה המלאכותית
# להבין - להסביר רעיונות או מושגים. לתאר, להסביר, לפרש ולהדגים את המשמעות של בינה מלאכותית
# ליישם - להשתמש במידע במצבים חדשים. ליישם, להפעיל והשתמש ביישומי בינה מלאכותית בהקשרים שונים
# לנתח - לקשר בין רעיונות. לארגן, להשוות, לפרק ולפשט בעיות בנושא בינה מלאכותית
# להעריך - לנמק עמדה או החלטה. להעריך, לנבא, לזהות ולנמק החלטות בעזרת יישומי בינה מלאכותית
# ליצור - לעצב, להרכיב, לבנות ולפתח יישומי בינה מלאכותית
רוב המחקרים בתחום עוסקים ברמות החשיבה הנמוכות יותר של זיכרון, הבנה ויישום.<ref name=":45"></ref>

== מדידה ==
הגישות המוקדמות למדידה של אוריינות AI פעלו בעיקר דרך מבחני ידע בתחום צר. גישות מתקדמות יותר בוחנות לא רק את הידע, אלא גם את המיומנויות והערכים הקשורים לאוריינות AI.<ref name=":6"></ref> קנות' וחב' מציעים לבנות מטריצת הערכה בת שני ממדים. המימד האופקי בוחן את סוגי האוריינות: אוריינות AI כללית, אוריינות AI תלויות תחום תוכן, ואתיקה. המימד האנכי כולל את היכולת: ידע, מיומנות וערכים. בכל משבצת ניתן לחבר אמירות המצליבות בין סוג האוריינות לבין היכולת. על הנשאל לדרג בסולם ליקרט עד כמה הוא מסכים עם כל אחת מהאמירות. למשל, בהצלבה של אוריינות AI כללית וידע אפשר להציג אמירה כמו "אני מסוגל לתאר איך מאמנים ונבדקים מודלים של למידת מכונה". בהצלבה של אוריינות AI תלויות תחום תוכן (למשל רפואה) ומיומנויות אפשר לרשום "אני מסוגל להשתמש לפחות באפליקציה אחת של AI בתפקידי המקצועי כרופא". בהצלבה של ערכים ואתיקה אפשר לרשום "זה מוסרי שמערכות AI יקבלו החלטות משמעותיות ללא פיקוח אנושי".<ref name=":48"></ref>

== קידום אוריינות AI ==
מספר ממשלות הכירו בצורך לקדם אוריינות AI, גם בקרב מבוגרים. תוכניות שכאלה פורסמו בארצות הברית, סין, גרמניה ופינלנד.<ref name=":38" /> תוכניות המיועדות לקהל הרחב מורכבות בדרך־כלל מיחידות לימוד מקוונות, קצרות ונוחות להבנה. תוכניות המיועדות לילדים בנויות בדרך־כלל כפרויקטים יישומים. תוכניות לסטודנטים במכללות ואוניברסיטאות מתייחסות לעיתים קרובות לצרכים המקצועיים הספציפיים של הסטודנט, בהתאם לתחום הלימוד שלו.<ref name=":38" /> מעבר למערכת החינוך, ניתן לפתח אוריינות AI גם בקהילה, לדוגמה במוזיאונים.<ref></ref>

=== בתי ספר ===
בבתי הספר משתמשים במספר פדגוגיות להקניית אוריינות AI .<ref name=":46"></ref> אלה כוללים בין השאר:
* ביצוע מבחן טיורינג עם סוכן תבוני
* יצירת צ'אטבוטים
* בניית אפליקציות בעזרת תכנות מבוסס Blockly 
* למידה מבוססת פרויקט
* בניית רובוטים
* הדמיית נתונים
* אימון מודלים של בינה מלאכותית
תוכניות לימוד בנושא בינה מלאכותית משפרות את הבנת התלמידים ביחס לנושאים כמו למידת מכונה, רשתות עצביות ולמידה עמוקה.<ref></ref>

==== תיאור מקרה: תוכנית DAILy ====
תוכנית DAILy (Developing AI Literacy)<ref name=":7"></ref> פותחה על־ידי MIT ואוניברסיטת בוסטון במטרה להגביר אוריינות AI בקרב תלמידי חטיבת הביניים. התכנית בנויה כסדנא של 30 שעות הכוללת את הנושאים: מבוא לבינה מלאכותית, מערכות לוגיות (עצי החלטות), למידה מונחית, רשתות עצביות, למידה חישובית, דיפ-פייק, ומחוללי שפה טבעית . התלמידים בוחנים את ההשלכות המוסריות והחברתיות של כל נושא, וכן את המשמעויות התעסוקתיות שלו.<ref></ref>

=== השכלה גבוהה ===
לפני העשור השני של המאה ה־21, בינה מלאכותית נלמדה בעיקר במקצועות ה־STEM (מדעים, טכנולוגיה, הנדסה ומתמטיקה).<ref name=":2" /><ref name=":40" /> בעשור השני של המאה, החלו להופיע יוזמות להרחבת ההשכלה בתחום הבינה המלאכותית, ובפרט להקניית אוריינות AI.<ref name=":40" /> קורסים לקידום אוריינות AI משלבים למידה יישומית עם הקניית ידע, כאשר מרביתם עושים זאת בסביבת תכנות. רוב הקורסים מתחילים ביחידת לימוד אחת או יותר העוסקת בשאלות בסיסיות כמו מהי בינה מלאכותית, מה מקורה, מה היא יודעת לעשות ומה לא. רוב הקורסים מתייחסים גם ללמידת מכונה וללמידה עמוקה. חלק מהקורסים עוסק בסוגיות מוסריות בבינה מלאכותית.<ref name=":39"></ref>

==== תיאור מקרה: אוניברסיטת פלורידה ====
באוניברסיטת פלורידה נעשה מהלך רחב של החדרת בינה מלאכותית לתוכנית הלימודים בכל הדיסציפלינות. מטרת המהלך הייתה להקנות לסטודנטים באוניברסיטה את המיומנויות הנדרשות לשוק העבודה של המאה ה־21.<ref name=":47"></ref> במסגרת היוזמה גויסו כ־100 אנשי סגל חדשים. כל סטודנט חויב ללמוד קורס בסיסי בבינה מלאכותית וקורס על אתיקה, מידע וטכנולוגיה. כל סטודנט בחר קורס נוסף מתוך כמה תחומי תוכן כגון רפואה, או עסקים. סטודנטים שסיימו בהצלחה את שלושת הקורסים זכו בתעודה רשמית.

המהלך לווה בהגברת הלמידה היישומית באוניברסיטה. בין השאר, נערכו קורסים בשיתוף התעשייה, כאשר סטודנטים ואנשי תעשייה ניסו לפתור יחד בעיות מהעולם האמיתי, בעזרת כלי AI.<ref name=":39" />

כדי לנהל את היוזמה, הוקמה ועדה שבחנה קורסים קיימים וקורסים חדשים ומיפתה את תחומי האוריינות הנלמדים בהם. כל קורס אופיין בתחומי האוריינות אליהם הוא מתייחס, כך שהסטודנטים יכלו לבחור את הקורסים המתאימים להם, וההנהלה יכלה לזהות פערים או חסרים בתחומים מסוימים.

== משאבי הוראה ==
מכיוון שאוריינות AI נדרשת לקהל הרחב ומספר המומחים בתחום הוא מצומצם, ניתן להשתמש במשאבים מקוונים כדי להקנות את המיומנות.

=== אנגלית ===
מספר גופים כמו MIT<ref></ref><ref name=":7" /> ואוניברסיטת סטנפורד<ref></ref> הקימו אתרים הכוללים מערכי שיעור ופעילויות להגברת אוריינות AI לטובת הציבור הרחב. מערכי שיעור חינמיים נמצאים גם באקדמיית קהאן<ref></ref> ובאתרים נוספים.<ref></ref><ref></ref>

קיימים מספר קורסים מקוונים חינמיים באנגלית שמטרתם ללמד מבוגרים את הבסיס של בינה מלאכותית. קורסים אלה נוצרו על-ידי חברת IBM,<ref></ref> גוגל,<ref></ref> ו־DeepLearning.AI.<ref></ref> יחידות לימוד ברמה בסיסית יותר קיימות באקדמיית קהאן<ref></ref>

קיימות גם הדרכות ייעודיות עבור מרצים ומורים, למשל מסלול למידה בן 3 שעות של מיקרוסופט.<ref></ref>

=== עברית ===
בעברית קיים קורס מקוון חינמי של אוניברסיטת בן-גוריון באתר קמפוס IL, אך הוא אינו מתאים לקהל הרחב, אלא רק לבעלי יכולות תכנות בסיסיות.<ref></ref> קיימות גם הצעות לפעילויות חינוכיות בנושאים של סוגיות אתיות ב־AI.<ref></ref><ref></ref>

אוניברסיטת פנסילבניה יצרה קורס מזורז בן שעה הכולל חמישה סרטוני הדרכה.<ref></ref> הסרטונים מתייחסים לידע תאורטי הנושאים של מודלי שפה גדולים והנדסת פרומפטים, לסוגיות אתיות, ולשימוש פרקטי למרצים ולסטודנטים. אפשר להפעיל כתוביות בעברית לסרטונים, אבל המידע הכתוב לא יתורגם. קיימים גם סרטונים נוספים באנגלית המתמקדים בבינה מלאכותית יוצרת.<ref></ref>

אפשר לשלב הרצאות TED עם כתוביות בעברית של מומחים בתוך שיעורים הנלמדים באופן פרונטלי או באופן אסינכרוני . למשל סרטונים העוסקים בנושאים של אחריותיות (accountability),<ref></ref> אמון,<ref></ref> דיפ פייק,<ref></ref> ותכנות בעזרת AI.<ref></ref>

== ראו גם ==
* בינה מלאכותית יוצרת
* אוריינות דיגיטלית
* ציר הזמן של בינה מלאכותית
* היסטוריה של הבינה המלאכותית
* בינה מלאכותית בחינוך

== קישורים חיצוניים ==
* [https://pop.education.gov.il/teaching-tools/teaching-practices/artificial-intelligence/ בינה מלאכותית], באתר פורטל עובדי הוראה | מרחב פדגוגי, משרד החינוך
* [https://www.openu.ac.il/deanacademicstudies/teachandlearn/corona/ai/pages/oryanut_ai.aspx אוריינות בינה מלאכותית], באתר האוניברסיטה הפתוחה
* 
* ערן ברק-מדינה, [https://www.edunow.org.il/article/4129 המלצה: התחילו להתיידד עם בינה מלאכותית], באתר הגיע זמן חינוך, 5 בינואר 2022
* תומר סיימון, [https://open.spotify.com/episode/4omZ5NyiboPOpz4sygVt6T?si=Qr7aynEUQROj90Kpm9o2dQ&nd=1&dlsi=a9c01c73463f4eb5 אוריינות AI - אין לך ברירה], בפודקאסט הייטק בפקקים, אוגוסט 2023

== הערות שוליים ==

קטגוריה:בינה מלאכותית
קטגוריה:אוריינות