אוריינות AI

ממוזער
**אוריינות AI** או **אוריינות בינה מלאכותית** (ב"מ) (Artificial Intelligence Literacy) היא היכולת להבין בינה מלאכותית, להשתמש בה, לנטר אותה ולחשוב עליה באופן ביקורתי. המושג מתייחס בעיקר להקניית מיומנויות וידע בקרב הקהל הרחב, שאינו מומחה לבינה מלאכותית.

## חשיבות
לבינה המלאכותית יש פוטנציאל נרחב וסיכונים נרחבים. לכן, הבנת המנגנונים, היישומים וההשלכות שלה חיונית.

קיימת הסכמה רחבה לכך שאוריינות AI היא נדרשת, ושיש להקנות אותה לתלמידים וסטודנטים. הבינה המלאכותית מיושמת בהקשרי חיים רחבים, כגון כלי רכב אוטונומיים, עוזרים וירטואליים, אבחון רפואי, גיוס עובדים ועוד. גם במערכת החינוך יש שימוש בבינה מלאכותית לטובת שיפור הלמידה, ההוראה והמינהל. מי שמשתמש בכלים האלה צריך להבין אותם מספיק טוב כדי לקבל החלטות מושכלות ביחס אליהם, ולכן נדרשת אוריינות AI.

לאוריינות AI צפויות להיות השלכות תעסוקתיות משמעותיות, כך שמי שירכוש אוריינות כזאת יצליח יותר בשוק התעסוקה.

## הגדרות
אחת ההגדרות המוקדמות והשכיחות לאוריינות AI היא "מערכת של מיומנויות המאפשרת לאנשים להעריך באופן ביקורתי כלי בינה מלאכותית, לתקשר ולשתף פעולה עם אחרים בעזרת כלי בינה מלאכותית, ולהשתמש בבינה מלאכותית ככלי מקוון בבית ובעבודה."

הגדרות דומות אך מאוחרות יותר הן "היכולת להבין, להשתמש, לנטר ולחשוב באופן ביקורתי על כלי בינה מלאכותית", או "היכולת להבין בינה מלאכותית, להשתמש בה, להעריך אותה ולהפעיל אותה באופן מוסרי". בפשטות, אוריינות AI היא "הידיעה איך בינה מלאכותית פועלת, ואיך להשתמש בה בתבונה ובאופן מוסרי."

ארגון ה־OECD מתייחס לאוריינות AI כמושג רחב יותר. לפי מודל ה־AILit של הארגון, אוריינות AI היא הידע הטכני, המיומנויות המתמשכות והעמדות מוכוונות העתיד הנדרשים על מנת לשגשג בעולם המושפע מבינה מלאכותית. אוריינות זו מאפשרת ללומדים לעבוד עם בינה מלאכותית תוך הערכה ביקורתית של יתרונותיו, סכנותיו והשלכותיו המוסריות.

אוריינות AI קשורה לסוגי אוריינות אחרים. אוריינות דיגיטלית היא תנאי מקדים לאוריינות AI, אוריינות מדעית  ואוריינות חישובית  יכולות לתרום לה, ואוריינות נתונים  חופפת לה במידה משמעותית.

## תחומים
מקובל לחלק את המיומנות של אוריינות AI למספר תחומים. השכיחים ביניהם הם ידע תאורטי על האופן בו פועלת בינה מלאכותית, שימוש יעיל בכלי בינה מלאכותית, הערכה ביקורתית של בינה מלאכותית ושימוש אתי בה. חלוקה זו היא פשטנית, שכן התחומים קשורים אלה לאלה.

### ידע תאורטי
ידע והבנה תאורטיים מתייחסים להבנה בסיסית של מהי בינה מלאכותית ואיך היא פועלת. זה כולל היכרות עם אלגוריתמים של למידת מכונה ועם המגבלות וההטיות הקיימות במערכות בינה מלאכותית. משתמשים בעלי ידע תאורטי צריכים להכיר טכנולוגיות שונות המשתמשות בבינה מלאכותית, כולל מערכות קוגניטיביות, רובוטיקה ולמידת מכונה.

### יישום
יישום מתייחס ליכולת להשתמש בכלי בינה מלאכותית על מנת לפתור בעיות ולבצע משימות. לדוגמה, תכנות וניתוח קובצי נתונים גדולים.

### הערכה
הערכה מתייחסת ליכולת להעריך באופן ביקורתי את האיכות והמהימנות של מערכות בינה מלאכותית. הערכה מתייחסת גם ליכולת לתכנן ולבנות מערכות בינה מלאכותית הוגנות ומוסריות. לצורך ביצוע הערכה, המשתמשים צריכים גם ללמוד באילו תחומים הבינה המלאכותית חזקה, ובאילו תחומים היא חלשה.
השימוש בבינה מלאכותית יוצרת דורש בחינה ביקורתית של התוצאות והיכולת לזהות הזיות.

שימוש ביקורתי בעוזרים וירטואליים כמו אלקסה וסירי דורש גם פיתוח מיומנויות נוספות:
* אוריינות פרטיות - היכולת לזהות איומים על הפרטיות, לנהל אותה ולהגן עליה
* אוריינות שכנוע - זיהוי ומניעה של השפעה של מערכות דמויות אדם
* יכולת רגשית - היכולת לנהל תסכול וחרדה העולים באינטראקציה עם עוזרים וירטואליים
* רפלקציה - היכולת לדעת מהם הצרכים, העקרונות המוסריים והסכנות האישיים

### מוסר

כלים של בינה מלאכותית מקבלים החלטות המשפיעות משמעותית על האדם כמו איזו ריבית יקבל בבנק, האם יתקבל ללימודים או לעבודה. חלק מאוריינות AI הוא להיות מודעים להשפעות של AI על החיים ולוודא שהן נעשות באופן מוסרי. מוסר או אתיקה של בינה מלאכותית מתייחסים להבנת ההשלכות המוסריות של בינה מלאכותית, וליכולת לקבל החלטות מושכלות ביחס לשימוש בכלים של בינה מלאכותית. תחום זה כולל שיקולים ממספר תחומים וקיימות גישות שונות לקיטלוג האתגרים המוסריים.

#### אמון
הציבור נוטה לחשוב שמשום שהחלטה מתקבלת על-ידי מכונה אובייקטיבית, הרי שהיא תהיה הוגנת ובלתי מוטה. אך זוהי תפיסה שגויה. על מנת שניתן יהיה לתת אמון בכלי AI, יש להתייחס למספר מרכיבים.
* **הוגנות** - וידוא שהמודל מתייחס באופן הוגן כלפי כולם, במיוחד כלפי אוכלוסיות שסבלו היסטורית מייצוג חסר. למנוע אפליה, לכלול מנגנוני ניטור ולשקול נקודות מבט מגוונות. לשם כך, יש להרחיב גם את המגוון התרבותי של החוקרים והחוקרות בתחום.
* '''הסברתיות''' - וידוא שניתן להסביר למשתמשים בשפה פשוטה את ההחלטות האלגוריתמיות והנתונים שבבסיסן
* **[[חוסן (מדעי המחשב)|חוסן]] ואבטחה** - וידוא שמערכות הבינה המלאכותית בטוחות, מאובטחות ועמידות לפגיעות, ושלא ניתן לנצל אותן לרווח של אחד על חשבון אחרים
* **שקיפות** - יידוע של המשתמשים על השימוש בכלי AI לקבלת החלטה מסוימת, ולתת להם מידע על המודל הנמצא בשימוש. שקיפות במידע מאפשרת גם לצד שלישי לבקר את התנהגות האלגוריתם
* **פרטיות מידע** - שמירה מפני שימוש לא מאושר במידע אישי
* **דיוק** - הכרה ודיווח על גורמי טעות ואי-ודאות באלגוריתמים ובנתונים
* **[[אַחְרָיוּתִיּוּת]]**  - וידוא שהמשתמשים והפלטפורמות לוקחים אחריות על האופן בו כלי הבינה המלאכותית פועלים ועל עמידה בעקרונות אתיים

#### האדם במרכז
מערכות AI צריכות להעצים את בני האדם, לאפשר להם לקבל החלטות מושכלות ולקדם את זכויותיהם.
***האדם במרכז ורווחה נפשית** - מתן קדימות לצרכים ולרווחתם הנפשית של בני האדם
* **[[זכויות האדם|זכויות אדם]]** - וידוא שהטכנולוגיות לא פוגעות בזכויות אדם
* אוטונומיה - שמירה על שליטה אנושית על מערכות בינה מלאכותית כמו רכבים אוטונומיים

#### השפעות חברתיות וסביבתיות
***הכללה** - הבטחת הגישה לבינה מלאכותית לכולם
* **קידמה** - העדפת פרויקטים בעלי ערך גבוה
* **[[מיסאינפורמציה]]** - מניעת הפצה של מידע שגוי, דיסאינפורמציה ופייק ניוז
* **[[קיימות]]** - העדפת יישומים המספקים תובנות ארוכות טווח

#### עקרונות לשימוש מוסרי
חברת IBM ניסחה עקרונות כלליים לשימוש מוסרי בכלי AI בארגון או חברה.

# מטרת כלי ה־AI אינה להחליף את האדם, אלא להגביר את יכולותיו
# נתונים והתובנות המופקות מהם שייכים באופן בלעדי ליוצריהם
# מערכות AI צריכות לשמור על שקיפות והסברתיות

מכיוון שהאתגרים המוסריים אינם רק טכנולוגיים, אלא סוציוטכנולוגיים, יש להתייחס באופן הוליסטי ולשים לב לכמה עקרונות נוספים:

# צוות העבודה של כלי ה AI צריך להיות מגוון ולהכיל אנשים מקבוצות שונות של מגדר ומיעוטים, זאת כדי לשפר את חוכמת ההמונים
# על תהליך העבודה להיות מושתת על עקרונות מוסריים כמו שקיפות והסברתיות
# יש להשתמש בכלי עבודה שיאפשרו את יישום העקרונות המוסריים

### ידע תומך
ידע תומך מתייחס למיומנויות ותחומי ידע המסייעים לעבודה עם בינה מלאכותית. לדוגמה, תכנות וסטטיסטיקה.

## רמות חשיבה
ניתן גם לחלק את הפעולות להגברת אוריינות AI לשש רמות, לפי הרמה בטקסונומיה של בלום אותה הם מדגישים:
# לזכור - להעתיק, לשחזר ולזכור מושגים מתחום הבינה המלאכותית
# להבין - להסביר רעיונות או מושגים. לתאר, להסביר, לפרש ולהדגים את המשמעות של בינה מלאכותית
# ליישם - להשתמש במידע במצבים חדשים. ליישם, להפעיל והשתמש ביישומי בינה מלאכותית בהקשרים שונים
# לנתח - לקשר בין רעיונות. לארגן, להשוות, לפרק ולפשט בעיות בנושא בינה מלאכותית
# להעריך - לנמק עמדה או החלטה. להעריך, לנבא, לזהות ולנמק החלטות בעזרת יישומי בינה מלאכותית
# ליצור - לעצב, להרכיב, לבנות ולפתח יישומי בינה מלאכותית
רוב המחקרים בתחום עוסקים ברמות החשיבה הנמוכות יותר של זיכרון, הבנה ויישום.

## מדידה
הגישות המוקדמות למדידה של אוריינות AI פעלו בעיקר דרך מבחני ידע בתחום צר. גישות מתקדמות יותר בוחנות לא רק את הידע, אלא גם את המיומנויות והערכים הקשורים לאוריינות AI. נכון לשנת 2024, רוב המדדים מבוססים על דיווח עצמי, ורק חלק קטן מהם בוחן ידע.
* **AI literacy test** הוא מבחן ידע הכולל 30 שאלות רבות-ברירה עם תשובה נכונה אחת. המבחן מבוסס על ההגדרה של אוריינות AI ככוללת 17 כשירויות המחולקות לחמישה תחומים: מהי בינה מלאכותית? מה בינה מלאכותית יכולה לעשות? איך בינה מלאכותית פועלת? איך צריך להשתמש בבינה מלאכותית? איך אנשים תוספים בינה מלאכותית? המבחן מתאים לסטודנטים ומדדיו הסטטיסטיים הם יחסית טובים.
* **AILS - AI literacy scale** הוא שאלון דייוח עצמי המודד 4 גורמים של אוריינות בינה מלאכותית: מודעות, שימוש, הערכה ואתיקה. השאלון מיועד לאוכלוסייה הכללית ומדדיו הסטטיסטיים הם יחסית טובים.
* **AI-CI AI literacy concept inventory assessment** הוא מבחן ידע הכולל 20 שאלות רבות-ברירה. השאלון מיועד לתלמידי חטיבת הביניים ומדדיו הסטטיסטיים הם יחסית טובים.
* **AI literacy matrix** הוא מטריצה בת שני ממדים הנבנית עבור תחום תוכן ספציפי. המימד האופקי בוחן את סוגי האוריינות: אוריינות AI כללית, אוריינות AI תלויות תחום תוכן, ואתיקה. המימד האנכי כולל את היכולת: ידע, מיומנות וערכים. בכל משבצת ניתן לחבר אמירות המצליבות בין סוג האוריינות לבין היכולת. על הנשאל לדרג בסולם ליקרט עד כמה הוא מסכים עם כל אחת מהאמירות. למשל, בהצלבה של אוריינות AI כללית וידע אפשר להציג אמירה כמו "אני מסוגל לתאר איך מאמנים ונבדקים מודלים של למידת מכונה". בהצלבה של אוריינות AI תלויות תחום תוכן (למשל רפואה) ומיומנויות אפשר לרשום "אני מסוגל להשתמש לפחות באפליקציה אחת של AI בתפקידי המקצועי כרופא". בהצלבה של ערכים ואתיקה אפשר לרשום "זה מוסרי שמערכות AI יקבלו החלטות משמעותיות ללא פיקוח אנושי".

## קידום אוריינות AI
מספר ממשלות הכירו בצורך לקדם אוריינות AI, גם בקרב מבוגרים. תוכניות שכאלה פורסמו בארצות הברית, סין, גרמניה ופינלנד. תוכניות המיועדות לקהל הרחב מורכבות בדרך־כלל מיחידות לימוד מקוונות, קצרות ונוחות להבנה. תוכניות המיועדות לילדים בנויות בדרך־כלל כפרויקטים יישומים. תוכניות לסטודנטים במכללות ואוניברסיטאות מתייחסות לעיתים קרובות לצרכים המקצועיים הספציפיים של הסטודנט, בהתאם לתחום הלימוד שלו. מעבר למערכת החינוך, ניתן לפתח אוריינות AI גם בקהילה, לדוגמה במוזיאונים.

### בתי ספר
בבתי הספר משתמשים במספר פדגוגיות להקניית אוריינות AI . אלה כוללים בין השאר:
* ביצוע מבחן טיורינג עם סוכן תבוני
* יצירת צ'אטבוטים
* בניית אפליקציות בעזרת תכנות מבוסס Blockly 
* למידה מבוססת פרויקט
* בניית רובוטים
* הדמיית נתונים
* אימון מודלים של בינה מלאכותית
תוכניות לימוד בנושא בינה מלאכותית משפרות את הבנת התלמידים ביחס לנושאים כמו למידת מכונה, רשתות עצביות ולמידה עמוקה.

#### תיאור מקרה: תוכנית DAILy
תוכנית DAILy (Developing AI Literacy) פותחה על־ידי MIT ואוניברסיטת בוסטון במטרה להגביר אוריינות AI בקרב תלמידי חטיבת הביניים. התכנית בנויה כסדנא של 30 שעות הכוללת את הנושאים: מבוא לבינה מלאכותית, מערכות לוגיות (עצי החלטות), למידה מונחית, רשתות עצביות, למידה חישובית, דיפ-פייק, ומחוללי שפה טבעית . התלמידים בוחנים את ההשלכות המוסריות והחברתיות של כל נושא, וכן את המשמעויות התעסוקתיות שלו.

### השכלה גבוהה
לפני העשור השני של המאה ה־21, בינה מלאכותית נלמדה בעיקר במקצועות ה־STEM  (מדעים, טכנולוגיה, הנדסה ומתמטיקה). בעשור השני של המאה, החלו להופיע יוזמות להרחבת ההשכלה בתחום הבינה המלאכותית, ובפרט להקניית אוריינות AI. קורסים לקידום אוריינות AI משלבים למידה יישומית עם הקניית ידע, כאשר מרביתם עושים זאת בסביבת תכנות. רוב הקורסים מתחילים ביחידת לימוד אחת או יותר העוסקת בשאלות בסיסיות כמו מהי בינה מלאכותית, מה מקורה, מה היא יודעת לעשות ומה לא. רוב הקורסים מתייחסים גם ללמידת מכונה וללמידה עמוקה. חלק מהקורסים עוסק בסוגיות מוסריות בבינה מלאכותית.

#### תיאור מקרה: אוניברסיטת פלורידה
באוניברסיטת פלורידה נעשה מהלך רחב של החדרת בינה מלאכותית לתוכנית הלימודים בכל הדיסציפלינות. מטרת המהלך הייתה להקנות לסטודנטים באוניברסיטה את המיומנויות הנדרשות לשוק העבודה של המאה ה־21. במסגרת היוזמה גויסו כ־100 אנשי סגל חדשים. כל סטודנט חויב ללמוד קורס בסיסי בבינה מלאכותית וקורס על אתיקה, מידע וטכנולוגיה. כל סטודנט בחר קורס נוסף מתוך כמה תחומי תוכן כגון רפואה, או עסקים. סטודנטים שסיימו בהצלחה את שלושת הקורסים זכו בתעודה רשמית.

המהלך לווה בהגברת הלמידה היישומית באוניברסיטה. בין השאר, נערכו קורסים בשיתוף התעשייה, כאשר סטודנטים ואנשי תעשייה ניסו לפתור יחד בעיות מהעולם האמיתי, בעזרת כלי AI.

כדי לנהל את היוזמה, הוקמה ועדה שבחנה קורסים קיימים וקורסים חדשים ומיפתה את תחומי האוריינות הנלמדים בהם. כל קורס אופיין בתחומי האוריינות אליהם הוא מתייחס, כך שהסטודנטים יכלו לבחור את הקורסים המתאימים להם, וההנהלה יכלה לזהות פערים או חסרים בתחומים מסוימים.

## משאבי הוראה
מכיוון שאוריינות AI נדרשת לקהל הרחב ומספר המומחים בתחום הוא מצומצם, ניתן להשתמש במשאבים מקוונים כדי להקנות את המיומנות.

### אנגלית
מספר גופים כמו MIT ואוניברסיטת סטנפורד הקימו אתרים הכוללים מערכי שיעור ופעילויות להגברת אוריינות AI לטובת הציבור הרחב. מערכי שיעור חינמיים נמצאים גם באקדמיית קהאן ובאתרים נוספים.

קיימים מספר קורסים מקוונים חינמיים באנגלית שמטרתם ללמד מבוגרים את הבסיס של בינה מלאכותית. קורסים אלה נוצרו על-ידי חברת IBM, גוגל, ו־DeepLearning.AI. יחידות לימוד ברמה בסיסית יותר קיימות באקדמיית קהאן

קיימות גם הדרכות ייעודיות עבור מרצים ומורים, למשל מסלול למידה בן 3 שעות של מיקרוסופט.

### עברית
באתר קמפוס IL הישראלי קיים קורס בסיסי חינמי בהנחיית דרור גלוברמן, וכן קורס מתקדם יותר של אוניברסיטת בן-גוריון. משרד החינוך ואחרים פרסמו גם הצעות לפעילויות חינוכיות בנושאים של סוגיות אתיות ב־AI.

אוניברסיטת פנסילבניה יצרה קורס מזורז בן שעה הכולל חמישה סרטוני הדרכה. הסרטונים מתייחסים לידע תאורטי הנושאים של מודלי שפה גדולים והנדסת פרומפטים, לסוגיות אתיות, ולשימוש פרקטי למרצים ולסטודנטים. קיימות כתוביות בעברית לסרטונים, אך המידע הכתוב איננו מתורגם. קיימים גם סרטונים נוספים באנגלית עם תרגום המתמקדים בבינה מלאכותית יוצרת.

כן קיימות הרצאות TED של מומחים עם כתוביות בעברית, כגון סרטונים העוסקים בנושאים של אחריותיות (accountability), אמון, דיפ פייק, ותכנות בעזרת AI.

הרצאות בעברית כוללות את הרצאתו של דניאל שרייבר, המתייחס לשינויים הצפויים בשל כניסת הבינה המלאכותית.

## ראו גם
* בינה מלאכותית יוצרת
* אוריינות דיגיטלית
* ציר הזמן של בינה מלאכותית
* היסטוריה של הבינה המלאכותית
* בינה מלאכותית בחינוך

## קישורים חיצוניים
* בינה מלאכותית, באתר פורטל עובדי הוראה | מרחב פדגוגי, משרד החינוך
* אוריינות בינה מלאכותית, באתר האוניברסיטה הפתוחה
* 
* ערן ברק-מדינה, המלצה: התחילו להתיידד עם בינה מלאכותית, באתר הגיע זמן חינוך, 5 בינואר 2022
* תומר סיימון, אוריינות AI - אין לך ברירה, בפודקאסט הייטק בפקקים, אוגוסט 2023
*Generative AI in Higher Education: The ChatGPT Effect (ראו פרק 2 בנושא אוריינות). ספר בגישה פתוחה באתר טיילור ופרנסיס, 2024 **(באנגלית)**
*תמונת מצב שבועית של מגמות הגיוס למפתחי AI בישראל | דשבורד נתונים, מוסד שמואל נאמן
## הערות שוליים

קטגוריה:בינה מלאכותית
קטגוריה:אוריינות