GiliGold/VAD_KnessetCorpus huggingface dataset:
יזהר שי:
 תנו לאבות לילדות ולילדים לישון בשקט
יזהר שי:
 כל אחד יקבל מה שיקבל, מי בחיים ומי גוויה ומי חלקים הוא יקבור ורק כך נוכל להמשיך הלאה
יזהר שי:
 אנו פונים לכולם – פשוט די
יזהר שי:
 את כולם עכשיו
אורית פרקש הכהן:
תודה רבה יזהר
אורית פרקש הכהן:
 אנו מחזקים אותך, מתפללים לשלום כל החטופים ולשלומו של אביך
אורית פרקש הכהן:
 הם בלב של כולנו
אורית פרקש הכהן:
 אנו הולכים לישון אתכם וקמים אתכם
אורית פרקש הכהן:
 אני יכולה לומר כחברה במחנה הממלכתי שהנושא הזה חשוב לבני ולגדי איזנקוט
אורית פרקש הכהן:
 הם עוסקים בו יום ולילה
אורית פרקש הכהן:
 אנו בימים מאוד מורכבים, מאוד עצובים, ותודה שבאת
אורית פרקש הכהן:
 אני מתנצלת שאנו עוסקים בדברים שבטח נראים לך מנותקים ממה שאתה עובר - אבל אתם באמת בליבנו
יזהר שי:
התחלתי בזה שאסור שהמדינה תפסיק ב-7
יזהר שי:
10 לתפקד כי יש חטופים, אבל היא צריכה לעשות הכול כדי לפתור את החטופים
יזהר שי:
 אם כולם היו במצב של משפחת החטופים, היינו קורסים חברתית וגם כלכלית
יזהר שי:
 תודה לבני ולגבי אבל הם חלק מקבינט ואנו צריכים שכולם, כולל ראש הממשלה, יקבלו החלטות קשות  ויחזירו לנו את כולם עכשיו
יזהר שי:
 תודה
אורית פרקש הכהן:
 אנו במעבר חד נעבור לנושא הדיון – שימוש בבינה מלאכותית להפצת דיפ פייק באופן שפוגע במדינת ישראל
אורית פרקש הכהן:
     אנו נמצאים בימים לא רגילים, של מלחמה מאתגרת לאחר אירועי הטבח הנורא ב-7
אורית פרקש הכהן:
10 שספגה מדינת ישראל
אורית פרקש הכהן:
 המערכה הקשה שעוברת עלינו היא לא רק מלחמה פיזית בחמאס אלא גם מלחמה הסברתית ותודעתית ברחבי העולם על זכותנו ועל זכותה של מדינת ישראל להגן על עצמה ולהגן על האמת
אורית פרקש הכהן:
 במלחמה ההסברתית הזו אנו לא במיטבנו בלשון המעטה
אורית פרקש הכהן:
 ישראל לטעמי אינה מתמודדת באופן מספק עם הסתה ועם מידע שקרי רב שמתפרסם ומופץ בפלטפורמות וברשתות החברתיות השונות
אורית פרקש הכהן:
 בעוד שמלחמת רוסיה אוקראינה זכתה לכינוי מלחמת הטיקטוק הראשונה, חברות ברזל מכונה בפי רבים מלחמת ה-AI הראשונה, וזאת בעקבות מידע רב וכוזב שמתפרסם ברשת נגד מדינת ישראל ונגד צה"ל שמיוצר בין היתר בשימוש בבינה מלאכותית
אורית פרקש הכהן:
     זה מתבצע על ידי תמונות שמזויפות, אבל גם על ידי טקסטים, סרטונים כוזבים ומלאכותיים שלא מתבססים על תוכן מקורי שניתן לאתר ברשת וכן באמצעות פרופילים מזויפים ברשתות החברתיות שגם הם מפיצים תוכן מסית וכוזב
אורית פרקש הכהן:
 השימוש הזה בבינה מלאכותית לשיבוש מידע שידוע כדיפ פייק מיוצר לו באין מפריע על ידי תומכי חמאס ומתנגדי ישראל, מקדם הסתה נגד ישראל בעולם ונגד יהודים בעולם, ומקדם תיאוריות קונספירציה
אורית פרקש הכהן:
     לכן בחרתי לכנס את הוועדה הזאת שהוקמה לפני הוועדה בנושא מפתח זה בינה מלאכותית כדי להעלות בימים אלה שחדשות רודפות חדשות, להעלות על סדר-היום הציבורי גם את הסוגיה הזו שרלוונטית מאוד
אורית פרקש הכהן:
 ה-AI כידוע הביאה לעולם הזדמנויות רבות ומדהימות, אבל יחד איתה הגיעו גם סיכונים, וביניהם הקלות הבלתי נסבלת שבה ניתן היום לשקר, להסית ולזייף את המציאות ולעשות הכול בצורה מדהימה, שלא נראתה כמותה שנראית הכי אמיתית ואותנטית
אורית פרקש הכהן:
 ה- AI מאפשר לייצר גן עדן לזייפנים
אורית פרקש הכהן:
 לכן בפתח הדיון טרחנו ושמנו תמונה שהיא רק דוגמה אחת
אורית פרקש הכהן:
 השער מהמגזין הצרפתי שפורסם ב-19
אורית פרקש הכהן:
10 שבו הופיעה תמונה של תינוק פלסטיני בין ההריסות, תמונה לא אותנטית שנעשה בה מניפולציה על ידי בינה מלאכותית
אורית פרקש הכהן:
     בדיון היום נשמע גורמים שונים, שרלוונטיים לנושא הזה, שלצערי, לא זוכה בקשב מספיק
אורית פרקש הכהן:
 נשמע את הפייק ריפורטר ואת איגוד האינטרנט, גופים סופר חשובים שעושים עבודת קודש בנושא הזה, נשמע נציגים מחברות הטכנולוגיה ומהרשתות, ממייקרוסופט, מגוגל, ממטא, מעוד, שמחזיקים בתשתיות הרלוונטיות להפצת התכנים האלה
אורית פרקש הכהן:
 נשמע ממכוני מחקר, מהמכון הישראלי לדמוקרטיה
אורית פרקש הכהן:
 נמצא פה דרור גלוברמן מערוץ 12 שמקדם נושאים ומעלה המון נושאים של טכנולוגיה והרלוונטיות שלהם לחיים שלנו ותודה שראית בנושא הזה מספיק חשוב כדי להגיע ולדבר אתנו
אורית פרקש הכהן:
 נמצאים כמובן נציגי הממשלה ממשרד החדשנות, מרשות החדשנות, ממחלקת הסייבר, מרשות הסייבר, מהאוניברסיטה העברית, מחברות סטארט אפ, מחברות טכנולוגיה שעוסקות בנושא הזה
אורית פרקש הכהן:
 מערל הסברה ועוד הרבה גורמים
אורית פרקש הכהן:
     נחלק את הדיון, שתחילתו נעשה בו סבב הצגת הנושא – המצב בחו"ל, הרגולציה והסדרת הנושאים האלה בעולם לעומת ישראל, וכמובן ננסה לפתוח את הנושא החשוב הזה לדיון
אורית פרקש הכהן:
     לפני שנתחיל הייתי רוצה שניקח נתון אחד
אורית פרקש הכהן:
 באוניברסיטת הרווארד נעשה סקר באחרונה, ב-13
אורית פרקש הכהן:
12, 14
אורית פרקש הכהן:
12 והתוצאות מאוד מעציבות: 51% מהאמריקאים הצעירים עד גילאי 24 טוענים שהפתרון לסכסוך שמתקיים בין ישראל לפלסטינים הוא קצה של מדינת ישראל
אורית פרקש הכהן:
 60% מהם חושבים שמתקפת הטרור של חמאס מוצדקת, ושישראל מבצעת רצח עם
אורית פרקש הכהן:
 אגב, מיד לאחר מתקפת 7
אורית פרקש הכהן:
10 רק 26% מאותם צעירים חשבו כך
אורית פרקש הכהן:
 עוד סקר שנערך בניו יורק טיימס מארצות הברית ב-19
אורית פרקש הכהן:
12 הראה ש-46% מהצעירים בארצות הברית מגלים אמפתיה עם הצד הפלסטיני, ואלה נתונים מאוד מדאיגים, ואת העלייה בהסתה שאנו רואים, אנו רואים בעיקר בקרב הדור הצעיר וצעירים, ולכן הדיון הזה שמתמקד ברשתות החברתיות ובפלטפורמות הטכנולוגיות, שם הדיון על הדיפ פייק חשוב במיוחד ושם אנו מתמקדים
אורית פרקש הכהן:
 לכן נעסוק בכמה התופעה הזו רחבה בדגש על הפלטפורמות החברתיות
אורית פרקש הכהן:
 נדרוש תשובות גם מחברות הטכנולוגיה וגם מהממשלה
אורית פרקש הכהן:
 אקדים ואומר שהרגולציה בישראל מפגרת מאוד בנושא הזה לעומת העולם
אורית פרקש הכהן:
 לפני שאתחיל אודה לרועי גולדשמידט, ליובל וורגן, עו"ד ד"ר ליאור בן דוד, עדי כהן אהרונוב ממרכז המחקר והמידע של הכנסת, נירה לאמעי רכלבסקי, תודה נירה על ההכנה לדיון, לעו"ד דן מרזוק מזכיר הכנסת וכמובן איילת שדי מהר יזמנו וקידמנו את הדיון
אורית פרקש הכהן:
 נתחיל
אורית פרקש הכהן:
 חשבתי שנכון להתחיל עם אחיה שץ
אורית פרקש הכהן:
 ספר קצת על הגוף שאתה מייצג, על הפיק ריפורטר
אורית פרקש הכהן:
 כך נתחיל בהצגת המצב, כפי שאתם רואים אותו
אורית פרקש הכהן:
 תודה
אחיה שץ:
תודה רבה על ההזמנה, חברת הכנסת אורית פרקש הכהן
אחיה שץ:
 תוכל לכל מי שהגיע
אחיה שץ:
 פייק ריפורטר אנו מיזם מחקר למאבק בפעילות זדונית ברשתות
אחיה שץ:
 נעזרים בחוכמת ההמונים בציבור ובחוקרים כלים כדי לזהות תופעות ולהילחם בהן, בין השאר, בדיסאינפורמציה, בקונספירציות, בפייק ניוז, אבל גם בשיח שנאה ואלימות ברשתות
אחיה שץ:
 התמקדנו באירוע הזה במה שקורה ברשת
אחיה שץ:
 אנו ארגון שטח של האינטרנט
אחיה שץ:
 אנו ממש יכולים להראות איך הדברים קורים
אחיה שץ:
 בשנת 2023 מלחמות מתקיימות בעולם הפיזי אבל בעולם הווירטואלי במקביל והכניסה של הבינה המלאכותית משנה את הכללים ובעיקר נותנת יכולת לגופים ולאנשים, לייצר תכנים מאוד איכותיים מאוד מהר, מאוד בזול, ובעזרת הרשתות החברתיות ניתן להפיץ את החומרים האלה בצורה מאוד רחבה
אחיה שץ:
 אבל מתחת לרדאר – וזה חשוב לי להזכיר פה – נוצרים קשרים אישיים באמצעות צ'אטים, באמצעות בינה מלאכותית ושם מצליחים להגיע לאזרחים, ליצור איתם קשר, לשכנע אותם וגם להפעיל אותם כדי שיפגעו בנו
אחיה שץ:
     לפני שנקפוץ ל-AI יש להבין שיש קונספירציות ושקרים שנוצרים על ידי אנשים
אחיה שץ:
 חלקם, רובם הם כחול לבן, ממש פה, על בגידה מבפנים, על כך שהשמאל או אהוד ברק או הצבא קשר קשר כדי לפגוע ממש בנו
אחיה שץ:
 הדברים האלה פוגעים בבני אדם, במשפחות שכולות, בנופלים
אחיה שץ:
 אנו יכולים להראות ממצאים מסקר שפורסם ממש היום
אחיה שץ:
 35% מהציבור היהודי מאמין בלפחות תיאוריית קונספירציה אחת, 90% מהציבור היהודי בישראל תומך בהקמת ועדה שתחקור את מערכת הביטחון, הממשלה והעומד בראשה שזה נהדר אבל 43% תומכים בהקמת ועדת חקירה שתחזור האם גורמים בשמאל תכננו את מתקפת החמאס
אחיה שץ:
 43%
אחיה שץ:
 זה אחוזים מטורפים וזה נוגע לעולם של שקרים וקונספירציות שקורה לא רק על ידי בינה מלאכותית אלא גם על ידינו
אחיה שץ:
 כשאנו מדברים על בינה מלאכותית, אנו מדברים על בינה מלאכותית יוצרת
אחיה שץ:
 טקסטים, תמונות, סרטונים נוצרים בצורה מאוד קלה ומופצים, ובמלחמה בינה מלאכותית יוצרת מלחמה
אחיה שץ:
 אנו רואים כבר מהשעות הראשונות של 7
אחיה שץ:
10 לתכנים שנעשים על ידי בינה מלאכותית יוצרת, מופצים באופן בלתי פוסק גם על ידי אזרחים, גם על ידי ישויות אבל גם על ידי רשתות השפעה ומשפיענים שפועלים ברשתות החברתיות וגם באפליקציות המסרים
אחיה שץ:
     הנה למשל תמונה של בינה מלאכותית שנוצרה וברור לכולנו שאינה אמיתית
אחיה שץ:
 יש אחת של פרו פלסטינית, אחת פרו ישראלית, וגם אם הן דומות – ברור לנו שאינן מציאותיות
אחיה שץ:
 זה גבולי אבל סרטונים בטיקטוק שנוצרו לייצר אמפתיה
אחיה שץ:
 אנו מגיעים לצעד קדימה, דבר שנראה לנו ממש אמיתי - דברים שנעשו כנראה בשביל או לשעשע או לייצר מורל בחברה הישראלית ואנשים לוקחים אותם מאוד ברצינות
אחיה שץ:
 מכאן אנו מגיעים לעולם שלם של שימוש ב-AI כדי להטעות
אחיה שץ:
 הדברים האלה משמשים גם להכחשת הטבח ב-7
אחיה שץ:
10, גם להמציא אירועים שלא התרחשו, עדויות מזויפות, אירועים צבאיים, שחרור חטופים ועוד
אחיה שץ:
 מסייעים ביצירת מסרים שליליים כמו דה מורליזציה, טענות על פגיעה בחפים מפשע אך גם מסרים חיוביים – להעלות את המורל וכן הלאה
אחיה שץ:
 אחרי שהשקר נחשף, נחקק בזיכרון
אחיה שץ:
 אנשים הרבה פעמים גם אם יודעים שמשהו שקר, בכל מקרה ממשיכים להשתמש בו או לזכור אותו כאמת, וגם זה מנוצל על ידי שקרנים
אחיה שץ:
 הם יכולים לומר: מה שאתם חושבים שנעשה שהוא אמיתי הוא בכלל AI
אחיה שץ:
 תכף נראה זאת
אחיה שץ:
     עוד תמונות של תעמולה, נגדית
אחיה שץ:
 אלה לא חיילים שנהרגו
אחיה שץ:
 זו אינה סעודה שנעשית בצל ההריסות
אחיה שץ:
 אבא שמלחץ את ילדיו - שמעולם לא קרה
אחיה שץ:
 כל תמונה פה – מיליוני חשיפות ברשתות החברתיות
אחיה שץ:
 הנה תמונה מוכרת של הילד הפלסטיני עם שש האצבעות ולצדו תמונה עם סיפור נורא על תקיפה מינית שלא קרתה של ילדה בת 13 בכלא הישראלי שכדי לחזק את הסיפור מעלים תמונה
אחיה שץ:
 גם היא נעשתה על ידי בינה מלאכותית
אחיה שץ:
     גם בצד שלנו אנו רואים חייל מימין שמחלץ זוג תאומים
אחיה שץ:
 יש לו שלוש ידיים – כך ניתן לזהות שהתמונה מלאכותית אבל גם הייתה מאוד מופצת וכן הלאה
אחיה שץ:
     זו תמונה מערוץ GAZA NOW, ערוץ התעמולה החזק ביותר של החאס בטלגרם ובמקומות אחרים שכביכול הפינוי של ישובים בישראל אוהלים על גבי אוהלים של ישראלים שפשוט לא קיימת
אחיה שץ:
 כך משכנעים את הציבור בכל העולם שאנחנו נמצאים במצב מאוד קשה, וגם יודעים לגייס כל מיני סלבריטאים
אחיה שץ:
 הנה, מחזיק שלט שתפו ונעטף בדגל ישראל
אחיה שץ:
 מעולם לא קרה
אחיה שץ:
     התגובות כפי שאתם רואים – אנשים מתרגשים ונופלים למלכודת השקרים האלה
אחיה שץ:
 אתם חושבים אולי שמשהו נראה ברור, אולי לחלקכם, בטח לאנשים עם ניסיון אבל מעט מאוד חינוך גורם לאנשים ליפול לשקרים הללו ואנשים מאוד מתרגשים מזה ואחרי זה משתפים את זה
אחיה שץ:
     הדבר גם משתלם מסחרית
אחיה שץ:
 זה אדובי
אחיה שץ:
 מראה איך תמונות שנוצרו בבינה מלאכותית נמכרות על ידי הפלטפורמה שלהם, ובטווח הארוך זה יהפוך להיות המציאות שקרתה
אחיה שץ:
     ג'ייסון הינקל, בחור אנטישמי משפיען עם מילוני עוקבים בטוויטר מעלה תמונה נוראית של תינוק שנשרף ב-7
אחיה שץ:
10, ובודק את זה כביכול באמצעות כלי AI וטוען שהתמונה מזויפת
אחיה שץ:
 הוא כמובן משקר אבל הנה, אפשר גם באמצעות בינה מלאכותית לטעון על דברים שהם אמת שהם בינה מלאכותית
אחיה שץ:
 שקרים עושים עם זה המון שימוש
אחיה שץ:
     אותו דבר אפשר לראות לא רק בציבור הכללי ומשפיענים אלא ברשתות זרות
אחיה שץ:
 פה אנו נכנסים לשימוש של רשתות זרות, של חמאס, איראן, רוסיה ועוד, איך הם מפעילים אותנו ומשתמשים בדיפ פייק כדי לקדם את האינטרס שלהם במתחמה
אחיה שץ:
 השימוש הזה גובר מאוד
אחיה שץ:
 רואים איך במלחמה הנוכחית יש יותר פייק ויותר שימוש בבינה מלאכותית משראינו אי פעם ברשת
אחיה שץ:
 הפך להיות ממש שגור
אחיה שץ:
 זה לא אומר שלא קרה בעבר
אחיה שץ:
 זייפו למשל את קנייתו של לזלנסקי במלחמת רוסיה אבל למשל, שני חשבונות מזויפים – אחד של ראש הממשלה נתניהו והשני של הרב הראשי לשעבר שלמה עמר
אחיה שץ:
 רשת איראנית כנראה מזייפת – לא נראה מפאת זוועת הסרטונים - עושה דיפ פייק שלהם כאילו מדברים, אחד הרב שלמה עמר נגד להט"ב  ואת נתניהו מדבר כביכול על המשך הלחימה והאינטרס שלו בעניין בסרטון אחר
אחיה שץ:
 מה שאתם רואים פה זה פעולות של רשת זרה
אחיה שץ:
 כל הדברים האלה קשורים למלחמה
אחיה שץ:
 עושה סירקולציה של חומרים שהם מייצרים בין השאר על ידי דיפ פייק ועל ידי בינה מלאכותית יוצרת
אחיה שץ:
 בעיקר האשמות על כך שמפקירים את החטופים, על כך שהאשמה היא על הממשלה, על נתניהו, שנתניהו מרוויח מהעניין
אחיה שץ:
 אפשר לראות את הרצי הלוי כביכול מתחת לתמונות חטופים גם מואשם בהפקרת החטופים, וגם ממש כרזות, שנוצרו בזמן מלחמה, וניסו להפעיל אזרחים פה כדי שיתלו אותן
אחיה שץ:
 נתניהו כביכול נשרף – תמונה מסיתה, וגם תמונות פוליטיות, אולי לגיטימיות - אבל נוצרו על ידי רשתות זרות
אחיה שץ:
     שימו לב
אחיה שץ:
 AI משמש לטיפולים פסיכולוגיים
אחיה שץ:
 יש ל- AI היכולת – ואני מקריא את הציטוט של נח הררי - באמצעות השליטה שלה בשפה בינה מלאכותית תוכל אפילו לייצר קשרים אינטימיים עם אנשים ולהשתמש בכוחה של האינטימיות כדי לשנות את הדעות ואת השקפת העולם שלנו
אחיה שץ:
 אם תנסו לחשוב מה גרם לכם אי פעם לשנות את הדעה כנראה שזה לא פוסט בפייסבוק שבו כתבתם: צודק, שיניתי את הדעה
אחיה שץ:
 זה אנשים שאתם מכירים, אוהבים, שיצרתם איתם קשר, וזה בדיוק מה שמבינים רשתות זרות
אחיה שץ:
 שני לבבות זו קבוצת היכרויות שנוצרה על ידי רשת זרה ופועלת כדי לייצר קשרים אינטימיים עם אזרחים בישראל
אחיה שץ:
 ממש כך
אחיה שץ:
 שם הם מפיצים תעמולה אבל גם יוצרים התכתבויות אישיות באמצעות מכונות תרגום שגם הן היום פועלים באמצעות בינה מלאכותית שמשתפרת עוד ועוד
אחיה שץ:
 כך הם מייצרים מערכות יחסים
אחיה שץ:
 זו תמונה של כביכול "בקשר" בין סוכן איראני לישראלי
אחיה שץ:
 הצעד הבא הוא לשלוח אותם למשימות
אחיה שץ:
 רואים פה שלטים שנתלו בישראל על ידי אזרחים ישראליים ושהשולח מפעיל איראני
אחיה שץ:
 גם התמונה שראיתם לפני כן נתלתה פה בירושלים אחרי שסוכן איראני הפעיל אזרח ישראלי שהצליח ליצור איתו קשר אישי בהתכתבויות
אחיה שץ:
     זה לא נעצר שם
אחיה שץ:
 רואים פרסום של השב"כ על רשתות איראניות שאנו חשפנו
אחיה שץ:
 הם המשיכו להתכתב איתן והראות איך הסוכנים האיראניים האלה מובילים אזרחים ישראליים לתכנן ביצוע של פעולות טרור
אחיה שץ:
 ממש לצאת ולפגוע באנשים עם נשקים
אחיה שץ:
 ככל שהבינה המלאכותית היוצרת תהיה חכמה יותר, ככל שהטקסטים יהיו נהירים יותר, רגישים יותר, מותאמים יותר לקהל הישראלי ולאנשים - אפשר יהיה לנהל מאות מערכות יחסים אישיות של אנשים עם אזרחים ישראליים בצ'אטים מתחת לרדאר
אחיה שץ:
 לא איפה שאנו נראה, לא איפה שהשב"כ יראו ולא איפה שהרשתות יראו
אחיה שץ:
 מערכות היחסים האלה יובילו אנשים לשנות את דעתם כי כך משנים דעה
אחיה שץ:
 על ידי כך להפעיל פה צבאות בלי שיודעים, לגרום לדברים לקרות בשטח ואולי אף לבצע פעולות טרור
אחיה שץ:
     אסכם
אחיה שץ:
 בינה מלאכותית יוצרת מלחמה כל יום, כל היום, ביעילות, בקלות וזו רק ההתחלה
אחיה שץ:
 יש פער אדיר באוריינות של מידע ודיגיטל
אחיה שץ:
 הציבור לא יודע ואף אחד לא מלמד אותו להתמודד עם הזיופים האלה
אחיה שץ:
 זה לא רק בינה מלאכותית – גם קונספירציות של אנשים, והדבר הזה מגיע עמוק לתוך קהלים רחבים בחברה הישראלית
אחיה שץ:
 השילוב בין רשתות חברתיות שהן כלי הפצה מדהימים לבינה מלאכותית הם כלי נשק תודעתיים והזירה התודעתית המלחמתית היא אדירה – ומקווה שאחרים פה ייכנסו אליה לעומק
אחיה שץ:
 הסכנה היא לא רק ביצירת תכנים אלא בלמידת שפה, למידת רגש, למידת שקר ויצירת קשרים מתחת לרדאר
אחיה שץ:
 מעט מאוד נעשה בנדון
אחיה שץ:
 לא המדינה ולא הרשתות החברתיות עושות מספיק כדי שנתמודד עם התופעה והתוצאות בהקדם
אחיה שץ:
     אומר שלושה דברים וייכנסו לעומק עמיתיי, מקווה גם שתהילה
אחיה שץ:
 אנו ממליצים להגדיר את השימוש בבינה מלאכותית וברשתות כאתגר לאומי, ולפעול בהתאם גם בתחום ההסדרה וגם בתחום החינוך
אחיה שץ:
 העתיד של דמוקרטיות בכל העולם תלוי ביכולתן לתת מענה לאיומים הדיגיטליים העומדים בפניהם – הגיע הזמן להתגייס ולהתמודד גם עם המלחמה ברשתות
אורית פרקש הכהן:
תודה רבה על ההצגה החשובה הזו
אורית פרקש הכהן:
 לפני שנשמע את חברות טכנולוגיה, שהגיעו, יש פה ד"ר תהילה אלטשולר מהמכון הישראלי לדמוקרטיה
אורית פרקש הכהן:
 אחריו דרור דלוברמן וגאיה הררי - ונשמח לשמוע את חברות הטכנולוגיה עצמן ותודה שהגעתן
אורית פרקש הכהן:
 תהילה, את עוסקת המון בנושא בינה מלאכותית בתחומים שונים וגם בנושא הזה
אורית פרקש הכהן:
 שמענו את הדברים המאוד מטרידים, אפילו מפחידים של הפייק ריפורטר
אורית פרקש הכהן:
 נשמח לשמוע אותך, בבקשה
תהילה אלטשולר:
תודה רבה
תהילה אלטשולר:
 אני רוצה לברך אותך חברת הכנסת פרקש הכהן
תהילה אלטשולר:
 אנו מאוד זקוקים לדיונים האלה כאן בכנסת בנושא בינה מלאכותית
תהילה אלטשולר:
 לצערנו נפלה עלינו המלחמה וטוב שהדיון הזה מתנהל אבל אני מאוד מקווה שכפי שתכננת יהפוך לראשון בסדרת דיונים, כי בסופו של דבר אנו מוכרחים להחזיק קו יחד עם העולם ויחד עם מדינות המערב
תהילה אלטשולר:
     העיסוק שלנו בעולם הזה של בינה מלאכותית ושל דיס אינפורמציה במלחמה הוא חלק מעבודה שאנו עושים עכשיו בהקשר של הממד הרביעי של המלחמה
תהילה אלטשולר:
 כולנו מבינים שנמצא
תהילה אלטשולר:
 יש צורך מאוד בוער לייצר המשגות
תהילה אלטשולר:
 אנו לא מבינים הכול, מערבבים בין דברים ולכן היכולת שלנו למצוא פתרונות אחר כך, תהיה בעייתית
תהילה אלטשולר:
 כשאנו מדברים על הממד הרביעי של המלחמה, אפשר לפרקו לממד הסייבר ולממד המידע וגם את ממד המידע אפשר לחלק לממד של מה שאני מכנה תוכן רעיל ולממד של המלחמה הפיג'יטלית הזו
תהילה אלטשולר:
 אני יכולה לדבר על זה שעה שלמה אך לא לשם כך התכנסנו היום
תהילה אלטשולר:
     כשאנו מדברים על מאפייני הממד הרביעי בהקשר תוכן רעיל יש לו כל מיני מאפיינים
תהילה אלטשולר:
 יש אמצעים צורניים שמשתמשים בהם כדי לייצר הפצת תוכן רעיל
תהילה אלטשולר:
 יש אמצעים מלאכותיים – בזה נעסוק היום
תהילה אלטשולר:
 יש התכנים עצמם שנעים על מנעד מאוד רחב שאפשר לומר שמצד אחד הסתה לטרור, באמצע היא כל מיני שקרים אבל בצד השני מדובר על תכנים אמיתיים שהם תכני זוועה
תהילה אלטשולר:
 זה חלק ממה שהפך את הטראומה שלנו לקולקטיבית במלחמה הזו
תהילה אלטשולר:
     שני עניינים מאוד חשובים
תהילה אלטשולר:
 אחד, מדינת ישראל כמדינה שדוברת שפה ייחודית, הרבה יותר פגיעה לנזקים של תכנים רעילים וזה מפי שלא נעשית עבודה מספיק טובה של ניטור תוכן אוטומטי ברשתות
תהילה אלטשולר:
 אני רואה פה הרבה אנשים – ידידיי מהתוכנית הלאומית לבינה מלאכותית
תהילה אלטשולר:
 הצורך במודל שפה בעברית הוא הדבר הכי חשוב
תהילה אלטשולר:
 אנו לא יכולים להמשיך לשים פלסטר ולומר: כל מיני אנשים יעשו בשבילנו הסברה ברשתות וינקו בשבילנו את הרשתות
תהילה אלטשולר:
 זה צריך לבוא מהקרקע
תהילה אלטשולר:
     שנית, היעדר האחריות של הפלטפורמות
תהילה אלטשולר:
 אני קוראת לזה המערב הבא בתור
תהילה אלטשולר:
 יש הבנה היום שאנו חזית של המערב בכל מיני מקומות מאוד רעים אבל זה גם נכון לגבי רגולציה של רשתות חברתיות
תהילה אלטשולר:
 התווך שבו הממד הרביעי של המלחמה מתקיים הוא פרטי, ויש לחשוב מה לעשות איתו
תהילה אלטשולר:
     משהו מאוד חשוב לי
תהילה אלטשולר:
 אנו לא נמצאים היום במצב שבו היינו ב-2014, 2015, 2016
תהילה אלטשולר:
 יש היום בנצ'מארקים עולמיים או לפחות אירופאיים איך צריך לאסדר רשתות חברתיות, מוצרים דיגיטליים ומוצרי AI
תהילה אלטשולר:
 אין שום סיבה בעולם שמדינת ישראל תהיה החצר האחורית של ההסדרה הדיגיטלית של העולם
תהילה אלטשולר:
 זו חובתם של אנשי משרד המשפטים, של חברי הכנסת לסגור את הפער הזה
גלית דיסטל אטבריאן:
באיזה מובן החצר האחורית?
אורית פרקש הכהן:
אין אסדרה
אורית פרקש הכהן:
 אין הכללים האלה
תהילה אלטשולר:
ב-2018 נכנסה לתוקף חקיקת הפרטיות האירופאית, בתחילת 2023 נכנס לתוקף החוק שמחייב אחריות על רשתות חברתיות
תהילה אלטשולר:
 יחד איתו נכנס לתוקף ה-digital markets act
תהילה אלטשולר:
 לפני שבועיים אושר באיחוד כמעט סופית הו-AI ACT
תהילה אלטשולר:
 אלה דברי חקיקה שיוצרים בנצ'מארק עולמי, מחייבים מדינות אחרות להתאים עצמן אליהן ואין שום סיבה שישראל לפחות לא תגייר את החקיקה הזו
תהילה אלטשולר:
 אני לא מדברת על יצירת בנצ'מארק עולמי, לא רוצה להיות בחזית של מי שקובע
תהילה אלטשולר:
 אנו קטנים מדי, אין לנו הכוח הזה אבל לא ליצור מצב שבו אזרח ישראלי פחות מוגן מכוחן של חברות הענק הטכנולוגיות מאזרחי אירופה
אורית פרקש הכהן:
להפך, אפשר לומר שהמציאות בישראל דורשת שנהיה מעל הכול
אורית פרקש הכהן:
 אנו זקוקים ליתר הגנה אז לכל הפחות שהכללים שלנו יהיו אלה שקיימים בעולם
תהילה אלטשולר:
נכון
תהילה אלטשולר:
 ופה גם לצורכי הדיון הזה – אנו מוכרחים להסביר ולהגדיר על מה אנו מדברים כי שקרים זה לא דבר שהשלטון אמור להתעסק בו
תהילה אלטשולר:
 השלטון לא צריך לקבוע מה שקר ומה אמת
תהילה אלטשולר:
 זה טיבה ובסיסה של דמוקרטיה
תהילה אלטשולר:
 קשה לנו להסכים על זה
תהילה אלטשולר:
 לכן גם האירופאים – כשהם מדברים היום על דיס אינפורמציה או מה שאנו מדברים היום על פייק ניוז - עזבו את סיפור התוכן
תהילה אלטשולר:
 הם מדברים – וזה הדבר החשוב – על הצורה שבה נעשית הפצת המסרים האלה
תהילה אלטשולר:
 לא על תוכן המסרים עצמם
תהילה אלטשולר:
 כלומר, מדובר בדברים שאינם לא בלתי חוקתיים
תהילה אלטשולר:
 לכן יש לנו בעיה איתם
תהילה אלטשולר:
 צריך לייצר חקיקה אבל זה לא בלתי חוקי
תהילה אלטשולר:
 מדובר בדברים שיש להם פוטנציאל שלילי, בדברים שאופיים הוא – לא הבלוגר בתחתונים שיושב בבית ומצייץ ככל העולה על רוחו
תהילה אלטשולר:
 אנו מדברים על קמפיינים מתואמים
תהילה אלטשולר:
 תיאום יכול להיעשות בכל מיני דרכים, אבל ההגדרה הזו אנו מוכרחים להתחיל לאמצה
תהילה אלטשולר:
 היא תעזור לנו להתקדם
תהילה אלטשולר:
 אחרת נערבב כל הזמן בין השפעה זרה והשפעה מקומית
תהילה אלטשולר:
 השפעה של שקר והשפעה של הסתה
תהילה אלטשולר:
 לא כדאי
תהילה אלטשולר:
 אנחנו צריכים לשאול עצמנו למה הדברים האלה מתפזרים, איך הם מתפזרים ברשתות, מה גורם להם אלגוריתמית לעשות זאת, איך זה נעשה באקו סיסטם של המידע, מה המשמעות של מה שאחיה תיאר מאוד יפה וכתבתי עליו בעבר – אותה תחילת מסר שהגיעה אולי מאיראן אבל עכשיו הוא עמוק בתוך השיח הישראלי
תהילה אלטשולר:
 ישראלים משתפים אותו
תהילה אלטשולר:
 כל השאלות האלה אנו מוכרחים לשים אליהן לב
תהילה אלטשולר:
     אבל השאלה מבחינתנו זה מה חדש
תהילה אלטשולר:
 כי ביושר - בסוף המלחמה הזו – היא לא מלחמת ה-AI הראשונה
תהילה אלטשולר:
 המערך שראינו הוא כאין וכאפס לעומת דברים אחרים שראינו, זיופים אחרים
אורית פרקש הכהן:
אבל בהקשר של מלחמה
תהילה אלטשולר:
למשל המון תמונות של הפצצות מעזה ממבצעים קודמים, כולל הפצצה גרעינית על עזה עם תמונה מ-1959 שלא הפצצנו מעולם
תהילה אלטשולר:
 זה חלק ממה שראינו
תהילה אלטשולר:
 זה לא הדבר המשמעותי
תהילה אלטשולר:
 השאלה היחידה היא מה חדש עכשיו ב-AI לעומת מה שאנו מכירים מכל העולם של הדיס אינפורמציה לפני כן
תהילה אלטשולר:
 פה הוועדה יכולה לעשות השפעה
תהילה אלטשולר:
 זה הדבר המעניין מבחינתי
תהילה אלטשולר:
      כשהם שחררו את המודלים, הם ידעו זאת
תהילה אלטשולר:
 זה הדבר שהכי חשוב לומר
תהילה אלטשולר:
 כשסם אלטמן מנכ"ל אופן AI מתראיין לפני שנה, ואומר שזה יכול לשמש כלי לדיס אינפורמציה הוא שולח לעולם מוצר ללא מנגנוני הגנה מספיקים
תהילה אלטשולר:
 זה כולל גם את מי שהשקיע בו כסף וגם את מי שמתחרה בו במרוץ לתחתית אבל יש לומר זאת - הם יודעים שיש פה תקלה והם לא יודעים עדיין איך לפתור אותה
תהילה אלטשולר:
 באיזה אופן הם באים לרגולטור ואומרים: יצרנו – עכשיו תוריד מאתנו את האחריות
תהילה אלטשולר:
 זה דבר שיש לשים אליו לב
תהילה אלטשולר:
     מה שכדאי לומר זה, שהמודלים של השפה יכולים ליצור גם טקסט וגם וידאו וגם תמונות, ולעשות זאת במהירות הולכת וגדלה
תהילה אלטשולר:
     תסתכלו על השקף הזה
תהילה אלטשולר:
 הוא אחד הכי יפים שאני מכירה, של בית ההשקעות סקויה שמראה את המהירות שבה המודלים האלה עקפו יכולות אנושיות בשנים האחרונות
תהילה אלטשולר:
 אין דברים כאלה
תהילה אלטשולר:
 לכן אנו נמצאים במצב שבו אנו נמצאים
תהילה אלטשולר:
     הכי קל לומר: יש לנו דברים כלליים אפשר לטפל בהם
תהילה אלטשולר:
 למשל להשתמש בטכנולוגיה כדי לנטר תכנים שהם machine generated או לסמן אותם או ליצור מסדי נתונים של תכני עבר או אפילו לבקש ממשתמשים ברשתות: תוסיפו אתם את ההקשר שמדובר פה במשהו שהוא יציר מכונה
תהילה אלטשולר:
 זה הדבר שיחסית קל לעשות
תהילה אלטשולר:
      זה אולי הדבר שהכי חשוב לי לומר: הסגולות של המודלים של השפה הן הרבה יותר מאשר יצירת תוכן, וזה אולי הדבר שאנו צריכים לשים אליו לב
תהילה אלטשולר:
 הן מאפשרות ליצור הונאה בסדר גודל שלא היה, לבנות את כל האקו סיסטם של התוכן סביב, יכולים לקדם נרטיבים ולא רק פוסט מסוים
תהילה אלטשולר:
 הם יכולים ליצור אסטרטגיה פוליטית, ליצור תכנון ארוך טווח, הם יכולים לפתח מודעות מצבית, כלומר להבין איפה הם כמודלים נמצאים ולכן באיזה שלב לפרוץ את המודלים שהם נמצאים בו ויש להם גם יכולת התרחבות והפצה עצמית
תהילה אלטשולר:
 אלה בעיניי הסכמות של AI
תהילה אלטשולר:
 לא תמונות עם 6 אצבעות
אורית פרקש הכהן:
גם
תהילה אלטשולר:
נכון אבל אלה הדברים ואם לא נסתכל עליהם היום, נמצא עצמנו כאן חלילה במלחמה הבאה אבל גם בשלום הבא עוד שנה מתמודדים עם דברים הרבה יותר מסובכים
תהילה אלטשולר:
     עוד דבר
תהילה אלטשולר:
 יש לראות את זה בהקשר יותר רחב
תהילה אלטשולר:
 בצד שמאל הרשתות החברתיות, הפלטפורמות
תהילה אלטשולר:
 עם כל התוכן שיש בהן
תהילה אלטשולר:
 בצד ימין המודלים הגדולים של השפה אבל באמצע עוד אתגרים
תהילה אלטשולר:
 יש מה שקורה בשירותי הענן, בחנויות האפליקציות ומה שיקרה במטא ורס
תהילה אלטשולר:
 כלומר יש לנו פה עולם שלם שיש להסתכל עליו באופן יותר הוליסטי
תהילה אלטשולר:
     אז מה לעשות
תהילה אלטשולר:
 יש לנו דבר ראשון, אנו צריכים לדבר על שרשרת אחריות
תהילה אלטשולר:
 יש לנו גם המודלים, יש האפליקציות שנבנות על המודלים, יש הרשתות החברתיות שמפיצות את התוכן אבל יש לנו גם מי שעושה שימוש בתוכן הזה
תהילה אלטשולר:
 מי שמפיץ
תהילה אלטשולר:
 יכולות להיות מדינות זרות אבל יכול להיות גם מתמודדים בבחירות
תהילה אלטשולר:
 יש לקחת זאת בחשבון
תהילה אלטשולר:
 מה שמדינות זרות יכולות לעשות גם הפוליטיקאים כאן יכולים לעשות
תהילה אלטשולר:
 איך מתמודדים עם זה – זאת שאלה
תהילה אלטשולר:
     כך נראה ה-AI ACT האירופאי שעבר כבר לפני כמה חודשים ועשו בו תיקונים אחרונים ב-8
תהילה אלטשולר:
12, 9
תהילה אלטשולר:
12
תהילה אלטשולר:
 מודלים של שפה, מערכות בינה מלאכותית גנרטיביות הן מערכות בסיכון מוגבל כלומר האירופים לא הצליחו להצליח לומר, יש לנו פה דבר גדול ויש לפקח עליו יותר
תהילה אלטשולר:
      מה שהם כן יצרו עכשיו בתיקון שעשו – התייחסות לשני סוגים – - - סוג של חלוקה שמי שמכיר יודע שזה מה שעשו גם שם
תהילה אלטשולר:
     בסופו של דבר אנו צריכים פיקוד עורף דיגיטלי
תהילה אלטשולר:
 סביב שולחן המטכ"ל אין אף גנרל היום שזו המומחיות שלו וזה היכולת שלו וזה חלק ממה שנתפסנו איתו במלחמה הנוכחית עם המכנסיים למטה
תהילה אלטשולר:
 תקראו לזה זרוע המידע כמו זרוע היבשה
תהילה אלטשולר:
 זה לא כל כך משנה אבל זה דבר שעלינו להפנימו
תהילה אלטשולר:
 אף אחת מרשויות המדינה, מערך הסייבר, השב"כ, הרשות לפרטיות, ישראל דיגיטלית, לא ידעה – המשטרה – מה חלקה, מה אחריותה
תהילה אלטשולר:
 פה אני רוצה לברך את חבריי ממערך הסייבר שלקחו אחריות
תהילה אלטשולר:
 הם אמרו: במקום שאין אנשים נהיה איש והם מתחילים לעשות את הצעדים הראשונים האלה
תהילה אלטשולר:
 אבל עלינו לדעת שזה פוגש אותנו בעולם ההגנה, בעולם ההסברה וההשפעה, ועלינו לסגור פערי הבנה בהקשרים האלה