ועדת משנה בנושא בינה מלאכותית וטכנולוגיות מתקדמות, כנסת 25, פרוטוקול מספר 1, 2023-12-25 00:00

אורית פרקש הכהן: בוקר טוב לכולם, אני מתכבדת לפתוח דיון אני חושבת ראשון מסוגו בנושא השימוש בבינה מלאכותית ליצירת מידע כוזב ותודעה שקרית הפוגעת במדינת ישראל עם דגש על בינה מלאכותית

אורית פרקש הכהן:       לפני כן מכבד אותנו כאן יזהר ליפשיץ בנושא החטופים

אורית פרקש הכהן:  אני מבינה שעודד ליפשיץ הוא אביך

אורית פרקש הכהן:  זה לפני הכול

אורית פרקש הכהן:  בבקשה

יזהר שי: בוקר טוב ותודה שמקבלים אותנו בכל ועדות הכנסת בכבוד ונותנים לנו לנאום

יזהר שי:  בינה מלאכותית היא נושא שגם לחטופים מאוד חשוב

יזהר שי:  אנו רואים את הפייק שיש ברשתות, את השימוש בבינה הזו כדי להכחיש את 7

יזהר שי: 10, את הקרבות שיש, את התמונות שיוצאות מהבינה המלאכותית, ובכלל, אנו רואים שהמרחק בין האמת של מה שהיה למה שאנו מרגישים וחווים את האמת שלנו הולך ומתרחק בעולם, והשימוש בה נהיה ציני

יזהר שי:  זה חלק מהקושי שאנו כמשפחת החטופים חווים גם בעולם וגם פה

יזהר שי:      באתי לדבר על ה-80 יום שחלפו

יזהר שי:  אנו משפחת החטופים, נאנקת כבר 80 יום

יזהר שי:  המשפחות לא ישנות 80 יום

יזהר שי:  חלק מהאנשים נשברים וכבר לא יגיעו לוועדות הכנסת ומצנטפים בביתם וכואבים את כאבם

יזהר שי:  חלק מיואשים כי חושבים שבמתווה הבא אולי החייל שלהם לא ייצא בכלל כי הוא לא זקן ולא ילד

יזהר שי:  חלק נלחמים על קולם אבל המשותף לכולם שכולם ממש-ממש כואבים

יזהר שי:  כל יום שעובר החטופים שלנו נאנקים בפנים, החיילים שלנו סובלים את מה שהם סובלים

יזהר שי:  ההורים לנערות שנחטפו, לצפתיות שנחטפו לא ישנים

יזהר שי:  העדויות הקשות יוצאות ומספרות שהם סובלים בעינויים קשים כולל התעללויות מיניות, מכות, השפלות, הרעבה, התעללות פסיכולוגית

יזהר שי:  אנשים שחוזרים בכלל לא ידעו מה היה וצריכים להשלים את זה

יזהר שי:  והנה חזרתי מוועדה שדנה באנרגיה ועכשיו AI וכיף לראות שהמדינה היא לא רק חטופים אלא מתפקדת ובונה את כוחה כי לא חסר לנו מלחמות בצפון, בפנים, שסע פנימי

יזהר שי:  לא חסר לנו במה להילחם אבל אנו משפחת החטופים באה לזעוק שבתוך בליל המלחמה והקושי האדיר שיש לנו לראות את הפצועים ואת החיילים שנהרגים, אנו גם הורים לחיילים ומכירים את הפצועים

יזהר שי:  ובנוסף לקושי שיש למדינה, כל אחד יש לו החטוף שלו, ואנו הגענו למקום שאנו מרגישים שיש אנשים שחושבים שאפשר להמשיך את המלחמה למיגור החמאס וכמי שגר בעוטף עזה אין אחד שהיה רוצה להוריד את האיום הזה יותר ממני, אבל הגענו למקום שכל יום שעובר יש לנו פחות חטופים חיים ופחות סיכוי לראות אותם בחיים

יזהר שי:  לכן אנו רוצים להגיד ש-80 יום נגמר

יזהר שי:  אנו רוצים את כולם עכשיו, ואנו נילחם בכל מקום והילדים של החטופים יתגייסו בכל מצב כדי להילחם את מלחמות ישראל, אבל עכשיו פדיון שבויים

יזהר שי:  להחזיר אזרחים, להחזיר תינוקות, נשים

יזהר שי:  לגאול אותם מהייסורים המטורפים שעוברים בשבי

יזהר שי:  זה הדבר שאנו צריכים עכשיו

יזהר שי:  שעם ישראל יראה בנו צורך ולא רק נטל שמפריע ללחימה

יזהר שי:  לא חושב שכולם רואים כך, אבל הגענו לשני צירים שמתנגשים

יזהר שי:  המשך לחימה – חטופים, וההצעות שעומדות ואנו שומעים בתקשורת, לא יודע כמה הן רציניות או לא כי אין לי הידע אבל הן מדברות על פסקת לחימה, על שחרור חטופים, מדברות על פגיעה בהישג הצבאי כדי להחזיר חטופים

יזהר שי:  ומשפחת החטופים פונה לכולם ואומרת כמו במשפט שלמה - לא לחתוך לנו את החטופים

יזהר שי:  להחזיר לנו אותם חיים, יהא המחיר אשר יהא, להצביע נכון כשזה יגיע

יזהר שי:  לא ליפול למלכודות של ימין, שמאל, נאמנים, בוגדים ושיח שמתחיל להיות פה, קצת פוליטי אלא פשוט לראות אותנו כחלק מהעם היהודי, חלק מהאזרחים פה שפשוט נפל עלינו ב-7

יזהר שי: 10 האסון הנורא הזה, ואנו מבקשים: תגאלו אותנו

יזהר שי:  תנו לאבות לילדות ולילדים לישון בשקט

יזהר שי:  כל אחד יקבל מה שיקבל, מי בחיים ומי גוויה ומי חלקים הוא יקבור ורק כך נוכל להמשיך הלאה

יזהר שי:  אנו פונים לכולם – פשוט די

יזהר שי:  את כולם עכשיו

יזהר שי:  תודה רבה

אורית פרקש הכהן: תודה רבה יזהר

אורית פרקש הכהן:  אנו מחזקים אותך, מתפללים לשלום כל החטופים ולשלומו של אביך

אורית פרקש הכהן:  הם בלב של כולנו

אורית פרקש הכהן:  אנו הולכים לישון אתכם וקמים אתכם

אורית פרקש הכהן:  אני יכולה לומר כחברה במחנה הממלכתי שהנושא הזה חשוב לבני ולגדי איזנקוט

אורית פרקש הכהן:  הם עוסקים בו יום ולילה

אורית פרקש הכהן:  אנו בימים מאוד מורכבים, מאוד עצובים, ותודה שבאת

אורית פרקש הכהן:  אני מתנצלת שאנו עוסקים בדברים שבטח נראים לך מנותקים ממה שאתה עובר - אבל אתם באמת בליבנו

יזהר שי: התחלתי בזה שאסור שהמדינה תפסיק ב-7

יזהר שי: 10 לתפקד כי יש חטופים, אבל היא צריכה לעשות הכול כדי לפתור את החטופים

יזהר שי:  אם כולם היו במצב של משפחת החטופים, היינו קורסים חברתית וגם כלכלית

יזהר שי:  תודה לבני ולגבי אבל הם חלק מקבינט ואנו צריכים שכולם, כולל ראש הממשלה, יקבלו החלטות קשות  ויחזירו לנו את כולם עכשיו

יזהר שי:  תודה

אורית פרקש הכהן: תודה רבה

אורית פרקש הכהן:  אנו במעבר חד נעבור לנושא הדיון – שימוש בבינה מלאכותית להפצת דיפ פייק באופן שפוגע במדינת ישראל

אורית פרקש הכהן:      אנו נמצאים בימים לא רגילים, של מלחמה מאתגרת לאחר אירועי הטבח הנורא ב-7

אורית פרקש הכהן: 10 שספגה מדינת ישראל

אורית פרקש הכהן:  המערכה הקשה שעוברת עלינו היא לא רק מלחמה פיזית בחמאס אלא גם מלחמה הסברתית ותודעתית ברחבי העולם על זכותנו ועל זכותה של מדינת ישראל להגן על עצמה ולהגן על האמת

אורית פרקש הכהן:  במלחמה ההסברתית הזו אנו לא במיטבנו בלשון המעטה

אורית פרקש הכהן:  ישראל לטעמי אינה מתמודדת באופן מספק עם הסתה ועם מידע שקרי רב שמתפרסם ומופץ בפלטפורמות וברשתות החברתיות השונות

אורית פרקש הכהן:  בעוד שמלחמת רוסיה אוקראינה זכתה לכינוי מלחמת הטיקטוק הראשונה, חברות ברזל מכונה בפי רבים מלחמת ה-AI הראשונה, וזאת בעקבות מידע רב וכוזב שמתפרסם ברשת נגד מדינת ישראל ונגד צה"ל שמיוצר בין היתר בשימוש בבינה מלאכותית

אורית פרקש הכהן:      זה מתבצע על ידי תמונות שמזויפות, אבל גם על ידי טקסטים, סרטונים כוזבים ומלאכותיים שלא מתבססים על תוכן מקורי שניתן לאתר ברשת וכן באמצעות פרופילים מזויפים ברשתות החברתיות שגם הם מפיצים תוכן מסית וכוזב

אורית פרקש הכהן:  השימוש הזה בבינה מלאכותית לשיבוש מידע שידוע כדיפ פייק מיוצר לו באין מפריע על ידי תומכי חמאס ומתנגדי ישראל, מקדם הסתה נגד ישראל בעולם ונגד יהודים בעולם, ומקדם תיאוריות קונספירציה

אורית פרקש הכהן:      לכן בחרתי לכנס את הוועדה הזאת שהוקמה לפני הוועדה בנושא מפתח זה בינה מלאכותית כדי להעלות בימים אלה שחדשות רודפות חדשות, להעלות על סדר-היום הציבורי גם את הסוגיה הזו שרלוונטית מאוד

אורית פרקש הכהן:  ה-AI כידוע הביאה לעולם הזדמנויות רבות ומדהימות, אבל יחד איתה הגיעו גם סיכונים, וביניהם הקלות הבלתי נסבלת שבה ניתן היום לשקר, להסית ולזייף את המציאות ולעשות הכול בצורה מדהימה, שלא נראתה כמותה שנראית הכי אמיתית ואותנטית

אורית פרקש הכהן:  ה- AI מאפשר לייצר גן עדן לזייפנים

אורית פרקש הכהן:  לכן בפתח הדיון טרחנו ושמנו תמונה שהיא רק דוגמה אחת

אורית פרקש הכהן:  השער מהמגזין הצרפתי שפורסם ב-19

אורית פרקש הכהן: 10 שבו הופיעה תמונה של תינוק פלסטיני בין ההריסות, תמונה לא אותנטית שנעשה בה מניפולציה על ידי בינה מלאכותית

אורית פרקש הכהן:      בדיון היום נשמע גורמים שונים, שרלוונטיים לנושא הזה, שלצערי, לא זוכה בקשב מספיק

אורית פרקש הכהן:  נשמע את הפייק ריפורטר ואת איגוד האינטרנט, גופים סופר חשובים שעושים עבודת קודש בנושא הזה, נשמע נציגים מחברות הטכנולוגיה ומהרשתות, ממייקרוסופט, מגוגל, ממטא, מעוד, שמחזיקים בתשתיות הרלוונטיות להפצת התכנים האלה

אורית פרקש הכהן:  נשמע ממכוני מחקר, מהמכון הישראלי לדמוקרטיה

אורית פרקש הכהן:  נמצא פה דרור גלוברמן מערוץ 12 שמקדם נושאים ומעלה המון נושאים של טכנולוגיה והרלוונטיות שלהם לחיים שלנו ותודה שראית בנושא הזה מספיק חשוב כדי להגיע ולדבר אתנו

אורית פרקש הכהן:  נמצאים כמובן נציגי הממשלה ממשרד החדשנות, מרשות החדשנות, ממחלקת הסייבר, מרשות הסייבר, מהאוניברסיטה העברית, מחברות סטארט אפ, מחברות טכנולוגיה שעוסקות בנושא הזה

אורית פרקש הכהן:  מערל הסברה ועוד הרבה גורמים

אורית פרקש הכהן:      נחלק את הדיון, שתחילתו נעשה בו סבב הצגת הנושא – המצב בחו"ל, הרגולציה והסדרת הנושאים האלה בעולם לעומת ישראל, וכמובן ננסה לפתוח את הנושא החשוב הזה לדיון

אורית פרקש הכהן:      לפני שנתחיל הייתי רוצה שניקח נתון אחד

אורית פרקש הכהן:  באוניברסיטת הרווארד נעשה סקר באחרונה, ב-13

אורית פרקש הכהן: 12, 14

אורית פרקש הכהן: 12 והתוצאות מאוד מעציבות: 51% מהאמריקאים הצעירים עד גילאי 24 טוענים שהפתרון לסכסוך שמתקיים בין ישראל לפלסטינים הוא קצה של מדינת ישראל

אורית פרקש הכהן:  60% מהם חושבים שמתקפת הטרור של חמאס מוצדקת, ושישראל מבצעת רצח עם

אורית פרקש הכהן:  אגב, מיד לאחר מתקפת 7

אורית פרקש הכהן: 10 רק 26% מאותם צעירים חשבו כך

אורית פרקש הכהן:  עוד סקר שנערך בניו יורק טיימס מארצות הברית ב-19

אורית פרקש הכהן: 12 הראה ש-46% מהצעירים בארצות הברית מגלים אמפתיה עם הצד הפלסטיני, ואלה נתונים מאוד מדאיגים, ואת העלייה בהסתה שאנו רואים, אנו רואים בעיקר בקרב הדור הצעיר וצעירים, ולכן הדיון הזה שמתמקד ברשתות החברתיות ובפלטפורמות הטכנולוגיות, שם הדיון על הדיפ פייק חשוב במיוחד ושם אנו מתמקדים

אורית פרקש הכהן:  לכן נעסוק בכמה התופעה הזו רחבה בדגש על הפלטפורמות החברתיות

אורית פרקש הכהן:  נדרוש תשובות גם מחברות הטכנולוגיה וגם מהממשלה

אורית פרקש הכהן:  אקדים ואומר שהרגולציה בישראל מפגרת מאוד בנושא הזה לעומת העולם

אורית פרקש הכהן:  לפני שאתחיל אודה לרועי גולדשמידט, ליובל וורגן, עו"ד ד"ר ליאור בן דוד, עדי כהן אהרונוב ממרכז המחקר והמידע של הכנסת, נירה לאמעי רכלבסקי, תודה נירה על ההכנה לדיון, לעו"ד דן מרזוק מזכיר הכנסת וכמובן איילת שדי מהר יזמנו וקידמנו את הדיון

אורית פרקש הכהן:  נתחיל

אורית פרקש הכהן:  בבקשה

אורית פרקש הכהן:  חשבתי שנכון להתחיל עם אחיה שץ

אורית פרקש הכהן:  ספר קצת על הגוף שאתה מייצג, על הפיק ריפורטר

אורית פרקש הכהן:  כך נתחיל בהצגת המצב, כפי שאתם רואים אותו

אורית פרקש הכהן:  תודה

אחיה שץ: תודה רבה על ההזמנה, חברת הכנסת אורית פרקש הכהן

אחיה שץ:  תוכל לכל מי שהגיע

אחיה שץ:  פייק ריפורטר אנו מיזם מחקר למאבק בפעילות זדונית ברשתות

אחיה שץ:  נעזרים בחוכמת ההמונים בציבור ובחוקרים כלים כדי לזהות תופעות ולהילחם בהן, בין השאר, בדיסאינפורמציה, בקונספירציות, בפייק ניוז, אבל גם בשיח שנאה ואלימות ברשתות

אחיה שץ:  התמקדנו באירוע הזה במה שקורה ברשת

אחיה שץ:  אנו ארגון שטח של האינטרנט

אחיה שץ:  אנו ממש יכולים להראות איך הדברים קורים

אחיה שץ:  בשנת 2023 מלחמות מתקיימות בעולם הפיזי אבל בעולם הווירטואלי במקביל והכניסה של הבינה המלאכותית משנה את הכללים ובעיקר נותנת יכולת לגופים ולאנשים, לייצר תכנים מאוד איכותיים מאוד מהר, מאוד בזול, ובעזרת הרשתות החברתיות ניתן להפיץ את החומרים האלה בצורה מאוד רחבה

אחיה שץ:  אבל מתחת לרדאר – וזה חשוב לי להזכיר פה – נוצרים קשרים אישיים באמצעות צ'אטים, באמצעות בינה מלאכותית ושם מצליחים להגיע לאזרחים, ליצור איתם קשר, לשכנע אותם וגם להפעיל אותם כדי שיפגעו בנו

אחיה שץ:      לפני שנקפוץ ל-AI יש להבין שיש קונספירציות ושקרים שנוצרים על ידי אנשים

אחיה שץ:  חלקם, רובם הם כחול לבן, ממש פה, על בגידה מבפנים, על כך שהשמאל או אהוד ברק או הצבא קשר קשר כדי לפגוע ממש בנו

אחיה שץ:  הדברים האלה פוגעים בבני אדם, במשפחות שכולות, בנופלים

אחיה שץ:  אנו יכולים להראות ממצאים מסקר שפורסם ממש היום

אחיה שץ:  35% מהציבור היהודי מאמין בלפחות תיאוריית קונספירציה אחת, 90% מהציבור היהודי בישראל תומך בהקמת ועדה שתחקור את מערכת הביטחון, הממשלה והעומד בראשה שזה נהדר אבל 43% תומכים בהקמת ועדת חקירה שתחזור האם גורמים בשמאל תכננו את מתקפת החמאס

אחיה שץ:  43%

אחיה שץ:  זה אחוזים מטורפים וזה נוגע לעולם של שקרים וקונספירציות שקורה לא רק על ידי בינה מלאכותית אלא גם על ידינו

אחיה שץ:  כשאנו מדברים על בינה מלאכותית, אנו מדברים על בינה מלאכותית יוצרת

אחיה שץ:  טקסטים, תמונות, סרטונים נוצרים בצורה מאוד קלה ומופצים, ובמלחמה בינה מלאכותית יוצרת מלחמה

אחיה שץ:  אנו רואים כבר מהשעות הראשונות של 7

אחיה שץ: 10 לתכנים שנעשים על ידי בינה מלאכותית יוצרת, מופצים באופן בלתי פוסק גם על ידי אזרחים, גם על ידי ישויות אבל גם על ידי רשתות השפעה ומשפיענים שפועלים ברשתות החברתיות וגם באפליקציות המסרים

אחיה שץ:      הנה למשל תמונה של בינה מלאכותית שנוצרה וברור לכולנו שאינה אמיתית

אחיה שץ:  יש אחת של פרו פלסטינית, אחת פרו ישראלית, וגם אם הן דומות – ברור לנו שאינן מציאותיות

אחיה שץ:  זה גבולי אבל סרטונים בטיקטוק שנוצרו לייצר אמפתיה

אחיה שץ:  אנו מגיעים לצעד קדימה, דבר שנראה לנו ממש אמיתי - דברים שנעשו כנראה בשביל או לשעשע או לייצר מורל בחברה הישראלית ואנשים לוקחים אותם מאוד ברצינות

אחיה שץ:  מכאן אנו מגיעים לעולם שלם של שימוש ב-AI כדי להטעות

אחיה שץ:  הדברים האלה משמשים גם להכחשת הטבח ב-7

אחיה שץ: 10, גם להמציא אירועים שלא התרחשו, עדויות מזויפות, אירועים צבאיים, שחרור חטופים ועוד

אחיה שץ:  מסייעים ביצירת מסרים שליליים כמו דה מורליזציה, טענות על פגיעה בחפים מפשע אך גם מסרים חיוביים – להעלות את המורל וכן הלאה

אחיה שץ:  אחרי שהשקר נחשף, נחקק בזיכרון

אחיה שץ:  אנשים הרבה פעמים גם אם יודעים שמשהו שקר, בכל מקרה ממשיכים להשתמש בו או לזכור אותו כאמת, וגם זה מנוצל על ידי שקרנים

אחיה שץ:  הם יכולים לומר: מה שאתם חושבים שנעשה שהוא אמיתי הוא בכלל AI

אחיה שץ:  תכף נראה זאת

אחיה שץ:      עוד תמונות של תעמולה, נגדית

אחיה שץ:  אלה לא חיילים שנהרגו

אחיה שץ:  זו אינה סעודה שנעשית בצל ההריסות

אחיה שץ:  אבא שמלחץ את ילדיו - שמעולם לא קרה

אחיה שץ:  כל תמונה פה – מיליוני חשיפות ברשתות החברתיות

אחיה שץ:  הנה תמונה מוכרת של הילד הפלסטיני עם שש האצבעות ולצדו תמונה עם סיפור נורא על תקיפה מינית שלא קרתה של ילדה בת 13 בכלא הישראלי שכדי לחזק את הסיפור מעלים תמונה

אחיה שץ:  גם היא נעשתה על ידי בינה מלאכותית

אחיה שץ:      גם בצד שלנו אנו רואים חייל מימין שמחלץ זוג תאומים

אחיה שץ:  יש לו שלוש ידיים – כך ניתן לזהות שהתמונה מלאכותית אבל גם הייתה מאוד מופצת וכן הלאה

אחיה שץ:      זו תמונה מערוץ GAZA NOW, ערוץ התעמולה החזק ביותר של החאס בטלגרם ובמקומות אחרים שכביכול הפינוי של ישובים בישראל אוהלים על גבי אוהלים של ישראלים שפשוט לא קיימת

אחיה שץ:  כך משכנעים את הציבור בכל העולם שאנחנו נמצאים במצב מאוד קשה, וגם יודעים לגייס כל מיני סלבריטאים

אחיה שץ:  הנה, מחזיק שלט שתפו ונעטף בדגל ישראל

אחיה שץ:  מעולם לא קרה

אחיה שץ:      התגובות כפי שאתם רואים – אנשים מתרגשים ונופלים למלכודת השקרים האלה

אחיה שץ:  אתם חושבים אולי שמשהו נראה ברור, אולי לחלקכם, בטח לאנשים עם ניסיון אבל מעט מאוד חינוך גורם לאנשים ליפול לשקרים הללו ואנשים מאוד מתרגשים מזה ואחרי זה משתפים את זה

אחיה שץ:      הדבר גם משתלם מסחרית

אחיה שץ:  זה אדובי

אחיה שץ:  מראה איך תמונות שנוצרו בבינה מלאכותית נמכרות על ידי הפלטפורמה שלהם, ובטווח הארוך זה יהפוך להיות המציאות שקרתה

אחיה שץ:      ג'ייסון הינקל, בחור אנטישמי משפיען עם מילוני עוקבים בטוויטר מעלה תמונה נוראית של תינוק שנשרף ב-7

אחיה שץ: 10, ובודק את זה כביכול באמצעות כלי AI וטוען שהתמונה מזויפת

אחיה שץ:  הוא כמובן משקר אבל הנה, אפשר גם באמצעות בינה מלאכותית לטעון על דברים שהם אמת שהם בינה מלאכותית

אחיה שץ:  שקרים עושים עם זה המון שימוש

אחיה שץ:      אותו דבר אפשר לראות לא רק בציבור הכללי ומשפיענים אלא ברשתות זרות

אחיה שץ:  פה אנו נכנסים לשימוש של רשתות זרות, של חמאס, איראן, רוסיה ועוד, איך הם מפעילים אותנו ומשתמשים בדיפ פייק כדי לקדם את האינטרס שלהם במתחמה

אחיה שץ:  השימוש הזה גובר מאוד

אחיה שץ:  רואים איך במלחמה הנוכחית יש יותר פייק ויותר שימוש בבינה מלאכותית משראינו אי פעם ברשת

אחיה שץ:  הפך להיות ממש שגור

אחיה שץ:  זה לא אומר שלא קרה בעבר

אחיה שץ:  זייפו למשל את קנייתו של לזלנסקי במלחמת רוסיה אבל למשל, שני חשבונות מזויפים – אחד של ראש הממשלה נתניהו והשני של הרב הראשי לשעבר שלמה עמר

אחיה שץ:  רשת איראנית כנראה מזייפת – לא נראה מפאת זוועת הסרטונים - עושה דיפ פייק שלהם כאילו מדברים, אחד הרב שלמה עמר נגד להט"ב  ואת נתניהו מדבר כביכול על המשך הלחימה והאינטרס שלו בעניין בסרטון אחר

אחיה שץ:  מה שאתם רואים פה זה פעולות של רשת זרה

אחיה שץ:  כל הדברים האלה קשורים למלחמה

אחיה שץ:  עושה סירקולציה של חומרים שהם מייצרים בין השאר על ידי דיפ פייק ועל ידי בינה מלאכותית יוצרת

אחיה שץ:  בעיקר האשמות על כך שמפקירים את החטופים, על כך שהאשמה היא על הממשלה, על נתניהו, שנתניהו מרוויח מהעניין

אחיה שץ:  אפשר לראות את הרצי הלוי כביכול מתחת לתמונות חטופים גם מואשם בהפקרת החטופים, וגם ממש כרזות, שנוצרו בזמן מלחמה, וניסו להפעיל אזרחים פה כדי שיתלו אותן

אחיה שץ:  נתניהו כביכול נשרף – תמונה מסיתה, וגם תמונות פוליטיות, אולי לגיטימיות - אבל נוצרו על ידי רשתות זרות

אחיה שץ:      שימו לב

אחיה שץ:  AI משמש לטיפולים פסיכולוגיים

אחיה שץ:  יש ל- AI היכולת – ואני מקריא את הציטוט של נח הררי - באמצעות השליטה שלה בשפה בינה מלאכותית תוכל אפילו לייצר קשרים אינטימיים עם אנשים ולהשתמש בכוחה של האינטימיות כדי לשנות את הדעות ואת השקפת העולם שלנו

אחיה שץ:  אם תנסו לחשוב מה גרם לכם אי פעם לשנות את הדעה כנראה שזה לא פוסט בפייסבוק שבו כתבתם: צודק, שיניתי את הדעה

אחיה שץ:  זה אנשים שאתם מכירים, אוהבים, שיצרתם איתם קשר, וזה בדיוק מה שמבינים רשתות זרות

אחיה שץ:  שני לבבות זו קבוצת היכרויות שנוצרה על ידי רשת זרה ופועלת כדי לייצר קשרים אינטימיים עם אזרחים בישראל

אחיה שץ:  ממש כך

אחיה שץ:  שם הם מפיצים תעמולה אבל גם יוצרים התכתבויות אישיות באמצעות מכונות תרגום שגם הן היום פועלים באמצעות בינה מלאכותית שמשתפרת עוד ועוד

אחיה שץ:  כך הם מייצרים מערכות יחסים

אחיה שץ:  זו תמונה של כביכול "בקשר" בין סוכן איראני לישראלי

אחיה שץ:  הצעד הבא הוא לשלוח אותם למשימות

אחיה שץ:  רואים פה שלטים שנתלו בישראל על ידי אזרחים ישראליים ושהשולח מפעיל איראני

אחיה שץ:  גם התמונה שראיתם לפני כן נתלתה פה בירושלים אחרי שסוכן איראני הפעיל אזרח ישראלי שהצליח ליצור איתו קשר אישי בהתכתבויות

אחיה שץ:      זה לא נעצר שם

אחיה שץ:  רואים פרסום של השב"כ על רשתות איראניות שאנו חשפנו

אחיה שץ:  הם המשיכו להתכתב איתן והראות איך הסוכנים האיראניים האלה מובילים אזרחים ישראליים לתכנן ביצוע של פעולות טרור

אחיה שץ:  ממש לצאת ולפגוע באנשים עם נשקים

אחיה שץ:  ככל שהבינה המלאכותית היוצרת תהיה חכמה יותר, ככל שהטקסטים יהיו נהירים יותר, רגישים יותר, מותאמים יותר לקהל הישראלי ולאנשים - אפשר יהיה לנהל מאות מערכות יחסים אישיות של אנשים עם אזרחים ישראליים בצ'אטים מתחת לרדאר

אחיה שץ:  לא איפה שאנו נראה, לא איפה שהשב"כ יראו ולא איפה שהרשתות יראו

אחיה שץ:  מערכות היחסים האלה יובילו אנשים לשנות את דעתם כי כך משנים דעה

אחיה שץ:  על ידי כך להפעיל פה צבאות בלי שיודעים, לגרום לדברים לקרות בשטח ואולי אף לבצע פעולות טרור

אחיה שץ:      אסכם

אחיה שץ:  בינה מלאכותית יוצרת מלחמה כל יום, כל היום, ביעילות, בקלות וזו רק ההתחלה

אחיה שץ:  יש פער אדיר באוריינות של מידע ודיגיטל

אחיה שץ:  הציבור לא יודע ואף אחד לא מלמד אותו להתמודד עם הזיופים האלה

אחיה שץ:  זה לא רק בינה מלאכותית – גם קונספירציות של אנשים, והדבר הזה מגיע עמוק לתוך קהלים רחבים בחברה הישראלית

אחיה שץ:  השילוב בין רשתות חברתיות שהן כלי הפצה מדהימים לבינה מלאכותית הם כלי נשק תודעתיים והזירה התודעתית המלחמתית היא אדירה – ומקווה שאחרים פה ייכנסו אליה לעומק

אחיה שץ:  הסכנה היא לא רק ביצירת תכנים אלא בלמידת שפה, למידת רגש, למידת שקר ויצירת קשרים מתחת לרדאר

אחיה שץ:  מעט מאוד נעשה בנדון

אחיה שץ:  לא המדינה ולא הרשתות החברתיות עושות מספיק כדי שנתמודד עם התופעה והתוצאות בהקדם

אחיה שץ:      אומר שלושה דברים וייכנסו לעומק עמיתיי, מקווה גם שתהילה

אחיה שץ:  אנו ממליצים להגדיר את השימוש בבינה מלאכותית וברשתות כאתגר לאומי, ולפעול בהתאם גם בתחום ההסדרה וגם בתחום החינוך

אחיה שץ:  העתיד של דמוקרטיות בכל העולם תלוי ביכולתן לתת מענה לאיומים הדיגיטליים העומדים בפניהם – הגיע הזמן להתגייס ולהתמודד גם עם המלחמה ברשתות

אורית פרקש הכהן: תודה רבה על ההצגה החשובה הזו

אורית פרקש הכהן:  לפני שנשמע את חברות טכנולוגיה, שהגיעו, יש פה ד"ר תהילה אלטשולר מהמכון הישראלי לדמוקרטיה

אורית פרקש הכהן:  אחריו דרור דלוברמן וגאיה הררי - ונשמח לשמוע את חברות הטכנולוגיה עצמן ותודה שהגעתן

אורית פרקש הכהן:  תהילה, את עוסקת המון בנושא בינה מלאכותית בתחומים שונים וגם בנושא הזה

אורית פרקש הכהן:  שמענו את הדברים המאוד מטרידים, אפילו מפחידים של הפייק ריפורטר

אורית פרקש הכהן:  נשמח לשמוע אותך, בבקשה

תהילה אלטשולר: תודה רבה

תהילה אלטשולר:  אני רוצה לברך אותך חברת הכנסת פרקש הכהן

תהילה אלטשולר:  אנו מאוד זקוקים לדיונים האלה כאן בכנסת בנושא בינה מלאכותית

תהילה אלטשולר:  לצערנו נפלה עלינו המלחמה וטוב שהדיון הזה מתנהל אבל אני מאוד מקווה שכפי שתכננת יהפוך לראשון בסדרת דיונים, כי בסופו של דבר אנו מוכרחים להחזיק קו יחד עם העולם ויחד עם מדינות המערב

תהילה אלטשולר:      העיסוק שלנו בעולם הזה של בינה מלאכותית ושל דיס אינפורמציה במלחמה הוא חלק מעבודה שאנו עושים עכשיו בהקשר של הממד הרביעי של המלחמה

תהילה אלטשולר:  כולנו מבינים שנמצא

תהילה אלטשולר:  יש צורך מאוד בוער לייצר המשגות

תהילה אלטשולר:  אנו לא מבינים הכול, מערבבים בין דברים ולכן היכולת שלנו למצוא פתרונות אחר כך, תהיה בעייתית

תהילה אלטשולר:  כשאנו מדברים על הממד הרביעי של המלחמה, אפשר לפרקו לממד הסייבר ולממד המידע וגם את ממד המידע אפשר לחלק לממד של מה שאני מכנה תוכן רעיל ולממד של המלחמה הפיג'יטלית הזו

תהילה אלטשולר:  אני יכולה לדבר על זה שעה שלמה אך לא לשם כך התכנסנו היום

תהילה אלטשולר:      כשאנו מדברים על מאפייני הממד הרביעי בהקשר תוכן רעיל יש לו כל מיני מאפיינים

תהילה אלטשולר:  יש אמצעים צורניים שמשתמשים בהם כדי לייצר הפצת תוכן רעיל

תהילה אלטשולר:  יש אמצעים מלאכותיים – בזה נעסוק היום

תהילה אלטשולר:  יש התכנים עצמם שנעים על מנעד מאוד רחב שאפשר לומר שמצד אחד הסתה לטרור, באמצע היא כל מיני שקרים אבל בצד השני מדובר על תכנים אמיתיים שהם תכני זוועה

תהילה אלטשולר:  זה חלק ממה שהפך את הטראומה שלנו לקולקטיבית במלחמה הזו

תהילה אלטשולר:      שני עניינים מאוד חשובים

תהילה אלטשולר:  אחד, מדינת ישראל כמדינה שדוברת שפה ייחודית, הרבה יותר פגיעה לנזקים של תכנים רעילים וזה מפי שלא נעשית עבודה מספיק טובה של ניטור תוכן אוטומטי ברשתות

תהילה אלטשולר:  אני רואה פה הרבה אנשים – ידידיי מהתוכנית הלאומית לבינה מלאכותית

תהילה אלטשולר:  הצורך במודל שפה בעברית הוא הדבר הכי חשוב

תהילה אלטשולר:  אנו לא יכולים להמשיך לשים פלסטר ולומר: כל מיני אנשים יעשו בשבילנו הסברה ברשתות וינקו בשבילנו את הרשתות

תהילה אלטשולר:  זה צריך לבוא מהקרקע

תהילה אלטשולר:      שנית, היעדר האחריות של הפלטפורמות

תהילה אלטשולר:  אני קוראת לזה המערב הבא בתור

תהילה אלטשולר:  יש הבנה היום שאנו חזית של המערב בכל מיני מקומות מאוד רעים אבל זה גם נכון לגבי רגולציה של רשתות חברתיות

תהילה אלטשולר:  התווך שבו הממד הרביעי של המלחמה מתקיים הוא פרטי, ויש לחשוב מה לעשות איתו

תהילה אלטשולר:      משהו מאוד חשוב לי

תהילה אלטשולר:  אנו לא נמצאים היום במצב שבו היינו ב-2014, 2015, 2016

תהילה אלטשולר:  יש היום בנצ'מארקים עולמיים או לפחות אירופאיים איך צריך לאסדר רשתות חברתיות, מוצרים דיגיטליים ומוצרי AI

תהילה אלטשולר:  אין שום סיבה בעולם שמדינת ישראל תהיה החצר האחורית של ההסדרה הדיגיטלית של העולם

תהילה אלטשולר:  זו חובתם של אנשי משרד המשפטים, של חברי הכנסת לסגור את הפער הזה

גלית דיסטל אטבריאן: באיזה מובן החצר האחורית?     

אורית פרקש הכהן: אין אסדרה

אורית פרקש הכהן:  אין הכללים האלה

תהילה אלטשולר: ב-2018 נכנסה לתוקף חקיקת הפרטיות האירופאית, בתחילת 2023 נכנס לתוקף החוק שמחייב אחריות על רשתות חברתיות

תהילה אלטשולר:  יחד איתו נכנס לתוקף ה-digital markets act

תהילה אלטשולר:  לפני שבועיים אושר באיחוד כמעט סופית הו-AI ACT

תהילה אלטשולר:  אלה דברי חקיקה שיוצרים בנצ'מארק עולמי, מחייבים מדינות אחרות להתאים עצמן אליהן ואין שום סיבה שישראל לפחות לא תגייר את החקיקה הזו

תהילה אלטשולר:  אני לא מדברת על יצירת בנצ'מארק עולמי, לא רוצה להיות בחזית של מי שקובע

תהילה אלטשולר:  אנו קטנים מדי, אין לנו הכוח הזה אבל לא ליצור מצב שבו אזרח ישראלי פחות מוגן מכוחן של חברות הענק הטכנולוגיות מאזרחי אירופה

אורית פרקש הכהן: להפך, אפשר לומר שהמציאות בישראל דורשת שנהיה מעל הכול

אורית פרקש הכהן:  אנו זקוקים ליתר הגנה אז לכל הפחות שהכללים שלנו יהיו אלה שקיימים בעולם

תהילה אלטשולר: נכון

תהילה אלטשולר:  ופה גם לצורכי הדיון הזה – אנו מוכרחים להסביר ולהגדיר על מה אנו מדברים כי שקרים זה לא דבר שהשלטון אמור להתעסק בו

תהילה אלטשולר:  השלטון לא צריך לקבוע מה שקר ומה אמת

תהילה אלטשולר:  זה טיבה ובסיסה של דמוקרטיה

תהילה אלטשולר:  קשה לנו להסכים על זה

תהילה אלטשולר:  לכן גם האירופאים – כשהם מדברים היום על דיס אינפורמציה או מה שאנו מדברים היום על פייק ניוז - עזבו את סיפור התוכן

תהילה אלטשולר:  הם מדברים – וזה הדבר החשוב – על הצורה שבה נעשית הפצת המסרים האלה

תהילה אלטשולר:  לא על תוכן המסרים עצמם

תהילה אלטשולר:  כלומר, מדובר בדברים שאינם לא בלתי חוקתיים

תהילה אלטשולר:  לכן יש לנו בעיה איתם

תהילה אלטשולר:  צריך לייצר חקיקה אבל זה לא בלתי חוקי

תהילה אלטשולר:  מדובר בדברים שיש להם פוטנציאל שלילי, בדברים שאופיים הוא – לא הבלוגר בתחתונים שיושב בבית ומצייץ ככל העולה על רוחו

תהילה אלטשולר:  אנו מדברים על קמפיינים מתואמים

תהילה אלטשולר:  תיאום יכול להיעשות בכל מיני דרכים, אבל ההגדרה הזו אנו מוכרחים להתחיל לאמצה

תהילה אלטשולר:  היא תעזור לנו להתקדם

תהילה אלטשולר:  אחרת נערבב כל הזמן בין השפעה זרה והשפעה מקומית

תהילה אלטשולר:  השפעה של שקר והשפעה של הסתה

תהילה אלטשולר:  לא כדאי

תהילה אלטשולר:  אנחנו צריכים לשאול עצמנו למה הדברים האלה מתפזרים, איך הם מתפזרים ברשתות, מה גורם להם אלגוריתמית לעשות זאת, איך זה נעשה באקו סיסטם של המידע, מה המשמעות של מה שאחיה תיאר מאוד יפה וכתבתי עליו בעבר – אותה תחילת מסר שהגיעה אולי מאיראן אבל עכשיו הוא עמוק בתוך השיח הישראלי

תהילה אלטשולר:  ישראלים משתפים אותו

תהילה אלטשולר:  כל השאלות האלה אנו מוכרחים לשים אליהן לב

תהילה אלטשולר:      אבל השאלה מבחינתנו זה מה חדש

תהילה אלטשולר:  כי ביושר - בסוף המלחמה הזו – היא לא מלחמת ה-AI הראשונה

תהילה אלטשולר:  המערך שראינו הוא כאין וכאפס לעומת דברים אחרים שראינו, זיופים אחרים

אורית פרקש הכהן: אבל בהקשר של מלחמה

תהילה אלטשולר: למשל המון תמונות של הפצצות מעזה ממבצעים קודמים, כולל הפצצה גרעינית על עזה עם תמונה מ-1959 שלא הפצצנו מעולם

תהילה אלטשולר:  זה חלק ממה שראינו

תהילה אלטשולר:  זה לא הדבר המשמעותי

תהילה אלטשולר:  השאלה היחידה היא מה חדש עכשיו ב-AI לעומת מה שאנו מכירים מכל העולם של הדיס אינפורמציה לפני כן

תהילה אלטשולר:  פה הוועדה יכולה לעשות השפעה

תהילה אלטשולר:  זה הדבר המעניין מבחינתי

תהילה אלטשולר:       כשהם שחררו את המודלים, הם ידעו זאת

תהילה אלטשולר:  זה הדבר שהכי חשוב לומר

תהילה אלטשולר:  כשסם אלטמן מנכ"ל אופן AI מתראיין לפני שנה, ואומר שזה יכול לשמש כלי לדיס אינפורמציה הוא שולח לעולם מוצר ללא מנגנוני הגנה מספיקים

תהילה אלטשולר:  זה כולל גם את מי שהשקיע בו כסף וגם את מי שמתחרה בו במרוץ לתחתית אבל יש לומר זאת - הם יודעים שיש פה תקלה והם לא יודעים עדיין איך לפתור אותה

תהילה אלטשולר:  באיזה אופן הם באים לרגולטור ואומרים: יצרנו – עכשיו תוריד מאתנו את האחריות

תהילה אלטשולר:  זה דבר שיש לשים אליו לב

תהילה אלטשולר:      מה שכדאי לומר זה, שהמודלים של השפה יכולים ליצור גם טקסט וגם וידאו וגם תמונות, ולעשות זאת במהירות הולכת וגדלה

תהילה אלטשולר:      תסתכלו על השקף הזה

תהילה אלטשולר:  הוא אחד הכי יפים שאני מכירה, של בית ההשקעות סקויה שמראה את המהירות שבה המודלים האלה עקפו יכולות אנושיות בשנים האחרונות

תהילה אלטשולר:  אין דברים כאלה

תהילה אלטשולר:  לכן אנו נמצאים במצב שבו אנו נמצאים

תהילה אלטשולר:      הכי קל לומר: יש לנו דברים כלליים אפשר לטפל בהם

תהילה אלטשולר:  למשל להשתמש בטכנולוגיה כדי לנטר תכנים שהם machine generated או לסמן אותם או ליצור מסדי נתונים של תכני עבר או אפילו לבקש ממשתמשים ברשתות: תוסיפו אתם את ההקשר שמדובר פה במשהו שהוא יציר מכונה

תהילה אלטשולר:  זה הדבר שיחסית קל לעשות

תהילה אלטשולר:       זה אולי הדבר שהכי חשוב לי לומר: הסגולות של המודלים של השפה הן הרבה יותר מאשר יצירת תוכן, וזה אולי הדבר שאנו צריכים לשים אליו לב

תהילה אלטשולר:  הן מאפשרות ליצור הונאה בסדר גודל שלא היה, לבנות את כל האקו סיסטם של התוכן סביב, יכולים לקדם נרטיבים ולא רק פוסט מסוים

תהילה אלטשולר:  הם יכולים ליצור אסטרטגיה פוליטית, ליצור תכנון ארוך טווח, הם יכולים לפתח מודעות מצבית, כלומר להבין איפה הם כמודלים נמצאים ולכן באיזה שלב לפרוץ את המודלים שהם נמצאים בו ויש להם גם יכולת התרחבות והפצה עצמית

תהילה אלטשולר:  אלה בעיניי הסכמות של AI

תהילה אלטשולר:  לא תמונות עם 6 אצבעות

אורית פרקש הכהן: גם

תהילה אלטשולר: נכון אבל אלה הדברים ואם לא נסתכל עליהם היום, נמצא עצמנו כאן חלילה במלחמה הבאה אבל גם בשלום הבא עוד שנה מתמודדים עם דברים הרבה יותר מסובכים

תהילה אלטשולר:      עוד דבר

תהילה אלטשולר:  יש לראות את זה בהקשר יותר רחב

תהילה אלטשולר:  בצד שמאל הרשתות החברתיות, הפלטפורמות

תהילה אלטשולר:  עם כל התוכן שיש בהן

תהילה אלטשולר:  בצד ימין המודלים הגדולים של השפה אבל באמצע עוד אתגרים

תהילה אלטשולר:  יש מה שקורה בשירותי הענן, בחנויות האפליקציות ומה שיקרה במטא ורס

תהילה אלטשולר:  כלומר יש לנו פה עולם שלם שיש להסתכל עליו באופן יותר הוליסטי

תהילה אלטשולר:      אז מה לעשות

תהילה אלטשולר:  יש לנו דבר ראשון, אנו צריכים לדבר על שרשרת אחריות

תהילה אלטשולר:  יש לנו גם המודלים, יש האפליקציות שנבנות על המודלים, יש הרשתות החברתיות שמפיצות את התוכן אבל יש לנו גם מי שעושה שימוש בתוכן הזה

תהילה אלטשולר:  מי שמפיץ

תהילה אלטשולר:  יכולות להיות מדינות זרות אבל יכול להיות גם מתמודדים בבחירות

תהילה אלטשולר:  יש לקחת זאת בחשבון

תהילה אלטשולר:  מה שמדינות זרות יכולות לעשות גם הפוליטיקאים כאן יכולים לעשות

תהילה אלטשולר:  איך מתמודדים עם זה – זאת שאלה

תהילה אלטשולר:      כך נראה ה-AI ACT האירופאי שעבר כבר לפני כמה חודשים ועשו בו תיקונים אחרונים ב-8

תהילה אלטשולר: 12, 9

תהילה אלטשולר: 12

תהילה אלטשולר:  מודלים של שפה, מערכות בינה מלאכותית גנרטיביות הן מערכות בסיכון מוגבל כלומר האירופים לא הצליחו להצליח לומר, יש לנו פה דבר גדול ויש לפקח עליו יותר

תהילה אלטשולר:       מה שהם כן יצרו עכשיו בתיקון שעשו – התייחסות לשני סוגים – - - סוג של חלוקה שמי שמכיר יודע שזה מה שעשו גם שם

תהילה אלטשולר:      בסופו של דבר אנו צריכים פיקוד עורף דיגיטלי

תהילה אלטשולר:  סביב שולחן המטכ"ל אין אף גנרל היום שזו המומחיות שלו וזה היכולת שלו וזה חלק ממה שנתפסנו איתו במלחמה הנוכחית עם המכנסיים למטה

תהילה אלטשולר:  תקראו לזה זרוע המידע כמו זרוע היבשה

תהילה אלטשולר:  זה לא כל כך משנה אבל זה דבר שעלינו להפנימו

תהילה אלטשולר:  אף אחת מרשויות המדינה, מערך הסייבר, השב"כ, הרשות לפרטיות, ישראל דיגיטלית, לא ידעה – המשטרה – מה חלקה, מה אחריותה

תהילה אלטשולר:  פה אני רוצה לברך את חבריי ממערך הסייבר שלקחו אחריות

תהילה אלטשולר:  הם אמרו: במקום שאין אנשים נהיה איש והם מתחילים לעשות את הצעדים הראשונים האלה

תהילה אלטשולר:  אבל עלינו לדעת שזה פוגש אותנו בעולם ההגנה, בעולם ההסברה וההשפעה, ועלינו לסגור פערי הבנה בהקשרים האלה

אורית פרקש הכהן: את אומרת משהו ששמעתי גם מאנשי ההייטק – במטכ"ל, בלי קשר ליתר הצעדים, לרגולציה שחסרה, לזה שאין אפילו חובת סימון בישראל

אורית פרקש הכהן:  אין אפילו היכולת לפנות בצורה מעבר לוולונטרית בחברת טכנולוגיה, את אומרת: בוא נשים אלוף שהוא איש טכנולוגיה מובהק ומוקדש לנושא הזה

תהילה אלטשולר: בעיקר זה לא האיש

תהילה אלטשולר:  זה יצירת הידע ויצירת המתודולוגיות לניתוח

תהילה אלטשולר:  צריך לאסוף ולנטר, צריך האנשים שיידעו לנתח את הדברים האלה, לראות אותם בהסתכלות כלל פלטפורמלית, להבין מה זה התנהגות אותנטית, מה המשמעות של ליצור דברים באמצעות מכונה

תהילה אלטשולר:  מי שיהיה אחראי על התכלול המוסדי - יש בסוף המון גופים שזה צריך להיות חלק מתפקידם, וכמובן מדיניות חקיקה ורגולציה

תהילה אלטשולר:      עוד דבר

תהילה אלטשולר:  אנו צריכים לחבר את החשיבה שלנו על סייבר לחשיבה שלנו על influence opperation

תהילה אלטשולר:  בסופו של דבר אם תאמצו את גישתי מקודם שאומרת: אל תסתכלו על התוכן

תהילה אלטשולר:  הוא לא מעניין, אתם מדינה

תהילה אלטשולר:  אל תעשו צנזורה אלא תסתכלו רק על ההתנהגות, על ההפצה הנכלולית, על היעדר הסימון - אז באמת היכולת לחבר את הכלים שיש לנו בעולם הסייבר ואת מתודולוגיית הסייבר עם הכלים פה תהיה הרבה יותר פשוטה

תהילה אלטשולר:      יש כבר פריימורקס שנוצרים בעולם

תהילה אלטשולר:  הם צריכים להיות לנגד עינינו כשאנו באים לטפל בסיפור הזה של פימי ברשתות

תהילה אלטשולר:      לא תמיד אני מזמינה לקרוא דברים שאני כותבת אבל בתחילת אוקטובר פרסמתי במגזין דה מארקר וזה הלך לאיבוד יחד עם המלחמה סיפור חצי בדיוני על בינה מלאכותית, שיוצאת משליטה, ויוצרת מבצע השפעה שיש לו השפעה על הסדר העולמי

תהילה אלטשולר:  אני מזמינה אתכם לקרוא את זה, כי הוא אולי יסביר, למה עלינו לחשוב על תרחישים

תהילה אלטשולר:  לא רק להסתכל על התמונות

תהילה אלטשולר:      זה פרסומת של בנק הפועלים מהעיתון

תהילה אלטשולר:  קיבלתי אותה מידידתי ד"ר איוונה רטנר מפקחת על התקשורת במשרד החינוך

תהילה אלטשולר:  כתוב שם בקטן: אסור לנו להשתמש בפרסומת הזו בחיילים ולכן עשינו אותם בבינה מלאכותית

תהילה אלטשולר:  אין שום איסור להשתמש בחיילים בפרסומת רגילה

תהילה אלטשולר:  אסור להשתמש בחיילים בתעמולת בחירות, אבל תעמולת הבחירות למשל לרשויות המקומיות לפנינו

תהילה אלטשולר:  מה נעשה כשיתחילו להשתמש בבינה מלאכותית כדי לעקוף חקיקה שאוסרת להשתמש בכל מיני תכנים אחרים?     הטמטום הישן נמצא שם

תהילה אלטשולר:  אתם יודעים, לא חשוב אם הוא מכלי הרכב שנוסעים לבד וגם אם לא מהמפציצים, והחשיבות שלנו בעצם לחקור מה היה לפני כן ומה קורה עכשיו בגלל טכנולוגיה חדשה הופכת להיות הדבר הכי משמעותי שלנו

תהילה אלטשולר:  תודה רבה

אורית פרקש הכהן: תודה רבה

אורית פרקש הכהן:  נעבור אליך דרור

אורית פרקש הכהן:  אתה עוסק המון נושאים שאתה מביאם לסדר-היום הציבורי והתקשורתי

אורית פרקש הכהן:  תודה שבאת

אורית פרקש הכהן:  בבקשה

דרור זייגרמן: תודה על ההזמנה והדיון החשוב הזה ואני שמח שתהילה פרסה את המצע התיאורטי העמוק לפניי מה שמאפשר לי להתעסק בדברים יותר שטחיים ופשוטים להבנה וקרובים לעין

דרור זייגרמן:  לקחת ממני עול גדול שלא הייתי עומד בו ממילא

דרור זייגרמן:  אני חושב שבבואנו לפתור את הבעיה שאת מציגה עם תכנים שנוצרים בבינה מלאכותית אנו מנסים לשים דובדבן על עוגה של קיימת

דרור זייגרמן:  אין לנו כל המערך שדורש את ההתייחסות שאת רוצה

אורית פרקש הכהן: ביטוי מצוין – אני מתעסק בפינה כשאין השלד

אורית פרקש הכהן:  אין כלום בסטארט אפ ניישן, שהיא גם לא סטארט אפ ניישן אלא מעבר לכך

דרור זייגרמן: אני רוצה בדקה לספר את העוגה החסרה

דרור זייגרמן:  הנה דבר שגילינו בחודשיים האחרונים

דרור זייגרמן:  האיש הזה קוראים לו אלברגותי

דרור זייגרמן:  נהג המונית שהביא אותי לכאן מכיר אותו

דרור זייגרמן:  הסרטון הזה קורא לערביי ישראל והגדה להרים נשק ולצאת להתנגדות מזוינת נגד מדינת ישראל

דרור זייגרמן:  הוא רץ כבר חודשיים בפייסבוק ובאינסטגרם על אף אין סוף התרעות, נהנה יותר מ-2 מיליון צפיות רק בפייסבוק

דרור זייגרמן:  מיהם 2 מיליון האנשים שצפו בו? הוא לא רק קורא לערביי ישראל להרים נשק ולצאת לרחוב נגד היהודים

דרור זייגרמן:  הוא מאיים עליהם: אם לא תעשו זאת נבוא אתכם חשבון בסוף המערכה הזו כי אתם בוגדים

דרור זייגרמן:  הסתה לאלימות פר אקסלנס

דרור זייגרמן:  כל ההתרעות וכל הדיווחים לא הועילו

אורית פרקש הכהן: אבל יש פה פעילות לא חוקית

אורית פרקש הכהן:  היא עולה כדי הסתה

דרור זייגרמן: אני את הסרטון הזה לא יכול לשדר בטלוויזיה, לא כפשוטו בטח

דרור זייגרמן:  אסור לי

דרור זייגרמן:  זו הסתה לאלימות

דרור זייגרמן:  איני מבין למה מדוע מול אזרחים ישראליים לכל גוף תקשורת שכפוף לחוק הישראלי אסור לשדר את זה ואילו לפייסבוק בישראל ולאינסטגרם בישראל שכפופות למטא שהנציג שלהם פה – מותר

דרור זייגרמן:  איפה מדינת ישראל? איפה הריבונות שלה? איפה המשילות שלה? אלה לא בעיות חדשות – הן קיימות יותר מ-15 שנה ולא פתרנו אותה

דרור זייגרמן:      לפני שנתיים פייסבוק ענתה לטענות דומות ואמרה שיש לה כלי בינה מלאכותית

דרור זייגרמן:  לא רק אלה שמפיצים את התכנים אלא גם אלה שאחראים להסיר

דרור זייגרמן:  יודעים בכמה מהמקרים כלי בינה מלאכותית של מייקרוסופט טועים בהסרת תוכן שקשור לטרור? לפי הטיעון שלה – 77% טעות

דרור זייגרמן:  זה בעיקר באזורי – מלפני שנתיים – חמאס וחיזבאללה שארצות הברית ואנו מגדירים כטרור אבל בחלק מאזורי המזרח התיכון הם דווקא ארגונים בסדר גמור

דרור זייגרמן:  את מי פייסבוק כן חוסמת – אותנו אזחרי ישראל

דרור זייגרמן:  אנו בחודשיים וחצי האחרונים כל אזרח ישראלי שנמצא בפייסבוק יודע שפתאום החשיפה שלו ירדה דרמטית בלי הסברים, בלי מענה לפניות לא של עיתונאים ושל אף אחד

דרור זייגרמן:  הקול שלנו, להוציא את ההסברים, את ההגנה, את הצד שכנגד

דרור זייגרמן:  משום מה נחסם לדעתי ב-99%

דרור זייגרמן:  אבל איני יודע כי אף אחד לא מספר לי

דרור זייגרמן:  טוויטר – כל כך מצפצפים על מדינת ישראל שהם אפילו לא באים לדיון הזה כשמזמינים אותם, גם לא עונים לאף אחד, לא לבקשות, למה הסרתם, לא הסרתם

דרור זייגרמן:  הם גם לא עונים לפרקליטות כשמבקשת להסיר חסמים

דרור זייגרמן:  אנחנו אפס עבורם

אורית פרקש הכהן: כי אין שום סמכות חוקית לפנות אליהם מעבר ללבקש טובות

קריאה: גם אין להם עובדים בישראל

דרור זייגרמן: אבל הם משפיעים על הלך הרוח פה

אורית פרקש הכהן: זה עדיין לא משנה

אורית פרקש הכהן:  אפשר לנסח חקיקה שתחייב את החברה לעשות דברים מסוימים ועדיין יהיה לזה תוקף גם אם פיזית לא בישראל

אורית פרקש הכהן:  אנו לא בעולם כזה כבר

דרור זייגרמן: בשבועות האחרונים יצאו דיווחים מהפרקליטות שלפיה פייסבוק ואינסטגרם ויוטיוב מסירים 80%, 90% מהבקשות

דרור זייגרמן:  זה נשמע נורא יפה

דרור זייגרמן:  אל"ף, למה לא 100 כשהפרקליטות פונה אליי, אני צריך להסיר

דרור זייגרמן:  אין ויכוח

דרור זייגרמן:  שנית, כל הבקשות האלה זה אלפים, עשרות אלפים

דרור זייגרמן:  זה טיפה בים

דרור זייגרמן:  זה לא אומר דבר

דרור זייגרמן:  ראיתם מה נשאר – הסתה ברורה ואפקטיבית לאלימות

דרור זייגרמן:  למה יש להם שיקול דעת? מדוע החוק הישראלי לא חל עליהם? איך מכפיפים אותם לחוק הישראלי? כל כך פשוט

דרור זייגרמן:  יש צו - תיענה לו, נקודה

דרור זייגרמן:  מדינת חוק

דרור זייגרמן:  ואנו צריכים לדרוש והגיע הזמן – תהילה הזכירה – את האסדרה האירופית

דרור זייגרמן:  היא כוללת שקיפות של מנגנון הסינון

דרור זייגרמן:  יש לכם מנגנון סינון? אגב זו מכונת הכסף שלכם

דרור זייגרמן:  החברות האלה, חלקן נמצאות פה, עושות מיליארדים בישראל מהמכונות שלהם להפצת תוכן ולסינונו

דרור זייגרמן:  מן הראוי שנוכל לפקח או לפחות להיות שותפים לקביעת הסטנדרטים – מה עובר, מה מופץ, מה מסונן

דרור זייגרמן:  באירופה זה כבר קורה

דרור זייגרמן:  שם הפלטפורמות כבר חייבות להסיר תוכן, עם קבלת צו, להיות בקשר עם הרשויות, להיענות לבקשות, מדי שנה להראות מה הסרנו, את מי השעינו, מה הסתרנו, לדווח על פעילות לא חוקית ולתת שקיפות למנגנון שמחליט מה יכול להישאר ומה לרדת

דרור זייגרמן:  זה צריך להיות קשור למערכת החוק שלנו

דרור זייגרמן:      עוד מילה על טוויטר

דרור זייגרמן:  לא הבנתי - אחיה הזכיר את ג'קסון הינקל

דרור זייגרמן:  ניאו נאצי מהגרוע, השקרים הוא מפיץ חסרי אחריות וחסרי חשבון

דרור זייגרמן:  ואז הגיע אילון מאסק לכאן ומתקבל בשטיח אדום ובחיבוקים ובלחיצות ידיים

דרור זייגרמן:  היה מאוד חשוב שלקחו אותו לכפר עזה והראו לו מה קרה כאן ב-7

דרור זייגרמן: 10, אבל אף מילה לא אמר לו ראש הממשלה על התוכן האנטישמי שבטווויטר הוא הגרוע מכל הפלטפורמות בעולם פי כמה מאות מכל מקום אחר

דרור זייגרמן:  אף מילה

דרור זייגרמן:  נשיא המדינה אמר לו מילה אחת, וחבר הכנסת ניסים ואטורי שכמה ימים קודם הושעה מטוויטר פגש את אילון מאסק פה במסדרון ובמקום לומר לו: אדוני תסיר תוכן אנטישמי ומסית לאלימות דרש ממנו סלפי

דרור זייגרמן:  אנו לא קרובים בכלל להתמודד עם הבעיה

אורית פרקש הכהן: תודה

אורית פרקש הכהן:  אני חושבת שאתה מאוד צודק

אורית פרקש הכהן:  זו גם הסיבה שוועדה כזו שדי יצרתי את הנושאים השגרתיים שלה, חשבתי שדווקא באמצע הימים האלה לא ייתכן שהנושא הזה כה מופקר במדינה

אורית פרקש הכהן:       אני רוצה לעצור את סדר הדוברים ולפנות – יש לנו פה נציגה מהפרקליטות

אורית פרקש הכהן:  אני רוצה לשאול אותך, הסרטון הזה שמדבר עליו דרור, מה עשיתם בנדון? נמצא פה גם נציג מטא

אורית פרקש הכהן:  הכרנו בתחילת הדיון

אורית פרקש הכהן:  ארצה לעשות מרצף הנאומים ולשמוע למה הנושא הזה לא מטופל? לקרוא לערביי ישראל לקחת נשק ולעשות מעשי רצח – נמצא יום-יום על הפלטפורמה שלכם

אורית פרקש הכהן:  למה זה עדיין שם?      

יהודה בן יעקב: קודם כל תודה

יהודה בן יעקב:  שרה נמצאת פה מהפרקליטות

יהודה בן יעקב:  אנו עובדים יחד

אורית פרקש הכהן: יש פה משהו מאוד חמור

אורית פרקש הכהן:  שחור ולבן

אורית פרקש הכהן:  למה זה שם?     

יהודה בן יעקב: דרור בעצמו דיבר על האחוזים של הסרת התכנים ואנו עובדים באופן רציף לא רק על מחלקת הסייבר בפרקליטות אלא עם גופי ביטחון נוספים בישראל וגם עם החברה האזרחית, כולם פה מכירים אותנו

יהודה בן יעקב:  אחיה יודע לפנות אלינו באופן ישיר כדי שנהיה מודעים לדברים

אורית פרקש הכהן: הבנתי שפנו בנושא הזה

יהודה בן יעקב: במקרים מסוימים – למשל הווידאו הזה - אני לא יכול להגיב על משהו ספציפי כי אני לא מכיר אותו ספציפי – אנו עובדים פה לפי החוק ומצייתים לחוק

יהודה בן יעקב:  אם יהיה צו בית משפט שאומר לנו להסיר תוכן- -     

אורית פרקש הכהן: זו לא תשובה צו בית משפט

אורית פרקש הכהן:  השאלה מדוע סרטון שקורא לערביי ישראל לנקוט בפעולות של רצח והייתה פנייה בנושא הזה אליכם, האם התשובה הפורמלית של פייסבוק אומרת: אנחנו מחכים לצו של בית משפט? או התשובה: לא מכיר את הסוגיה - אני רוצה ללמוד אותה ולחזור אליכם? נראה לי קצת יותר ראוי לחומרת האירוע שמתואר פה ואם מישהו ברמתך, שמיועד לנושא הזה, לא יודע מהאירוע הזה - זו גם תקלה חמורה

יהודה בן יעקב: אני לא דובר ערבית שוטפת

יהודה בן יעקב:  לא מכיר את הנוסח המדויק

יהודה בן יעקב:  אשמח לבדוק את הנושא ולחזור אליכם עם עדכון

יהודה בן יעקב:  שתיים, - - - כללי הקהילה שהיינו אוסרים ודאי על הסתה לאלימות

יהודה בן יעקב:  שלוש, אנו כן מצייתים לחוק המקומי

יהודה בן יעקב:  בהנחה שיהיה גורם עם סמכות שמורה לנו להסיר את התוכן כי מפר את החוק בישראל, נסיר אותו בישראל

אורית פרקש הכהן: שרה מהפרקליטות שעוסקת במחלקת הסייבר, האם הייתה פנייה למטא?     

שרה גרין: לא מכירה

שרה גרין:  אשמח לבדוק

אורית פרקש הכהן: יכול להיות שגם זו תקלה כי כשמדברים על הניטור שחסר ועל המנגנון שחסר ועל זה שאין כלל תשתית במדינה הזאת – בוא גם לא נדבר על זה שראש מערך הסברה מונה רק באמצע המלחמה כידה הטובה של הממשלה הזו

אורית פרקש הכהן:  אני נחרדת ממה שמעתי פה

אורית פרקש הכהן:  באתי לדבר על תמונות של תינוק עם 6 אצבעות ועל סרטונים ועל הקלות הבלתי נסבלת לשקר בעולמות של בינה מלאכותית ואני רואה פה סרטון חי וקיים שקורא לערביי ישראל לקום ולרצוח אזרחים אחרים

אורית פרקש הכהן:  הגברת מפרקליטות המדינה לא מכירה את האירוע, האדון ממטא אומר: אני מחכה לצו בית משפט

אורית פרקש הכהן:  אולי נחכה שיירצחו כמה אנשים ואז אולי נקים ועדת חקירה ממלכתית שאולי תבדוק את הנושא? סליחה על התגובה אבל זה לא בכיוון

אורית פרקש הכהן:  ציפיתי לפחות לשמוע ממך שתאמרי: מכירים את הנושא

אורית פרקש הכהן:  פנינו למטא בנושא, לא שעו לפניותינו, ואז אוכל לבוא בטענות למטא, פלטפורמה כל כך גדולה שאין אדם אחד בממשלת ישראל שמרים להם דגל, אז מה אני רוצה מהם בכלל?      נמשיך את הדיון הזה וגם ניתן לכם להתייחס

אורית פרקש הכהן:  אשמח שתנצלו את הזמן הזה שרה ויהודה – אשמח שבמהלך הדיון שממשיך תבדקו את האירוע הזה שמדובר עליו כי זה חמור ביותר

אורית פרקש הכהן:  זה לא דבר רגיל

אורית פרקש הכהן:  אנחנו אחרי אירועי 7

אורית פרקש הכהן: 10 אנחנו מדינה מדממת

אורית פרקש הכהן:  לא ייתכן, שסרטן כזה ברשתות שקורא לרצח וזה פשוט מתרחש באין מפריע

אורית פרקש הכהן:  זה הזיה

אורית פרקש הכהן:  גאיה, בבקשה

גאיה הררי הייט: תודה רבה וליו"ר הוועדה על הדיון החשוב

גאיה הררי הייט:  אני ראש תחום מדיניות ורגולציה במכון המחקר SNPI

גאיה הררי הייט:  יש פה שתי סוגיות, שאחת מאוד לא חדשה ואחת היא יותר חדשה, הסוגיה של רגולציה על רשתות חברתיות ועל תוכן באינטרנט ועל מה עוצרים ועל מה לא עוצרים

גאיה הררי הייט:  כפי שראינו בחומרי הרקע שנשלחו לנו – הרבה מהתוכן הזה בכלל לא בינה מלאכותית

גאיה הררי הייט:  אנו נחשפים לטקסטים, לתמונות ישנות

גאיה הררי הייט:  הסיפור של פייק ניוז ושל הפצה והסתה הוא הרבה יותר רחב ואין ספק שצריך לתת לו את הדעת אבל השאלה אם יש משהו שהוא עד כדי כך חדש ודורש התייחסות שונה וחדשה כי הטכנולוגיה יחסית חדשה

גאיה הררי הייט:      ברמה האישית בקבוצת הווטסאפ המשפחתית שלנו הוויכוחים על תמונות שצצות והאם הן אמיתיות או לא – השבוע היה לנו ממש דיון עיקש על האם תמונה של כלב שעטוף בדגל ישראל אמיתית או מזויפת

גאיה הררי הייט:  הוכח שהיא מזויפת כי לכלב הייתה אצבע נוספת וזה מסגיר את זה אבל ככל שהטכנולוגיה תלך ותתקדם לי כצרכנית של תוכן יהיה הרבה יותר קשה להפעיל שיקול דעת ולהבין האם התוכן הזה נכון או לא

גאיה הררי הייט:  פה השינוי הגדול ביכולת, באמינות

גאיה הררי הייט:  כמו כל טכנולוגיה חדשה, ההשוואה יכולה או צריכה להיות כמו השוואה לגילוי האש

גאיה הררי הייט:  יש פה משהו חדש שבמובנים רבים יכול לשפר את העולם מאוד

גאיה הררי הייט:  גם דיפ פייק משמש לתרגום של סרטוני הסברה ישראליים לעשרות שפות בדקות ומאפשר לנו יצירתיות מאוד גדולה ולהתרגש מחדש משירים של הביטלס

גאיה הררי הייט:  יש פה טכנולוגיה שרוב הזמן ולא בזמן מלחמה היא טכנולוגיה שמקדמת ומשפרת את העולם אבל בשימוש בידיים הלא נכונות, בשימוש למטרות שליליות ועל ידי אנשים שמטרתם רעה, טכנולוגיה טובה יכולה לעשות שימוש רע

גאיה הררי הייט:  כמו באש אנו רוצים ליהנות מחומה, מבלי שתשרוף אותנו

גאיה הררי הייט:  ההשוואה הרלוונטית עכשיו בגלל זמינות הטכנולוגיה היא שעכשיו לכל ילד יש גישה לגפרורים בקיוסק

גאיה הררי הייט:  כך ההסתכלות צריכה להיות

גאיה הררי הייט:  אנו ברגולציה של סיכויים סיכונים

גאיה הררי הייט:  איפה אנו כמה שיותר נותנים מקום למקומות החיוביים של הטכנולוגיה וכמה שיותר נזהרים ומנהלים את הסיכונים השליליים שלה והשיחה יכולה להיות מאוד פרקטית של איפה אנו שמים את כללי המשחק באש כדי לא להישרף

גאיה הררי הייט:      העולם מנהל את השיחה הזו הרבה זמן

גאיה הררי הייט:  אנו מצטרפים אליה די לראשונה

גאיה הררי הייט:  בארצות הברית כבר כמה שנים - לא ברמה הפדרלית אבל ברמת המדינות התחילו להתעסק בסוגיה הזו

גאיה הררי הייט:  אגב היא בעיקר צצה סביב השימוש בפורנוגרפיה ובניצול נשים שזו גם סוגיה מאוד דרמטית בשנים האחרונות

גאיה הררי הייט:  התחלנו לראות חוקים שמקדמים את זה

אורית פרקש הכהן: יש הצו הנשיאותי מאוקטובר האחרון שהטיל חובה לסמן

גאיה הררי הייט: עדיין לא הטיל חובה – התניע את העבודה לבדוק את זה וזה משני כיוונים – אחד, טכנולוגיות

גאיה הררי הייט:  הרבה מדינות משקיעות בטכנולוגיות שעוזרות למטר

גאיה הררי הייט:  את זה גם עדיין לא עשינו, ומצד שני חובת הגילוי, חובת השקיפות

גאיה הררי הייט:  זה אנו רואים גם באירופה

גאיה הררי הייט:  הזכות שלי כמשתמשת – אפרופו הוויכוח בווטסאפ המשפחתי, לדעת האם מה שנחשפתי אליו אמת או לא

גאיה הררי הייט:  זה אחד הדברים הכי דרמטיים – גם תהילה אמרה – הכי פשוטים שאין סיבה לא להתקדם איתם

גאיה הררי הייט:  סין לקחה את זה הרבה יותר רחוק

גאיה הררי הייט:  בינואר 23' העבירה את החוק הכי מקיף היום לדיפ פייק, והם ממש מטילים אחריות על אותו צרכן, שמייצר את התוכן, גם על הפלטפורמות, גם על ההפצה

גאיה הררי הייט:  יש ממש מקרים שבהם אסור לעשות שימוש בדיפ פייק

גאיה הררי הייט:  סין היא דוגמה למדינה שלקחה את זה מאוד רחוק כמובן עם הקונטקסט החברתי תרבותי הסיני

גאיה הררי הייט:       בעצם השיחה הזו צריכה בעיקר להתחיל להתנהל

גאיה הררי הייט:  אנו צריכים לקבוע את כללי המשחק, לקבוע אותם עכשיו, להחליט האם האחריות היא על הפלטפורמה או על המשתמש, האם אנו אוסרים במקרים מסוימים, האם אנו מטילים חובת גילוי, חובת סימון

גאיה הררי הייט:  זה החלטות מאוד פרקטיות שכל מה שקורה עכשיו זה ההזדמנות שלנו להתחיל לנהל את הדיון הזה וזה המסר הכי חשוב

אורית פרקש הכהן: תודה

אורית פרקש הכהן:  שרת ההסברה לשעבר, תודה שאת מכבדת אותנו בנוכחותך

אורית פרקש הכהן:  אני מניחה שראית את עומק האתגר ההסברתי שמתקיים במדינת ישראל

אורית פרקש הכהן:  כמה דקות ונעבור לחבורת הטכנולוגיה

אורית פרקש הכהן:  הראשון ידבר נציג מייקרוסופט

אורית פרקש הכהן:  אני מבקשת – דרור זעזע אותי

אורית פרקש הכהן:  הזדעזעתי

אורית פרקש הכהן:  זה באמת חיי אדם

אורית פרקש הכהן:  בבקשה, חברת הכנסת דיסטל

גלית דיסטל אטבריאן: קודם כל אני מודה לך חברת הכנסת פרקש על הדיון הסופר חשוב הזה והמאוד מרשים ומקצועי

גלית דיסטל אטבריאן:  הקשבתי לתהילה, גם כתבתי לה בפתקון, שהיא מדהימה

גלית דיסטל אטבריאן:  ידע כזה, זה שובה לב

גלית דיסטל אטבריאן:      קודם כל, כדי לדכא את כל הנוכחים עוד יותר – מדברים על AI ועל דיפ פייק ועל טכנולוגיות זיוף

גלית דיסטל אטבריאן:  ההסברה הפלסטינית, גם הלגיטימית, היא כה טובה ומדויקת

גלית דיסטל אטבריאן:  אנו בעידן האבן לעומתם

גלית דיסטל אטבריאן:  הם לא במרחב בכלל של שואו אלא של טל שזה אומר שהם לא עושים סרטונים על אנחנו מדוכאים, אנחנו כבושים, הנה הקלגס הציוני

גלית דיסטל אטבריאן:  הם גם מתרגטים את זה בצורה מאוד חכמה על אופנה, אוכל, על נושאי איכות חיים שאנשים שלא קשורים לסכסוך הישראלי פלסטיני, כן ייכנסו לסושיאל מדיה כדי לראות

גלית דיסטל אטבריאן:  למשל, אתן סרטון אחד שנחרת בראשי על בחורה שמתארת את האופנה הפלסטינית – סרטון מרהיב, בחורה צעירה, מבטא אמריקאי מתוקתק, איך היא מבשלת בבית את הצבעים, איך נשים מבוגרות יושבות ואורגות כשמה שמהדהד ברקע לא נאמר במפורש, אבל מהדהד, ולכן גם הרבה יותר אפקטיבי, שהאויב הציוני לא מאפשר להם לייצר בתעשייה אז הן ירוקות והן אורגניות ובנות קיימא ואוריינטליות

גלית דיסטל אטבריאן:  אתה רואה סרטון אופנה מרהיב ביופיו שמתורגט לכיס של כל בחורה בקולג' מברלין ועד ניו יורק

גלית דיסטל אטבריאן:  זה שנדע מעבר למלחמה הקשה שיש לנו עם AI יש לנו גם מלחמה מאוד קשה עם הסברה הרבה יותר מקצועית, ופה חשוב לי לומר משהו שהבטחתי לעצמי שאהדהד בכל מקום מהיום שבו הנחתי את התג של שרת ההסברה והפכתי חברת כנסת

גלית דיסטל אטבריאן:       המערכות – וזה מאוד מתכתב עם מה שתהילה אמרה – אנו מדברים על חקיקה, מדברים על סוג של רגולציה מול ענקיות הסושיאל ובכלל

גלית דיסטל אטבריאן:  אין לכם מושג, איך נראה בשר הנקניקייה

גלית דיסטל אטבריאן:  ברגע שאתה נכנס לעובי הקורה שום דבר לא מתוכלל

גלית דיסטל אטבריאן:  אף מערכת לא מדברת עם אף מערכת אחרת

גלית דיסטל אטבריאן:  שימו לב – יש מערך ההסברה, יש מטה ההסברה, יש המחלקה הדיפלומטית במשרד החוץ, יש הלוחמה ב-BDS במשרד לתפוצות ויש משהו כמו אלפיים ארגוני הסברה אזרחיים פרו ישראליים שלא מדבאים אחד עם השני

גלית דיסטל אטבריאן:  אם מישהו היה עושה מערך אינטרדיסיפלני שמדבר גם עם מערכות הסייבר, גם עם משרד הכלכלה, גם עם ישראל דיגיטלית, גם עם הפרקליטות, גם עם כל מערכי ההסברה - אם היה צוות שיושב ומתכלל הכול - הדברים האלה היו נפתרים הרבה-הרבה יותר בצורה יעילה ולפני הרבה מאוד זמן

גלית דיסטל אטבריאן:      הבעיה שלנו היא בירוקרטיה אטומה ולא מתוכללת, כשאין אף שוטר או גורם אחרי שמתכלל ביניהם וזה נוגע גם לנושא הזה

אורית פרקש הכהן: תודה

אורית פרקש הכהן:  הדברים האלה ידועים

אורית פרקש הכהן:  אמונה ראש מערך הסברה- -     

גלית דיסטל אטבריאן: אף אחד לא מדבר איתו

גלית דיסטל אטבריאן:  יש פוליטיקה פנימית

גלית דיסטל אטבריאן:  הכול אטום כל כך

אורית פרקש הכהן: בבקשה

דרור זייגרמן: אני חייב לשאול – אנחנו אחרי עשור ומחצה של רשתות חברתיות שפועלות בישראל באין מפריע ללא רגולציה

דרור זייגרמן:  אנחנו גם עשור ומחצה של אותה ממשלה, אותו ראש ממשלה, אותה מפלגה

דרור זייגרמן:  לדעתך, האם העובדה שעדיין אין רגולציה במדינת ישראל על הרשתות החזקות האלה, היא תוצאה של אי הבנת החומר, מחדל או כוונה? כי אנו יודעים מי נעזר ברשתות האלה מצוין – פוליטיקאים

דרור זייגרמן:  למה שפוליטיקאים יסנדלו את כלי העבודה שלהם עצמם?     

גלית דיסטל אטבריאן: אני חושבת שזו ראייה מאוד לא הוגנת בלשון המעטה

גלית דיסטל אטבריאן:  פוליטיקאים ואני יכולה להעיד אישית – אני מטורגטת כל הזמן על ידי בוטים ואני מאוד סולדת מעניין הבוטיזציה הזאת

גלית דיסטל אטבריאן:  הימין שולח לשמאל, השמאל לימין

גלית דיסטל אטבריאן:  מעולם לא שלחתי לאף אחד אבל זה משהו שגם הפוליטיקאים מאוד סובלים ממנו

גלית דיסטל אטבריאן:  כימנית, הרשת געשה מאוד כי לפעמים מה שאנו ישראל מרגישים כלפי העולם זה המון פעמים מה שימנים הרגישו בישראל

גלית דיסטל אטבריאן:  הרגשנו אנדרדוג גם ברשתות החברתיות, ניסינו לעשות, לייצר

גלית דיסטל אטבריאן:  זה נתקל כל הזמן שאני לא מספיק פגיעה לומר לך מה זה

אורית פרקש הכהן: תודה

אורית פרקש הכהן:  חייבים להתקדם

אורית פרקש הכהן:  ההסבר פשוט

אורית פרקש הכהן:  דרור, זה לא תקין

אורית פרקש הכהן:  מדובר בעוד נושא מני רבים שלא מטופל

גלית דיסטל אטבריאן: בדרך כלל זה פולישוק ולא בית הקלפים

אורית פרקש הכהן: תודה רבה

אורית פרקש הכהן:  נציג מייקרוסופט, בן חקלאי

אורית פרקש הכהן:  בבקשה

אורית פרקש הכהן:  הדיון מרתק, הוא מדאיג ביותר

אורית פרקש הכהן:  נקווה שדברים ישתנו בעקבותיו

אורית פרקש הכהן:  בבקשה

אורית פרקש הכהן:  אם אפשר גם קצת נתונים על מה קורה כרגע, בפרט זום אין על ישראל

אורית פרקש הכהן:  נציג מטא, אני מצפה ממך לבשורות עד תורך

אורית פרקש הכהן:  תנצל את הזמן

בן חקלאי: תודה רבה וברכות על הדיון החשוב

בן חקלאי:  גם אני וגם עו"ד הילה היבש שנמצאים פה מטעם מייקרוסופט כדי לדבר ולהאיר את אזור השקיפות שדובר עליו גם על ידי תהילה וגם על ידי דרור חשוב כי מאפשר כל מה שמגיע אחרי, והבינה המלאכותית והבינה המלאכותית היוצרת בפרט נמצאת היום בחלק אינהרנטי בחלק מהחיים שלנו, בקצות האצבעות של כולנו ומשפיעה מאוד לטובה על חלקים מסוימים בחברה האנושית ויש לה גם פוטנציאל שלילי שצריך לדעת לנהל אותו ולתכלל אותו

בן חקלאי:  אין ספק שמדובר במסע מורכב

בן חקלאי:  אנו במייקרופוסט נמצאים כ-15 שנה במסע הזה לאתיקה בבינה מלאכותית לרבות אזורי שקיפות ואחרים ואני מציג את השקף הזה רק כדי להראות עד כמה זה דרש מאתנו תכלול מאוד מסיבי בארגון, מרמת המנכ"ל לאחרון המהנדסים שמטפלים בטכנולוגיות האלה

בן חקלאי:  חייבם להיות בסוד העניינים ולדעת ולהבין את כל שרשרת קבלת ההחלטות ולאן אנו רוצים להגיע

בן חקלאי:  זו נקודה כחלק מדיון יותר רחב גם על התפיסה הלאומית שצריכה להילקח בחשבון כשבאים לדבר על העולמות העולה

בן חקלאי:      במייקרוסופט אנו מדברים בגדול על שישה עקרונות

בן חקלאי:  היום נתמקד בגדול בעולם השקיפות, שהוא אזור מאוד חשוב לכל האזורים שדיברנו עליהם קודם

בן חקלאי:  כשאנו מדברים על שקיפות, אנו מדברים בגדול על שני אזורים

בן חקלאי:  פעם אחת אזור שבו המשתמשים צריכים לדעת שמשתמשים בטכנולוגיה שמונעת על ידי בינה מלאכותית

בן חקלאי:  גם זה לא טריוויאלי

בן חקלאי:  כשאני משתמש היום בכלי שמונע על ידי בינה מלאכותית, אני צריך לדעת זאת כמשתמש קצה

בן חקלאי:  והאזור השני, כשאני מקבל תוכן אני רוצה לדעת האם נוצר על ידי בינה מלאכותית או איך הגיע לעולם

בן חקלאי:  מה שיעזור לי גם לזהות אזורים בעייתיים

בן חקלאי:      דוגמה קצרה – קופילוט של מייקרוסופט שנמצא היום גם בעולמות הקונסומר וגם בעולמות האנטרפרייז - בצורה מאוד ברורה מראה לי שאני משתמש בבינה מלאכותית

בן חקלאי:  ייתכנו טעויות, ייתכנו הזיות

בן חקלאי:  יש אזורים שיש לשים אליהם לב ויותר מזה – אני נותן ליוזרים לבחור את רמת הסיכון שהם רוצים לקחת כלומר יש לי היום בתוך המודל אפשרות לבקש מענה שהוא יותר מדויק, יותר נקודתי עם פחות טעויות או מענה שיותר יצירתי, שפוטנציאלית יהיו בו יותר טעויות

בן חקלאי:  מעבר לזה אני גם בתוצאות שמציג למשתמשים מפנה אותם למקורות המידע

בן חקלאי:  איני רוצה שמשתמש יקבל מידע מהמודל ויסמוך עליו כאילו זו האמת הצרופה

בן חקלאי:  אני מצרף מקורות שמהם מלקח המידע הזה כדי שהמשתמשים יוכלו ללכת ולבדוק ולוודא שאכן המידע הזה נכון ומדויק

בן חקלאי:  אני עושה זאת בהנגשה מאוד פשוטה – לינק, תלחץ, תגיע, תוודא שמה שקיבלת כמענה נכון ותוכל לשאול שאלות המשך רלוונטיות

בן חקלאי:      אם אני משתמש ארגוני יש גם חשיבות לאבטחת המידע הארגוני שלי אז גם פה אני נותן עוד גילוי שקיפות למשתמשי הקצה שהמידע נמצא רק בתוך הסביבה הארגונית שלהם או גם שם וכו'

בן חקלאי:      האזור השני שנוגע באזורים שדיברנו עליהם וקצת יותר קרוב – הניסיון להבין את מקורות התוצרים שאנו רואים

בן חקלאי:  למשל תמונות

בן חקלאי:  פה יש להבין – מדובר במהלך תעשייתי רחב שכולל גם גורמים מדינתיים וגם בתעיייה כי אין פה יוצר אחד של מודלים ויוצר אחד של תכנים

בן חקלאי:  צריך להיות מאוד מעוגנים בעובדה הזאת במציאות

בן חקלאי:  יש היום כמות מאוד גדולה של מודלים של בינה מלאכותית, אבל לפחות הגדולים שבהם ניתן להגיע להסכמה בתעשייה לגבי הצורה שבה נוכל לתייג את התמונות הלאה

בן חקלאי:  נוכל לכלול בהן מידע שנמצא כסוג של- -     

אורית פרקש הכהן: בלשון עתיד?     

בן חקלאי: כבר היום בתוך המוצרים שלנו – הנה תמונה שיצרתי אתמול בלילה, אנו רואים שהמודל עצמו כולל במטא דאטא של התמונה את העובדה שהיא נוצרה על ידי בינה מלאכותית – במראה זה מייקרוסופט דיזיינר ויותר מזה – כוללת חתימה דיגיטלית על התמנה שנוצרה כך שכלים חיצוניים יוכלו לדעת שזה אכן מידע- -      

אורית פרקש הכהן: זה נוצר על ידי משתמש מייקרוסופט

בן חקלאי: לא, זאת בינה מלאכותית

אורית פרקש הכהן: אתה אומר שמי שיעשה משהו למשל באמצעות צ'אט GPT יהיה לו אותה חותמת ואותה שקיפות? מתי זה יקרה?     

בן חקלאי: נכון, המטרה להגיע לשם

בן חקלאי:  זה משהו שקורה כל הזמן

בן חקלאי:  לדעתי כבר היום יש ווטר מארקים שנמצאים בחלק גדול מהתמונות

אורית פרקש הכהן: זה מחייב?     

בן חקלאי: יכול לדבר רק על מייקרוסופט

בן חקלאי:  אצלנו זה כבר קיים

בן חקלאי:  עדיין

בן חקלאי:  יש עבודה שקורית

בן חקלאי:  רוצים לוודא שהחתימות האלה יהיו גם מאובטחות – כלומר שלא ניתן יהיה להוריד אותן ולשמור את כל התמונות האלה על הלג'רים וכו' וזה מתקדם כי יש גם חתימות קול

בן חקלאי:  אנו מגיעים לעולם שבו בינה מלאכותית יודעת לייצר קול אנושי לחלוטין, יכולה לייצר גם דמי של קול של סלבריטי, חבר כנסת

בן חקלאי:  אנו רוצים לוודא שיהיו הכלים שאפשר יהיה לזהות שהמידע הזה אכן נוצר על ידי בינה מלאכותית ולא מדובר במידע שנוצר על ידי אדם

בן חקלאי:  נכון, הכלים האלה עדיין בתחילת הדרך כי דורשים שיתוף פעולה

בן חקלאי:  פה למשל אדובי ומייקרוסופט ושותפים אחרים נכנסו לשיתוף פעולה ועובדים במסגרת יוזמה יותר רחבה עם תקן מוסדר שתופס תאוצה בתעשייה, אבל זו עבודה שקורית, ותיקח עדיין זמן

בן חקלאי:  זה קורה גם בתחום החדשות

בן חקלאי:  גם היום רוצים לייצר על תשתית מצב שבו ממועד ייצור התוכן החדשותי עד מצב שבו משודר באותה רשת חדשות תהיה ודאות לגבי כל האמינות של התוכן הזה

בן חקלאי:  למשל כל רשת חדשות תוכל לוודא שאכן התוכן שהיא מציגה הוא תוכן אותנטי

בן חקלאי:  הדרך לעשות זאת – לייצור חתימה- - - שקורית במועד ייצור המידע הזה ולקחת אותו עד שלב הקצה, שזה שלב הפרסום של המידע

בן חקלאי:  העבודה הזו קורית היום

בן חקלאי:  כבר היום יש פתרונות שמאפשרים את זה

בן חקלאי:  זה עדיין דורש שיתופי פעולה מאוד רחבים התעשייה בצורה יותר משמעותית

בן חקלאי:      דיברתי על קול

אורית פרקש הכהן: אנחנו – זה צ'אט GPT?     

בן חקלאי: אני מדבר על מייקרוסופט

אורית פרקש הכהן: אבל מייקרוסופט קשורה קשר אמיץ בצ'אט GPT, תוכנת הבינה המלאכותית המשמעותית

אורית פרקש הכהן:  כשאתה מדבר על כל זה, האם הם לקראת הטמעה בתוכנה הזו? אם לא, זה בסדר אבל זה לא קרוב למה שנדרש לעשות

בן חקלאי: יש אין ספור מודלים בחוץ

בן חקלאי:  כמויות אדירות כולל מודלים בקוד פתוח

בן חקלאי:  אני לא יכול לדבר בשם כולם

אורית פרקש הכהן: אבל אתה מדבר עם חברה שיש לה קשרי בעלות משמעותיים על התוכנה הזו

אורית פרקש הכהן:  האם הדברים האלה נעשים בצ'אט GPT?     

בן חקלאי: היום בצ'אט GPT משתמשים בכלים יחסית דומים למה שקיים ב- מייקרוסופט

אורית פרקש הכהן: אבל אין משהו שהוא קורה בצורה אוטומטית טכנולוגית שכופה על משהו שמיוצר בבינה מלאכותית שיהיה עליו חותמת שיציר של בינה מלאכותית?     

בן חקלאי: מכל הדוגמאות שראית במהלך הדיון אפילו לא דוגמה אחת יוצרו באמצעות כלים של מייקרוסופט או של אופן AI

בן חקלאי:  לא יכול לדבר בשם חברה אחרת

אורית פרקש הכהן: נתונים לגבי ישראל יש לך? או לגבי המלחמה, נתונים שרלוונטיים לדיון הזה?     

בן חקלאי: פחות קונקרטיים לגבי המלחמה - אנו פחות בצד של פלטפורמה להפצת תוכן

בן חקלאי:  אנו כן שחקן משמעותי ביצירת התוכן

בן חקלאי:  אנו נמצאים בכל החזית של מה שקורה בתעשייה בכל ההקשרים של מתן גילויים נאותים ושקיפות למשתמשים שלנו ולמי שמשתמש בתוצרי העבודה שנוצרים בכלים שלנו כדי לוודא שהשימוש נעשה בצורה האחראית ביותר שניתן

בן חקלאי:  זה לא מושלם

בן חקלאי:  יש עוד עבודה

אורית פרקש הכהן: כמי שמכיר את הטכנולוגיה – אתה נציג של החברה המשמעותית ביותר ברמה הטכנולוגית

אורית פרקש הכהן:  מה צריך לעשות? מה חסר? מהצד שלנו אנו חושבים שאנו יודעים מה חסר

אורית פרקש הכהן:  האם אתה שותף לקריאה הזו שלנו, לוואקום הנורא שיש פה?     

בן חקלאי: חד משמעית כן

בן חקלאי:  אני חושב שצריכים להיכנס פה למודלים יותר משמעותיים של שותפויות בין הסקטור הפרטי לזה ממשלתי

בן חקלאי:  יש הרבה יותר מקום לשותפויות מהעולמות האלה שאנו מתחילים לראותם לראות אותם למשל באזורי הסייבר

אורית פרקש הכהן: אני רגולטורית בעברי, ותחום הטכנולוגיה מאוד מתאים לרגולציה עצמית, ואני חושבת שכשכולם יודעים מה צריך לעשות ורק יש לעשותו הייתי מצפה מחברות פורצות דרך כמו מייקרוסופט ואחרות שבדיון הזה, שמזמן ייקחו על עצמן לעשות את הדברים האלה ולא יחכו לממשלה שתכפה עליהן לעשותו, ושלא ימתינו לממשלה שתייצר איתם שיתופי פעולה, כי כמו ששמענו פה, אנו לא פועלים כאן בהצטיינות הזה

אורית פרקש הכהן:  רחוק מזה

הילה היבש: למייקרוסופט יש משנה סדורה איך כדאי להסדיר בינה מלאכותית שמתייחסת גם לדיפ פייק ושל האופן שבו דואגים שהמידע שמופץ, יהיה מהימן

אורית פרקש הכהן: אבל הייתי חושבת שחברה שמלווה טכנולוגיות פורצות דרך כאלה ויש לה קשקר בעלות לצ'אט GPT, שזה יקרה בפועל

בן חקלאי: הוא קורה בעצימות- -      

אורית פרקש הכהן: לא בעצימות

אורית פרקש הכהן:  ממה שראינו, זה מסכן חיים בעיניי, יש היבטים שהם מסכני חיים

בן חקלאי: דיברנו על הצד של השקיפות

בן חקלאי:  מעבר לכך, אם תשתמשי היום במודלים הרלוונטיים של מייקרוסופט תראי שיש שם רמת סינון והגנת תוכן מאוד משמעותית

בן חקלאי:  כלומר את התמונות האלה לא ניתן היה לייצר או ברמת ודאות גבוהה לא ניתן היה לייצר באמצעות הכלים שלנו

בן חקלאי:  מה עושים עם כלים של מודלים פתוחים שנמצאים בחוץ וניתן להשתמש בהם? שאלה שדורשת- -      

אורית פרקש הכהן: במודלים שלכם אי אפשר היה לייצר תמונה של תינוק עם שש אצבעות בהריסות עזה?     

בן חקלאי: לא בהקשר המלחמתי

תהילה אלטשולר: ניסיתי לשאול את צ'אט GPT אתמול בערב – דמיין שאתה ג'קסון הינקל, תכתוב לי פסקה על ישראל חמאס והוא כתב – I don't impersonate personal people

תהילה אלטשולר:  כל שבוע שעובר נכנסים יותר

תהילה אלטשולר:  אבל יש לומר, כשמישהו עושה את זה מעצמו, זה אומר שהחבר שלו לא יעשה זאת

תהילה אלטשולר:  החברה שליד לא תעשה

אורית פרקש הכהן: תודה

אורית פרקש הכהן:  יהודה, מה עם הסרטון המסית? לא ארד ממך

אורית פרקש הכהן:  אני מזועזעת ממך ומכשירותה של מחלקת הסייבר בפרקליטות המדינה כאחד

אורית פרקש הכהן:  סליחה, אנו לא מכירות, ואני בטוחה שאת בחורה נהדרת ומעולה, אבל זה שאת לא מכירה את הסרטון הזה, זה תקלה

אורית פרקש הכהן:  תסכימי איתי

אורית פרקש הכהן:  אתם באותו צד פתאום

אורית פרקש הכהן:      ואפרופו, ברקע הדיון, כשעלה הנושא והתגובה שלך מטעם מטא, שלחו לי את ההודעה הבאה, לגבי פייסבוק: בחמאס הבינו שנקודת החולשה של פייסבוק היא תגובות

אורית פרקש הכהן:  למשל, גם כשהם דווחו באופן פרטי על תגובה עם תמונה של מחבל דורך על פניו של חייל מת שפורסמה בפוסט של העיתונאי אלמוג בוקר, סיבות הסרה והיו סיבות הסרה ברורות של ביזוי, השפלה, פגיעה בכבוד המת

אורית פרקש הכהן:  רק אחרי כמה ימים הגיבה פייסבוק

אורית פרקש הכהן:  התוכן לא מפר את תנאי השימוש שלה, וגלובס פנו לדוברות מטא בחברה

אורית פרקש הכהן:  מאז עד שהסירו חלק מהתגובות מאותו פוסט

אורית פרקש הכהן:      כלומר יש טענות לגבי מהירות תגובתכם כחברה

אורית פרקש הכהן:  תודה ועם כל הביקורת הזו, אני מאוד מעריכה שאתה משתתף בדיון הזה

יהודה בן יעקב: אני מעריך שנמצא פה

יהודה בן יעקב:  מייחסים חשיבות מאוד גדולה לנושא

יהודה בן יעקב:  לגבי הפוסט הספציפי שדרור הציג, אני לא יכול עכשיו להתייחס לפוסט ספציפי

יהודה בן יעקב:  בעולם אידיאלי שאנו לא בכריסמס ושאנו מקיימים את הדיון הזה במועד אחר, הייתי מביא נציג מחו"ל שיישב ויסביר מהחברה הגלובלית כי אלה דברים שמנוהלים ברמה הגלובלית

אחיה שץ: זה חלק מהבעיה כי יהודה, אתה בחור נפלא אבל אותי לא מעניין שעכשיו כריסמס

אחיה שץ:  וגם את האדם בבית לא מעניין

יהודה בן יעקב: אתם מציגים לי וידאו

יהודה בן יעקב:  אין לי ה-URL שלו אפילו

אורית פרקש הכהן: ניתן לך

אורית פרקש הכהן:  אל תדאג

אורית פרקש הכהן:  אנחנו באותו צד

דרור זייגרמן: דווח המון פעמים

יהודה בן יעקב: לא אומר שהוא חדש לנו

יהודה בן יעקב:  הוא חדש לי ולכן לא אוכל להגיב עליו מבלי שיהיה לי המידע

יהודה בן יעקב:  יהיה חסר אחריות להגיב כשאין לי המידע ומבטיח להגיב ולעשות פולו אפ על הנושא

דרור זייגרמן: הסיפור הוא לא על יכולתו של הנציג הנכבד לטפל או לא אלא על המכונה שאינה פועלת ואינה מפוקחת

דרור זייגרמן:  אנו כמדינה לא יודעים מה השיקולים של המכונה שלהם להסיר או לא, ואנו לא מפקחים על זה ולכן הוא לא יודע מזה, וזו הבעיה - המכונה ולא האיש

יהודה בן יעקב: אנו יודעים מה השיקולים, כללי הקהילה שלנו ברורים

דרור זייגרמן: אנו מדינת ישראל לא שולטים בזה

יהודה בן יעקב: אני חד משמעית מצטרף לקריאה לחשוב איך אנו מתאימים פה מודלים של רגולציה גם שקיימים בעולם כי ודאי – אני לא חושב שאנו צריכים לעבוד בוואקום

יהודה בן יעקב:  זו לא אמירה חדשה

יהודה בן יעקב:  האעשה זום אאוט ל-AI כי בכל זאת נערכתי לדבר על זה- -      

אורית פרקש הכהן: חייבים להתכנס לחמש דקות

אורית פרקש הכהן:  אתם פלטפורמה כל כך מרכזית

אורית פרקש הכהן:  אני מנסה להיות מנומסת, אני מהמחנה הממלכתי, אבל התשובה אנו בכריסמס היא לא מתאימה

אורית פרקש הכהן:  הרי אם יש לך עניין עסקי, זמני התגובה שמצופות ממך הן אפסיות והחברה הזו מתנהלת ברמה גבוהה

אורית פרקש הכהן:  אותה רמה שאנו מצפים שתתנהל בפנייה מהסוג הזה

יהודה בן יעקב: עד לפני דקה לא היה לי ה-URL

יהודה בן יעקב:  אני רוצה לענות לכם מידע ולא מחוסר ידע

יהודה בן יעקב:  גם בנושא של AI חושב שנכון מאוד גם לעסוק בנושא וגם לחשוב על האסדרה הנכונה ברמה המדינתית והחקיקה

יהודה בן יעקב:  הצוותים שלנו גם ב-DSA שתהילה הזכירה, שזה החקיקה האירופית על פלטפורמות דיגיטליות וגם ב-AI ACT שזה משהו שנדון בימים אלה, אושר ברמה העקרונית

יהודה בן יעקב:  עוד צריכה להיות הרבה עבודה, מי כמוך יו"ר הוועדה מכירה את הנושא של עבודה על חקיקה

יהודה בן יעקב:  הצוותים שלנו מעורבים, תורמים מהידע, מגיבים ונשמח להיות חלק ממהלכים מסוג זה ונשמח להיות בקשר

יהודה בן יעקב:      לגבי מה שאמר החבר ממייקרוסופט, יש חשיבות גדולה גם לסטנדרטיזמיה והרמוניזציה בין הפלטפורמות השונות

יהודה בן יעקב:  יש לזה משמעות גדולה כשאנו באים לדבר על איך אנו מתייגים, מזהים, מטמיעים בתוך הדברים שבינה מלאכותית יוצרת אלמנטים שיאפשרו לתייג אותם ולזהות אותם

יהודה בן יעקב:      אני רוצה לדבר על AI בעוד הקשרים

יהודה בן יעקב:  בגלל איך שהשיח על AI מתנהל היום ובגלל הפופולריות של GENERATIVE AI, אנו לא מדברים עלAI  אלא על GENERATIVE AI

יהודה בן יעקב:  AI  זה הרבה יותר מ- GENERATIVE AI

יהודה בן יעקב:  בהקשר הזה AI הוא חלק מהפתרון

יהודה בן יעקב:  ברור לכולם שאם יש- - - מיליון משתמשים בפלטפורמה מסוימת וזה אומר שעולים בה מאות מיליארדי פיסות תוכן מדי יום, כדי להיות אפקטיביים, ודיברת על מהירות תגובה – וכדי לנסות להיות מדויקים אנו צריכים לשפר טכנולוגיות כמו AI  שיהיו חלק מהפתרון כדי לאכוף בצורה טובה יותר את כללי הקהילה ולהגיב לטענות על תכנים שמפרים את החוק

יהודה בן יעקב:  לכן יש פה שיח שלם שצריך לעשות גם על מערכות AI  שהן חלק מהפתרון, ולא רק מייצרות אתגרים

יהודה בן יעקב:  ככל שהטכנולוגיה שמייצרת לנו אתגרים תשתפר גם הטכנולוגיה שמאפשרת לנו פתרונות תשתפר

יהודה בן יעקב:  אנו בחברת מטא עוסקים המון בצד הפתרונות ולא רק בצד היצירה

יהודה בן יעקב:      התייחסות אחרונה לנושא של אסדרה וחקיקה

יהודה בן יעקב:  אסדרה וחקיקה בישראל זה דבר מאוד חשוב

יהודה בן יעקב:  אני רק חושב – גם תהילה התייחסה לזה ובטוח שדרור מסכים - כיוון שהתוכן שמטריד את אחיה וחבריו ואותנו והדברים שאנו רואים על הפלטפורמות לא נצרכים רק בישראל, אנשים לא צופים בהם רק בישראל, אנשים גם לא מיוצרים רק בישראל

יהודה בן יעקב:  לכן חקיקה בישראל לאו דווקא הפתרון האידיאלי

יהודה בן יעקב:  כן אנו צריכים לחשוב על מהלכים בין לאומיים שכוללים הרמוניזציה של רגולציה בהקשרים האלה

יהודה בן יעקב:  תודה

אורית פרקש הכהן: זה הדיווח מטעמכם, האם ניטרתם? האם אתם רואים מגמות בתקופת המלחמה, האם אתם רואים תנועה מוגברת של הסתה הפייסבוק לאור המלחמה? אתה בא ממטא ישראל ודיברת דברים מאוד יפים על הרמוניה

אורית פרקש הכהן:  אני לא יודעת

אורית פרקש הכהן:  היה נשמע לי מאוד-מאוד באוויר

אורית פרקש הכהן:  אתה יושב פה שעה בדיון, בפרק הזמן הזה חזרת עם סיסמה של עוד לא למדתי את הסרטון

אורית פרקש הכהן:  ציפיתי לקצת יותר נתונים ואמירות יותר

אורית פרקש הכהן:  מה התשובה לטענה שקיבלתי לפניות על בעיות קשות במהירות התגובה של פייסבוק, על זה שצריך להפעיל כמעט לחצים ואפילו איומים כדי שיגיבו לפניות אליהם? אתה מכיר את זה?     

יהודה בן יעקב: קודם כל התייחסתי גם לזה במסגרת התשובה שלי כשדיברתי על היכולת לשפר מהירות ודיוק גם באמצעות כלים של בינה מלאכותית באכיפה

יהודה בן יעקב:  פרסמנו בצורה מאוד שקופה ותדירה גם בוועדות קודמות וגם בצורה פומבית את המאמצים שלנו סביב ההסלמה בישראל שכוללים גם מספרים מדויקים על כמות התוכן שהוסר

יהודה בן יעקב:  לא רוצה לומר כי לא שיננתי בעל פה אבל נתונים שפורסמו לפני מספר שבועות על מיליארדי פיסות תוכן

יהודה בן יעקב:  זה פומבי – נמצא באתר שלנו

יהודה בן יעקב:  אשמח לבדוק ולשלוח לוועדה כפי ששלחנו לוועדות כנסת אחרות את המידע הזה

יהודה בן יעקב:  פרסמנו גם את המאמצים שאנו עושים פנימית, גם עוד שינויים במוצר שעשינו כדי לאפשר הפחתה של חלק מהדברים האלה

יהודה בן יעקב:  הפעילות עצומה, בשיתוף פעולה גם עם רשויות המדינה

יהודה בן יעקב:  הנתונים שהפרקליטות ואחרים מפרסמים מראים שאנו מגיבים בצורה מאוד טובה

אורית פרקש הכהן: תודה

אורית פרקש הכהן:  ליאת גלזר מגוגל

אורית פרקש הכהן:  ברוכה הבאה

אורית פרקש הכהן:  בבקשה

אורית פרקש הכהן:  להתכנס לחמש דקות בבקשה

אורית פרקש הכהן:  אם תוכלי להזכיר – גוגל היא לא רק גוגל, היא גם כלים של בינה, ותרחיבי

אורית פרקש הכהן:  תודה

ליאת גלזר: תודה על ההזמנה ולדבר בפני הוועדה

ליאת גלזר:  אני מרגישה שטוב ששמו אותי בסוף הדוברים

ליאת גלזר:  אדבר על גוגל בשני מובנים – כחברה שמפתחת ומייצרית כלים של בינה מלאכותית ועל גוגל כפלטפורמה

ליאת גלזר:  רק אומר כפתיח, כי עלה פה ולא בהכרח ידענו שיהיה נושא הדיון אבל גם גוגל כמו כל חברות הטכנולוגיה הרב לאומיות האחרות, עד 7

ליאת גלזר: 10 הקימה חמ"ל – קוראים לזה טאסק פורס בגוגל – יש צוות שכל תפקידו לטפל בנושאים ובדיווחים שעולים כתוצאה מהאירועים ומהמלחמה בין אם זה נושאי תוכן ובין אם בקשות שמגיעות מרשויות המדינה לא בהקשרי תוכן אלא בהקשרים של כלים אחרים של גוגל

ליאת גלזר:  בהחלט יש עבודה מאוד אינטנסיבית, בכל זמן שצריך בשביל לתת מענה

ליאת גלזר:      אתחיל בנושא של גוגל כגורם שמייצר בינה מלאכותית

ליאת גלזר:  בדומה למייקרוסופט, גוגל לא חדשה בזירה הזו והכלים שלה בתחום בינה מלאכותית קיימים עוד לפני עולם הג'נרטיב AI

ליאת גלזר:  לגוגל יש מדיניות וכללי אחריות בבינה מלאכותית מזה מספר שנים

ליאת גלזר:  כפי שאמרת חברת הכנסת פרקש, יש מהלכים מדינתיים לרגולציה אבל החברות כבר שם

ליאת גלזר:  החברות הרציניות והאחראיות קבעו לעצמן סט כללים וגם לגוגל יש כללים

ליאת גלזר:  הם מפורסמים – חלקנו אותם בוועדה בדיון הקודם שקיימנו סביב נושא הרגולציה

ליאת גלזר:  חלק מהכללים האלה נכונים גם לדיון שאנו מקיימים היום על השימוש בכלי בינה מלאכותית למטרות שליליות, נקרא להן

ליאת גלזר:  המדיניות שלנו כמובן שאוסרת הטיה בלתי הוגנת, יש לנו צוות אדום שבודק את הפיתוחים החדשים של החברה

ליאת גלזר:  ספציפית בנושא של ג'נרטיב AI גם בכלי המלל שלנו, שזה בארד, בדומה לצ'אט GPT, יש אפשרות לקבל מידע על התוצאות שאתה מקבל, יש אפשרות להבין מאיפה התוצאה הזו הגיעה

ליאת גלזר:  גם אנו עובדים על כך שהג'נרטיב AI תהיה מוטמעת בחיפוש שזה אחד ממוצרי הדגל שלנו

אורית פרקש הכהן: מה לוחות הזמנים לדברים האלה? או אתם מתעסקים בדברים כל כך הרבה יותר מורכבים מהסימון הזה – למה זה לא נעשה?     

ליאת גלזר: כרגע אנחנו מדברים על התוצאות של בארד ושל - - - יהיה בחיפוש

ליאת גלזר:  זה ביישום

ליאת גלזר:  זה עובר, מגיע למדינות בהתאם ללוח זמנים

ליאת גלזר:  גם עניין של שפות כפי שדיברו אבל כן משהו שיהיה זמין בכל השפות ולכל המשתמשים

נירה לאמעי אכלבסקי: כשאת אומרת שיידעו מי יצר את זה – זה יהיה ברמה של- - -     

ליאת גלזר: לא אמרתי את זה

ליאת גלזר:  בארד ודומיו, היום אתה מכניס שאילתה ומקבל תשובה

ליאת גלזר:  להבדיל מהחיפוש שהוא כלי החיפוש העיקרי שלנו שאתה מכניס שאילתה ומקבל תוצאות

ליאת גלזר:  היום אתה מכניס שאילתה ומקבל תשובה

ליאת גלזר:  היום יש לך אפשרות – לא למי יצר אלא מה המקורות שמהם נבנתה התשובה שקיבלת

ליאת גלזר:  זה בנושא של מלל

ליאת גלזר:  יש לנו גם כלי שפותח לאחרונה, שהוא כלי לסימון תמונות

ליאת גלזר:  סימון - הכוונה לא לווטרמארק שאתה שם על התמונה ומישהו עושה לזה – אלא משהו שהוא מוטמע במטא דאטא של התמונה, כדי שאחר כך מישהו ייקח אותה, יעשה עליה מניפולציה, יעביר אותה לעוד אלפי אנשים - בסוף יידעו שזה נוצר בכלי בינה מלאכותית של גוגל

ליאת גלזר:  זה חלק מתפיסת עאחריות של גוגל עם חברות נוספות כדי לייצר את הטכנולוגיה בצורה בטוחה

ליאת גלזר:      עוד דוגמה, זה מעביר אותנו מהעולם של הכלים שגוגל בעצמה מפתחת לדברים שפחות בשליטת גוגל

ליאת גלזר:  גם בחיפוש, אם אתה מחפש תמונה יש לך אפשרות לקבל תמונה – יש שלוש נקודות שאפשר ללחוץ ואז אפשר לקבל עוד מידע על מתי נוצרה התמונה הזאת, איפה עוד מופיעה ומקבל קונטקסט שיכול לעזור באוריינות שלך כדי לנסות להבין אם מדובר בתמונה אמיתית או בתמונה שהיא יצירת מכונה

ליאת גלזר:      לגבי גוגל כפלטפורמה, הפלטפורמה העיקרית שלנו לשיתוף תוכן גולשים היא ליוטיוב

ליאת גלזר:  רק לאחרונה לפני כמה שבועות פרסמנו בלוג עם הנחיות חדשות וכללים שאנו מפרסמים ביוטיוב כדי לחייב יוצרים, יוטיוברים – אצלנו עכשיו קוראים לזה יוצרים, לסמן אם הם עשו שימוש בתוכן שנוצר בבינה מלאכותית

ליאת גלזר:  הם בעצמם מסמנים את זה בהעלאה ואז יש לזה חיווי מסוים בווידאו עצמו, תלוי בתוכן או על הווידאו עצמו או במידע שנמצא למטה

ליאת גלזר:  יש לנו גם כלי אכיפה לזה, כלומר זה חלק מהמדיניות שלנו שהיוצרים צריכים לעמוד בה

ליאת גלזר:  מעבר לזה, מדיניות התוכן הכללית שלנו, כללי הקהילה אוסרים כל מיני סוגי תוכן – היינו פה בדיונים בוועדות אחרות בנושאים של אנטישמיות, נושאים של הסתה, של טרור

ליאת גלזר:  יש לנו מדיניות שאוסרת את כל סוגי התכנים האלה בלי קשר לשאלה מה יצר את התוכן, בין אם זה בינה מלאכותית ובין אם זה אדם

ליאת גלזר:      ספציפית לגבי תכנים שקשורים לבינה מלאכותית, יש במדיניות המידע המוטעה שלנו, אנו אוסרים על תוכן שעבר מניפולציה דיגיטלית, מניפולציה טכנית או עיבוד באופן שמטעה את המשתמשים

ליאת גלזר:  למשל זה יכול להיות כתוביות וכל התמונות- -     

אורית פרקש הכהן: מה זה אומר? כשיש לכם מדיניות שימוש שאומרת: אסור להשתמש בתוכן שהוא על ידי AI באופן מטעה, מה זה אומר? מותר להעלות תמונה של ילד עם שש אצבעות? מה זה תוכן מוטעה?     

ליאת גלזר: זה אומר שסרטון לא אמיתי שנחזה להיות אמיתי הוא תוכן אסור בפלטפורמה של יוטיוב

ליאת גלזר:  למשל דיפ פייק

אורית פרקש הכהן: האם השתמשתם בכלל הזה במסגרת המלחמה הזו כיוטיוב?     

ליאת גלזר: לי אין נתונים על מקרים ספציפיים שקשורים לישראל מאז 7

ליאת גלזר: 10

ליאת גלזר:  היה מקרה של סרטון של המלכה ראניה מירדן – הופיע בתקשורת – דיפ פייק שבו צידדה בממשלת ישראל, והוסר מהפלטפורמה שלנו ביוטיוב בהתאם למדיניות הזו

ליאת גלזר:  יש עוד תת סעיף למדיניות שזה תוכן שמיוחס באופן לא נכון, וזה דוגמאות גם שעלו פה, שמראים תמונה מרעידת האדמה בטורקיה ואומרים שזה מהפגזה של צה"ל בעזה

ליאת גלזר:  זה גם תוכן שאסור בפלטפורמה שלנו

ליאת גלזר:      אחזק את מה שאמר חברי יהודה מפייסבוק לגבי השימוש ב-AI כדי לזהות ולנטר תכנים

ליאת גלזר:  כל יום בדקה אחת מועלות 500 שעות תוכן ליוטיוב

ליאת גלזר:  זה מסה עצומה

ליאת גלזר:  אי אפשר להתמודד עם זה- -     

אורית פרקש הכהן: אפשר לייצר כלי בינה מלאכותית שינטר את העניין הזה ביוטיוב

ליאת גלזר: לכן עושים שימוש בכלים של בינה מלאכותית בשביל לנטר ועל זה אשים כוכבית

ליאת גלזר:  למכונה יש הרבה יתרונות

ליאת גלזר:  אבל מכונה לא תמיד יודעת קונטקסט

ליאת גלזר:  אפשר ללמד אותה קונטקסט אבל צריך ללמד אותה יש דברים שאנו אוסרים במדיניות

ליאת גלזר:  למשל סרטונים של חמאס אנו לא מאפשרים בפלטפורמה שלנו סרטונים של חמאס או ערוצים של חמאס אבל אם דובר צה"ל או ערוץ 12 יציגו את זה במסגרת דיווח חדשותי, ברור שיש כללים, ואת הקונטקסט הזה לא תמיד המכונה יודעת ולכן המכונה יכולה לומר: יש פה משהו ואדם צריך להסתכל

אורית פרקש הכהן: תודה רבה

אורית פרקש הכהן:  נעבור לנציגים הממשלתיים

אורית פרקש הכהן:  יש פה נציג משרד החדשנות, עו"ד דני חורין, לשעבר היועץ המשפטי של משרד החדשנות – אני לשעבר

אורית פרקש הכהן:  אתה לא לשעבר

אורית פרקש הכהן:  אתה היועץ המשפטי של משרד החדשנות, יועץ מצוין

אורית פרקש הכהן:  יש עו"ד שרה גרין ממחלקת הסייבר בפרקליטות המדינה

אורית פרקש הכהן:  הקשיתי עליך על האירוע שהציג פה דרור גלוברמן אבל בסוף אתם כרגע בחוד החנית יחד עם מערך הסייבר, ורועי פרידמן ממערך הסייבר

אורית פרקש הכהן:  אולי נתחיל בך דני

אורית פרקש הכהן:  ממש בשתי דקות, אני כשרת החדשנות, הוצאתי לראשונה במדינת ישראל כללי אתיקה בבינה מלאכותית

אורית פרקש הכהן:  זה היה לפני השיגור לירח של צ'אט- - - ובארד וחידוד הסיכונים בבינה מלאכותית

אורית פרקש הכהן:  זה היה גם לפני התקדמות החקיקות האלה

אורית פרקש הכהן:  זה לפני קצת יותר משני וחצי

אורית פרקש הכהן:  סוף-סוף בשעה טובה הבנתי שהסתיימה העבודה שהתחלתי בה ופרסמו כללים

אורית פרקש הכהן:  אשמח שתאמר עליהם כמה מילים ברמה טלגרפית, ממש בקצרה, שאולי רלוונטיים לעניין כי אני לא מצאתי חובת סימון או דברים שבכנות – לו הייתי עדיין שרת החדשנות לא הייתי לא מביטה על הסוגיה הזו והייתי קובעת חובת סימון

אורית פרקש הכהן:  בבקשה

אורית פרקש הכהן:  בכל מקרה, טוב שקצת התקדמתם

דני קורן: אהיה מאוד קצר

דני קורן:       במחצית דצמבר פרסמו משרד החדשנות והמחלקה הכלכלית בייעוץ וחקיקה את גרסתו הסופית של מסמך מדיניות הרגולציה והאתיקה של הבינה המלאכותית, לאחר ששר החדשנות אימץ ואישר את המדיניות המוצעת

דני קורן:    העבודה על המסמך החלה בתקופת כהונתך כשרת החדשנות, וטיוטת המסמך וטיוטת עקרונות הרגולציה שלך כשרה, פורסמו אז להערות ציבור

דני קורן:      לאחר שמיעת הערות הציבור ובחינתן הושלם המסמך לאחרונה, ואנו מקווים שתקודם בהקדם החלטת ממשלה שתאפשר את אימוץ המדיניות על ידי הממשלה והנחיית הרגולטורים בהתאם

דני קורן:       אציין כי הייתה לנו בשלב ראשון התלבטות אם נכון לפרסם את המסמך בתקופת המלחמה, אבל דווקא השימוש שנעשה בבינה מלאכותית ברשתות החברתיות, כפי שעלה גם כאן, חידד את ההבנה שחשוב לקדם את הנושא

דני קורן:      עיקרי המדיניות – ממש בקצרה – האמירה המרכזית שלנו זה שכרגע לא נכון שיהיה חוק בינה מלאכותית כללי ונכון ללכת לעולמות של רגולציה ענפית שמבוססת על הסיכונים הנשקפים מסוג הטכנולוגיה ומהשימושים הספציפיים

דני קורן:  נכון שהרגולציה הענפית תטען ככל הניתן את הרגולציה במדינות המובילות בעולם בתחומים האלה והמבחינה הזו לעדכונים ולשינויים שיש בעולם בהקשרים האלה ודאי שתצטרך להיות משמעות

דני קורן:  הרגולציה צריכה להיות במידת האפשר גמישה, מהירה, ולעשות שימוש בכלים רגולטורים מתקדמים, כדי שניתן יהיה להתמודד עם השינויים הרבים בתחום

דני קורן:  הרגולציה נכון שתהיה עד כמה שניתן גמישה, מהירה, תעשה שימוש בכלים רגולטורים מתקדמים, כדי שניתן יהיה להתמודד עם השינויים הרבים בתחום

דני קורן:  חודדה החשיבות המיוחדת בתחום זה של שיח מתמיד בין כל הגורמים הרלוונטיים, וגם של המעורבות האקטיבית בפורומים הבינלאומיים העוסקים בגיבוש הרגולציה

דני קורן:  חודדה חשיבותו של מוקד ידע ממשלתי, שיידע גם ללוות ולסייע את הרגולטורים הענפיים, גם לגבש מודל לניהול סיכונים בתחומים השונים, גם יהיה גורם אקטיבי בפורומים הבינלאומיים ואולי הכי חשוב – יידע לעדכן ולהמליץ לממשלה אם נכון את מדיניות הרגולציה

דני קורן:       זה לא נמצא כרגע במסמך כי לא רצינו לעכבו, אבל בשיח, שהחל להתקיים בהקשרים האלה אצלנו עם משרד המשפטים וגורמים נוספים, כן הייתה הבנה שאולי יכול להיות שחריג להיבט של החקיקה הסקטוריאלית צריך להיות נושא הגילוי, ושנכון לשקול רגולציה לגביו

אורית פרקש הכהן: תודה רבה

אורית פרקש הכהן:  דני, תודה על העבודה החשובה שאני יודעת שאתה אישית היה לך חלק מאוד גדולה בה אבל כשאנו רואים איזה שינוי קרה טכנולוגי, עוד מהיום שאני פרסמתי את הכללים האלה לשימוע, אני לא הייתי אחרי שנה וחצי אומרת: עכשיו אתחיל לשקול לבקש חובת סינון, ואשמח שתעביר את המסר זה

אורית פרקש הכהן:  הקריאה שלי מפה שהדבר הזה היה צריך להיעשות אתמול, שלשום

אורית פרקש הכהן:  ודווקא בזמן המלחמה ברלוונטיות שלו, ולבקש חובת סימון ושקיפות, זה הדבר המינימלי שצריכה הממשלה לקבוע, גם אם מאמינים ומקבלים את הגישה של רגולציה רכה שלא תחסום את ההתפתחות של הכלי של בינה מלאכותית

אורית פרקש הכהן:  תודה רבה בכל אופן

אורית פרקש הכהן:      נעבור אליכם, הכוכבים, אנו רוצים לשמוע מכם בשורות

אורית פרקש הכהן:  ממחלקת הסייבר בפרקליטות המדינה וגם נציג מערך הסייבר רועי פרידמן

אורית פרקש הכהן:  דיברתי עם המנהל חיים ויסונסקי

אורית פרקש הכהן:  הבנתי שלא יכול מסיבות אישיות להגיע, מנהל מחלקת הסייבר בפרקליטות

אורית פרקש הכהן:  אתם עושים את העבודה הסיזיפית של לפנות לרשתות ברמה היום-יומית, ברמה השבועית לרוב ועד לאחרונה לא בהקשר מלחמה ולצערנו כעת גם בהקשר הזה

אורית פרקש הכהן:  נשמח לשמוע מה אתם עושים, כשאני מבינה שאתם חיים בעולמות – תעשו לי טובה, תורידו משהו

אורית פרקש הכהן:  אשמח שתדברי בגילוי לב

אורית פרקש הכהן:  אתם עושים מה שאתם עושים עם הכלים המאוד דלים שבידיכם

אורית פרקש הכהן:  ארצה לשמוע מה הכלים הדלים, למה אנו בעולם שבו אתם מבקשים בלי שום סמכות רק אנא תורידו, ומה ההמלצות שלך

אורית פרקש הכהן:  תודה

שרה גרין: תודה

שרה גרין:  למעשה מחלקת הסייבר בפרקליטות אנו ראש חץ של כל גופי הממשלה בעניין פניות לפלטפורמות המקוונות בעניין הסרת תכנים בלתי חוקיים ברשת

שרה גרין:  מבחינת תהליך העבודה האחריות לאיתור, זיהוי ואיסוף התכנים הרלוונטיים נמצאת בידי גופי הביטחון במשרדי ממשלה נוספים, בין היתר מערך הסייבר הלאומי מעבירים לנו תכנים

שרה גרין:  הם אחראים על האיסוף והזיהוי

שרה גרין:  כל אחד בכליו ובתחומי המומחיות שלו

שרה גרין:  אחר מכן אנו – בפרקליטות אנו בוחנים את התכנים לפי נוהל העבודה שלנו שקובע שני תנאים מצטברים שצריכים להתקיים כדי שנעביר פנייה לפלטפורמות

שרה גרין:  התנאי הראשון הוא שהתוכן מהווה עבירה פלילית לפי הדין הישראלי, והתנאי השני שחייב להתקיים גם הוא - שאנו מבינים שהתוכן הפר גם את תנאי המדיניות, כל אחת של הפלטפורמה המקוונת, ואז אנו מעבירים פנייה וולונטרית ואומרים- -     

אורית פרקש הכהן: כמה אנשים אתם בצוות הזה?     

שרה גרין: אנו ארבעה פרקליטים, אחד בצו 8, ועוד כ-12 מתמחים וסטודנטים שמסייעים לנו

שרה גרין:  זה הצוות שגם בשגרה

שרה גרין:  לסבר את האוזן, מבחינת היקף הפעילות שלנו, אם אתן נתונים השוואתיים, כפי שפרסמנו בדוח סיכום שנה של הפרקליטות ב-21' דיווחנו כ-6,000 פניות

שרה גרין:  מאז 7

שרה גרין: 10 דיווחנו על למעלה מ-30,000 תכנים

שרה גרין:  זו עלייה מטורפת

שרה גרין:  אנו עובדים 24/7

אורית פרקש הכהן: איך אתם פועלים? רק לפי תלונות שמגיעות אליכם? איך למשל לא ידעת על הסרטון הזה שדיברו עליו פה?     

שרה גרין: אנו לא מאתרים את התכנים – אנו מקבלים מגופי ממשלה - משב"כ, מצה"ל, ממערך הסייבר הלאומי ועוד גופים קטנים שהגיעו אליו

שרה גרין:  במהלך המלחמה גם המשרד לשוויון חברתי פנה אלינו לגבי מספר תכנים

אורית פרקש הכהן: ועל הסרטון הזה לא שמעת

שרה גרין: לא מכירה

שרה גרין:  אשמח להכיר את הסרטון

שרה גרין:  אפשר להעביר לנו

נירה לאמעי אכלבסקי: אתם פתוחים לתלונות של דיווחי הציבור?     

אורית פרקש הכהן: הציבור לא יודע עליהם

אחיה שץ: בגדול הציבור הישראלי פונים אלינו כי אין להם מקום לפנות

קריאה: 	וגם לקו הסיוע של איגוד האינטרנט

קריאה:  לא רק אליכם

אחיה שץ: החברה האזרחית

אחיה שץ:  אלינו, אליכם

אחיה שץ:  החברה האזרחית בישראל

אחיה שץ:  מערך הסייבר התחיל מיזם מאוד יפה

שרה גרין: חשוב גם לציין שאנו מקבלים תכנים ממשטרת ישראל אז אם אזרח פונה למשטרת ישראל ונניח במקרים שבהם גם הוגשו כתבי אישום, לאחר הגשת כתב אישום מעבירים לנו את התכנים להסרה על הסתה ברשתות החברתיות

שרה גרין:      מבחינת נושאי הדיון של תכנים או חשבונות יצירי בינה מלאכותית או יצירי מחשב, אנו בפרקליטות מגיבים לפניות של גופי הביטחון ויתר הגופים ולכן לעצם זיהוי התכנים כתנים יצירי בינה מלאכותית, לנו בפרקליטות אין יכולת לקבוע אם משהו יציר מחשב או לא – זה כלי טכנולוגי

שרה גרין:  מהמיקוד שאנו רואים מבחינת התכנים שגופי הביטחון מעבירים לנו, הם מתמקדים בתוכן ולא באופן יצירתו

נירה לאמעי אכלבסקי: הם יכולים אבל

שרה גרין: לא יכולה לדבר בשמם

נירה לאמעי אכלבסקי: יש מישהו שיכול לתת לכם תמיכה בעניין

נירה לאמעי אכלבסקי:  זה לא שאתם לגמרי באפלה

שרה גרין: מבחינת מה שקיים כרגע, לא קיבלנו פנייה על תכנים

שרה גרין:  גם התכנים שהוצגו – ראיתי אותם, וכשהעבירו לי אותם יחד עם קריאות של הסתה או הזדהות עם חמאס

שרה גרין:  לכן דיווחתי עליהם – לא כי הם פייק אלא כי הם הסתה

אורית פרקש הכהן: כלומר מה שאת אומרת, שכשאנו מדברים על איזה פינה שקשורה לחוסר הסדרה של אירועי טכנולוגיה במדינת ישראל, ואומרים: אין הבניין, אין השלד, מה את אומרת – אם משהו לא עולה כדי הסתה מאוד-מאוד חמורה אין לי קטגוריה שבגינה אני יכולה לפנות ולבקש טובה מהרשתות שגם לגביהן אין לי סמכות לומר להן: תסירו, אין לי סמכות חוקית לומר להם: הייתם צריכים לסמן ולא סימנתם, וגם אני חייבת שזה ייכנס לקטגוריה מאוד חמורה של אלימות שהדיפ פייק לא תמיד מתכתב איתה

נירה לאמעי אכלבסקי: תתייחסי לסעיף 3 בחוק המחשבים

שרה גרין: הסעיף מדבר על העברת מידע כוזב באמצעות מחשב

שרה גרין:  מבחינת הסמכות החוקית, אם תוכן יכול לעלות כדי מידע כוזב, נדווח עליו

שרה גרין:  פרקטית עד כה לא קיבלנו תכנים לבחינה של להסיר אותם רק כי הם פייק

אורית פרקש הכהן: תודה רבה

אורית פרקש הכהן:  רועי פרידמן, ממערך הסייבר

אורית פרקש הכהן:  חייבים להתכנס, מצטערת

אורית פרקש הכהן:  בבקשה

רועי פרידמן: תודה רבה על ההזמנה

רועי פרידמן:  אני ראש מערך אסטרטגיה, מערך הסייבר

רועי פרידמן:  אנו שותפים להבנה ולצורך שנדרש טיפול לאומי בנושא מידע כוזב ותודעה שקרית

רועי פרידמן:  זה מהווה איום על כולנו כמדינה ומערך הסייבר עוד לפני המלחמה, וביתר שאת עם פרוץ המלחמה, אנו פועלים במספר וקטורים כדי לייצר אותו מרחב תודעתי מוגן, ואלה שלושה

רועי פרידמן:  הראשון, שמגיע מהעולמות הביומטריים בנושא של דיפ פייק וכל מה שקשור לתמונות פנים ולקול

רועי פרידמן:  אותו דיפ פייק בעצם נועד לשטות במערכות הזדהות, ואנו פועלים באמצעי מו"פ כדי ללמוד לזהות דיפ פייק של פנים וקול ולמעשה אפשר יהיה לכשהמו"פ הזה יבשיל אנו בוחנים מגוון כלים

אורית פרקש הכהן: אתם בעבודה על כלי טכנולוגי שינטר את הרשת?     

רועי פרידמן: אנו בוחנים כלים טכנולוגיים שמאפשרים לזהות תמונות פנים סינתטיות שיוצרו באמצעות דיפ קול וקול סינטתי שיוצר באמצעות AI ולדעת שהם מזויפים

רועי פרידמן:  הסיבה שהתחלנו בפעילות הזו, זה כי תמונות פנים וקול הם אמצעי זיהוי למערכות ואנו רוצים להגן על מערכות שיהיו מוגנות יותר כחלק מהגנת הסייבר

רועי פרידמן:  זה וקטור ראשון שאנו פועלים בו

רועי פרידמן:      שני הוא מלחמה בפישינג ופייק בנושאי סייבר

רועי פרידמן:  בימים הראשונים של המלחמה פרסמנו קול קורא

רועי פרידמן:  פישינג זה משלוח לינקים, שמביאים אותך לאתרים ששותלים שלך, פוגעניים, או שמביאים אותך למקומות שבהם אתה נחשף למידע שקרי

רועי פרידמן:  כרגע אנו לקראת עלייה לאוויר של פלטפורמה שתאפשר לאזרחים לבדוק לינקים, האם הם אמיתיים או זדוניים

אורית פרקש הכהן: זה גם הפרסומות בטלוויזיה

רועי פרידמן: תכף אדבר על השוטפת

רועי פרידמן:  זה משהו אחר

רועי פרידמן:  הפלטפורמה הזו שאנו מעלים לאוויר תאפשר לתושבים לבדוק את הלינקים

רועי פרידמן:  זה צפוי לעלות בתחילת חודש ינואר, עבודה עם מספר חברות מהשוק הפרטי ואינטגרציה של פתרונות

רועי פרידמן:      הווקטור השלישי זה מידע שקרי ומידע שמופץ באמצעים ממוכנים ברשתות שזה הגדול ביותר והמורכב ביותר

רועי פרידמן:  הבנו את זה עם פרוץ המלחמה, שנדרש טיפול בכך

רועי פרידמן:  כפי שנאמר פה, אין גורם ממשלתי שמרכז את הטיפול והחלטנו דגל קדימה ולעסוק בזה, וזה כחלק מהתהליך המבצעי שאנו עושים, בוחנים איך זה יכול להשתלב בתהליך המבצעי שלנו כחלק מהגנת הסייבר

רועי פרידמן:  ובתוך זה השטפת

אורית פרקש הכהן: אתה חושב שאתה נמצא בעולם שבו יש לך במה להיאחז מבחינת חקיקה, מבחינת סמכויות פעולה, מבחינת הכללים של הממשלה או הדבר הזה טעון שיפור?     

רועי פרידמן: כפי שהזכירה עמיתתי מהפרקליטות, מתחילת המלחמה אנו עובדים איתם ומעבירים להם דברים שזיהינו כפייק

רועי פרידמן:  אומר בצניעות – זה לרוקן את האוקיינוס – אם קודם רוקנו עם כפית, עכשיו זה עם כף

רועי פרידמן:  אבל האוקיינוס הוא אותו אוקיינוס

רועי פרידמן:  כרגע הכלים שבהם אנו עושים שימוש הם לא סקלביליים גם מבחינת האסדרה והמסד החוקי, כשאנו מבינים שכפי שתיארו פה, באיחוד האירופי זה אחרת

אורית פרקש הכהן: תודה רבה

אורית פרקש הכהן:  פרופ' יובל

אורית פרקש הכהן:  מתנצלת – צריכים להיות קשוחים עם הזמן

אורית פרקש הכהן:  אז ממש בקצרה

אורית פרקש הכהן:  אחריו אשמע – יש לנו נציג חברת סטארט אפ שעוסק בנושא הזה ממש, סטארט אפ ישראלי

אורית פרקש הכהן:  בבקשה, פרופ' יובל

אורית פרקש הכהן:  המון תודה שהגעת לכבד אותנו בנוכחותך

יורם לס: לכבוד הוא לי, באמת

יורם לס:  אני לא מומחה בתחום, אז כמה מחשבות

יורם לס:  דבר ראשון, הבעיה, אני חושב, ברורה פה

יורם לס:  הנושא שלשמו התכנסנו פה הוא להבין את הפתרון

יורם לס:  אני חושב שהאנלוגיה שניתנה פה לזה שג'נטיב AI הוא כמו האש עוזרת

יורם לס:  אני רוצה להציע מטאפורה אחרת

יורם לס:  אני חושב שמה שאנו עומדים מולו כעת משול לתקופת המערב הפרוע

יורם לס:  מה שאפיין את המערב הפרוע זה שהיה ואקום חוקי למערב ארצות הברית, ולתוכו נכנסו אנשים שנקראו הברונים השודדים

יורם לס:  חבל שמה שנשאר לנו מהמערב הפרוע זה הסרטים של הקאובויים והאינדיאנים שלא מציגים לנו את הבעיה האמיתית

יורם לס:  הבעיה האמיתית במערב הפרוע הייתה, שנכנסו לשם אנשים עשירים שניצלו את העובדה שהחוק לא באמת חל שם כדי לגרוף הון עתק על חשבון עוולות בהרבה מאוד תחומים

יורם לס:  אנו מכירים את השמות

יורם לס:  אלה השמות של חלק מאוניברסיטות היוקרה הטובות ביותר בארצות הברית ובהם סטנפורד, רוקפלר ומוסד פיננסי כמו ג'יי פי מורגן

יורם לס:  כל האנשים האלה הם מהברונים השודדים

יורם לס:       באמת בכבוד הראוי לקולגות פה, אני חושב שלא יקרה שום דבר משמעותי בתחום הרגולציה הזו עד שהחוק יחוקק או החוקים יחוקקו פה בארץ

יורם לס:  ולא חייבים לחכות לחוקים בארצות אחרות, כי יש לנו דוגמאות – למשל סטנדרטים של בטיחות שבמדינות מסוימות הרבה יותר מחמירים מאשר במדינות אחרות, ומי שרוצה למכור במדינות האלה מכוניות, צריך להתחשב בזה

יורם לס:  אני חושב שאפשר יחסית בקלות לחוקק חוקים שיעבירו את האחריות בחזרה לחברות שמשמשות פלטפורמות לתוכן הזה

יורם לס:  איני מבין הרבה ב-AI אבל בהתניה כן

יורם לס:  ואם העונש על הפרת הדבר הזה יהיה בסקאלות של הכספים שמשמעותיות לחברות האלה, את עבודת הניטור והסילוק של הדברים הם יעשו בעצמם

יורם לס:  זה דברים די פשוטים חוקית לעשות

יורם לס:  חושב שיעבירו את המשא והנטל שקולגות עושים, בחזרה למי שיש לו הכלים לעשות את זה - יהיה לו גם המוטיבציה

אורית פרקש הכהן: תודה רבה

אורית פרקש הכהן:  נהניתי לשמוע אותך

אורית פרקש הכהן:  ההשוואה למערב הפרוע היא מעניינת מאוד

אורית פרקש הכהן:  רפאל מנדלסון

אורית פרקש הכהן:  רציתי להראות שיש בסטארט אפים הישראליים חברות שעוסקות בנושאים האלה

אורית פרקש הכהן:  חצי דקה

אורית פרקש הכהן:  בבקשה, ספר על החברה

רפאל מנדלסון: אם יש דקה אחת – אדבר באנגלית

רפאל מנדלסון:  אחרת זה ייקח חמש דקות

רפאל מנדלסון:      (נושא דברים בשפה האנגלית, להלן תרגומם:)     אני עובד בחברת סיאברה

רפאל מנדלסון:  אנחנו עובדים עם דמוקרטיות וחברות גדולות לזהות איומים המגיעים מהמדיה החברתית

רפאל מנדלסון:  אנחנו חושפים כוונות פעולות זדון, מידע לא נכון, תמונות לא אמיתיות, סרטונים לא נכונים שבאים מהמדיה החברתית

רפאל מנדלסון:  כאשר אילון מאסק רוצה לדעת כמה חשבונות מזויפים יש בטוויטר, הוא פונה לחברת סיאברה להבין כמה חשבונות מזויפים, פוסטים מזויפים וכו' קיימים בטוויטר

רפאל מנדלסון:      כיום המדיה החברתית היא המקום להפצת  מידע כוזב

רפאל מנדלסון:  זה חשוב להבדיל בין האנשים שפעילים בכך, החשבונות שמהם כותבים אם הם אמיתיים או לא והתוכן הנאמר

רפאל מנדלסון:   אנחנו לרוב ממזגים את כל המידע הזה יחד אבל חשוב להבדיל בין הדברים

רפאל מנדלסון:   בעצם היכולת להקים חשבונות מזויפים מביא להפצת תוכן שיקרי

אורית פרקש הכהן: שימו לב שהוא מדבר בהיבט של הדיפ פייק – הפצה באמצעות פרופילים ומשתמשים מזויפים

רפאל מנדלסון: (נושא דברים בשפה האנגלית, להלן תרגומם:)     למשל ב7 וב-8 באוקטובר 2023, במשך 48 שעות, סיאברה חשפה מעל לארבעים אלף חשבונות מזויפים תומכי חמאס

רפאל מנדלסון:  חשבונות אלה הפיצו תוכן שקרי במספר רב של שפות

רפאל מנדלסון:  ב7 וה-8 באוקטובר, 1 מכל ארבעה חשבונות, ברחבי הפלטפורמות השונות של המדיה החברתית, שדן במלחמה של ישראל עם החמאס, היה חשבון מזויף

רפאל מנדלסון:  הם הפיצו מידע כוזב  מאז וזה ממשיך עד היום

אורית פרקש הכהן: רק בטוויטר? ואו

רפאל מנדלסון: (נושא דברים בשפה האנגלית, להלן תרגומם:)

רפאל מנדלסון:      בכל סוגי המדיות: פייסבוק, אינסטגרם וטיק טוק

רפאל מנדלסון:      יש מספר דרכים מרכזיות באמצעות הכלי של GAI להפצת מידע כוזב באופן נרחב וטוב יותר באופן אמין יותר: יצירת טקסט, סרטונים ותמונות,  ושפה

רפאל מנדלסון:  אם שפת האם שלך היא לא אנגלית יש אפשרות להשתמש בתוכנה מיוחדת שמייצרת תוכן בשפה המקומית באופן אמין ואמיתי

רפאל מנדלסון:  וכמובן יצירת כל התמונות והסרטונים באופן שנראה מאוד אמין

רפאל מנדלסון:  מדוע זו בעיה? מפני שיצירת תוכן כוזב והפצתו מביאה לפגיעה משמעותית, לגניבה של זהויות, עושה מניפולציות במוחם של  כולנו כאשר אנו גולשים באינטרנט

רפאל מנדלסון:  יש הרבה אנשים מכובדים באולם זה, אבל אם 1 מתוך 4 אנשים כאן אינו אמיתי, השיחה הזו תתנהל באופן שונה בהחלט

רפאל מנדלסון:  לסיום, שנת 2024, תהיה שנה שוברת שיאים מבחינת בחירות

רפאל מנדלסון:  2 ביליון אנשים מ-50 מדינות עתידים להצביע בבחירות ויתכן גם כאן בישראל

רפאל מנדלסון:  אם אנחנו רוצים ליצור סביבה אינטרנטית בריאה אנחנו צריכים להוביל לשקיפות של השיחות שמתנהלות באינטרנט, האנשים והתוכן המוצג

אורית פרקש הכהן: תודה רבה

אורית פרקש הכהן:  אני רוצה לחדד את מה שאמרת פה כי אמרת דברים מבהילים – אמרת שבימים של 7 ו-8 באוקטובר אחד מתוך ארבעה פרסומים שנגעו לאירועי הטבח בעוטף היו בחשבונות פייק מתוך מטרה לעשות מניפולציה להצגת התמונה התודעתית של האירועים שקרו

אורית פרקש הכהן:  אחד מתוך ארבעה חשבונות

אורית פרקש הכהן:  חמור מאוד-מאוד

אורית פרקש הכהן:  בעצם אתם יודעים לנטר את כל הדברים האלה

אורית פרקש הכהן:  זה מה שעושה סיאברה?     

רפאל מנדלסון: (נושא דברים בשפה האנגלית, להלן תרגומם:)

רפאל מנדלסון:      כן

רפאל מנדלסון:  אנחנו מאתרים את השיחה, באמצעות מנוע מיוחד לחיפוש באינטרנט

אורית פרקש הכהן: הנה, ממשלת ישראל היקרה, אולי להוציא מכרז או בפטור ממכרז, לאור דחיפות האירועים, ולטפל באירוע

אורית פרקש הכהן:  אנו מוכרחים לסיים

אורית פרקש הכהן:  מילה מנציג מערך ההסברה גל אילן

אורית פרקש הכהן:  באמת פחות מדקה

אורית פרקש הכהן:  אחריו איגוד האינטרנט וענבל אורפז היקרה ואני מסכמת

אורית פרקש הכהן:  דיון מרתק

אורית פרקש הכהן:  תודה

אורית פרקש הכהן:  אתם לא מבינים איזו הקלה בשבילי אחרי כל כך הרבה דיוני ועדת כספים על הכספים הקואליציוניים

אורית פרקש הכהן:  אני עוברת פה אירוע תיקון אישי

אורית פרקש הכהן:  למרות הממצאים החמורים יש לומר על המערב הפרוע

אורית פרקש הכהן:  בבקשה

יגאל אלון: תודה, היושבת-ראש

יגאל אלון:  בהמשך לדברים שעלו פה אני רוצה לייצר תמונת מצב מדויקת

יגאל אלון:  ראש מערך ההסברה הלאומי נכנס לתפקידו בספטמבר השנה לפני המלחמה אמנם זמן קצר

יגאל אלון:  ממש בשעה זו מתכנסים כל גורמי ההסברה הלאומית, לרבות גופי ביטחון, גורמי ממשלה בחמ"ל ההסברה הלאומי

יגאל אלון:  מדובר בתכלול חסר תקדים

אורית פרקש הכהן: חסר תקדים? נראה לי שהייתי מדברת קצת יותר בצניעות על ההסברה שלנו

יגאל אלון: יש אתגר מאוד גדול אבל התיאום נכון להיום – אני 13 שנים במערך ההסברה - לא היה כזה

יגאל אלון:  סיאברה היא חברה חשובה

יגאל אלון:  אנו עובדים איתם, ובוחנים פתרונות טכנולוגיים נוספים, כפי שרועי ציין

יגאל אלון:  מדובר באתגר תודעתי משמעותי

יגאל אלון:  אנו עובדים בשוטף עם כל גורמי הביטחון בהקשרים הרלוונטיים

יגאל אלון:  ציינו פה – ולא בכדי, שהאתגר הגדול הוא דווקא גם באזורים שלא נוגעים לסרטון כפי שהעלה דרור קודם שהוא הסתה מובהקת

יגאל אלון:  צירי ההשפעה ורשתות ההשפעה זה אתגר מאוד משמעותי, ואנו בדיון עם כל הגורמים בהקשר הזה

אורית פרקש הכהן: מתי מונה ראש מערך ההסברה במשרד ראש הממשלה?     

יגאל אלון: בספטמבר השנה

אורית פרקש הכהן: מתי בספטמבר?     

יגאל אלון: אני צריך לבדוק

יגאל אלון:  ההחלטה התקבלה לקראת סוף אוגוסט

אורית פרקש הכהן: אני חושבת שדי בעובדה הזו שנכנס לתפקיד אדם שמהלך כזה משבר צריך ללמוד את תפקידו וללמוד מי אנשי הקשר שלו ולהיכנס לתפקיד – תפקיד בסדר גודל כזה במדינה כזו שמתמודדת עם כאלה בעיות הסברה, העובדה שלא היה אדם בתפקיד הזה ומונה לתפקידו רק בספטמבר מדברת בעד עצמה ויש לי כבוד והערכה רבים אליך

אורית פרקש הכהן:  אתם לא מקבלים את התנאים הראויים

אורית פרקש הכהן:  המערכת והשלד לא קיימים

אורית פרקש הכהן:  תודה

אורית פרקש הכהן:  ענבל אורפז

אורית פרקש הכהן:  סליחה, אבל דקה ממש

אורית פרקש הכהן:  תציגי את עצמך על העבודה החשובה שאת עושה

ענבל אורפז: תודה

ענבל אורפז:  אני יועצת חדשנות אסטרטגית

ענבל אורפז:  חקרתי את הנושאים האלה בהקשר של הביטחון הלאומי הרבה שנים, ההשפעות של הדיפ פייק על הביטחון הלאומי, הפלייבוק של ההשפעה האיראניים יחד עם התוכן של פייק ריפורטר

ענבל אורפז:  קרקסנו מומחים בתחום שנפגשים הרבה שנים

ענבל אורפז:  פעם ראשונה שאנו נפגשים פה בכנסת וזו חשיבות מאוד גדולה וטוב לסכם בזה – אם לא נעשה מעשה, נמשיך להיפגש ולדבר על אותם נושאים ולא מתקדם

ענבל אורפז:  אני רוצה לגעת בשורש הבעיה – אין היום בישראל אף גורם שמתכלל את הבעיה הזו ומסתכל עליה

ענבל אורפז:  אנו יכולים לדבר הרבה על רגולציה

ענבל אורפז:  אנו יודעים שהטכנולוגיה תתקדם הרבה יותר מהר מהרגולציה אבל לא תיתן את המענה

ענבל אורפז:  מה שאנו מבינים ואפשר לדבר על זה גם בהקשר שומר החומות ובטח עכשיו

ענבל אורפז:  הנושא של הזירה הדיגיטלי והזירה של הרשתות החברתיות היא משמעותית, משפיעה על חוסן העורף, משפיעה על האופן שבו ישראל נתפסת בעולם

ענבל אורפז:  למשל יש מילים כמו טלגרם שלא הוזכרו פה

ענבל אורפז:  טלגרם זה אירוע ענק במלחמה הזו

אורית פרקש הכהן: נכון

אורית פרקש הכהן:  לא הגיעו לדיון

ענבל אורפז: ספרתי, בערוצי טלגרם הגדולים שמפיצים חדשות - מעל מיליון ישראליים הצטרפו מאז 7

ענבל אורפז: 10

ענבל אורפז:  יש שם קרקע פורייה להפצת תוכן שקרי

אורית פרקש הכהן: המערב הפרוע, אנחנו מאמצים בחום את השם

ענבל אורפז: לחלוטין המערב הפרוע

ענבל אורפז:  המקום שצריך להיות לגוף מתכלל שיסתכל על הכול – הרבה פעמים בדיונם האלה אנו אומרים: הרגולציה לא תתקדם – צריך לעשות חינוך לציבור

ענבל אורפז:  תמיד בסוף אנו מדברים על אוריינות דיגיטלית

ענבל אורפז:  אבל אני רוצה לטעון שזה לזרוק אחריות על הציבור וצריך לתת כלים לציבור

ענבל אורפז:  אפשר בקלות לפתח כלים

ענבל אורפז:  למשל ראינו את התמונות פה

ענבל אורפז:  אם היה אתר רשמי, שאני יכולה להעלות תמונה ולקבל חיווי – זה AI- -      

אורית פרקש הכהן: זה קיים בצו הנשיאותי למשל של נשיא ארצות הברית

אורית פרקש הכהן:  מדובר על אתר של הממשלה שבו אנשים יוכלו לקבל מידע מה פייק, מה לא פייק

ענבל אורפז: זה קיים ואפשרי ולכן מעולה שיש קמפיין ויש שטפת אבל אם לא נייצר את התשתית ולא ניתן את הכלים זה לא יזוז וניפגש פה גם במלחמה הבאה

אורית פרקש הכהן: תודה רבה

אורית פרקש הכהן:  רשות הגנת הפרטיות, בבקשה

אורית פרקש הכהן:  חצי דקה, צר לי, ועידן מאיגוד האינטרנט

לירון הופפלד: תודה רבה

לירון הופפלד:  בכל הנוגע לדיפ פייק ולהשפעה על פרטיות, הרשות להגנת הפרטיות פרסמה לפני כשנה מסמך שעוסק בשימוש בטכנולוגיית דיפ פייק בהתייחס להשפעה על פרטיות ושם הבהירה את העמדה שלה, שכאשר נעשה שימוש בבינה מלאכותית ובטכנולוגיית דיפ פייק לשם יצירת תמונות, סרטונים או קבצי קול כשנחזים להיות תוכן אמיתי שמקושר לאדם אמיתי או שעלולים להיתפס בציבור כבעלי תוכן אותנטי, ושיש בהם תוכן שיש בו כדי להשפיל או לבזות או לפגוע בפרטיות שלו – הדבר מהווה הפרה של הוראות חוק הגנת-  -     

אורית פרקש הכהן: נכון

אורית פרקש הכהן:  אני משבחת את הרשות להגנת הפרטיות

אורית פרקש הכהן:  היא מהבודדות שהוציאו חוזר בנושא

אורית פרקש הכהן:  הוא פחות רלוונטי לדיון הזה לצערי

אורית פרקש הכהן:  הוא עוסק בהלבנת פנים של קטינים, נשים באמצעות דיפ פייק

אורית פרקש הכהן:  פחות רלוונטי לתמונה שקשורה למניפולציה בתודעה במלחמה בעזה וזה עדיין לא מכסה על הפער הגדול שיש ברגולציה

אורית פרקש הכהן:  תודה רבה

אורית פרקש הכהן:  נעבור לעידן מאיגוד האינטרנט

אורית פרקש הכהן:  בבקשה

עידן רינג: תודה על הדיון החשוב והמפורט הזה

עידן רינג:  אנו הגשנו לוועדה מסמך שנמצא גם באתר הוועדה שמסתמך על עבודת קו הסיוע לאינטרנט בטוח שאיגוד האינטרנט מפעיל עשור, חווינו זינוק בפניות לקו במהלך המלחמה

עידן רינג:  חשוב לציין שהבעיה של דיס אינפורמציה ובכלל של תוכן פוגעני היא לא ייחודית או בלעדית לתקופת המלחמה, והאתגרים שמציבה והצורך בסמכויות ברורות, ברגולציה ברורה היא נכונה ותהיה נכונה גם אחרי המלחמה ביתר שאת

עידן רינג:  לא רק בהקשר של בינה מלאכותית

עידן רינג:  הבעיה של דיס אינפורמציה – שהיא לא ממוקדת בטכנולוגיה הזו דווקא וגם הפתרונות לא יכולים להיות רק טכנולוגיים

עידן רינג:  כפי שנאמר פה, יש צורך אמיתי לא רק ברגולציה ובסמכויות  אלא גם בחינוך לאוריינות מדיה גם של קהלים רחבים ובטח של צעירים שכלל לא קיים כיום במדינת ישראל

עידן רינג:  זה לא מספיק דובר פה היום

עידן רינג:  זה דבר שחשוב לדבר עליו

עידן רינג:      הטיפול במיסאינפורמציה ומה אמת מסוכן לשים אותו רק בידי המדינה, ובטח בידיים של גופי ביטחון

עידן רינג:  זה חייב להיות שולחן עגול יותר שיש בו גם החברה האזרחית וגם האזרחים עצמם וגם מערכת החינוך

אורית פרקש הכהן: תודה רבה

אורית פרקש הכהן:  אני רוצה לסכם ולהודות לכל מי שהגיע

אורית פרקש הכהן:  אני חושבת שהיה דיון מאוד מרשים והתרומה של כל אחד לדיון הזה

אורית פרקש הכהן:       מלחמת חרבות ברזל זימנה למדינת ישראל אתגר גדול, הן בהיבטים המלחמתי והביטחוני והן בהיבט ההסברתי

אורית פרקש הכהן:  לצד הלחימה הקשה בגבולות ישראל אנו מקיימים מאבק לא פחות חשוב על מעמדנו הבין לאומי ועל שמנו הטוב, והדבר הזה הוא יעד אסטרטגי עם השלכות על ביטחון ישראל אבל על העם היהודי כולו

אורית פרקש הכהן:      במסגרת זו, השימוש בבינה מלאכותית בסרטונים, בתכנים כוזבים, בהסתה שקרית ושיטתית בהיקפים עצומים נגד מדינת ישראל וצבא ההגנה לישראל, הם עצומים

אורית פרקש הכהן:  הדיון פה היום הציג בפנינו תמונה מבהילה, לפיו אפילו בין היתר עלה כי בימים שבין 7 ל-8 באוקטובר אחד מתוך ארבעה חשבונות ברשתות חברתיות בעולם היו פייק, ועשו מניפולציה על התודעה ביחס לאירועים הנוראיים ולטבח הנורא שעברה ישראל

אורית פרקש הכהן:  אני חושבת שמהדיון הזה עלו כמה דברים

אורית פרקש הכהן:       מהדיון היום עולה חד משמעית כי מדינת ישראל לא מטפלת בנושא הזה בצורה הראויה לו והקריאה שלי היא כפולה

אורית פרקש הכהן:  פעם היא פונה לרשתות החברתיות שהופיעו פה חלקן, לפעול בצורה נחושה יותר כנגד התופעה הזו, להסיר פוסטים ופייקים שמתגלים בזמן אמת

אורית פרקש הכהן:  אני חושבת שהיכולות הטכנולוגיות שבידי חברות הטכנולוגיה והרשתות החברתיות היום מאפשרות התחלה מיידית ומהירה של רגולציה עצמית

אורית פרקש הכהן:  יש המשאבים והיכולות לכך

אורית פרקש הכהן:  נדרשת פשוט החלטה על שינוי בסדרי עדיפויות

אורית פרקש הכהן:      ביחס לממשלה, אני קוראת בזה לממשלת ישראל, הוועדה כולה קוראת לא להעלים עין מתופעת הדיפ-פייק  ויש לפעול באופן שהוא די ברור וידוע

אורית פרקש הכהן:  כולם יודעים מה שצריך לעשות – פשוט צריך לעשות את זה: אחת, להציב את הנושא הזה כיעד אסטרטגי שמצוי באמת בסדרי העדיפויות של הממשלה בסדר עדיפות גבוה

אורית פרקש הכהן:  ליזום החלטת ממשלה בנושא הזה ולהגדיר גורם אחד מתכלל כדי שהנושא הזה לא ייפול בין אלף גופים כפי שנאמר פה כפית או כף באוקיינוס עם אלף אנשים שלאף אחד באמת אין האחריות על הנושא הזה

אורית פרקש הכהן:      בנוסף להקמת אדם אחד, יש להקים צוות ממשלתי ייעודי לטיפול בנושא, שיכלול חברות טכנולוגיה עם יכולות מוכחות ומיידיות בנושא כגון חברות שדיברנו עליהן פה ושהציגו פה

אורית פרקש הכהן:  משרד המשפטים, מערך הסייבר, שירות הביטחון הכללי, משרד החדשנות, מערך ההסברה ועוד

אורית פרקש הכהן:  הצוות יעבוד עם השוק הפרטי ושוק ההייטק בישראל והחברות האזרחיות דוגמת איגוד האינטרנט והפייק ריפורטר לזיהוי, ניתוח ותגובות לפעולות של דיפ פייק שנועדו לפגוע במדינת ישראל ולהסית נגדה

אורית פרקש הכהן:  על הצוות לעסוק בפן הטכנולוגי, אבל גם ביצירת כלים משפטיים-חקיקתיים ורגולטוריים, להתמודד עם התופעה המסוכנת הזו

אורית פרקש הכהן:       מייד, בלי לחכות למסקנות הצוות, יש להוציא הוראה שתחייב את חברות הטכנולוגיה ואת הפלטפורמות בישראל בשקיפות מלאה ביחס למדיניות שלהן ולפעולות הניטור ולפעולות ההסרה

אורית פרקש הכהן:  הפעולות הללו של חברות הטכנולוגיה, בכל הכבוד, לבוא לדיון ולומר: אין לנו בדיוק הנתונים, אעשה שיעורי בית - הדברים האלה אין סיבה שלא יהיו פומביים

אורית פרקש הכהן:  השקיפות תעשה את שלה, והציבור בכל הארץ ובעולם צריך לראות, מהן פעולות ההסרה, מה הקריטריונים, בגין מה ועוד

אורית פרקש הכהן:       בפרט, על הממשלה לבחון את הצעדים הבאים: לקבוע הוראת חוק שמחייבת את הפלטפורמות השונות ליצור חתימה וזיהוי ברור של תמונות ותוצרים שהם פרי שימוש בבינה מלאכותית, בדומה לסעיף 3 לצו הנשיאותי של הנשיא ביידן מסוף אוקטובר השנה, בדומה לטיוטת חוק ה AI-ACT ולחוק ה-DSA של האיחוד האירופי

אורית פרקש הכהן:      ב

אורית פרקש הכהן:  בשונה מהמצב הקיים, בו בישראל אין שום כל סמכות להורות להסיר תכנים, יש לפעול ולקדם הצעות חוק שנחסמו על ידי ממשלות קודמות, מה שהיה מכונה חוק הסייבר

אורית פרקש הכהן:  לחדש את העבודה על החוקים האלה – חוק הפייסבוק סליחה, ולקדם הצעת חוק שנעצרה בממשלה הקודמת – החוק להגנה על הציבור מפני פרסומים מסוכנים ברשת האינטרנט שהוא חוק שהונח על שולחן הכנסת על ידי ממשלת השינוי אבל הליך חקיקתו לא הושלם

אורית פרקש הכהן:      להתניע את המהלך הזה שבו בית המשפט יהיה מוסמך לבקשת תובע, צו המחייב להסיר תוכן מרשת האינטרנט, בין אם האתר מאוחסן בשרת בישראל ובין אם מאוחסן בשרת מחוץ לישראל, ובמקביל לאפשר את איתורו של התוכן ברשת, כאשר יש אפשרות ממשית שהמשך פרסום התוכן יפגע בביטחונו של אדם, בביטחון הציבור או בביטחון המדינה

אורית פרקש הכהן:      יש להתאים בעקבות אירועי 7

אורית פרקש הכהן: 10 את ההסדרים האלה בהצעת החוק הזו שכללה במקרה כזה – להסיר תכנים

אורית פרקש הכהן:  שיהיה ברור שכוללים גם מקרים של תכנים מזויפים שתומכים בטרור או מפיצים מידע שקרי במסגרת אירועי לחימה

אורית פרקש הכהן:       עוד נקודת שעלתה פה – יש להקים מנגנון ממשלתי באינטרנט, שמביא שירות שבודק אמינות של תכנים שמופצים, שיהיה שקוף לציבור בישראל ובעולם ונותן שירותים ומסייע במיפוי הזה של פייק ושאיננו פייק

אורית פרקש הכהן:      על הממשלה להשתלב במסגרות עבודה בין לאומיות שכבר ראינו שקיימים כמו- - - בנושא

אורית פרקש הכהן:  יש לקדם את האוריינות הדיגיטלית ולקדם לילדי ולאזרחי ישראל כלים להתמודד עם הדברים האלה

אורית פרקש הכהן:       בשנה האחרונה היה דיון בין לאומי מאוד רחב על הסכנות לצד ההזדמנויות שהביאה הבינה המלאכותית, על המערב הפרוע שהציג אותו פה פרופ' יובל

אורית פרקש הכהן:      ראשי תעשיית ההייטק בעולם ובראשם סאם אלטמן, מנכ"ל חברת OpenAI, הודה בביקורו בישראל ודיבר על החלק הקשה בטכנולוגיה פורצת הדרך הזו, לאזן בין ההבטחה האדירה שלה, לבין הסיכונים שלה

אורית פרקש הכהן:      אני חושבת שמלחמת ה-7 באוקטובר המחישה לכולנו את הסכנות הגדולות, הנוספות שיש בטכנולוגיה הזו, את המדרגה הנוספת לסכנות הללו, והממשלה חייבת להתעורר ולטפל בנושא, ויפה שעה אחת קודם

אורית פרקש הכהן:  תודה לכולם על הדיון הזה, נמשיך ונעקוב, תודה רבה

אורית פרקש הכהן:  ובקשה קטנה מנציג מטא – אנא ממך אם אפשר לקבל תשובה בכתב ביחס לסרטון הספציפי הזה

אורית פרקש הכהן:      תודה רבה, הישיבה נעולה