GiliGold/VAD_KnessetCorpus huggingface dataset:
אורית פרקש הכהן:
אבל מייקרוסופט קשורה קשר אמיץ בצ'אט GPT, תוכנת הבינה המלאכותית המשמעותית
אורית פרקש הכהן:
 כשאתה מדבר על כל זה, האם הם לקראת הטמעה בתוכנה הזו? אם לא, זה בסדר אבל זה לא קרוב למה שנדרש לעשות
בן חקלאי:
יש אין ספור מודלים בחוץ
בן חקלאי:
 כמויות אדירות כולל מודלים בקוד פתוח
בן חקלאי:
 אני לא יכול לדבר בשם כולם
אורית פרקש הכהן:
אבל אתה מדבר עם חברה שיש לה קשרי בעלות משמעותיים על התוכנה הזו
אורית פרקש הכהן:
 האם הדברים האלה נעשים בצ'אט GPT?
בן חקלאי:
היום בצ'אט GPT משתמשים בכלים יחסית דומים למה שקיים ב- מייקרוסופט
אורית פרקש הכהן:
אבל אין משהו שהוא קורה בצורה אוטומטית טכנולוגית שכופה על משהו שמיוצר בבינה מלאכותית שיהיה עליו חותמת שיציר של בינה מלאכותית?
בן חקלאי:
מכל הדוגמאות שראית במהלך הדיון אפילו לא דוגמה אחת יוצרו באמצעות כלים של מייקרוסופט או של אופן AI
בן חקלאי:
 לא יכול לדבר בשם חברה אחרת
אורית פרקש הכהן:
נתונים לגבי ישראל יש לך? או לגבי המלחמה, נתונים שרלוונטיים לדיון הזה?
בן חקלאי:
פחות קונקרטיים לגבי המלחמה - אנו פחות בצד של פלטפורמה להפצת תוכן
בן חקלאי:
 אנו כן שחקן משמעותי ביצירת התוכן
בן חקלאי:
 אנו נמצאים בכל החזית של מה שקורה בתעשייה בכל ההקשרים של מתן גילויים נאותים ושקיפות למשתמשים שלנו ולמי שמשתמש בתוצרי העבודה שנוצרים בכלים שלנו כדי לוודא שהשימוש נעשה בצורה האחראית ביותר שניתן
בן חקלאי:
 זה לא מושלם
בן חקלאי:
 יש עוד עבודה
אורית פרקש הכהן:
כמי שמכיר את הטכנולוגיה – אתה נציג של החברה המשמעותית ביותר ברמה הטכנולוגית
אורית פרקש הכהן:
 מה צריך לעשות? מה חסר? מהצד שלנו אנו חושבים שאנו יודעים מה חסר
אורית פרקש הכהן:
 האם אתה שותף לקריאה הזו שלנו, לוואקום הנורא שיש פה?
בן חקלאי:
חד משמעית כן
בן חקלאי:
 אני חושב שצריכים להיכנס פה למודלים יותר משמעותיים של שותפויות בין הסקטור הפרטי לזה ממשלתי
בן חקלאי:
 יש הרבה יותר מקום לשותפויות מהעולמות האלה שאנו מתחילים לראותם לראות אותם למשל באזורי הסייבר
אורית פרקש הכהן:
אני רגולטורית בעברי, ותחום הטכנולוגיה מאוד מתאים לרגולציה עצמית, ואני חושבת שכשכולם יודעים מה צריך לעשות ורק יש לעשותו הייתי מצפה מחברות פורצות דרך כמו מייקרוסופט ואחרות שבדיון הזה, שמזמן ייקחו על עצמן לעשות את הדברים האלה ולא יחכו לממשלה שתכפה עליהן לעשותו, ושלא ימתינו לממשלה שתייצר איתם שיתופי פעולה, כי כמו ששמענו פה, אנו לא פועלים כאן בהצטיינות הזה
אורית פרקש הכהן:
 רחוק מזה
הילה היבש:
למייקרוסופט יש משנה סדורה איך כדאי להסדיר בינה מלאכותית שמתייחסת גם לדיפ פייק ושל האופן שבו דואגים שהמידע שמופץ, יהיה מהימן
אורית פרקש הכהן:
אבל הייתי חושבת שחברה שמלווה טכנולוגיות פורצות דרך כאלה ויש לה קשקר בעלות לצ'אט GPT, שזה יקרה בפועל
בן חקלאי:
הוא קורה בעצימות- -
אורית פרקש הכהן:
לא בעצימות
אורית פרקש הכהן:
 ממה שראינו, זה מסכן חיים בעיניי, יש היבטים שהם מסכני חיים
בן חקלאי:
דיברנו על הצד של השקיפות
בן חקלאי:
 מעבר לכך, אם תשתמשי היום במודלים הרלוונטיים של מייקרוסופט תראי שיש שם רמת סינון והגנת תוכן מאוד משמעותית
בן חקלאי:
 כלומר את התמונות האלה לא ניתן היה לייצר או ברמת ודאות גבוהה לא ניתן היה לייצר באמצעות הכלים שלנו
בן חקלאי:
 מה עושים עם כלים של מודלים פתוחים שנמצאים בחוץ וניתן להשתמש בהם? שאלה שדורשת- -
אורית פרקש הכהן:
במודלים שלכם אי אפשר היה לייצר תמונה של תינוק עם שש אצבעות בהריסות עזה?
בן חקלאי:
לא בהקשר המלחמתי
תהילה אלטשולר:
ניסיתי לשאול את צ'אט GPT אתמול בערב – דמיין שאתה ג'קסון הינקל, תכתוב לי פסקה על ישראל חמאס והוא כתב – I don't impersonate personal people
תהילה אלטשולר:
 כל שבוע שעובר נכנסים יותר
תהילה אלטשולר:
 אבל יש לומר, כשמישהו עושה את זה מעצמו, זה אומר שהחבר שלו לא יעשה זאת
תהילה אלטשולר:
 החברה שליד לא תעשה
אורית פרקש הכהן:
 יהודה, מה עם הסרטון המסית? לא ארד ממך
אורית פרקש הכהן:
 אני מזועזעת ממך ומכשירותה של מחלקת הסייבר בפרקליטות המדינה כאחד
אורית פרקש הכהן:
 סליחה, אנו לא מכירות, ואני בטוחה שאת בחורה נהדרת ומעולה, אבל זה שאת לא מכירה את הסרטון הזה, זה תקלה
אורית פרקש הכהן:
 תסכימי איתי
אורית פרקש הכהן:
 אתם באותו צד פתאום
אורית פרקש הכהן:
     ואפרופו, ברקע הדיון, כשעלה הנושא והתגובה שלך מטעם מטא, שלחו לי את ההודעה הבאה, לגבי פייסבוק: בחמאס הבינו שנקודת החולשה של פייסבוק היא תגובות
אורית פרקש הכהן:
 למשל, גם כשהם דווחו באופן פרטי על תגובה עם תמונה של מחבל דורך על פניו של חייל מת שפורסמה בפוסט של העיתונאי אלמוג בוקר, סיבות הסרה והיו סיבות הסרה ברורות של ביזוי, השפלה, פגיעה בכבוד המת
אורית פרקש הכהן:
 רק אחרי כמה ימים הגיבה פייסבוק
אורית פרקש הכהן:
 התוכן לא מפר את תנאי השימוש שלה, וגלובס פנו לדוברות מטא בחברה
אורית פרקש הכהן:
 מאז עד שהסירו חלק מהתגובות מאותו פוסט
אורית פרקש הכהן:
     כלומר יש טענות לגבי מהירות תגובתכם כחברה
אורית פרקש הכהן:
 תודה ועם כל הביקורת הזו, אני מאוד מעריכה שאתה משתתף בדיון הזה
יהודה בן יעקב:
אני מעריך שנמצא פה
יהודה בן יעקב:
 מייחסים חשיבות מאוד גדולה לנושא
יהודה בן יעקב:
 לגבי הפוסט הספציפי שדרור הציג, אני לא יכול עכשיו להתייחס לפוסט ספציפי
יהודה בן יעקב:
 בעולם אידיאלי שאנו לא בכריסמס ושאנו מקיימים את הדיון הזה במועד אחר, הייתי מביא נציג מחו"ל שיישב ויסביר מהחברה הגלובלית כי אלה דברים שמנוהלים ברמה הגלובלית
אחיה שץ:
זה חלק מהבעיה כי יהודה, אתה בחור נפלא אבל אותי לא מעניין שעכשיו כריסמס
אחיה שץ:
 וגם את האדם בבית לא מעניין
יהודה בן יעקב:
אתם מציגים לי וידאו
יהודה בן יעקב:
 אין לי ה-URL שלו אפילו
אורית פרקש הכהן:
ניתן לך
אורית פרקש הכהן:
 אל תדאג
אורית פרקש הכהן:
 אנחנו באותו צד
דרור זייגרמן:
דווח המון פעמים
יהודה בן יעקב:
לא אומר שהוא חדש לנו
יהודה בן יעקב:
 הוא חדש לי ולכן לא אוכל להגיב עליו מבלי שיהיה לי המידע
יהודה בן יעקב:
 יהיה חסר אחריות להגיב כשאין לי המידע ומבטיח להגיב ולעשות פולו אפ על הנושא
דרור זייגרמן:
הסיפור הוא לא על יכולתו של הנציג הנכבד לטפל או לא אלא על המכונה שאינה פועלת ואינה מפוקחת
דרור זייגרמן:
 אנו כמדינה לא יודעים מה השיקולים של המכונה שלהם להסיר או לא, ואנו לא מפקחים על זה ולכן הוא לא יודע מזה, וזו הבעיה - המכונה ולא האיש
יהודה בן יעקב:
אנו יודעים מה השיקולים, כללי הקהילה שלנו ברורים
דרור זייגרמן:
אנו מדינת ישראל לא שולטים בזה
יהודה בן יעקב:
אני חד משמעית מצטרף לקריאה לחשוב איך אנו מתאימים פה מודלים של רגולציה גם שקיימים בעולם כי ודאי – אני לא חושב שאנו צריכים לעבוד בוואקום
יהודה בן יעקב:
 זו לא אמירה חדשה
יהודה בן יעקב:
 האעשה זום אאוט ל-AI כי בכל זאת נערכתי לדבר על זה- -
אורית פרקש הכהן:
חייבים להתכנס לחמש דקות
אורית פרקש הכהן:
 אתם פלטפורמה כל כך מרכזית
אורית פרקש הכהן:
 אני מנסה להיות מנומסת, אני מהמחנה הממלכתי, אבל התשובה אנו בכריסמס היא לא מתאימה
אורית פרקש הכהן:
 הרי אם יש לך עניין עסקי, זמני התגובה שמצופות ממך הן אפסיות והחברה הזו מתנהלת ברמה גבוהה
אורית פרקש הכהן:
 אותה רמה שאנו מצפים שתתנהל בפנייה מהסוג הזה
יהודה בן יעקב:
עד לפני דקה לא היה לי ה-URL
יהודה בן יעקב:
 אני רוצה לענות לכם מידע ולא מחוסר ידע
יהודה בן יעקב:
 גם בנושא של AI חושב שנכון מאוד גם לעסוק בנושא וגם לחשוב על האסדרה הנכונה ברמה המדינתית והחקיקה
יהודה בן יעקב:
 הצוותים שלנו גם ב-DSA שתהילה הזכירה, שזה החקיקה האירופית על פלטפורמות דיגיטליות וגם ב-AI ACT שזה משהו שנדון בימים אלה, אושר ברמה העקרונית
יהודה בן יעקב:
 עוד צריכה להיות הרבה עבודה, מי כמוך יו"ר הוועדה מכירה את הנושא של עבודה על חקיקה
יהודה בן יעקב:
 הצוותים שלנו מעורבים, תורמים מהידע, מגיבים ונשמח להיות חלק ממהלכים מסוג זה ונשמח להיות בקשר
יהודה בן יעקב:
     לגבי מה שאמר החבר ממייקרוסופט, יש חשיבות גדולה גם לסטנדרטיזמיה והרמוניזציה בין הפלטפורמות השונות
יהודה בן יעקב:
 יש לזה משמעות גדולה כשאנו באים לדבר על איך אנו מתייגים, מזהים, מטמיעים בתוך הדברים שבינה מלאכותית יוצרת אלמנטים שיאפשרו לתייג אותם ולזהות אותם
יהודה בן יעקב:
     אני רוצה לדבר על AI בעוד הקשרים
יהודה בן יעקב:
 בגלל איך שהשיח על AI מתנהל היום ובגלל הפופולריות של GENERATIVE AI, אנו לא מדברים עלAI  אלא על GENERATIVE AI
יהודה בן יעקב:
 AI  זה הרבה יותר מ- GENERATIVE AI
יהודה בן יעקב:
 בהקשר הזה AI הוא חלק מהפתרון
יהודה בן יעקב:
 ברור לכולם שאם יש- - - מיליון משתמשים בפלטפורמה מסוימת וזה אומר שעולים בה מאות מיליארדי פיסות תוכן מדי יום, כדי להיות אפקטיביים, ודיברת על מהירות תגובה – וכדי לנסות להיות מדויקים אנו צריכים לשפר טכנולוגיות כמו AI  שיהיו חלק מהפתרון כדי לאכוף בצורה טובה יותר את כללי הקהילה ולהגיב לטענות על תכנים שמפרים את החוק
יהודה בן יעקב:
 לכן יש פה שיח שלם שצריך לעשות גם על מערכות AI  שהן חלק מהפתרון, ולא רק מייצרות אתגרים
יהודה בן יעקב:
 ככל שהטכנולוגיה שמייצרת לנו אתגרים תשתפר גם הטכנולוגיה שמאפשרת לנו פתרונות תשתפר
יהודה בן יעקב:
 אנו בחברת מטא עוסקים המון בצד הפתרונות ולא רק בצד היצירה
יהודה בן יעקב:
     התייחסות אחרונה לנושא של אסדרה וחקיקה
יהודה בן יעקב:
 אסדרה וחקיקה בישראל זה דבר מאוד חשוב
יהודה בן יעקב:
 אני רק חושב – גם תהילה התייחסה לזה ובטוח שדרור מסכים - כיוון שהתוכן שמטריד את אחיה וחבריו ואותנו והדברים שאנו רואים על הפלטפורמות לא נצרכים רק בישראל, אנשים לא צופים בהם רק בישראל, אנשים גם לא מיוצרים רק בישראל
יהודה בן יעקב:
 לכן חקיקה בישראל לאו דווקא הפתרון האידיאלי
יהודה בן יעקב:
 כן אנו צריכים לחשוב על מהלכים בין לאומיים שכוללים הרמוניזציה של רגולציה בהקשרים האלה
יהודה בן יעקב:
 תודה
אורית פרקש הכהן:
זה הדיווח מטעמכם, האם ניטרתם? האם אתם רואים מגמות בתקופת המלחמה, האם אתם רואים תנועה מוגברת של הסתה הפייסבוק לאור המלחמה? אתה בא ממטא ישראל ודיברת דברים מאוד יפים על הרמוניה
אורית פרקש הכהן:
 אני לא יודעת
אורית פרקש הכהן:
 היה נשמע לי מאוד-מאוד באוויר
אורית פרקש הכהן:
 אתה יושב פה שעה בדיון, בפרק הזמן הזה חזרת עם סיסמה של עוד לא למדתי את הסרטון
אורית פרקש הכהן:
 ציפיתי לקצת יותר נתונים ואמירות יותר
אורית פרקש הכהן:
 מה התשובה לטענה שקיבלתי לפניות על בעיות קשות במהירות התגובה של פייסבוק, על זה שצריך להפעיל כמעט לחצים ואפילו איומים כדי שיגיבו לפניות אליהם? אתה מכיר את זה?
יהודה בן יעקב:
קודם כל התייחסתי גם לזה במסגרת התשובה שלי כשדיברתי על היכולת לשפר מהירות ודיוק גם באמצעות כלים של בינה מלאכותית באכיפה
יהודה בן יעקב:
 פרסמנו בצורה מאוד שקופה ותדירה גם בוועדות קודמות וגם בצורה פומבית את המאמצים שלנו סביב ההסלמה בישראל שכוללים גם מספרים מדויקים על כמות התוכן שהוסר
יהודה בן יעקב:
 לא רוצה לומר כי לא שיננתי בעל פה אבל נתונים שפורסמו לפני מספר שבועות על מיליארדי פיסות תוכן
יהודה בן יעקב:
 זה פומבי – נמצא באתר שלנו
יהודה בן יעקב:
 אשמח לבדוק ולשלוח לוועדה כפי ששלחנו לוועדות כנסת אחרות את המידע הזה
יהודה בן יעקב:
 פרסמנו גם את המאמצים שאנו עושים פנימית, גם עוד שינויים במוצר שעשינו כדי לאפשר הפחתה של חלק מהדברים האלה
יהודה בן יעקב:
 הפעילות עצומה, בשיתוף פעולה גם עם רשויות המדינה
יהודה בן יעקב:
 הנתונים שהפרקליטות ואחרים מפרסמים מראים שאנו מגיבים בצורה מאוד טובה
אורית פרקש הכהן:
 ליאת גלזר מגוגל
אורית פרקש הכהן:
 ברוכה הבאה
אורית פרקש הכהן:
 להתכנס לחמש דקות בבקשה
אורית פרקש הכהן:
 אם תוכלי להזכיר – גוגל היא לא רק גוגל, היא גם כלים של בינה, ותרחיבי
ליאת גלזר:
תודה על ההזמנה ולדבר בפני הוועדה
ליאת גלזר:
 אני מרגישה שטוב ששמו אותי בסוף הדוברים
ליאת גלזר:
 אדבר על גוגל בשני מובנים – כחברה שמפתחת ומייצרית כלים של בינה מלאכותית ועל גוגל כפלטפורמה
ליאת גלזר:
 רק אומר כפתיח, כי עלה פה ולא בהכרח ידענו שיהיה נושא הדיון אבל גם גוגל כמו כל חברות הטכנולוגיה הרב לאומיות האחרות, עד 7
ליאת גלזר:
10 הקימה חמ"ל – קוראים לזה טאסק פורס בגוגל – יש צוות שכל תפקידו לטפל בנושאים ובדיווחים שעולים כתוצאה מהאירועים ומהמלחמה בין אם זה נושאי תוכן ובין אם בקשות שמגיעות מרשויות המדינה לא בהקשרי תוכן אלא בהקשרים של כלים אחרים של גוגל
ליאת גלזר:
 בהחלט יש עבודה מאוד אינטנסיבית, בכל זמן שצריך בשביל לתת מענה
ליאת גלזר:
     אתחיל בנושא של גוגל כגורם שמייצר בינה מלאכותית
ליאת גלזר:
 בדומה למייקרוסופט, גוגל לא חדשה בזירה הזו והכלים שלה בתחום בינה מלאכותית קיימים עוד לפני עולם הג'נרטיב AI
ליאת גלזר:
 לגוגל יש מדיניות וכללי אחריות בבינה מלאכותית מזה מספר שנים
ליאת גלזר:
 כפי שאמרת חברת הכנסת פרקש, יש מהלכים מדינתיים לרגולציה אבל החברות כבר שם
ליאת גלזר:
 החברות הרציניות והאחראיות קבעו לעצמן סט כללים וגם לגוגל יש כללים
ליאת גלזר:
 הם מפורסמים – חלקנו אותם בוועדה בדיון הקודם שקיימנו סביב נושא הרגולציה
ליאת גלזר:
 חלק מהכללים האלה נכונים גם לדיון שאנו מקיימים היום על השימוש בכלי בינה מלאכותית למטרות שליליות, נקרא להן
ליאת גלזר:
 המדיניות שלנו כמובן שאוסרת הטיה בלתי הוגנת, יש לנו צוות אדום שבודק את הפיתוחים החדשים של החברה
ליאת גלזר:
 ספציפית בנושא של ג'נרטיב AI גם בכלי המלל שלנו, שזה בארד, בדומה לצ'אט GPT, יש אפשרות לקבל מידע על התוצאות שאתה מקבל, יש אפשרות להבין מאיפה התוצאה הזו הגיעה
ליאת גלזר:
 גם אנו עובדים על כך שהג'נרטיב AI תהיה מוטמעת בחיפוש שזה אחד ממוצרי הדגל שלנו
אורית פרקש הכהן:
מה לוחות הזמנים לדברים האלה? או אתם מתעסקים בדברים כל כך הרבה יותר מורכבים מהסימון הזה – למה זה לא נעשה?
ליאת גלזר:
כרגע אנחנו מדברים על התוצאות של בארד ושל - - - יהיה בחיפוש
ליאת גלזר:
 זה ביישום
ליאת גלזר:
 זה עובר, מגיע למדינות בהתאם ללוח זמנים
ליאת גלזר:
 גם עניין של שפות כפי שדיברו אבל כן משהו שיהיה זמין בכל השפות ולכל המשתמשים
נירה לאמעי אכלבסקי:
כשאת אומרת שיידעו מי יצר את זה – זה יהיה ברמה של- - -
ליאת גלזר:
לא אמרתי את זה
ליאת גלזר:
 בארד ודומיו, היום אתה מכניס שאילתה ומקבל תשובה
ליאת גלזר:
 להבדיל מהחיפוש שהוא כלי החיפוש העיקרי שלנו שאתה מכניס שאילתה ומקבל תוצאות
ליאת גלזר:
 היום אתה מכניס שאילתה ומקבל תשובה
ליאת גלזר:
 היום יש לך אפשרות – לא למי יצר אלא מה המקורות שמהם נבנתה התשובה שקיבלת
ליאת גלזר:
 זה בנושא של מלל
ליאת גלזר:
 יש לנו גם כלי שפותח לאחרונה, שהוא כלי לסימון תמונות
ליאת גלזר:
 סימון - הכוונה לא לווטרמארק שאתה שם על התמונה ומישהו עושה לזה – אלא משהו שהוא מוטמע במטא דאטא של התמונה, כדי שאחר כך מישהו ייקח אותה, יעשה עליה מניפולציה, יעביר אותה לעוד אלפי אנשים - בסוף יידעו שזה נוצר בכלי בינה מלאכותית של גוגל
ליאת גלזר:
 זה חלק מתפיסת עאחריות של גוגל עם חברות נוספות כדי לייצר את הטכנולוגיה בצורה בטוחה
ליאת גלזר:
     עוד דוגמה, זה מעביר אותנו מהעולם של הכלים שגוגל בעצמה מפתחת לדברים שפחות בשליטת גוגל
ליאת גלזר:
 גם בחיפוש, אם אתה מחפש תמונה יש לך אפשרות לקבל תמונה – יש שלוש נקודות שאפשר ללחוץ ואז אפשר לקבל עוד מידע על מתי נוצרה התמונה הזאת, איפה עוד מופיעה ומקבל קונטקסט שיכול לעזור באוריינות שלך כדי לנסות להבין אם מדובר בתמונה אמיתית או בתמונה שהיא יצירת מכונה
ליאת גלזר:
     לגבי גוגל כפלטפורמה, הפלטפורמה העיקרית שלנו לשיתוף תוכן גולשים היא ליוטיוב
ליאת גלזר:
 רק לאחרונה לפני כמה שבועות פרסמנו בלוג עם הנחיות חדשות וכללים שאנו מפרסמים ביוטיוב כדי לחייב יוצרים, יוטיוברים – אצלנו עכשיו קוראים לזה יוצרים, לסמן אם הם עשו שימוש בתוכן שנוצר בבינה מלאכותית
ליאת גלזר:
 הם בעצמם מסמנים את זה בהעלאה ואז יש לזה חיווי מסוים בווידאו עצמו, תלוי בתוכן או על הווידאו עצמו או במידע שנמצא למטה
ליאת גלזר:
 יש לנו גם כלי אכיפה לזה, כלומר זה חלק מהמדיניות שלנו שהיוצרים צריכים לעמוד בה
ליאת גלזר:
 מעבר לזה, מדיניות התוכן הכללית שלנו, כללי הקהילה אוסרים כל מיני סוגי תוכן – היינו פה בדיונים בוועדות אחרות בנושאים של אנטישמיות, נושאים של הסתה, של טרור
ליאת גלזר:
 יש לנו מדיניות שאוסרת את כל סוגי התכנים האלה בלי קשר לשאלה מה יצר את התוכן, בין אם זה בינה מלאכותית ובין אם זה אדם
ליאת גלזר:
     ספציפית לגבי תכנים שקשורים לבינה מלאכותית, יש במדיניות המידע המוטעה שלנו, אנו אוסרים על תוכן שעבר מניפולציה דיגיטלית, מניפולציה טכנית או עיבוד באופן שמטעה את המשתמשים
ליאת גלזר:
 למשל זה יכול להיות כתוביות וכל התמונות- -
אורית פרקש הכהן:
מה זה אומר? כשיש לכם מדיניות שימוש שאומרת: אסור להשתמש בתוכן שהוא על ידי AI באופן מטעה, מה זה אומר? מותר להעלות תמונה של ילד עם שש אצבעות? מה זה תוכן מוטעה?
ליאת גלזר:
זה אומר שסרטון לא אמיתי שנחזה להיות אמיתי הוא תוכן אסור בפלטפורמה של יוטיוב
ליאת גלזר:
 למשל דיפ פייק
אורית פרקש הכהן:
האם השתמשתם בכלל הזה במסגרת המלחמה הזו כיוטיוב?
ליאת גלזר:
לי אין נתונים על מקרים ספציפיים שקשורים לישראל מאז 7
ליאת גלזר:
10
ליאת גלזר:
 היה מקרה של סרטון של המלכה ראניה מירדן – הופיע בתקשורת – דיפ פייק שבו צידדה בממשלת ישראל, והוסר מהפלטפורמה שלנו ביוטיוב בהתאם למדיניות הזו
ליאת גלזר:
 יש עוד תת סעיף למדיניות שזה תוכן שמיוחס באופן לא נכון, וזה דוגמאות גם שעלו פה, שמראים תמונה מרעידת האדמה בטורקיה ואומרים שזה מהפגזה של צה"ל בעזה
ליאת גלזר:
 זה גם תוכן שאסור בפלטפורמה שלנו
ליאת גלזר:
     אחזק את מה שאמר חברי יהודה מפייסבוק לגבי השימוש ב-AI כדי לזהות ולנטר תכנים
ליאת גלזר:
 כל יום בדקה אחת מועלות 500 שעות תוכן ליוטיוב
ליאת גלזר:
 זה מסה עצומה
ליאת גלזר:
 אי אפשר להתמודד עם זה- -
אורית פרקש הכהן:
אפשר לייצר כלי בינה מלאכותית שינטר את העניין הזה ביוטיוב
ליאת גלזר:
לכן עושים שימוש בכלים של בינה מלאכותית בשביל לנטר ועל זה אשים כוכבית
ליאת גלזר:
 למכונה יש הרבה יתרונות
ליאת גלזר:
 אבל מכונה לא תמיד יודעת קונטקסט
ליאת גלזר:
 אפשר ללמד אותה קונטקסט אבל צריך ללמד אותה יש דברים שאנו אוסרים במדיניות
ליאת גלזר:
 למשל סרטונים של חמאס אנו לא מאפשרים בפלטפורמה שלנו סרטונים של חמאס או ערוצים של חמאס אבל אם דובר צה"ל או ערוץ 12 יציגו את זה במסגרת דיווח חדשותי, ברור שיש כללים, ואת הקונטקסט הזה לא תמיד המכונה יודעת ולכן המכונה יכולה לומר: יש פה משהו ואדם צריך להסתכל
אורית פרקש הכהן:
 נעבור לנציגים הממשלתיים
אורית פרקש הכהן:
 יש פה נציג משרד החדשנות, עו"ד דני חורין, לשעבר היועץ המשפטי של משרד החדשנות – אני לשעבר
אורית פרקש הכהן:
 אתה לא לשעבר
אורית פרקש הכהן:
 אתה היועץ המשפטי של משרד החדשנות, יועץ מצוין
אורית פרקש הכהן:
 יש עו"ד שרה גרין ממחלקת הסייבר בפרקליטות המדינה
אורית פרקש הכהן:
 הקשיתי עליך על האירוע שהציג פה דרור גלוברמן אבל בסוף אתם כרגע בחוד החנית יחד עם מערך הסייבר, ורועי פרידמן ממערך הסייבר
אורית פרקש הכהן:
 אולי נתחיל בך דני
אורית פרקש הכהן:
 ממש בשתי דקות, אני כשרת החדשנות, הוצאתי לראשונה במדינת ישראל כללי אתיקה בבינה מלאכותית
אורית פרקש הכהן:
 זה היה לפני השיגור לירח של צ'אט- - - ובארד וחידוד הסיכונים בבינה מלאכותית
אורית פרקש הכהן:
 זה היה גם לפני התקדמות החקיקות האלה
אורית פרקש הכהן:
 זה לפני קצת יותר משני וחצי
אורית פרקש הכהן:
 סוף-סוף בשעה טובה הבנתי שהסתיימה העבודה שהתחלתי בה ופרסמו כללים
אורית פרקש הכהן:
 אשמח שתאמר עליהם כמה מילים ברמה טלגרפית, ממש בקצרה, שאולי רלוונטיים לעניין כי אני לא מצאתי חובת סימון או דברים שבכנות – לו הייתי עדיין שרת החדשנות לא הייתי לא מביטה על הסוגיה הזו והייתי קובעת חובת סימון
אורית פרקש הכהן:
 בכל מקרה, טוב שקצת התקדמתם
דני קורן:
אהיה מאוד קצר
דני קורן:
      במחצית דצמבר פרסמו משרד החדשנות והמחלקה הכלכלית בייעוץ וחקיקה את גרסתו הסופית של מסמך מדיניות הרגולציה והאתיקה של הבינה המלאכותית, לאחר ששר החדשנות אימץ ואישר את המדיניות המוצעת
דני קורן:
   העבודה על המסמך החלה בתקופת כהונתך כשרת החדשנות, וטיוטת המסמך וטיוטת עקרונות הרגולציה שלך כשרה, פורסמו אז להערות ציבור
דני קורן:
     לאחר שמיעת הערות הציבור ובחינתן הושלם המסמך לאחרונה, ואנו מקווים שתקודם בהקדם החלטת ממשלה שתאפשר את אימוץ המדיניות על ידי הממשלה והנחיית הרגולטורים בהתאם
דני קורן:
      אציין כי הייתה לנו בשלב ראשון התלבטות אם נכון לפרסם את המסמך בתקופת המלחמה, אבל דווקא השימוש שנעשה בבינה מלאכותית ברשתות החברתיות, כפי שעלה גם כאן, חידד את ההבנה שחשוב לקדם את הנושא
דני קורן:
     עיקרי המדיניות – ממש בקצרה – האמירה המרכזית שלנו זה שכרגע לא נכון שיהיה חוק בינה מלאכותית כללי ונכון ללכת לעולמות של רגולציה ענפית שמבוססת על הסיכונים הנשקפים מסוג הטכנולוגיה ומהשימושים הספציפיים
דני קורן:
 נכון שהרגולציה הענפית תטען ככל הניתן את הרגולציה במדינות המובילות בעולם בתחומים האלה והמבחינה הזו לעדכונים ולשינויים שיש בעולם בהקשרים האלה ודאי שתצטרך להיות משמעות
דני קורן:
 הרגולציה צריכה להיות במידת האפשר גמישה, מהירה, ולעשות שימוש בכלים רגולטורים מתקדמים, כדי שניתן יהיה להתמודד עם השינויים הרבים בתחום
דני קורן:
 הרגולציה נכון שתהיה עד כמה שניתן גמישה, מהירה, תעשה שימוש בכלים רגולטורים מתקדמים, כדי שניתן יהיה להתמודד עם השינויים הרבים בתחום
דני קורן:
 חודדה החשיבות המיוחדת בתחום זה של שיח מתמיד בין כל הגורמים הרלוונטיים, וגם של המעורבות האקטיבית בפורומים הבינלאומיים העוסקים בגיבוש הרגולציה
דני קורן:
 חודדה חשיבותו של מוקד ידע ממשלתי, שיידע גם ללוות ולסייע את הרגולטורים הענפיים, גם לגבש מודל לניהול סיכונים בתחומים השונים, גם יהיה גורם אקטיבי בפורומים הבינלאומיים ואולי הכי חשוב – יידע לעדכן ולהמליץ לממשלה אם נכון את מדיניות הרגולציה
דני קורן:
      זה לא נמצא כרגע במסמך כי לא רצינו לעכבו, אבל בשיח, שהחל להתקיים בהקשרים האלה אצלנו עם משרד המשפטים וגורמים נוספים, כן הייתה הבנה שאולי יכול להיות שחריג להיבט של החקיקה הסקטוריאלית צריך להיות נושא הגילוי, ושנכון לשקול רגולציה לגביו
אורית פרקש הכהן:
 דני, תודה על העבודה החשובה שאני יודעת שאתה אישית היה לך חלק מאוד גדולה בה אבל כשאנו רואים איזה שינוי קרה טכנולוגי, עוד מהיום שאני פרסמתי את הכללים האלה לשימוע, אני לא הייתי אחרי שנה וחצי אומרת: עכשיו אתחיל לשקול לבקש חובת סינון, ואשמח שתעביר את המסר זה
אורית פרקש הכהן:
 הקריאה שלי מפה שהדבר הזה היה צריך להיעשות אתמול, שלשום
אורית פרקש הכהן:
 ודווקא בזמן המלחמה ברלוונטיות שלו, ולבקש חובת סימון ושקיפות, זה הדבר המינימלי שצריכה הממשלה לקבוע, גם אם מאמינים ומקבלים את הגישה של רגולציה רכה שלא תחסום את ההתפתחות של הכלי של בינה מלאכותית
אורית פרקש הכהן:
 תודה רבה בכל אופן
אורית פרקש הכהן:
     נעבור אליכם, הכוכבים, אנו רוצים לשמוע מכם בשורות
אורית פרקש הכהן:
 ממחלקת הסייבר בפרקליטות המדינה וגם נציג מערך הסייבר רועי פרידמן
אורית פרקש הכהן:
 דיברתי עם המנהל חיים ויסונסקי
אורית פרקש הכהן:
 הבנתי שלא יכול מסיבות אישיות להגיע, מנהל מחלקת הסייבר בפרקליטות
אורית פרקש הכהן:
 אתם עושים את העבודה הסיזיפית של לפנות לרשתות ברמה היום-יומית, ברמה השבועית לרוב ועד לאחרונה לא בהקשר מלחמה ולצערנו כעת גם בהקשר הזה
אורית פרקש הכהן:
 נשמח לשמוע מה אתם עושים, כשאני מבינה שאתם חיים בעולמות – תעשו לי טובה, תורידו משהו
אורית פרקש הכהן:
 אשמח שתדברי בגילוי לב
אורית פרקש הכהן:
 אתם עושים מה שאתם עושים עם הכלים המאוד דלים שבידיכם
אורית פרקש הכהן:
 ארצה לשמוע מה הכלים הדלים, למה אנו בעולם שבו אתם מבקשים בלי שום סמכות רק אנא תורידו, ומה ההמלצות שלך
שרה גרין:
תודה
שרה גרין:
 למעשה מחלקת הסייבר בפרקליטות אנו ראש חץ של כל גופי הממשלה בעניין פניות לפלטפורמות המקוונות בעניין הסרת תכנים בלתי חוקיים ברשת
שרה גרין:
 מבחינת תהליך העבודה האחריות לאיתור, זיהוי ואיסוף התכנים הרלוונטיים נמצאת בידי גופי הביטחון במשרדי ממשלה נוספים, בין היתר מערך הסייבר הלאומי מעבירים לנו תכנים
שרה גרין:
 הם אחראים על האיסוף והזיהוי
שרה גרין:
 כל אחד בכליו ובתחומי המומחיות שלו
שרה גרין:
 אחר מכן אנו – בפרקליטות אנו בוחנים את התכנים לפי נוהל העבודה שלנו שקובע שני תנאים מצטברים שצריכים להתקיים כדי שנעביר פנייה לפלטפורמות
שרה גרין:
 התנאי הראשון הוא שהתוכן מהווה עבירה פלילית לפי הדין הישראלי, והתנאי השני שחייב להתקיים גם הוא - שאנו מבינים שהתוכן הפר גם את תנאי המדיניות, כל אחת של הפלטפורמה המקוונת, ואז אנו מעבירים פנייה וולונטרית ואומרים- -
אורית פרקש הכהן:
כמה אנשים אתם בצוות הזה?
שרה גרין:
אנו ארבעה פרקליטים, אחד בצו 8, ועוד כ-12 מתמחים וסטודנטים שמסייעים לנו
שרה גרין:
 זה הצוות שגם בשגרה
שרה גרין:
 לסבר את האוזן, מבחינת היקף הפעילות שלנו, אם אתן נתונים השוואתיים, כפי שפרסמנו בדוח סיכום שנה של הפרקליטות ב-21' דיווחנו כ-6,000 פניות
שרה גרין:
 מאז 7
שרה גרין:
10 דיווחנו על למעלה מ-30,000 תכנים
שרה גרין:
 זו עלייה מטורפת
שרה גרין:
 אנו עובדים 24/7
אורית פרקש הכהן:
איך אתם פועלים? רק לפי תלונות שמגיעות אליכם? איך למשל לא ידעת על הסרטון הזה שדיברו עליו פה?
שרה גרין:
אנו לא מאתרים את התכנים – אנו מקבלים מגופי ממשלה - משב"כ, מצה"ל, ממערך הסייבר הלאומי ועוד גופים קטנים שהגיעו אליו
שרה גרין:
 במהלך המלחמה גם המשרד לשוויון חברתי פנה אלינו לגבי מספר תכנים
אורית פרקש הכהן:
ועל הסרטון הזה לא שמעת
שרה גרין:
 אשמח להכיר את הסרטון
שרה גרין:
 אפשר להעביר לנו
נירה לאמעי אכלבסקי:
אתם פתוחים לתלונות של דיווחי הציבור?
אורית פרקש הכהן:
הציבור לא יודע עליהם
אחיה שץ:
בגדול הציבור הישראלי פונים אלינו כי אין להם מקום לפנות
קריאה:
	וגם לקו הסיוע של איגוד האינטרנט
קריאה:
 לא רק אליכם
אחיה שץ:
החברה האזרחית
אחיה שץ:
 אלינו, אליכם
אחיה שץ:
 החברה האזרחית בישראל
אחיה שץ:
 מערך הסייבר התחיל מיזם מאוד יפה
שרה גרין:
חשוב גם לציין שאנו מקבלים תכנים ממשטרת ישראל אז אם אזרח פונה למשטרת ישראל ונניח במקרים שבהם גם הוגשו כתבי אישום, לאחר הגשת כתב אישום מעבירים לנו את התכנים להסרה על הסתה ברשתות החברתיות
שרה גרין:
     מבחינת נושאי הדיון של תכנים או חשבונות יצירי בינה מלאכותית או יצירי מחשב, אנו בפרקליטות מגיבים לפניות של גופי הביטחון ויתר הגופים ולכן לעצם זיהוי התכנים כתנים יצירי בינה מלאכותית, לנו בפרקליטות אין יכולת לקבוע אם משהו יציר מחשב או לא – זה כלי טכנולוגי
שרה גרין:
 מהמיקוד שאנו רואים מבחינת התכנים שגופי הביטחון מעבירים לנו, הם מתמקדים בתוכן ולא באופן יצירתו
נירה לאמעי אכלבסקי:
הם יכולים אבל
שרה גרין:
לא יכולה לדבר בשמם
נירה לאמעי אכלבסקי:
יש מישהו שיכול לתת לכם תמיכה בעניין
נירה לאמעי אכלבסקי:
 זה לא שאתם לגמרי באפלה
שרה גרין:
מבחינת מה שקיים כרגע, לא קיבלנו פנייה על תכנים
שרה גרין:
 גם התכנים שהוצגו – ראיתי אותם, וכשהעבירו לי אותם יחד עם קריאות של הסתה או הזדהות עם חמאס
שרה גרין:
 לכן דיווחתי עליהם – לא כי הם פייק אלא כי הם הסתה
אורית פרקש הכהן:
כלומר מה שאת אומרת, שכשאנו מדברים על איזה פינה שקשורה לחוסר הסדרה של אירועי טכנולוגיה במדינת ישראל, ואומרים: אין הבניין, אין השלד, מה את אומרת – אם משהו לא עולה כדי הסתה מאוד-מאוד חמורה אין לי קטגוריה שבגינה אני יכולה לפנות ולבקש טובה מהרשתות שגם לגביהן אין לי סמכות לומר להן: תסירו, אין לי סמכות חוקית לומר להם: הייתם צריכים לסמן ולא סימנתם, וגם אני חייבת שזה ייכנס לקטגוריה מאוד חמורה של אלימות שהדיפ פייק לא תמיד מתכתב איתה
נירה לאמעי אכלבסקי:
תתייחסי לסעיף 3 בחוק המחשבים
שרה גרין:
הסעיף מדבר על העברת מידע כוזב באמצעות מחשב
שרה גרין:
 מבחינת הסמכות החוקית, אם תוכן יכול לעלות כדי מידע כוזב, נדווח עליו
שרה גרין:
 פרקטית עד כה לא קיבלנו תכנים לבחינה של להסיר אותם רק כי הם פייק
אורית פרקש הכהן:
 רועי פרידמן, ממערך הסייבר
אורית פרקש הכהן:
 חייבים להתכנס, מצטערת
רועי פרידמן:
תודה רבה על ההזמנה
רועי פרידמן:
 אני ראש מערך אסטרטגיה, מערך הסייבר
רועי פרידמן:
 אנו שותפים להבנה ולצורך שנדרש טיפול לאומי בנושא מידע כוזב ותודעה שקרית
רועי פרידמן:
 זה מהווה איום על כולנו כמדינה ומערך הסייבר עוד לפני המלחמה, וביתר שאת עם פרוץ המלחמה, אנו פועלים במספר וקטורים כדי לייצר אותו מרחב תודעתי מוגן, ואלה שלושה
רועי פרידמן:
 הראשון, שמגיע מהעולמות הביומטריים בנושא של דיפ פייק וכל מה שקשור לתמונות פנים ולקול
רועי פרידמן:
 אותו דיפ פייק בעצם נועד לשטות במערכות הזדהות, ואנו פועלים באמצעי מו"פ כדי ללמוד לזהות דיפ פייק של פנים וקול ולמעשה אפשר יהיה לכשהמו"פ הזה יבשיל אנו בוחנים מגוון כלים