ועדת המדע והטכנולוגיה, כנסת 20, פרוטוקול מספר 167, 2018-03-07 10:35

אורי מקלב: בוקר טוב לכולם.

אורי מקלב: זמננו קצר ואני רוצה להתכנס ישירות לעניין.

אורי מקלב: אני מתכבד לפתוח ישיבה של ועדת המדע והטכנולוגיה, היום יום רביעי כ' באדר התשע"ח, ה-7.3.2018.

אורי מקלב: על סדר יומנו הצעה לדיון מהיר של חברת הכנסת רויטל סוויד שהכותרת שלה "פייסבוק מציעה למשתמשי הרשת החברתית להוסיף תמונתו של מחבל לתמונת הפרופיל שלהם".

אורי מקלב: לפני שאני פותח, אני מבקש להתנצל מהמוזמנים שלנו, אלה שאישרו את ההזמנה, אני מבין שגם חברת הכנסת רויטל סוויד תעשה את זה גם מהמקום שלה, אבל אני כיו"ר הוועדה דחיתי את הישיבה כדי לאפשר למציעה חברת הכנסת רויטל סוויד שלא התאפשר לה להגיע בזמן, דחינו את זה ל-10:35 ואני מתנצל בפניכם.

אורי מקלב: נבקש ממך חברת הכנסת רויטל סוויד, אני בהצעות לדיון מהיר לא מוסיף משלי.

אורי מקלב: אני חושב שלא ראוי שאני אקח מדברים של המציע עצמו.

אורי מקלב: אז אני כמעט תמיד נותן למציע עצמו להציג את הדברים ואחר כך נפתח את הדיון.

אורי מקלב: רק אומר בעניין הזה, מבחינת חברת פייסבוק לא הגיעה נציגות.

אורי מקלב: הם ביקשו להודיע שכרגע לא מתאפשר להם להגיע אבל יש מכתב מחברת פייסבוק.

ענת ברקו: זאת אומרת שהם בכלל לא נוכחים פה?

אורי מקלב: לא.

אורי מקלב: הם לא נוכחים היום אבל הם הודיעו את זה מראש.

אורי מקלב: זה גם שלב.

אורי מקלב: אנחנו זוכרים שעד לפני כמה זמן בכלל לא היה עם מי לדבר.

אורי מקלב: אז אנחנו היום בכוחות משותפים של חברי הכנסת היום נמצאים, אבל יש כאן מכתב רשמי שלהם.

ענת ברקו: אסור לעבור על זה בשתיקה.

ענת ברקו: אנחנו לא יכולים לנהל דו שיח עם מכתב.

אורי מקלב: אחרי זה נקריא אותו, אחרי שהנושא יעלה על ידי חברת הכנסת רויטל סוויד בבקשה.

רויטל סויד: בוקר טוב לכולם.

רויטל סויד: אני קודם כל מודה לך אדוני היושב ראש על קיום הוועדה ומתנצלת על העיכוב שנאלצנו לעשות, זה היה מסיבות אישיות.

רויטל סויד: עכשיו לגופו של עניין.

רויטל סויד: אנחנו כולנו, כל מי שראה את התמונה של אותו מחבל נתעב מתנוססת כמסגרת שפייסבוק מציעה למשתמשים, זאת אומרת זה לא שאדם החליט לבוא ולהתפאר מעצמו באותה דמות של מחבל שרצח את הרב רזיאל שבח ז"ל, אלא שפייסבוק הציעה את זה כאחד מהגימיקים שהיא מציעה למסגרות לפרופיל ברשת.

רויטל סויד: הדבר הזה קודם כל מקומם מאוד, דבר שני הוא כמובן פוגע ודבר שלישי הוא בהחלט עידוד והסתה לטרור, אין מה לעשות.

רויטל סויד: כשאתה רואה שבא גוף ולוקח תמונה של מחבל שרצח בדם קר את הרב שבח או מי שזה לא יהיה, ז"ל, ואתה רואה שהיא מציעה את זה היא אומרת "בואו, תשתמשו בזה, תציגו את זה, תשתמשו בפרופיל הזה", זה ממש מבחינתי עידוד והסתה לטרור.

רויטל סויד: אני פניתי מיד לפייסבוק וגם יזמנו את הדיון.

רויטל סויד: ייאמר לזכותם שהם פעלו מאוד מהר פה, בניגוד למקרים אחרים.

רויטל סויד: הם לא רק פעלו מהר הם גם התנצלו, אמרו שזאת הייתה תקלה, טכנולוגית כלשהיא ושזה לא יקרה ותיכף גם נראה מה הם עושים.

ענת ברקו: חשבו שהוא דוגמן.

רויטל סויד: בדיוק.

רויטל סויד: אנחנו מקיימים את הדיון הזה פה היום מכמה וכמה טעמים.

רויטל סויד: קודם כל כדי להראות שכנסת ישראל לא יכולה לעבור בשקט על כך שלוקחים דמות של רוצח והיא מוצגת כאופציה לפאר פרופילים ברשת חברתית.

רויטל סויד: זה לא יכול להיות.

רויטל סויד: גם אם זו תקלה.

רויטל סויד: דבר שני, מן הראוי היה שפייסבוק היו מגיעים לכאן, שמסבירים לנו בדיוק את מה שהם כתבו פה שזו תקלה מבחינתם, אבל יותר מזה, מי היה האדם שבכלל הציע את הפרופיל הזה, את הדמות הזאת כקישוט?

רויטל סויד: למה לא מציגים את הדמות שלי, את הדמות של חברת הכנסת ברקו, את הדמות של ד"ר פרידמן או את הדמות של יו"ר הוועדה?

רויטל סויד: למה אתה לא מפאר פרופילים בפייסבוק.

רויטל סויד: למה אף אחד מאתנו - - -

אורי מקלב: קודם כל שיהיה לי פייסבוק.

אורי מקלב: אחרי זה שיפארו.

רויטל סויד: בסדר, אז אולי את שלך לא, אבל לנו יש ואנחנו שואלות את השאלה הזאת.

רויטל סויד: למה נבחרה הדמות הזאת, גם אם זו תקלה, מי היה שם האיש הזה, הדמות הזאת, הגורם הזה, האלגוריתם הזה שבחר את התמונה של אותו רוצח מחבל נתעב לשמש כתמונה, גם אם זו תקלה.

רויטל סויד: גם אם פייסבוק מצטערים על זה.

רויטל סויד: מה היה שם שאיפשר בכלל את הבחירה הזאת ולמה לא בחרו באף אחד מאתנו?

רויטל סויד: למה לא בחרו באף אחד מחברי הכנסת האחרים?

רויטל סויד: למה בחרו את הדמות הזאת?

רויטל סויד: אלה דברים שאנחנו רוצים את התשובות עליהם.

רויטל סויד: למה אנחנו רוצים את התשובות עליהם?

רויטל סויד: אנחנו רוצים את התשובות עליהם כי אנחנו לא מוכנים שדבר כזה יישנה בעתיד.

רויטל סויד: כשאני רואה את התשובה של פייסבוק אז הם כמובן מתנצלים ואומרים שכל תכני המסגרות עוברים תהליך אישור, מסגרות כפופות למדיניות אפקטים במצלמה.

ענת ברקו: אז זה עבר אישור?

רויטל סויד: כן.

ענת ברקו: זאת אומרת שמישהו, אדם אישר את התמונה.

רויטל סויד: "ועל פי מדיניות זו על המשתמשים לוודא שהתוכן שלהם עומד בקנה אחד עם כללי הקהילה של פייסבוק".

רויטל סויד: כללי הקהילה מאוד ברורים, הם נגד הסתה לטרור ונגד טרור.

רויטל סויד: הכל טוב ויפה.

רויטל סויד: אנחנו צריכים לדעת איך דבר כזה לא יקרה שוב.

רויטל סויד: זה לא רק התמונה, זה לא רק הפרופיל, זה גם מעבר לזה.

רויטל סויד: כי כללי הקהילה שהם נגד כל פגיעה, ובטח ובטח הסתה לטרור וטרור, בסוף הדברים כן חומקים שם מתחת לרדאר.

רויטל סויד: אז איך אנחנו יודעים שעל אף כללי הקהילה לא רק שלא יהיו תמונות פרופיל יותר אלא גם לא יהיו תכני טרור יותר.

רויטל סויד: בסוף התשובה של פייסבוק הם כותבים "אנו נוקטים כעת בצעדים לשפר את תהליך האסקלציה ובוחנים את תהליכי הבקרה לתוכן טרור וכל תוכן אחר שמפר את כללי הקהילה שלנו.

רויטל סויד: בין הצעדים הננקטים שיפור זמני התגובה וכן ניתוב הבקרה של מסגרות מסוימות לצוותים שמתמחים בטרור לפני עלייתן לאוויר".

רויטל סויד: זאת אומרת אנחנו רואים פה איזו שהיא כוונה או יורת נכון לאור באמת הפניה שלנו, שלי בוודאי, גם של חברי יו"ר הוועדה לפייסבוק עם התרעה על הדבר הזה, אז הם כן ינתבו עכשיו את המסגרות ויבחנו אותן.

רויטל סויד: אבל אנחנו כן רוצים לדעת, ונמצאת פה משטרת ישראל, 1.

רויטל סויד: מה אתם עושים בעניין הזה.

רויטל סויד: 2.

רויטל סויד: משרד המשפטים, אם לכם יש גם איזו שהיא נגיעה עם העניין, אם אתם בוחנים את הדברים האלה, אם אתם אחר כך פונים אליהם, מה אתם עושים בעניין הזה.

רויטל סויד: כמובן המכון לדמוקרטיה, נשמח לשמוע גם את עמדתכם בנושא.

רויטל סויד: ובסופו של דבר נסכם.

אורי מקלב: לפני זה נבקש מחברת הכנסת ענת ברקו גם להתייחס ואחר כך נבקש מהמשרדים.

אורי מקלב: רק להתכנס לזמנים מכיוון שאין לנו עוד הרבה זמן.

ענת ברקו: תודה אדוני יושב הראש, תודה לחברתי חברת הכנסת סוויד על הדיון הזה, אני חושבת שהוא חשוב בצורה בלתי רגילה מהסיבה הפשוטה, היום טרור מאוד מאוד אפקטיבי בגלל פייסבוק.

ענת ברקו: הרבה יותר אפקטיבי ממה שפעם.

ענת ברקו: זה אומר שאפשר לנטר – ובטוח שהמשטרה יכולה לדבר על זה – הסתה לטרור, או איומים בטרור דרך מילות קוד ואפשר לעשות את זה.

ענת ברקו: משתמשים בפלטפורמות הללו כדי לגייס טרוריסטים ותמונה מהסוג הזה היא חכה לגיוס טרוריסטים, לא פחות ולא יותר.

ענת ברקו: במיוחד שהתמונה מוצגת כאיזה דוגמן על, סלב.

ענת ברקו: הטרוריסט הופך להיות סלב, הוא מודל לחיקוי, ויש כאלה שבאמת נוהים אחר מודלים מהסוג הזה וזה מאוד משפיע עליהם, בעיקר צעירים, בעיקר קטינים, בעיקר צעירים בגיל העשרה.

ענת ברקו: אני נתקלתי בהרבה מאוד כאלה במסגרת המחקרים שלי של צעירים שמה שהם אומרים זה שהם לא זזים מהאינטרנט, זה מה שהם מחפשים.

ענת ברקו: לא יכולה להיות תקלה מהסוג הזה לפייסבוק ואי אפשר לתרץ אותה בשום תקלה טכנולוגית כי אם זו תקלה טכנולוגית ולאחר מכן הם מודים כאן שזה עבר אישור, יש כאן בעיה, מישהו אישר את זה, אי אפשר להתעלם מזה.

ענת ברקו: לכן אני חושבת שהגיע הזמן להוריד את הכפפות מול התאגידים הללו, כי חוץ מאשר לעשות כסף הם יכולים גם לפגוע בביטחון הציבור וזה מה שעושים בהרבה מאוד מקרים.

ענת ברקו: אנחנו צריכים לעמוד על זה שהם לא ישלחו מכתב, יש להם כל כך הרבה עובדים שאפשר היה לשלוח נציגות כדי לתת התייחסות הולמת לעניין הזה בדרג מספיק גבוה כששמים תמונה של טרוריסט כתמונת פרופיל.

ענת ברקו: אני חושבת שאסור לקבל את זהו בכל מקרה, אני מציעה לעשות גם דיון המשך ולקרוא להם לתת כאן הסברים איך הם מונעים את המקרה הבא, כי זו לא פעם ראשונה ויש הרבה מאוד דברים שהם עשו שהם בהחלט עודדו טרור והסתה לטרור.

ענת ברקו: אז אם הם מתיימרים לא לעשות את זה, בבקשה, שיבואו ויסבירו איך הם עושים שדברים כאלה לא יקרו.

ענת ברקו: תודה.

אורי מקלב: תודה על הדברים.

אורי מקלב: שוב תודה לחברת הכנסת רויטל סוויד על עצם ההעלאה.

אורי מקלב: גם אם זו הייתה טעות מקרית ונדירה שלא עשויה לחזור על עצמה, יש גם חשיבות להעלות את הנושא, ולו רק כדי לקבל את התשובה.

אורי מקלב: מה היה קורה אם לא היית מעלה את הנושא?

אורי מקלב: גם לא הייתה תשובה בכתב של פייסבוק, הייתה אולי עובדה אחת שהורידו.

רויטל סויד: אולי לא היו מונעים גם את המקרה הבא.

אורי מקלב: והורידו.

אורי מקלב: אז קודם כל צריך הפקת לקחים.

אורי מקלב: הפקת הלקחים הוא דבר חשוב לראות, והתשובה הרשמית של פייסבוק שזו התנצלות וזו גם התחייבות שאם קורה עוד משהו, זה כבר לא המקרה הראשון שעבר כך.

אורי מקלב: אז אנחנו לא מסתפקים, אני לא יודע אם חברת פייסבוק לא מלינה על כך שהיא נאלצה להעלות מכתב, יכול להיות שבהחלט, אני גם מתרשם מהמנוסח וגם משיחה אישית קצרה שהייתה לי עם ג'ורדנה בפגישה כאן בכנסת, אז הם בסך הכל שמחים להתנצל.

אורי מקלב: זאת אומרת הם שמחים להתנצל.

אורי מקלב: אז בסדר.

אורי מקלב: אבל אני חושב שעצם התשובה היא חשובה ושזה לא רק הייתה איזו הורדה, הייתה טעות, הורדנו וזה עובר לסדר היום.

אורי מקלב: זה לא עבר לסדר היום ועכשיו כשאנחנו נותנים לזה מבט ציבורי וודאי שיש לזה חשיבות גדולה.

אורי מקלב: מה שכן מעניין אותי ולכן כן הייתה חשיבות לכך שחברת פייסבוק תהיה פה, איך באמת גורמים לכך שלא תהיה טעות חוזרת לעולם.

אורי מקלב: יש את "טעות לעולם חוזרת", טעות, וחוזרים מטעות, אבל יש כאלה טעויות שכל הזמן חוזרות.

אורי מקלב: הן חוזרות על עצמן כל הזמן בטעות.

אורי מקלב: הפקת הלקחים מאוד חשובה פה.

אורי מקלב: כתוב בתורה שאם נמצא חלל על יד עיר, אז כתוב שכל הזקנים של אותה עיר צריכים להתאסף ביחד, אם זה קרוב לעיר, ובסופו של דבר לבדוק מה קרה לחלל הזה.

אורי מקלב: רצחו אותו, מת, ממה הוא מת, ממה נפטר, והם צריכים להגיד, המסקנה שלהם צריכה להיות "ידינו לא שפכו את הדם הזה" וכי יעלה על הדעת שהזקנים האלה הם אלה ש- - - ידינו לא שפכו את הדם הזה?

אורי מקלב: ההסבר הוא האם דאגנו לו ועשינו את כל אמצעי המניעה, דאגנו שהוא בא לעיר, ראינו שהוא התארח, ראינו שמישהו נתן לו אוכל, מישהו השקה אותו או שמה שקרה שהוא יצא מחוץ לעיר, זה היה בגלל שלא עשינו דברים מקדימים שימנעו את זה שהוא יצא מהעיר ומהשמש אולי מהחום, הוא מת מרעב ומת מצמא או היה לו מחסור אחר ואיזו מצוקה אחרת.

אורי מקלב: זה נקרא עד כדי כך "ידינו לא שפכו את הדם הזה".

אורי מקלב: הדברים האלה זו גם מחויבות.

אורי מקלב: יש מחויבות לארגון, לחברה שעושה הרבה דברים טובים, שינתה דברים מהותיים מאוד והרבה תועלות, אבל על כל דבר טוב צריך לראות אם יש תופעות לוואי, ותופעות הלוואי, מישהו צריך להתמודד איתן ומישהו צריך לקבל אחריות על הדבר הזה ולמנוע אותן.

אורי מקלב: זה מקרה קלאסי של פגיעה ברגשות, גם אם אנחנו בטוחים שאף אחד לא מעורר טרור ורצח, אבל יש חובה לעשות דברים של מניעה ולראות כך שהדברים לא יחזרו על עצמם ולבדוק גם אם זה דברים אוטומטיים, אלגוריתמים או כאלה דברים שעושים את זה, צריך לדעת איך החומר האנושי שמלווה אותם - - - נבקש כפי שגם הציעה חברת הכנסת סוויד, שנציג משרד המשפטים יאמר דברים.

<דנה רוטשילד: אני מייעוץ וחקיקה במשרד המשפטים.

<דנה רוטשילד: נמצא לידי גם איתי מיחידת הסייבר שהוא גם יתייחס אחרי.

רויטל סויד: אתם עושים משהו עם דבר כזה?

<דנה רוטשילד: כן.

<דנה רוטשילד: במשרד המשפטים יש פעילות היום שרלבנטית להסרת תוכן מאתרי אינטרנט בשני מישורים.

<דנה רוטשילד: פעילות אחת שנעשית מול פייסבוק במישור הוולונטרי, ירחיב עליה איתי מיחידת הסייבר, ששם בעצם נעשית פניה יזומה במקרה שמאותר על ידי המשרד, איזה שהוא פרסום מסית למשל, פייסבוק פועלים בנושא, איתי ירחיב בעניין.

רויטל סויד: בנושא הזה פניתם אליהם?

<איתי טוהר: אני מיחידת הסייבר בפרקליטות המדינה.

<איתי טוהר: אנחנו פנינו בנושא, במסגרת הזאת, אנחנו פנינו.

<איתי טוהר: ברגע שהביאו לידיעתנו את המסגרת הזאת אנחנו פנינו לפייסבוק והיא באמת הוסרה תוך זמן קצר.

<איתי טוהר: אנחנו פונים בשגרה על תוכן מסית לאלימות וטרור לפייסבוק, החומר מגיע מהמשטרה ומשותפים נוספים שיש לנו בצוות הבין משרדי למלחמה בהסתה ברשתות החברתיות.

אורי מקלב: מה מספר הפניות בשבוע או בחודש שאתם מול פייסבוק בעניין הזה?

<איתי טוהר: אנחנו צפויים לפרסם את הנתונים בצורה מסודרת במסגרת הדו"ח של הפרקליטות.

<דנה רוטשילד: יש גם בקשת חופש מידע שתלויה ועומדת.

<איתי טוהר: נכון.

<איתי טוהר: יש גם שולחן עגול שאנחנו הולכים לקיים יחד עם עמותות.

<איתי טוהר: אנחנו יכולים להגיד שבשנת 2017 אנחנו קרובים ל-12,000 בקשות שהגשנו, והנתונים יפורסמו בצורה מסודרת.

אורי מקלב: ממוצע של 1,000 בחודש.

<איתי טוהר: זה טיפה משתנה, כי בתקופות של הסלמה ביטחונית אנחנו פועלים טיפה יותר.

אורי מקלב: 12,000 בשנה זה המון.

אורי מקלב: פניות רבות, לא מעטות, לפי כל קנה מידה.

אורי מקלב: רק לפייסבוק, נכון?

<איתי טוהר: רק לפייסבוק.

רויטל סויד: הסתה לטרור?

<איתי טוהר: בעיקר הסתה לטרור ותוכן של ארגוני טרור.

<איתי טוהר: הנתונים המדויקים יפורסמו ממש בעת הקרובה.

<איתי טוהר: אבל זה הסדר גודל.

אורי מקלב: יש לכם גם הלימה בין הפניות למה שענו?

אורי מקלב: יש דברים שלא נענים, יש ויכוחים?

<איתי טוהר: עוד פעם, הנתונים לא פה אבל מדובר על סדר גודל של 85% הענות והסרה של התוכן.

אורי מקלב: 85% של הסרה.

<איתי טוהר: נכון.

<איתי טוהר: של הסרת התוכן.

אורי מקלב: אתה יכול להגדיר על מה יכול להיות הוויכוח?

אורי מקלב: מה יכול להיות הוויכוח בין אם זה נקרא הסתה או לא הסתה או אחריות או לא אחריות.

אורי מקלב: איפה יכול להיות הוויכוח, על התוכן עצמו או על דברים מסביב?

<איתי טוהר: קשה לי להגדיר את זה כרגע, אין לי תשובה לתת לך.

<איתי טוהר: זה מאוד משתנה.

<איתי טוהר: יכול להיות דברים, ארגונים שהם לא מוכרים ברמה עולמית, יכול להיות תכנים עצמם שמובהקות ההסתה היא לא הולמת כמו שאנחנו רואים אותה, כמו שפייסבוק רואה אותה, אבל בגדול מדובר יחסית במעט חומרים שלא מוסרים.

אורי מקלב: אתם מנהלים מעקב אחרי הדברים האלה, מה משך הזמן שקורה מאז שאתם פונים עד שזה נעשה?

אורי מקלב: יש בזה גם ממשק, הוסר אחרי יומיים או הוסר מיד, ההיענות, הקשר המידי, איך זה עובד?

<איתי טוהר: זה תלוי בתקופה.

<איתי טוהר: בתקופות של הסלמה אנחנו מקבלים תגובות מאוד מהירות, יכול להיות בין שעה לשעות ספורות.

<איתי טוהר: בשגרה אני מעריך שאנחנו תוך 24 שעות, 48 שעות מקבלים תשובה.

אורי מקלב: יש גם מצב שסוגרים את הפייסבוק למישהו?

אורי מקלב: זה רק הסרה של חומר טרור או שיש גם פעולות יותר- - -?

<איתי טוהר: יש גם הסרה של פרופילים ועמודים שלמים.

אורי מקלב: תודה, הייתי יכול לשמוע יותר אבל פשוט מבקשים לשמוע עוד דוברים שביקשו גם לדבר.

אורי מקלב: בבקשה.

<דנה רוטשילד: אני רק עוד אשלים ואומר שזאת פעילות שנעשית כבר היום.

<דנה רוטשילד: מעבר לכך, במבט יותר צופה פני עתיד יש היום הצעת חוק ממשלתית תלויה ועומדת שמוכרת בשם חוק הפייסבוק, ששם בעצם אמורה להינתן סמכות לבית המשפט להסיר תוכן, גם במקרים שבהם ההיבט הוולונטרי לא עובד.

רויטל סויד: יש גם הצעת חוק פרטית של הסתה לטרור שאומרת שפייסבוק חייבים לנטר ועל אחריותם לנטר ולהסיר, היא מוצמדת להצעת החוק הממשלתית והיא במקרה שלי, זה גם נדון באותו העניין.

רויטל סויד: אנחנו חושבים שהסתה לטרור זה משהו שפייסבוק וכל הרשתות צריכים לדאוג שלא יימצא בקרבם והמחויבות שלהם היא לנטר ולהסיר.

רויטל סויד: בלי השוואות, כמו שהם דואגים שלא תהיה פורנוגרפיה ופדופיליה, לא צריך להיות גם הסתה לטרור ברשת.

אורי מקלב: אני רואה שזמננו קצר.

אורי מקלב: בבקשה ד"ר תהילה שוורץ, המכון הישראלי לדמוקרטיה.

<תהילה שוורץ-אלטשולר: תודה רבה אדוני.

<תהילה שוורץ-אלטשולר: בוקר טוב, דבר ראשון אני גם רוצה לברך על הדיון הזה והעבודה שעושה חברת הכנסת סוויד יחד עם ועדת המדע, ללא ספק מובילה גם לתוצאות.

<תהילה שוורץ-אלטשולר: אנחנו אוהבים לספר לעצמנו שאנחנו נמצאים בתור הזהב של הזכות לחופש ביטוי אבל אנחנו לא יודעים להתמודד עם כל הרעל שנמצא סביבנו.

<תהילה שוורץ-אלטשולר: אני רוצה לומר פה כמה דברים, הדבר האחד הוא שבא משרד המשפטים ומספר לנו סיפור שהוא מאוד מאוד בעייתי וצריך לשים אותו על השולחן.

<תהילה שוורץ-אלטשולר: תהליך האכיפה האלטרנטיבית שמתבצע על ידי משרד המשפטים ללא הסמכה בחוק ותוך פגיעה בזכויות אדם, הוא תהליך מאוד בעייתי וזה לא לחינם שעוד אין לנו גם נתונים.

<תהילה שוורץ-אלטשולר: אני שומעת עכשיו על נתונים מאוד מפתיעים, שמעתי על 4,000 פניות, לא שמעתי על 12,000.

<תהילה שוורץ-אלטשולר: אני שמעתי על 92% של הסכמה.

<תהילה שוורץ-אלטשולר: אדוני שאל את משרד המשפטים איפה נמצא השפיל, השפיל נמצא במקומות שאולי המדינה מבקשת יותר ממה שצריך להסיר.

<תהילה שוורץ-אלטשולר: פה אני רוצה לשים על השולחן שלושה דברים לחשיבה נוספת.

<תהילה שוורץ-אלטשולר: ראשית גם לחברת הכנסת סוויד, הצעת חוק הפייסבוק היא הצעה רעה כי היא רחבה מדי.

<תהילה שוורץ-אלטשולר: היא עוסקת גם בהעלבת עובד ציבור וגם בטרור.

<תהילה שוורץ-אלטשולר: לו הייתה לוקחת על עצמה הוועדה עכשיו באמת את הנושא הזה של היכולת - - -

אורי מקלב: זה פחות בוויכוח.

אורי מקלב: ההגדרה יותר גם - - -

<תהילה שוורץ: בדיוק.

<תהילה שוורץ: אני לא חושבת שארגוני החברה האזרחית כולל האגודה לזכויות האזרח, שלא לדבר על המכון הישראלי לדמוקרטיה היו מתנגדים לזה.

<תהילה שוורץ: זאת אומרת, בואו נעזוב את הסיפור של עבודה מול האזרחים הישראלים ושל כל מיני סיבות של שלום הציבור והתנגדות למשטר, ונדבר על הסתה לטרור שפה באמת אין מחלוקת, ובמקום זה מכניסים לנו את הכל פה בחבילה אחת.

אורי מקלב: ישבנו בחוקים אחרים וכבר חידדנו את הדברים בהגדרות, בוועדת חוקה.

<תהילה שוורץ-אלטשולר: זה נכון, לכן אני אומרת, העבודה שלנו עכשיו היא להגיד איפה המרחב המשותף וכדאי לטפל בו כי הדרך שבה תהליך ה- - - האלטרנטיבית נעשה עכשיו הוא לא טוב.

אורי מקלב: אני חושב שזאת הצעה נכונה.

<תהילה שוורץ-אלטשולר: זה דבר אחד, ואני רוצה להגיד פה שני דברים שכדאי לזכור אותם.

<תהילה שוורץ-אלטשולר: ראשית פייסבוק לפני שבוע וחצי פרסמה לכל המשתמשים שלה בישראל וכמובן לכל מי שנמצא מחוץ לאיחוד האירופי ולקנדה הודעה כזאת שלפיה היא מתחילה לתייג אותנו, זיהוי פנים, בתמונות שאנחנו לא ביקשנו לתייג אותם.

<תהילה שוורץ-אלטשולר: בעצם אותו תהליך היה צריך להתבצע כאן.

<תהילה שוורץ-אלטשולר: אם יכולים לתייג פנים כדי לפגוע לנו בפרטיות וכדי לאגור עלינו עוד מידע, סליחה, המחבל הזה אפשר היה לדעת שהוא מחבל.

<תהילה שוורץ-אלטשולר: את אותה טכנולוגיה שמפעילים כדי לנטר אותנו צריך היה לעשות בפעם הזאת וזה מוביל אותי לנקודה השנייה.

רויטל סויד: מה שאת אומרת תהילה, שזה דברים מאוד חשובים, נותנים יותר מתחושה שיש פה לכולנו בשולחן שהם ידעו מראש שהוא מחבל.

רויטל סויד: שמי שאישר את זה ידע שהוא מחבל.

<תהילה שוורץ-אלטשולר: פה אני מגיעה לנקודה השנייה, זה בדיוק מוביל אותי לנקודה השנייה והדיון הזה הוא חשוב מכל חשוב, שלא ייאמר אחרת וזה המגבלות של המכונות.

<תהילה שוורץ-אלטשולר: אני רוצה שזה יהיה כל הזמן על השולחן ואני אמשיך להגיד את זה עוד פעם ועוד פעם.

<תהילה שוורץ-אלטשולר: אנחנו מדברים על אלגוריתמים.

<תהילה שוורץ-אלטשולר: מדובר על מכונות לומדות והמאפיין המרכזי של מכונות לומדות הוא הקופסה השחורה, הוא העובדה שאי אפשר ברברס אינג'נירינג להגיד איך המכונה הגיעה למסקנה שאליה היא הגיעה.

<תהילה שוורץ-אלטשולר: העולם הזה שבו אי אפשר לנטר אחורה את תהליך קבלת ההחלטות צריך להטריד כל אחד פה כי הוא נכון לפייסבוק והוא נכון למערכות שהמשטרה תאמץ והוא נכון למערכות של הרכבים האוטונומיים.

<תהילה שוורץ-אלטשולר: וזו צריכה להיות המשימה הכי גדולה שלנו לדורות הקרובים.

<תהילה שוורץ-אלטשולר: תודה.

אורי מקלב: תודה.

אורי מקלב: דורי בן ישראל בבקשה.

<דורי בן ישראל: תודה.

<דורי בן ישראל: אני לוביסט מטעם עמותת טרון למען משתמשים ברשת.

<דורי בן ישראל: חשוב להבין שהמקרה שהגענו פה להתדיין עליו הוא לא באג, הוא לא תקלה, הוא מדיניות של חברת פייסבוק שבחרה לא לשלוח לפה את מנהלת המדיניות שלה.

אורי מקלב: לא, אני חייב להגיד, המנהלת בחוץ לארץ.

אורי מקלב: לא תיאמנו את זה.

ענת ברקו: אין אף אחד אחר?

אורי מקלב: לא תיאמנו את זה, אנחנו קבענו את זה - - -

ענת ברקו: לא צריך להגן עליהם.

אורי מקלב: לא צריך להגן אבל צריך להיות הוגנים.

אורי מקלב: היא אמרה שהיא בחוץ לארץ ורצתה לבוא בתאריך אחר.

אורי מקלב: לא יכולנו כי אנחנו על ציר של סוף המושב.

אורי מקלב: היא הייתה מוכנה לבוא לפה רק לא בתאריך הזה שהיא לא יכלה.

<דורי בן ישראל: חשוב לדעת שהיום 53% מהטרוריסטים שעושים פיגועי דקירה, התאבדות, יוצאים בעקבות סטטוסים בפייסבוק, יוצאים בעקבות הסתה בעשרות אלפי קבוצות שמתנהלות בפייסבוק, קבוצות שלא משרד המשפטים ולא המכון לדמוקרטיה ולא שום חברה בעלת יכולות ניטור תוכן יכולה להגיע לאותם תכנים.

<דורי בן ישראל: 12,000 דרישות להסרת תוכן הם קמצוץ לעומת התוכן שבאמת ראוי להיות מוסר מפייסבוק וחשוב לזכור שבגלל הדברים האלה אנשים מתים, בשנת 2017 8,100 איש מסביב לעולם מתו בגלל מחבלים שיצאו בגלל שלמדו לבצע פיגועים אפקטיביים בתוך פייסבוק.

<דורי בן ישראל: יש פה עניין של חיים ומוות של אנשים.

אורי מקלב: תודה.

אורי מקלב: המשטרה רוצה להוסיף משפט?

<סהר מיסק שמע: אני ממדור חקירות.

<סהר מיסק שמע: האמת שלא התבקשנו, אדוני היושב ראש, לתת נתונים ולכן אין בידיי.

<סהר מיסק שמע: באמת גם הפתיחה בחקירה וגם הסרת התכנים מצויים באמת במגרש של משרד המשפטים.

<סהר מיסק שמע: דפי פייסבוק גם מנוטרים על ידי המשטרה וגם בתלונות, בין אם זה עבירות של הסתה לאלימות, טרור או השתייכות או עידוד, כשבאמת המסגרת הזו שאנחנו לא היינו מודעים לה, היא אחת ממכלול האינדיקציות והתכנים שאנחנו שוקלים כחלק מהתשתית הראייתית בהמלצה למשרד המשפטים באם לפתוח בחקירה או לא.

<סהר מיסק שמע: החקירה כמובן היא כנגד חשודים ולא כנגד חברת פייסבוק באופן ברור.

רויטל סויד: המקרה הזה היה מודע לכם?

<סהר מיסק שמע: לא.

ענת ברקו: אז איך - - -

אורי מקלב: תודה רבה.

אורי מקלב: תם ולא נשלם.

אורי מקלב: אנחנו חייבים לסיים.

אורי מקלב: אם אנחנו גולשים הבעיה היא של מנהלת הוועדה ולא שלנו.

אורי מקלב: יש הקפדה.

אורי מקלב: רבותי, אנחנו בדיון מהיר, נסיק מסקנות.

אורי מקלב: אנחנו לא השלמנו את הדיון, רק נגענו בו אבל כן צריך להגיד שחברת פייסבוק ענתה ש"מסגרת זו הייתה אסורה על פי כללי הקהילה שלנו ופעלנו להשבית במהירות, זאת מסגרת שנוצרה על ידי משתמש באמצעות פלטפורמת אפקטים במצלמה.

אורי מקלב: כאמור, כל המסגרות עוברות תהליך בקרה ואישור לפני שהן עולות לאוויר אולם במקרה זה נעשתה טעות אנוש והמסגרת אושרה בשוגג.

אורי מקלב: השבתנו אותה מכל אפשרות לשימוש נוסף.

אורי מקלב: אנו נוקטים כעת בצעדים לשפר את תהליך הסלקציה ובוחנים את תהליכי הבקרה לתוכן טרור וכל תוכן אחר שמפרא ת כללי הקהילה שלנו.

אורי מקלב: בין הצעדים שננקטים שיפור זמני התגובה וכן ניתוב הבקרה של מסגרות מסוימות לצוותים המתמחים בטרור" לא רק אלגוריתם, אלא הרבה לפני ניתן להעביר.

אורי מקלב: "אנחנו עומדים לרשותכם במידה שיש שאלות נוספות" כך כתבה ג'ורדנה קטלר.

אורי מקלב: תודה רבה.

אורי מקלב: אנחנו נגיש מסקנות וכנראה שנמשיך את הדיון הזה בהזדמנות אחרת בהרחבה יותר.

אורי מקלב: תודה.