GiliGold/VAD_KnessetCorpus huggingface dataset:
אלון שוסטר:
 שניים, תוך כדי הדיון הזה, גם חברי הכנסת וגם אחרים, אתם עדים לדיונים שקוראים להם בהפשטה שמאל וימין כלכלי
אלון שוסטר:
 אין מצב שמדינה תיתן לכוחות שוק לעסוק בביטחון ואין סיכוי שאנחנו נאפשר סוג של אדישות כלפי הסוגיה הזאת
אלון שוסטר:
 המדינה חייבת להיכנס במלוא העוצמה שלה, כמו שאנחנו רואים פה כרגע
אלון שוסטר:
 זה נראה טריוויאלי
אלון שוסטר:
 אני רק רוצה שנסתכל על זה גם מהזווית של אחריות מדינתית ולא להפקיר את הנושא הקריטי הזה לכוחות השוק
אלון שוסטר:
     הנקודה השלישית, כלילתיות חברתית, אינקלוסיביות חברתית
אלון שוסטר:
 זאת הזדמנות כשאנחנו פורצים למרחבים חדשים לוודא שאנחנו מביאים לתהליך הזה ככל האפשר הישגים נוספים, לייצר סינרגיה חברתית
אלון שוסטר:
 צה"ל מבקש לפחות 30%, כמניינם של תושבי הפריפריה – אני בחלקם – במקצועות הטכנולוגיים
אלון שוסטר:
 אדרבה, בפריצות החדשות, באג'נדה החדשה הזו, בליבת התקדמות ובניית החוסן הכלכלי, מדעי וכנראה גם חברתי, בריאותי, חינוכי שלנו, יהיו כולם, פריפריה, ערבים, מכל סוג, מכול מין, מכול מחשבה
אלון שוסטר:
 תודה
אורית פרקש הכהן:
תודה, חבר הכנסת שוסטר
אורית פרקש הכהן:
 בכלל אני חושבת שכל הנושא של ההייטק, הטכנולוגיה והבינה בכללותו הוא הזדמנות חברתית מאוד מאוד גדולה, כי בסוף מצד אחד זה תחום מאוד חזק, אבל כשמסתכלים על ההשתקפות החברתית שלו, בדיוק אותן אוכלוסיות שלא נמצאות בו אלה האוכלוסיות שכדאי וצריך לפנות אליהן
אורית פרקש הכהן:
 חבר הכנסת רול, בבקשה
עידן רול:
תודה רבה, גברתי היושבת-ראש, ותודה לכל האורחים הנכבדים שלנו
עידן רול:
 אני יודע שבעיקר כשמדובר על רגולציה זה לא דבר שמעורר עודף נחת בקרב אנשי הייטק, בקרב מדענים, בקרב התחומים שאנו מדברים עליהם היום
עידן רול:
 אני כן חושב שבשונה מתחומים אחרים זה לא עוד נושא טכנולוגי, זה נושא שההשלכות שלו, כבר אלו שאנחנו עדים לצפות היום, הן רחבות
עידן רול:
 יש לו השלכות תעסוקתיות, כלכליות, קניין רוחני, סוגיות של פרטיות, סוגיות אפילו של זכויות יסוד
עידן רול:
 ולכן זה לא רשתות חברתיות, זה לא נושא שאפשר לתחום אותו באיזושהי צורה, ואני חושב שזה דבר בלתי נמנע
עידן רול:
     אני כן רוצה לומר שזה לא משהו שצריך לעורר חשש
עידן רול:
 אני יודע שפרלמנטים באופן היסטורי לא מצטיינים ברגולציה מהירה ביחס לקצב התפתחות הטכנולוגיה
עידן רול:
 אני עורך דין שמגיע מהתחום הזה בעברי וכל מי שעסק בזה יודע שנקודת הייחוס החוקית לכל תחום האינטרנט היה חוק המחשב
עידן רול:
 שנים אחרי שכבר היה ענן וכל התפיסה של מחשב יצאה מגוף מתכת שיושב על השולחן עדיין נאלצו בתי המשפט להתייחס לזה כנקודת ייחוס כי החוק לא התעדכן, לבטח גם בסוגיות של פרטיות ואחרות
עידן רול:
 ועדיין יש פה, לדעתי, חובה שלנו כמחוקקים להעמיק, להתייחס לזה בכובד ראש, אבל להבין שלצד האתגר הגדול ולצד הפוטנציאל הגדול חייבים גם לנסות ולהבין, לפחות בצעדים ראשונים, בסוגיות שתיארתי ואחרות, איך אנחנו מתכוננים כדי לגדר סיכונים ולהפוך את זה ליותר הזדמנות ופחות דברים שידאיגו אותנו או יהוו חסם
עידן רול:
     כן צריך לומר שמדינת ישראל פעמים רבות מחכה לראות איפה יהיו המעצמות, איפה יהיה האיחוד האירופי, איפה תהיה ארצות הברית, מבחינת רגולציה
עידן רול:
 אני לא תמיד דוגל בגישה הזאת
עידן רול:
 אני חושב שמדינת ישראל, כמדינה שיודעת להיות סטארט-אפ ניישן, להתגאות בזה ולהוביל טכנולוגית, כמו שראינו מקום חמישי, צריכה גם לדעת, כמובן תוך תיאום, כמובן תוך משפט משווה ומבט החוצה, לקבל החלטות אמיצות, ולא מן הנמנע שאנחנו גם נהיה בין הראשונים שיקבעו מסמרות ברמה מסוימת גם בתחום הרגולציה
אורית פרקש הכהן:
 אני חושבת שבשבילך בדיוק יהיה מעניין לשמוע את המשנה ליועץ המשפטי לממשלה, מאיר לוין, לגבי טיוטת המדיניות שיצאה בזמן שלי כשרה בדיוק בנושא הזה, של האתיקה וכל השינויים שגם קורים, ואם זה גורם למחשבות מחדש על הכיוונים של מה שיצא
אורית פרקש הכהן:
 ד"ר נעמי בק, ות"ת, בבקשה
אורית פרקש הכהן:
 תחום הבינה המלאכותית נשען הרבה מאוד על מחקר ועל חוקרים
נעמי בק:
תודה רבה
נעמי בק:
 תודה על ההזמנה להשתתף בישיבה החשובה הזאת
נעמי בק:
 אני נעמי בק, סמנכ"ל אסטרטגיה ובין-לאומיות במל"ג-ות"ת
נעמי בק:
 ות"ת זו הוועדה לתכנון ותקצוב של המועצה להשכלה גבוהה
נעמי בק:
 אנחנו בעצם הרגולטור של כל המוסדות המתוקצבים להשכלה גבוהה והלא מתוקצבים, ואנחנו מתקצבים את המוסדות הציבוריים
נעמי בק:
      אני אסביר קצת מה ות"ת עשתה בנושא של מדעי הנתונים ובינה מלאכותית אחרי ששמענו על החלק היותר אפליקטיבי ממשרד החדשנות, המדע והטכנולוגיה וגם קצת על התוכנית הלאומית
נעמי בק:
 ות"ת סימנה כתחום דגל כבר בתוכנית הרב-שנתית הקודמת – זו שהתחילה בשנת 2017, אז כבר ב-2016 – את הנושא של מדעי הנתונים בצורה מאוד רחבה
נעמי בק:
 אני לא אקריא מה שכתוב בשקף כי כולם יודעים לקרוא, אבל בגדול אנחנו מדברים על מדעי הנתונים כמשהו שכולל בתוכו גם את הבינה המלאכותית
נעמי בק:
 כלומר, זה כל התחום של טיפול חדש בנתונים
נעמי בק:
 אני אסביר גם למה זה חשוב
נעמי בק:
      מסביב לעיגול בצד שמאל יש את כל הדיסציפלינות שקיימות באקדמיה, כל האפליקציות, ובמרכז, בליבה, יש את התחומים שמהווים ביחד את הדיסציפלינה החדשה הזאת המתהווה של מדעי הנתונים
נעמי בק:
 למה אנחנו התפקסנו על התחום הזה כבר אז? היו כאן כל מיני התפתחויות שקשורות לטכנולוגיה, אחסון, מחשוב וכו', שאפשרו פריצה של התחום הזה
נעמי בק:
 אנחנו דיברנו על הנושא של נתוני עתק, או ביג דאטה, ולוות"ת היו כמה תוכניות דגל בתחום הזה, מדעי הנתונים כתחום בפני עצמו, וגם הנושא של רפואה מותאמת אישית
נעמי בק:
 פה אתם יכולים לראות אנליזה של מילות מפתח שנעשתה אז ולראות איך הדברים האלה – כריית נתונים, בינה מלאכותית, ביג דאטה, Data Science, הם קצת interchangeable, מתייחסים בגדול לאותו התחום
נעמי בק:
 זיו כבר סיפר על זה אז אני ארוץ על זה מהר
נעמי בק:
     הבינה המלאכותית המקורית, 1960, לנסות להבין איך מחשב יכול לעשות משימה מדויקת, משימה שניתנת לו מראש שבן-אדם יכול, לדוגמה לנצח במשחק שחמט עם כל הכוח המחשובי וכו'
נעמי בק:
 הבינה המלאכותית החדשה היא הרעיון של לתת הרבה מאוד נתונים למכונה ולתת לה להוציא את התובנות מהנתונים האלה ע"י שימוש בכל מיני דברים שנקראים למשל deep learning ומחקים איך שעובד המוח האנושי וכו'
נעמי בק:
 לצורך ההדגמה, תוכנית דגל אחרת של ות"ת הייתה תוכנית ברפואה מותאמת אישית, חיברה נתונים גנומיים וקליניים בשביל לנסות להפיק מהם כל מיני תובנות, לקחת למשל בדיקות דם של מלא אנשים, לתת למחשב להתחיל ללמוד אותן ולהוציא משם כל מיני אוכלוסיות שלמשל אפשר לראות שם biomarkers למחלה כזו או אחרת, סרטן כזה או אחר, בשלב מאוד מוקדם ולנסות להתאים לזה טיפול מותאם אישית
נעמי בק:
      התוכנית הזאת רצה במקביל לתוכנית של מדעי הנתונים וממנה כבר יצאו – למרות שזו לא הייתה המטרה העיקרית של ות"ת, ות"ת היא הגוף היחיד במדינת ישראל שמתקצב מחקר בסיסי, מחקר בסיסי זו האבן הראשונה של הפירמידה הגדולה הזאת שעליה יש את המחקר היישומי ואת התעשייה וכו' ולכן אנחנו תמיד מתמקדים במחקר הבסיסי
נעמי בק:
 אז המטרה של רפואה מותאמת אישית הייתה קודם כל לתקצב מחקר בסיסי ולקדם אותו, אבל כפועל יוצא, בגלל שזה מחקר חדשני פורץ דרך, מהר מאוד קיבלנו פרוטוקולים חדשים לטיפול בחולים, קיבלנו אפילו כמה סטארט-אפים
נעמי בק:
 כלומר, ההשקעה הפרטית בתוכנית המקבילה הזו כבר עברה את ההשקעה הממשלתית, מה שגייסו הסטארט-אפים שנוצרו
נעמי בק:
      שוב להדגיש את העניין הזה – תראו, זו הייתה מפת הסטארט-אפים בישראל אז, בשנת 2017, כשעבדנו על התכנית, תראו כמה מהם מבוססים על מה שנקרא machine learning, בינה מלאכותית, ובעצם מה שווי השוק שלהם
נעמי בק:
 כמובן שהמספרים האלה כבר לא עדכניים אבל זה מראה שוב את החשיבות של קידום המחקר הבסיסי
נעמי בק:
 האפליקציות חשובות אבל אם לא נקדם את המחקר הבסיסי אז גם לא יהיו לנו את האפליקציות המעניינות אחר כך
נעמי בק:
      השקף האחרון מראה מה הייתה תוכנית ות"ת
נעמי בק:
 התוכנית הייתה בהיקף של 150 מיליון שקל
נעמי בק:
 היא החלה לפעול בשנת 2018 - - -
אורית פרקש הכהן:
מה שמה? תוכנית לעניין בינה מלאכותית?
נעמי בק:
תוכנית לקידום מדעי הנתונים ובינה מלאכותית
נעמי בק:
 ועדת ההיגוי של ות"ת – ות"ת תמיד ממנה ועדות היגוי שמורכבות ממומחים מהתחום, במקרה הזה 60%-70% מהמומחים הגיעו באמת מהתחום של בינה מלאכותית כי הוא ייצג את החוזק המחקרי דאז, עשינו שאלונים מאוד מפורטים שמראים בדיוק כמה חוקרים יש בתחום, כמה מהם מתעסקים בתחומי הליבה יותר מ-85% מהזמן, כמה בתחומי מעטפת, כמה תחומים חופפים, כל הדברים האלה
נעמי בק:
 הכול נמצא, דרך אגב, באתר המל"ג, דוח מפורט בעברית ובאנגלית, 60 עמודים למי שמתעניין
נעמי בק:
     הוועדה עבדה במשך חצי שנה, נפגשה עם הרבה מאוד גורמים, כולל צה"ל ומשרדי ממשלה שונים, ובסוף 2018 ות"ת אישרה את המלצות הוועדה לתוכנית ארבע-שנתית לקידום התחום
נעמי בק:
 התוכנית הזאת עדיין פועלת כי התקצוב של ות"ת ממשיך
נעמי בק:
 יש מענקים שממשיכים יותר זמן וכו'
נעמי בק:
 בגדול, מתוך 150 מיליון שקל, 80% או 120 מיליון שקל תוקצבו להקמה של מרכזי מחקר, מרכזי גג קראנו להם, באוניברסיטאות, כלומר שמאגדים את כל הפעילות במוסד בתחום של מדעי הנתונים
נעמי בק:
 חלק מזה היה במה שנקרא מסלול מואץ
נעמי בק:
 רצינו מהר לתת את ההזרקה של הכסף לתחום כדי למנף אותו
נעמי בק:
 כל מרכז מחקר היה אמור לעמוד בתנאי סף מסוימים, מסה מסוימת של חוקרים עם רמת מצוינות מסוימת כדי לקבל את התקצוב של ות"ת
נעמי בק:
 תמיד אנחנו מבקשים מצ'ינג אז המוסדות נתנו 25% מצ'ינג על התקצוב - - -
אורית פרקש הכהן:
תודה רבה, אבל יש לי כמה שאלות
נעמי בק:
לא סיימתי אבל בסדר
אורית פרקש הכהן:
אז תסיימי אבל אני גם אשמח שתתייחסי – את מתארת תוכנית שהושקה בשנת 2018, חלפו 4 שנים שבה תקצבתם אותה - - -
נעמי בק:
היא עדיין פועלת
אורית פרקש הכהן:
אני יודעת שגם בתוכנית הלאומית שמנו דגש גדול על האקדמיה ועל המחקר
אורית פרקש הכהן:
 אז רציתי לשאול, א', כמה חוקרים יש היום באקדמיה בתחום הבינה המלאכותית
אורית פרקש הכהן:
 אני כשרה זוכרת שיש אבל לא מספיק, אז קודם כל לשמוע ממך כי התחום הזה נשען ויש גם קושי, אני זוכרת שברגע שמישהו כבר בקיא בתחום הוא עובר לתעשייה
אורית פרקש הכהן:
 אני לשמוע איך את רואה את הדברים והאם לא נכון שות"ת תוציא תוכנית חמש-שנתית חדשה בנושא הבינה מוכוונת לנושא הזה?
נעמי בק:
תודה על השאלות
נעמי בק:
 קודם כל, התוכנית הושקה ב-2018, אז היה לה מסלול מואץ שתקצב את מרכזי המחקר לארבע שנים על פי עמידה בתנאי סף, כמו שאמרתי fixed sum לכל מרכז
נעמי בק:
 היה גם מסלול תחרותי, הוא הושק שנתיים אחר כך כי לקח להם קצת זמן להכין את ההצעות, לקח זמן לוועדה בין-לאומית לבדוק את ההצעות, אז התוכנית הזאת נמצאת עדיין רק באמצע הדרך
נעמי בק:
 היא מתקצבת את אותם מרכזי המחקר אבל פרויקטים חדשניים במיוחד שממנפים את היתרון היחסי של כל אוניברסיטה ואוניברסיטה, ושם חלוקת התקציב לא הייתה שוויונית
נעמי בק:
         במקביל לזה הפעלנו תוכניות מלגות גם לדוקטורנטים וגם לפוסטים בדיוק בשביל להכין את העתודה המחקרית בתחום
נעמי בק:
 באמת יש זליגה לכיוון התעשייה
נעמי בק:
 יכולת ההשתכרות זה ברור, יכולות המחקר אבל גם כן במקומות כמו גוגל, פייסבוק, אמזון, הן מאוד מאוד גבוהות וחוקרים יכולים לעשות דה-פקטו מחקר בסיסי במקומות האלה, אז חשוב היה מאד לתחזק את ה- pipelineולהכין את העתודה המחקרית בתחום וגם לדאוג קצת לנושא של התשתית
נעמי בק:
     אז מה עושה ות"ת? א', ות"ת ממשיכה את התוכנית הזאת כי היא עדיין פועלת, היא עוד לא הסתיימה ויש ועדת מעקב שבודקת בדיוק מה קורה עם הפרויקטים והמרכזים
נעמי בק:
 ב', אנחנו ממשיכים את תוכניות המלגות שלנו, כמו שהזכיר זיו קציר
נעמי בק:
 זה חלק מהפעימה הראשונה של תוכנית ה-AI
נעמי בק:
 ג', ות"ת נמצאת עכשיו בתוכנית רב-שנתית חדשה
נעמי בק:
 אנחנו סימנו כתחום דגל שבו אנחנו נשקיע קרוב לחצי מיליארד שקל את נושא הקיימות
נעמי בק:
 במסגרת הזאת יש השקעה באנרגיה, אקלים, ים, מים, תזונה, מזון ומגוון ביולוגי, ולהרבה מהדברים האלה יש השקה גם לנושא של AI, לדוגמה חקלאות מדייקת, תחום שאפשר למנף אותו בצורה משמעותית בישראל, תחום שיכול להיות אחד מפרויקטי הדגל של הפעימה השנייה של התוכנית הלאומית לבינה מלאכותית
נעמי בק:
 אז אנחנו שותפים מלאים בתוכנית הלאומית
נעמי בק:
     יש את הרעיון – זיו לא הזכיר אותו – של moonshot, רעיון של פרויקטים מרחיקי לכת שיקפיצו את ישראל לחזית המחקר וחזית התעשייה בתחום
נעמי בק:
 אנחנו חייבים למצוא את הנישה שבה אנחנו מאוד מיוחדים
נעמי בק:
 לצורך העניין, NLP זה דבר חשוב בעברית לישראל, ברמה של מחקר בסיסי הוא לא חשוב בכלל, צריך להגיד את הדברים כמו שהם
נעמי בק:
 אבל יש כן תחומים, כמו רפואה מותאמת אישית, שאנחנו הולכים להשקיע בה עוד חצי מיליארד שקל, כמו הנושא של חקלאות מדייקת, כמו הנושא של ניטור ימי, כל מיני דברים שבהם אפשר יהיה להשתמש בבינה מלאכותית
נעמי בק:
 אלה כלים שקיימים באקדמיה ואנחנו מעוניינים כמובן לתגבר ולתעדף אותם
נעמי בק:
 תודה רבה
אורית פרקש הכהן:
 עו"ד מאיר לוין, המשנה ליועץ המשפטי לממשלה במשרד המשפטים
אורית פרקש הכהן:
 מאיר באמת רתם את המחלקה הפיסקלית ומשרד המשפטים לפרויקט שהיה ראשוני, יחד עם עו"ד דני חורין במשרד החדשנות, לקדם את כללי האתיקה
אורית פרקש הכהן:
 כשנכנסתי לתפקיד ראיתי שישראל מדורגת יחסית בתחום הבינה נמוך מאוד בגלל העדר מדיניות ממשלתית וזאת הייתה עבודה מאוד ממושכת, מאוד ארוכה
אורית פרקש הכהן:
 אשמח לשמוע ממך, מאיר, על התובנות
אורית פרקש הכהן:
 תציג קצת את המדיניות הזו, איך אתה רואה את הדברים לאור כל השינויים בעולם, לאור כל החקיקה האירופית ולאור האתגרים
אורית פרקש הכהן:
 כמובן, דני, אם תרצה להוסיף משהו, עבדת על זה גם קשה
אורית פרקש הכהן:
 זאת ההזדמנות גם להגיד תודה לכל הצוותים שבזמנו עבדו על זה קשה מאוד
קריאה:
עדיין עובדים קשה
אורית פרקש הכהן:
נהדר
מאיר לוין:
שלום לכולם, תודה ליושבת-הראש על הדיון החשוב כאן ועל ההזמנה
מאיר לוין:
 אני שמח גם על ההשתתפות הערה של נציגים מכל התחומים הרלוונטיים, ממשלה, אקדמיה, תעשייה, מגזר השלישי
מאיר לוין:
 זה בדיוק השולחן העגול שצריך להתקיים סביב הסוגיות האלה
מאיר לוין:
      כפי שציינת, אנחנו כבר למעלה מ-3 שנים עוסקים במשרד המשפטים בכלל המחלקות של ייעוץ וחקיקה בנושא הזה של טכנולוגיה ובראש התחומים שהצבנו לעצמנו זה באמת נושא הבינה המלאכותית, אבל אנחנו משתפים פעולה בעניין הזה עם שורה של גופים בתוך הממשלה, משרד החדשנות, המדע והטכנולוגיה, רשות החדשנות, משרד האוצר, משרד התחבורה, הרגולטורים הפיננסיים וגורמים נוספים
מאיר לוין:
     ממעוף הציפור, אחד התפקידים המרכזיים שלנו, כפי שאנחנו רואים, הוא לסייע לקובעי המדיניות בנוגע לאיזון, שכבר עלה פה בדיון, בין הרצון מצד אחד לעודד טכנולוגיה חדשנית לבין ההגנה על זכויות ואינטרסים ציבוריים
מאיר לוין:
 כולנו ערים לשיח שמתנהל כרגע בעולם לגבי האתגרים, הסיכונים והאיומים של הבינה המלאכותית, אבל צריך גם לזכור את ההזדמנויות שהטכנולוגיה הזו מזמנת לנו, ולכן אני חושב שהאתגר יהיה לייצר את האיזון המתאים
מאיר לוין:
 העבודה הזו עדיין בתחילתה ואני מניח שעוד נעסוק בה בשנים הקרובות
מאיר לוין:
      על קצה המזלג אני ארצה להתייחס לאתגרים שעולים כתוצאה מהשימוש בבינה מלאכותית
מאיר לוין:
 בגדול, האתגרים נובעים מהעובדה שהרגולציה בעולם ובמדינת ישראל מסתכלת אל אדם, מכוונת בעצם את כל הפעולות שלה ביחס לאדם, האדם הוא אחראי, איזה תפקידים אני מייעד לאדם, וכשאנחנו מדברים על מכונה, האתגרים יכולים להשתנות
מאיר לוין:
 למשל, איך מתמודדים עם אפליה שעלולה להיגרם כתוצאה מהטיה במערכות האלה? האם יש לאדם זכות לדעת שמערכת בינה מלאכותית מקבלת החלטה בעניין שלו? האם צריך לדרוש מעורבות אנושית בפעילות הטכנולוגית? באיזו מידה נדרש שהמערכת תסביר את הנימוקים להחלטה? מי יישא באחריות המשפטית בגין טעות של המערכת? השאלות האלה מורכבות
מאיר לוין:
 כנראה אנחנו נצטרך לעשות התאמות או לחשוב על הפרשנות של החקיקה שכבר קיימת, ובחלק אולי נצטרך להידרש לכללים חדשים ממש
מאיר לוין:
      בשקף הבא אנחנו רואים מה נעשה בעולם
מאיר לוין:
 בעולם אנחנו יודעים שעוסקים באינטנסיביות בניסיונות לקדם רגולציה ואתיקה בתחום הבינה המלאכותית
מאיר לוין:
 יש ארגונים בין-לאומיים שעוסקים בזה, כמו ה-OECD, שפרסם עקרונות, שכפי שציינתי, הצענו לאמץ כעקרונות האתיקה בתחום גם בישראל
מאיר לוין:
 יש מדינות מובילות שמקדמות יוזמות רגולציה קונקרטיות
מאיר לוין:
 יש סקאלה שנעה בין האיחוד האירופי, שממליץ על רגולציה רוחבית נוקשה וכאן ועכשיו, לבין הגישה הבריטית האמריקאית, שנוטה יותר לרגולציה סקטוריאלית ומתפתחת
מאיר לוין:
 יש ארגוני תקינה בעולם, כמו ה-ISO ו-NIST שעובדים על פיתוח סטנדרטיזציה ותקנים בתחום הבינה המלאכותית
מאיר לוין:
     ומה לגבי ישראל? הגישה שאנחנו הצענו באותו מסמך משותף עם משרד החדשנות, המדע והטכנולוגיה בהובלה שלך בתקופה שכיהנת כשרה נוטה יותר לגישה הבריטית והיא כוללת בין השאר את הרכיבים הבאים: קודם כל, רגולציה לבינה מלאכותית תיקבע ככלל ברמה הסקטוריאלית
מאיר לוין:
 זאת אומרת, לא ברמה רוחבית, או לא בהכרח ברמה רוחבית, אלא ניכנס לתחום הפיננסים, לתחום התחבורה, לתחום הבריאות וכן הלאה, ע"י הרגולטור שרלוונטי ולמול הסיכון הקונקרטי באותו תחום
מאיר לוין:
 זה, כפי שאמרתי, בשונה מהאירופים שמציעים רגולציה רוחבית
מאיר לוין:
      הרגולציה תיעשה ככלל באופן שתואם את הרגולציה שמקודמת במדינות המפותחות ובארגונים בין-לאומיים
מאיר לוין:
 אנחנו צריכים לזכור שעם כל החדשנות הישראלית ישראל בסוף היא מדינה קטנה עם תעשייה משמעותית ונכונות של האזרחים לאמץ את הטכנולוגיה ואנחנו לא רוצים לייצר חסמים רגולטוריים מקומיים וייחודיים לפני כניסת הטכנולוגיה לישראל
מאיר לוין:
 הרגולציה תהיה מותאמת לסיכונים ומבוססת על ניהול סיכונים
מאיר לוין:
 יש הבדל בין נטפליקס, שמציעה על בסיס בינה מלאכותית איזה סרטים תקבל ותראה, לבין אבחון רפואי או החלטה לתת אשראי או לא לתת אשראי, וצריך שהרגולציה תבטא את ההבדל הזה
מאיר לוין:
 ייעשה שימוש כשאפשר ברגולציה רכה ובכלי רגולציה מתקדמים, וגם ייעשה שימוש בנסייניות רגולטורית, סנדבוקסים, כדי להתמודד עם אי הוודאות והקצב המהיר של הטכנולוגיה
מאיר לוין:
      צריך גם לומר שבחצי שנה האחרונה, והזכירה את זה יושבת-הראש, העיסוק ברגולציה של הטכנולוגיה התפתח כמעט כמו הטכנולוגיה עצמה
מאיר לוין:
 אנחנו רואים חברות ומדענים מובילים בעולם שמזהירים מפני הסכנות שטמונות בטכנולוגיה, וחלקם אפילו ביקשו לעצור לתקופה מסוימת את הליך הפיתוח כדי לבצע חשיבה משותפת על הרגולציה
מאיר לוין:
 הקריאות האלה נופלות על אוזניים קשובות
מאיר לוין:
 אפילו בארצות הברית השיח משתנה וגם אנחנו קשובים לכך ואולי לצורך להתאים את המסגרת שהצענו להתפתחויות
מאיר לוין:
     נתאר עכשיו כמה מהפעולות שכרגע נעשות בממשלה ברמה רוחבית בהיבטים האלה של רגולציה ומשפט
מאיר לוין:
 דבר ראשון שנצטרך לעשות הוא השלמת מסמך מדיניות הרגולציה לתחום הבינה המלאכותית
מאיר לוין:
 כבר פרסמנו טיוטה שלו להערות הציבור יחד עם משרד המדע, קיבלנו הרבה מאוד תגובות ענייניות ורציניות מהציבור, גם יש התפתחויות כרגע בעולם, ואת כל אלה נצטרך להטמיע במסגרת המסמך שנביא בפני הממשלה
אורית פרקש הכהן:
בסוף זה גם מסמך של מדיניות של שר
אורית פרקש הכהן:
 גם השר רלוונטי פה כי הממשלה בעצם הסמיכה את השר
מאיר לוין:
בוודאי
אורית פרקש הכהן:
עשינו עבודה משותפת אבל זה באמת היה פרי מדיניות
מאיר לוין:
נכון
מאיר לוין:
 ישנו צוות בין-משרדי שבוחן את הצורך בהתאמות ברגולציה הפיננסית לפעילות בינה מלאכותית
מאיר לוין:
 עו"ד אמיר וסרמן מרשות ני"ע יתייחס לכך
מאיר לוין:
 בייעוץ וחקיקה פועל צוות שבוחן את התאמת כללי המשפט המנהלי לשימושים בבינה מלאכותית ע"י הממשלה
מאיר לוין:
 גם העולם הזה יכול להיות שיהיה מושפע מהתחום הזה
מאיר לוין:
 לאחרונה יצא הצוות בסקר למיפוי היישומים של בינה מלאכותית במשרדי הממשלה ואנחנו מתחילים לקבל תוצאות ולנתח אותן
מאיר לוין:
      אחרי שסקרנו את מה שנעשה, וכאן אני אסיים, נסתכל קדימה ונתבונן במה צריך לעשות
מאיר לוין:
 אני יכול להגיד כמי שנותן ייעוץ משפטי למשרדים שהבינה מלאכותית מתחילה להשפיע על העיסוק שלהם
מאיר לוין:
 אנחנו רואים את זה יותר ויותר
מאיר לוין:
 אני יכול גם לומר בצורה די בטוחה שנדרש להעמיד את ההיבטים הרגולטוריים והמשפטים של בינה מלאכותית במקום גבוה מאוד בסדרי עדיפויות, גם כדי להגן על הציבור מפני סכנות מסוימות אבל גם כדי להבטיח שהציבור ייהנה מהיתרונות של הטכנולוגיה
מאיר לוין:
      אני אמנה כמה עקרונות ופעולות שלדעתי חשוב לנקוט
מאיר לוין:
 דבר ראשון, שיתוף פעולה ממשלתי
מאיר לוין:
 בדוח המלצנו על הסדרה סקטוריאלית אבל גם הדגשנו, ואני חוזר ומדגיש גם כאן, חייב להיות שיתוף פעולה ממשלתי
מאיר לוין:
 קודם כל זה יאפשר ללמוד מהניסיון של המשרדים, ודבר שני, ואולי חשוב מזה, שלא ייווצרו פערים משפטיים או רגולטוריים בין המשרדים
מאיר לוין:
 זה לא הגיוני שהציבור יקבל הגנה חלקית כשמדובר בשירות נפוץ שמשפיע על חיי הפרט, נניח בנקאות, ולקבל הגנה משמעותית יותר כשמדובר בשירות שפחות משפיע, נניח הכוונת תנועה
נירה לאמעי רכלבסקי:
מי ינהל את זה? יהיה גורם מרכזי שינהל את ההתאמה הזו?
מאיר לוין:
אחת מההמלצות – בנושא הזה אולי גם יש שינוי לעומת ההצעה המקורית – יש חשיבה על זה שיהיה מוקד ידע ממשלתי שיעשה את הסנכרון הכולל הזה, לצד ההמלצה שעדיין הרגולציה תובל ברמה הסקטוריאלית
מאיר לוין:
 תובנה יסודית נוספת, ואני חושב שהיא ברורה לכל היושבים כאן, היא שאמון הציבור בטכנולוגיה עובר דרך משפט ורגולציה
מאיר לוין:
 הדיון הציבורי – ממש כתבות משבוע לשבוע – רווי בשיח על איומי הבינה המלאכותית, כשלאחרונה אפילו מדברים על איומים קיומיים
מאיר לוין:
 אני לא מזלזל חלילה באיומים האלה ואני חושב שלכולנו, מגזר ציבורי ועסקי, יש אחריות להקשיב ולחשוב איך מתמודדים עמם, אבל לצד זאת יש לא מעט שימושים שיכולים לשפר את חיי האזרח, אם בבריאות, בתחבורה, או בשירות הציבורי
מאיר לוין:
      אם הציבור ישמע רק על האיומים הקיומיים בלי לשמוע על דרכי ההתמודדות איתם, הוא ייטה לא לאמץ את השימושים הפשוטים
מאיר לוין:
 בינה מלאכותית זקוקה בסופו של דבר לאמון האנושי
מאיר לוין:
 אמון כזה מתגבש בין היתר מתוך ידיעה שהדין והרגולציה מגנים על הציבור
מאיר לוין:
 כולנו מפקידים את כספנו בבנק מתוך אמון במערכת הבנקאית, אמון שנבנה על בסיס הפיקוח של המדינה על המערכת
מאיר לוין:
 אנחנו חייבים לייצר אמון כזה במערכות בינה מלאכותית בטוחות שיכולות לשפר את חיי האזרח
מאיר לוין:
     נקודה נוספת שעלתה פה – אנחנו חייבים ליצור תשתית משפטית ורגולטורית לשגשוג הטכנולוגיה בתחומים של הדאטה והנסייניות
מאיר לוין:
 מדינת ישראל צריכה תשתית משפטית מסודרת לשיתוף בדאטה, כפי שלמשל היום האירופאים מקדמים בדברי חקיקה שאפתניים שמבקשים להנגיש דאטה ולהגביר את התחרות עליו
מאיר לוין:
 הדאטה הוא הבסיס לכל הפעילות של הטכנולוגיה הזו, כפי שנאמר כאן
מאיר לוין:
     דבר נוסף, אנחנו חייבים לעודד את התרבות הנסיינית באמצעות יצירת סביבות ניסוי שיאפשרו פיילוטים מבחינת הטכנולוגיה
מאיר לוין:
 יש כבר ניסיון היום בממשלה שנצבר במשרד התחבורה עם הרכב האוטונומי וברשות החדשנות
מאיר לוין:
 זו צריכה להיות תרבות מפותחת יותר בקרב משרדי הממשלה ויש להם את הכלים לעשות כן
מאיר לוין:
 גם אנחנו במשרד המשפטים מגויסים לסייע
מאיר לוין:
     נקודה אחרונה, שבעצם משקפת את מה שקורה פה בחדר – נדרש שיח משותף עם המגזר העסקי והאקדמיה
מאיר לוין:
 בינה מלאכותית היא שם רחב לשימושים שייתכן שעדיין לא ידועים לנו
מאיר לוין:
 את צ'ט GPT לא הכרנו, חברת הכנסת אורית פרקש הכהן, כשעסקנו בדוח
מאיר לוין:
 השוק תמיד יקדים אותנו בלדעת מה בקנה ומה מתפתח
מאיר לוין:
 אני לא ארחיב על סוגיית הכשרת כוח האדם במדינה, אבל זה בוודאי קריטי שעובדי מדינה יזכו לאוריינות טכנולוגית ושנגייס יותר אנשי טכנולוגיה, אבל עד שזה יקרה, וגם אחרי שזה יקרה, אנחנו חייבים להתמיד בשיח המשולש של אקדמיה, מגזר עסקי ומגזר ציבורי
מאיר לוין:
 שיח כזה יאפשר לנו לחשוף אותנו למגמות והתפתחויות, עשוי לתת למגזר העסקי יותר רצון לשתף פעולה עם הממשלה ולהגיע לפתרונות יצירתיים יחד
מאיר לוין:
 תודה רבה
אורית פרקש הכהן:
תודה רבה, מאיר, ושוב תודה על העבודה המשותפת שעשינו
אורית פרקש הכהן:
 יש לי כמה שאלות בנושא
אורית פרקש הכהן:
 המסמך המקצועי היה מסמך נלווה למסמך מדיניות שאני פרסמתי, טיוטה לשימוע, בנושא "עקרונות מדיניות רגולציה ואתיקה בבינה מלאכותית"
אורית פרקש הכהן:
 המסמך הזה פורסם ב-30 באוקטובר, אתם מוזמנים להיכנס לאתרי משרד החדשנות או משרד המשפטים, ויש שם את כל החומר, מסמך מתודולוגיה ממש מרשים שנערך
אורית פרקש הכהן:
      בזמנו התפיסה שאני אימצתי הייתה של חדשנות אחראית, של רגולציה רכה, אלה המונחים שבהם השתמשנו
אורית פרקש הכהן:
 דיברנו על כך שאין מקום לחוק בינה מלאכותית כמו שכרגע מחוקקים באירופה והלכנו יותר על האמצע של בין הגישה המאוד ליברלית בארצות הברית לבין הגישה היותר נוקשה באירופה
אורית פרקש הכהן:
 בסופו של יום שר המדע הנוכחי יהיה זה שיפרסם את המדיניות הסופית, הנוספת, וכאן השאלה שלי אליכם – כמובן כגורמי מקצוע, ההחלטה תהיה בסופו של דבר של השר – היא: א', האם באמת יש דברים שגרמו לכם לשנות את החשיבה מאז שפורסמה טיוטת המדיניות מטעמי באוקטובר?      דבר שני, אני רוצה להבין איפה עומדים דברים מסוימים שהותנעו, כי לפני 8 חודשים קבענו שתתחיל עבודה על כלי לניהול סיכונים, קבענו שיהיה מוקד ידע בנושא הזה שיפעל במשרד החדשנות בנושא הכללים, ואם אינני טועה, מאיר ודני, גם צוות רגולטורים שייעץ, שיהיה מוקד ידע ותיאום ממשלתי שיעסוק בריכוז ותיאום סוגיות ההסדרה של בינה מלאכותית וגם פורום רגולטורים ושיתוף הציבור בנושא הזה
אורית פרקש הכהן:
 רציתי לשאול איפה הסטטוס של הדברים האלה שיצאו לדרך
דני קורן:
בעבודה המשותפת של משרד החדשנות, המדע והטכנולוגיה ביחד עם ייעוץ וחקיקה, עם המחלקה הכלכלית, גובש אותו מסמך שמאיר הציג, גם את האתגרים שעמדו בפני הצוות שעבד על המסמך וגם את מדיניות הרגולציה שמדברת לא על איזשהו חוק רוחבי אלא על מתן הכלים לרגולטורים הספציפיים לפעול בתחומיהם
דני קורן:
 המסמך כלל עוד כמה נדבכים, אחד מהם הוא אותם עקרונות אתיים כפי שגובשו ע"י הצוות ועל ידך כשכיהנת כשרה בהקשר הזה, והוא כלל גם היבטים נוספים שצריך לפעול במסגרת הממשלתית, גם הקמת פורום שונים, גם הקמת מוקד ידע ותהליכים נוספים, שלגבי חלקם דיבר מאיר והם מפורטים בהרחבה במסמך
דני קורן:
     אחרי שהמסמך הזה פורסם כטיוטה להערות הציבור ביצענו ביחד עם משרד המשפטים עוד שורה של פעולות
דני קורן:
 קיימנו הליך די משמעותי של שיתוף ציבור שכלל גם מפגשים באקדמיה, גם אירוע של שולחנות עגולים שהגיעו אליו עשרות גורמים רלוונטיים מהתעשייה, ממשרדי עורכי דין רלוונטיים, מהאקדמיה, מהמגזר השלישי ומעוד שורה של מקומות
דני קורן:
 ביצענו עוד מפגשים והצגנו את טיוטת הדוח בפורומים נוספים
דני קורן:
 קיבלנו שורה משמעותית של הערות ביחס לדברים, וגם, כפי שנאמר, ההתפתחויות שקרו מאז בהיבטים הטכנולוגיים, גם הן דברים שנלקחו מבחינתנו בחשבון
דני קורן:
     בתקופה האחרונה, אחרי שהשלמנו את אותו מהלך של חשיפת טיוטת הדוח להערות הציבור, קיימנו גם מפגשים פנימיים של הצוות שעבד על המסמך במשרד החדשנות, המדע והטכנולוגיה ובמשרד המשפטים, אנשי המחלקה הכלכלית, שמענו חלק מהמעירים, גורמים שהעבירו הערות בכתב ביחס לדברים, והצענו להם לקיים מפגשים יותר משמעותיים כדי להעמיק וללבן את הדברים, מתוך הבנה ששיתוף הציבור בהקשרים האלה הוא מאוד מאוד חשוב
דני קורן:
      במסגרת הזאת התחלנו מבחינתנו לעשות עבודה על עדכון המסמך לכדי מסמך סופי, שאני מקווה שיוגש לשר ממש בשבועות הקרובים, כשבחלק מהמלצות שיש לנו הכוונה היא באמת לבצע שינויים כאלה ואחרים
דני קורן:
 אני לא חושב שבהכרח באופן משמעותי, בהמלצה העיקרית אולי, אבל חלק מהדברים בהחלט היו דברים שלמדנו וחשבנו ואנחנו כרגע מלבנים כדי לשקול איזה שינויים נדרשים במסמך
אורית פרקש הכהן:
לגבי הדברים האחרים, לגבי כלי ניהול סיכונים, צוות רגולטורים, מוקד ידע, איפה עומדים הדברים?
דני קורן:
במסגרת הזאת של הכלי לניהול סיכונים עדיין אין כלי לניהול סיכונים, זה חלק מההמלצות שיש בטיוטה
דני קורן:
 אנחנו כן ממשיכים לעקוב אחרי מה שקורה גם בעולם בהקשרים האלה ואני חושב - - -
אורית פרקש הכהן:
לא, זה קצת יותר מההמלצות לדעתי, כי במסמך שאני כתבתי אני קבעתי: זה הכללים ועכשיו אנחנו מורים ומנחים ומתחילים את הפעולות הללו