ועדת המדע והטכנולוגיה, כנסת 25, פרוטוקול מספר 15, 2023-06-12 00:00

אורית פרקש הכהן: צהריים טובים לכולם, אני שמחה לפתוח את ישיבת ועדת המדע והטכנולוגיה בנושא המאוד חשוב "בינה מלאכותית: סיכונים, הזדמנויות ושאלת הרגולציה"

אורית פרקש הכהן:  היום זהו הדיון ראשון בסדרה של דיוני עומק שהוועדה תקיים בנושאים ספציפיים

אורית פרקש הכהן:       כשרת החדשנות לשעבר עסקתי בנושא של בינה מלאכותית עם כניסתי לתפקיד בממשלה הקודמת

אורית פרקש הכהן:  למעשה, כבר בחוק ההסדרים הראשון, באוגוסט 2021, העברנו פרק, למיטב ידיעתי ראשון מסוגו, בחוקי ההסדרים, עם סדרת החלטות שונות בנושא הבינה המלאכותית בישראל

אורית פרקש הכהן:  התקיים דיון אסטרטגי במל"ל, המועצה לביטחון לאומי, בנושא בינה מלאכותית והוחלט, אחרי דיון פנים-ממשלתי במעורבות ראש הממשלה דאז, לקבוע שר ומישהו שיוביל את התחום הזה, שמרכיב כל כך הרבה בעלי עניין ושחקנים משמעותיים בממשלה, כפי שנראה היום

אורית פרקש הכהן:       המטרה הייתה שישראל תרתום את הטכנולוגיה הזו – שמהווה מהפכה, לא פחות מזה, ומתרחשת כאן ועכשיו וקורית מאוד מאוד מהר – גם לטובת התעשייה, גם לטובת המדינה והממשלה וגם לטובת איכות החיים של כולנו, שהמדינה תהיה מדינה מובילה בעניין הזה

אורית פרקש הכהן:   התחלנו מספר צעדים בנושא: תוכנית לאומית לבינה מלאכותית שסיכמתי עם שר האוצר דאז ליברמן, אישרנו בהחלטת הממשלה את הצעדים הראשונים של פורום תל"מ החשוב לקידום מכרז מחשב-העל וקבענו יעדים בנושא האקדמיה

אורית פרקש הכהן:  אני כשרה הצטרפתי באותה שנה לארגון שרים בין-לאומיים, ארגון סלקטיבי, לא כל המדינות מתקבלות אליו, ארגון GPAI האירופי שעוסק בקביעת מדיניות בתחום הבינה המלאכותית

אורית פרקש הכהן:      בספטמבר 2022, אם אתם זוכרים, הגיע הנשיא ביידן למדינת ישראל ונתן את הצהרת ירושלים, ששמה דגש על חיזוק שיתוף הפעולה הטכנולוגי בהייטק בין מדינת ישראל לבין הממשל האמריקאי, והדבר הזה הוביל לקבוצות עבודה שהתנענו בנושא בינה מלאכותית בוושינגטון

אורית פרקש הכהן:  שמנו דגש על הסכמים בין-לאומיים לבינה מלאכותית, למשל עם סינגפור, וממש בתום תקופת הכהונה, באוקטובר 22, פרסמתי מטעם הממשלה, וכמובן בעבודה מאוד מאומצת של כל נציגי הממשלה שאתם תתרשמו פה מהעבודה החשובה שלהם, ויחד עם משרד המשפטים, בפעם הראשונה מדיניות ממשלתית בנושאי אתיקה ורגולציה של בינה מלאכותית, עם התנעת תהליכים

אורית פרקש הכהן:      אבל מאז ועד היום עברו פחות משמונה חודשים ואני חייבת להגיד שאפילו אני לא דמיינתי את קצב ההתפתחות והחדירה של הטכנולוגיה הזו

אורית פרקש הכהן:  בחודשים האחרונים – אתם רואים כאן בשקף הזה ובשקף הבא – יש לנו קפיצת מדרגה מטורפת בקצב החדירה של תוכנות כמו צ'אט GPT ואחרות

אורית פרקש הכהן:  תראו למשל בשקף הזה שהזמן שלקח לצ'אט GPT לצבור מיליון משתמשים היה 5 ימים

אורית פרקש הכהן:  לנטפליקס, למשל, זה לקח 3

אורית פרקש הכהן: 5 שנים

אורית פרקש הכהן:  זה לא בדיוק אותו דבר אבל כשאנחנו רואים את הקצבים זה באמת משהו שהוא אחר

אורית פרקש הכהן:       הטכנולוגיה שה- generative AIיוצרת הפכה זמינה למשתמשים ברחבי העולם בפלטפורמות מובילות שהולכות ומתרבות

אורית פרקש הכהן:  הדבר הזה משפיע בצורה דרמטית גם על חברות טכנולוגיה בארץ ובעולם שנדרשות להתאים את פעילותן העסקית ולהישאר תחרותיות בעידן הבינה המלאכותית

אורית פרקש הכהן:  כמובן שזה מטיל אתגר על מדינת ישראל להיות מובילה בנושא הזה

אורית פרקש הכהן:       בנוסף, כמו שכולכם יודעים, מתקיים דיון ציבורי סוער בכל העולם, במדינות שונות, לגבי ההזדמנויות שהטכנולוגיה הזו מביאה אלינו אל מול האתגרים

אורית פרקש הכהן:  כך למשל כולכם בוודאי עקבתם אחרי מכתבים שיצאו מראשי תעשיית ההייטק העולמית, אילון מאסק ואחרים, שני מכתבים, במרס ובחודש מאי, שראשי הטכנולוגיה, התעשייה, מזהירים מפני סכנות ה-AI, אפילו עד כדי סיכון להכחדת האנושות וקראו לעצור זמנית את פיתוח הבינה

אורית פרקש הכהן:      לעומת זאת, צריך להגיד שלא מעט חוקרים חושבים שהבינה המלאכותית תעשה את העולם טוב יותר ויש אפילו מאמר של מארק אנדרסון שאומר ש-AI תציל את העולם

אורית פרקש הכהן:  אותו דיון ער ודרמטי מתקיים גם לגבי המדיניות הממשלתית והעולמית לנושא ה-AI

אורית פרקש הכהן:  גם בזה אנחנו בימים דרמטיים

אורית פרקש הכהן:  השבוע הפרלמנט האירופי צפוי לפרסם חוק בינה מלאכותית ואני מניחה שנשמע כאן בהרחבה  על הנושא הזה

אורית פרקש הכהן:       הדיון היום מבחינתי הוא דיון חשוב ביותר כי תהיה לנו הזכות לשמוע נציגים רבים מתוך הממשלה שבו ניישר קו ונשמע איפה הדברים עומדים, כיצד מתקדמות התוכניות השונות, ונעקוב ונבין היכן עומדת העשייה הממשלתית בנושא הזה ומה קרה עם כל הדברים שהוצאנו לדרך

אורית פרקש הכהן:  נשמע את משרד החדשנות, רשות החדשנות, משרד המשפטים, ות"ת, מפא"ת של משרד הביטחון, הרשות לניירות ערך

אורית פרקש הכהן:  אני חושבת שכבר אתם מתחילים להבין כמה שחקני מפתח יש במדינת ישראל, זה גם בהייטק אבל בפרט בנושא החשוב הזה, וכל אחד יעדכן לגבי הנושא, כשהמטרה היא גם לעקוב וגם לחזק את העשייה שהתחילה

אורית פרקש הכהן:  אנחנו גם נשמע את ד"ר אורנה ברי, שהייתה ממכינות תוכניות היסוד שעמדו בבסיס הרבה מאוד דברים שעשינו בבינה מלאכותית

אורית פרקש הכהן:  היא מהראשונות שעשתה תוכנית, ביחד עם צוות כמובן, בשנת 2021

אורית פרקש הכהן:  נמצא אתנו כאן גם פרופ' פאגן מאוניברסיטת הרווארד – תודה שהגעת – ונציגי תעשייה

אורית פרקש הכהן:       בגלל שהאתגרים הם שונים מתחום לתחום וגם מבטאים הרבה מאוד הזדמנויות, דיוני ההמשך יהיו דיוני עומק – AI בחינוך, AI עם אתגרי תעסוקה, AI באתגרי הבריאות, רגולציה ועוד

אורית פרקש הכהן:  מבחינתי, מדינת ישראל צריכה להיות בין המובילות בתחום הבינה המלאכותית, בנושא האקדמיה שלה, בשווי השוק שייצרו החברות, בפרויקטים הלאומיים ועוד

אורית פרקש הכהן:  המטרה היא להציף את הנושא החשוב הזה לסדר-היום הציבורי

יאסר חוג'יראת: יש לי בקשה מהדוברים – להתייחס תמיד גם לחברה הערבית בארץ בכל הנושא של בינה מלאכותית, מה נעשה ואיפה זה עומד גם בחברה הערבית

אורית פרקש הכהן: בסדר, אני רושמת את הנושא הזה ואנחנו נדבר עליו

אורית פרקש הכהן:  אני מעדיפה שאחרי זה תהיה שאלה ספציפית

אורית פרקש הכהן:  עשינו תוכנית ענקית שנקראת "אימפקט" לחברה הערבית, אבל זה בהחלט חשוב מאוד

אורית פרקש הכהן:  ראשון הדוברים זיו קציר, רשות החדשנות

אורית פרקש הכהן:  בבקשה, תציג לנו את התוכנית הלאומית

זיו קציר: שלום, צהריים טובים, תודה רבה על ההזמנה ועל ההזדמנות

זיו קציר:  שמי זיו קציר ואני אספר לכם על המאמץ שכולנו כבר נמצאים בו כמעט שנתיים לתוך העבודה, מתקדם מאוד מאוד יפה, בשיתוף רחב של הרבה זרועות בממשלה

זיו קציר:  מאחר שזה דיון ראשון נתחיל בהגדרות בסיסיות, נמשיך משם וניגע בכל הנושאים הרלוונטיים

זיו קציר:      נתחיל ב"מה זו בינה מלאכותית?"

זיו קציר:  מפתיע לגלות שהשאלה הפשוטה הזאת זוכה להמון המון שעות דיון ברחבי העולם והיא בכלל לא פשוטה, אז ניתן לה מענה קצר, עד כמה שאנחנו יכולים היום

זיו קציר:  אחרי שנבין מהי בינה מלאכותית נשאל בעצם מדוע זה חשוב ומעניין – חברת הכנסת פרקש נגעה בזה ובכל זאת ניגע בזה עוד טיפה – נשאל מה עושה הממשלה באופן רחב, בפרט מהי אותה תוכנית לאומית לבינה מלאכותית וניגע על קצה המזלג בשאלה מה בין בינה מלאכותית לבין עולמות הרגולציה

זיו קציר:      אז מהי בינה מלאכותית? אני נוהג להשתמש בשתי הגדרות: ההגדרה הראשונה היא הגדרה טכנולוגית, מדברת על סיטואציה שבה אנחנו משתמשים בכלים של למידת מכונה בכדי ללמד מכונות לעשות משימות

זיו קציר:  בגדול, במקום המתודולוגיה שהשתמשנו בה עשרות שנים לאחור לפיתוח תוכנה, ששם לקחנו בעיה גדולה, התחלנו לפרק אותה לבעיות קטנות יותר ונתנו להן פתרון לוגי סדור, הרעיון פה אומר שיש לנו נתונים שמייצגים את הפתרון הרצוי ואנחנו מאפשרים למכונה ללמוד מתוך אותם הנתונים

זיו קציר:       ההגדרה השנייה, שהיא ההגדרה שמטרידה את רוב הרגולטורים בעולם, היא הגדרה פונקציונלית, מדברת על סיטואציה שבה מכונות, מחשבים, מתחילות לבצע משימות שקודם לכן ייחסנו לאנשים

זיו קציר:  לפני 20 או 30 שנה, כשהייתי ילד, גארי קספרוב מפסיד ל-Deep Blue בשח

זיו קציר:  זה היה ניצחון כביר של עולם הבינה המלאכותית, לא חשבו שמחשבים יכולים לעשות את זה

זיו קציר:  אחר כך, ב-2014, מחשבים מתחילים לזהות פרצופים של אנשים טוב יותר מאנשים וכו'

זיו קציר:  והיום אנו רואים בעולם הבינה המלאכותית היוצרת מודלים שמייצרים דיאלוג שנראה כמו אנושי

זיו קציר:  הדבר החשוב בהגדרה הספציפית הזאת זה שאם מחשבים מתחילים לבצע משימות שהן כמו אנושיות עולה השאלה אצל מי שיקול הדעת, או איפה זה פוגש את האתיקה והרגולציה, וזה מגיע לנו מההגדרה הזו

זיו קציר:      למה בעצם זה מעניין? אז, קודם כל, בינה מלאכותית היא טכנולוגיה והיא לא סוג של תעשייה, היא לא דבר ספציפי בפני עצמו, והיא פותחת לנו פתח להמון שימושים שבהחלט לדעתי הולכים לשנות את האנושות לטובה ואת המצב של כולנו

זיו קציר:  סתם דוגמאות – יכולתי לתת שלושה שקפים של דוגמאות בלי לחזור על עצמי פעמיים – שיפור יבולים ע"י טיפול טוב יותר במזיקים, בהורדה של תשומות, העלאה של תפוקות, זיהוי מקדים של תקלות בקווי ייצור, מניעה הונאה פיננסית

זיו קציר:  כל הנושא של שרשראות אחסנה ולוגיסטיקה מטופל המון באמצעות בינה מלאכותית כדי לוודא שיש לנו פחות פחת והדברים שאנחנו רוצים וצורכים מגיעים במצב טוב בזמן הנכון בלי לבזבז משאבים

זיו קציר:      פיתוח תרופות מואץ – אחת הדוגמאות החביבות עליי – פיתוח תרופות, נכון להיום, לוקח בין 10 ל-15 שנים, רוב מכריע של המולקולות שיצאו לדרך נפסלות מטעמים שונים, אם כי הן רעילות, כי הן לא יעילות מספיק וכו', והינה היום יש לנו דור חדש של חברות הזנק מבוססות על ידע אקדמי שמנסה לדייק טוב יותר בפעם הראשונה, על ידי כך לקצר את התהליך, לייעל אותו, להוריד את העלות שלו ולאפשר לכולנו ליהנות מתרופות בעוד המון תחומים שהיו קודם לכן לא כלכליים

זיו קציר:      ייעול של רשתות חשמל ומים, ביוב, כבישים וכל מה שלא נרצה; הוראה מותאמת אישית – בעולם יש מחסור עצום במורים, לא רק בישראל, בכל העולם, ויש מחשבה על-כך שבינה מלאכותית תעזור לנו לתת חינוך טוב יותר, מותאם יותר, ניצול טוב יותר של המשאבים הקיימים, התמקדות במי שצריך עזרה כזו או אחרת; וממשקים שיחתיים – בעידן שצ'אט GPT פרץ לחיינו אי אפשר להתעלם גם מהדבר הזה ומה זה יכול לעשות לנו, החל משירות לקוחות, דרך שירות לאזרח לשירותים הממשלתיים, דרך מיצוי זכויות ואלף ואחד דברים שהיו מורכבים מאוד לעשותם קודם לכן

זיו קציר:  אז הינה לנו קצת אינסנטיב למה בינה מלאכותית זה מעניין

זיו קציר:      שאלה מעניינת בנקודה הזאת היא איפה ישראל עומדת

זיו קציר:  התשובה החיובית היא שאנחנו סך הכול מתחילים בנקודת פתיחה לא רעה בכלל

זיו קציר:  זה אחד המדדים הבין-לאומיים לדירוג של מדינות בהקשר לבינה מלאכותית, ה-global AI index של Tortoise

זיו קציר:  אנחנו במקום חמישי

זיו קציר:  לפנינו ארצות הברית וסין, עם אין סוף כסף ואין סוף אנשים, ושתי מדינות שיש להן תשתית אקדמית ארוכת שנים, בריטניה וקנדה

זיו קציר:  כאנקדוטה, נולדה הבינה המלאכותית, כמו שאנו מבינים אותה נכון להיום, איפשהו בתחילת שנות ה-2000, באוניברסיטאות הקנדיות

זיו קציר:      אבל אם צוללים יותר לעומק, רואים שיש לנו לצד החוזקות בהון האנושי, ביכולת מחקר ופיתוח, ביצירת סטארט-אפים, יש לנו גם שתי חולשות כמדינה

זיו קציר:  חולשה ראשונה זו היכולת שלנו ליצור תשתיות ארוכות טווח

זיו קציר:  אנחנו מבינים שזה לא משהו שהשוק הפרטי יודע לעשות היטב

זיו קציר:  חולשה שנייה שלנו זה בכל מה שנוגע למדיניות

זיו קציר:  אנחנו, באופן כללי, יודעים לעשות שיתופי פעולה אבל פחות יודעים לתכנן את חיינו ל-10 שנים קדימה, כך אנו כאומה, כמדינה

זיו קציר:  הדברים האלה מובילים אותנו עוד רגע לשאלה: איפה מדינת ישראל צריכה לפעול?     

אורית פרקש הכהן: לא, המדיניות זו גם העובדה שלא הייתה רגולציה במובן הזה

זיו קציר: בהחלט

זיו קציר:  כל מה שנוגע לתכנון ארוך-טווח זה האזורים שבהם אנחנו פחות מצליחים בדרך כלל

זיו קציר:  מה המדינה צריכה לעשות? היא צריכה לעשות 3 דברים: תשתיות, שקצת נגענו בזה; הנושא של הטמעה במגזר הציבורי, אם לא הממשלה, המדינה, אף אחד לא יעשה את זה בשבילה, זה חייב לקרות פה; ודבר אחרון זה כל המפגש בין רגולציה לבין בינה מלאכותית, באיזה אופן המציאות הטכנולוגית המשתנה משפיעה על רגולציה קיימת, באיזה אופן צריך ליצור רגולציה או חוקים אתיים שימנעו שימוש לרעה ביכולות האלה ובאיזה אופן אנחנו צריכים לבנות את הרגולציה שלנו בכדי להאיץ חדשנות ולוודא שישראל נמצאת במקום המוביל שבו היא נמצאת כרגע

זיו קציר:  אלה שלושת הדברים

זיו קציר:      בשנת 21 יצאה לפועל תוכנית תל"מ

זיו קציר:  חמשת הגופים – ות"ת, מפא"ת, רשות החדשנות, משרד החדשנות, המדע והטכנולוגיה ומשרד האוצר

זיו קציר:  פורום התשתיות הלאומיות למו"פ, תל"מ, עושה את תפיסת העבודה לתחום שקיים 25 שנה, פורום וולונטרי, בגדול מאגם משאבים ופועל יחד להשגה של מטרות משותפות

זיו קציר:  תוכנית הבינה המלאכותית היא אחת מתוכניות הדגל של פורום תל"מ

זיו קציר:  מסביבו התקבץ מעגל שני שמכיל את מערך הדיגיטל הלאומי, משרד המשפטים, משרד החוץ ומעגל שלישי של עוד שורה ארוכה-ארוכה של משרדי תוכן, רשויות וגופים ממשלתיים

זיו קציר:      הפעימה הראשונה תוקצבה כבר בתקציב המדינה ל-21-22 517ב- מיליון ש"ח וממש לפני מספר שבועות, באישור תקציב המדינה ל-23-24, אושרה מסגרת של עוד כ-500 מיליון שקלים, כך שאנחנו עומדים בסך הכול על תוכנית שמתוקצבת כבר במיליארד שקלים על פני כ-6 או 7 שנים, ותכף תראו שגם נוגעת בכל הדברים המשמעותיים שצריך לגעת בהם

יאסר חוג'יראת: כמה מתוך הכסף הזה נוצל ב-22?     

זיו קציר: אני מזכיר שב-21 היה לנו בעצם חודש עבודה

זיו קציר:  תקציב 21, אני מזכיר, עבר בנובמבר 21

זיו קציר:  עד כה, במצטבר הוצאנו כ-80,000 או 90,000 ש"ח, אל תתפסו אותי במספרים, על פני כל הצירים

זיו קציר:       יש לנו ועדה מדעית מייעצת, בראשה עומד פרופ' יואב שוהם ולצדו שורה של פרופסורים ואנשי תעשייה מהארץ ומהעולם מהשורה הראשונה – אפשר להתרשם – שמטרתם להנחות אותנו

זיו קציר:  התוכנית כוללת 7 רכיבים:      הראשון מדבר על מובילות אקדמית, הן בהקשר של הגדלת הסגל האקדמי בעולם הבינה המלאכותית, הן בהקשר של משיכה לישראל של הפרויקטים המצוינים ביותר שנמצאים בחזית המחקר העולמית

זיו קציר:  לצדה תשתית חישובית, מחשב-על, היכולת של חוקר באקדמיה או של חברות הזנק לאמן מודלים גדולים במיוחד, עבור משם לנושא של עיבוד שפה טבעית, שפה טבעית בשפות המקומיות שלנו עברית וערבית, המון פעילות שם שמטרתה בסופו של דבר לאפשר לאותם חוקרים באקדמיה, לאותם סטארט-אפים, ליזום אלף ואחד מיזמים חדשניים מבוססי שמע או טקסט

זיו קציר:       הטמעה במגזר הציבורי – יש פרק ענק שנכנס בפעימה השנייה – פרויקטים רחבי היקף שנועדו להשפיע על החיים של כולנו לטובה, אם ע"י טיוב תהליך קבלת ההחלטות הממשלתי, ייעול מערכות או שיפור השירות לאזרח

זיו קציר:  ממשיכים משם לנתונים והנגישות לנתונים

זיו קציר:  נתונים הם הבסיס לכל דבר אצלנו בעולם הבינה המלאכותית ולכן אנחנו רוצים לקחת את מאגרי הנתונים הענקיים שקיימים, הרבה מאוד מהם במגזר הציבורי אבל לא רק, ולהפוך לנגישים, להפוך אותם לדלק בעבור מי שצריך אותם

זיו קציר:  מעבר לצורך לאגם אותם יש שם המון המון חסמים משפטיים נכונים – פרטיות, הבנת סייבר, חיסיון ואלף ואחד דברים שצריך לטפל בהם ואנחנו עובדים בזה קשה מאוד

זיו קציר:      ציר האתיקה והרגולציה, שנדבר עליו מעט בהרחבה, ובסופו של דבר קידום של ענפים בעולם ההייטק הישראלי שעדיין לא עברו את המהפכה הזאת של הבינה המלאכותית

זיו קציר:  בסך הכול, מקצה לקצה יש פה נגיעה בכל הערוצים המרכזיים שבהם הממשלה פועלת

זיו קציר:  עובדים כבר כמעט שנתיים, מוקצים מיליארד שקלים וקצב העבודה שלנו רק הולך ומתגבר

אורית פרקש הכהן: תודה

אורית פרקש הכהן:  אני מאוד מאוד אשמח לדעת איפה הדברים עומדים מבחינת פרויקטים בתכלס

אורית פרקש הכהן:  כלומר, איפה עומד נושא המכרז? לגבי האתיקה והרגולציה אני מניחה שידברו אחרים, אבל אם אפשר קצת לקבל סטטוס של הדברים

זיו קציר: בוודאי

זיו קציר:  בעולם מחשב-העל אנחנו מקימים 3 מיזמים: מעבדה לחישוב-העל שצריכה להיות בסיס לחברות הזנק

זיו קציר:  קול קורא שהוציאה רשות החדשנות נסגר לפני כשבוע והכרזה על זוכים צפויה בחודש אוגוסט

זיו קציר:  מפא"ת פועלת על העמדה של משאב מבוסס נימבוס לאימון של מודלים גדולים

זיו קציר:  אני מאמין שיהיו לנו חדשות על חתימת ההסכם ממש ברמה של שבועות מהיום

זיו קציר:  הכוונה היא לצאת לפיילוט כבר במהלך הקיץ, שם אנחנו נמצאים

זיו קציר:      הרגל השלישית היא נושא של חישוב מדעי

זיו קציר:  כל העולמות של סימולציה מעולמות הטבע – ביולוגיה, כימיה, פיזיקה וכו'

זיו קציר:  אנחנו עובדים קשה

זיו קציר:  אני עוד לא רוצה לספר מאחר שהדברים עדיין לא סגורים חוזית ואני לא רוצה לסכן אותם, אבל גם שם יש השתלמות יפה

זיו קציר:  ב-NLP, בעיבוד השפה - - -     

אורית פרקש הכהן: זה מפא"ת יגידו, לא?     

זיו קציר: זו עבודה שנעשית בשותפות כולם, משרד החדשנות, מפא"ת, רשות החדשנות, אנחנו עובדים כולם יחד

זיו קציר:  הנושא של אימון מודל שפה גדול, ממש עוד רגע אנחנו נוכל לדעתי לגזור את הסרט על חתימת החוזה בהובלת מפא"ת

זיו קציר:  שורה ארוכה-ארוכה של מאגרי מידע, חלקם ע"י מפא"ת, חלקם ע"י רשות החדשנות, קולות קוראים למחקר יישומי שייצאו ממשרד החדשנות, מודלים מתמטיים יעודים שכבר יצאו לדרך, קול קורא פתוח באוויר לנושא של מאגרי מידע וכלים

זיו קציר:  בקיצור, המון-המון פעילות שנעשית באזור הזה של ה-NLP

זיו קציר:  באקדמיה כבר שני מחזורים של חלוקה של מלגות לדוקטורנטים ופוסט-דוקטורנטים במטרה להגדיל את הסגל

אורית פרקש הכהן: מבחינת רשות החדשנות יש מסלולים תומכי AI היום, או שזה לא ספציפי?     

זיו קציר: רשות החדשנות עובדת בשני אופנים: אחד, חברות שמגיעות עם חדשנות טכנולוגית פורצת דרך מקבלות מימון בהתאם לגודל שלהן – צעירה, בוגרת יותר וכו'

זיו קציר:  אני יכול להגיד שכ-30%-40% מכל הבקשות שמוגשות לרשות החדשנות בשנה כוללות את צמד המילים "בינה מלאכותית"

זיו קציר:  אם רשות החדשנות מחלקת בערך מיליארד וחצי שקלים במענקים כל שנה, ניתן להגיד שכשליש מזה עובר לחברות שמיישמות בינה מלאכותית

זיו קציר:  מעבר לכך, עושה הרשות, כחברה בתוכנית הלאומית, השקעות תשתיתיות, כפי שתיארנו עד כה, שהן לא נוגעות לתיק בקשה כזה או אחר

אורית פרקש הכהן: יופי

אורית פרקש הכהן:  תודה, זיו

אורית פרקש הכהן:  שלום לנציגי משרד החדשנות, גם למדען הראשי, פרופ' אבי דומב, וליועץ המשפטי, דני חורין

אורית פרקש הכהן:  איתן טי, בבקשה

איתן לבני: שלום לכולם, תודה על הדיון

איתן לבני:  הנושא הזה הוא באמת מרכזי ואנחנו במשרד מבינים שזה שינוי מסדר ראשון

איתן לבני:  זה לא עוד סוג של טכנולוגיה, זה שינוי אחר

איתן לבני:  משרד החדשנות, המדע והטכנולוגיה כולו עוסק בסוגיה הזאת, כך אנחנו מבינים את זה, כך אנחנו פועלים, אז תודה על הדיון הזה, הוא דיון חשוב

איתן לבני:  תודה לך, חברת הכנסת אורית פרקש הכהן

איתן לבני:      אני אדבר בקצרה על הנושא של הטמעה בממשלה

איתן לבני:  לכולנו ברור שהשוק הפרטי רץ מהר קדימה, אנשים כל הזמן מטמיעים עוד ועוד כלים של הבינה המלאכותית ומבחינתי יש לנו, בפורום תל"מ, ולי, כאיתן, משימה מרכזית – להטמיע את הבינה המלאכותית בממשלה

איתן לבני:  אנחנו עושים את זה בשיתוף פעולה נהדר עם מערך הדיגיטל כמובן ועם הרבה שותפים פה

איתן לבני:      בתקצוב האחרון קיבלנו 125 מיליון שקלים לטובת ההטמעה בממשלה

איתן לבני:  הבשורה מבחינתנו היא שאנחנו מקווים שעד חודש יולי אנחנו נצא בקול קורא פנים-ממשלתי לגופים ציבוריים שרוצים להטמיע פרויקטי בינה מלאכותית בממשלה

איתן לבני:  אנחנו לא מחכים עד לקול הקורא אלא כבר נפגשים עם כל מיני גופים

איתן לבני:  אני רוצה לזרוק לכם רגע כמה דוגמאות

איתן לבני:       קודם כל, הדוגמה הבולטת, ובעיניי היפה ביותר, זה שירות התעסוקה, שהוא כבר היום עובד עם כלי בינה מלאכותית לחבר בין דורש עבודה לבין מקום עבודה פוטנציאלי, פרויקט מקסים לכל מי שרוצה לראות בינה מלאכותית מוטמעת בממשלה

איתן לבני:  כמובן שאנחנו מאוד זהירים בנושא של הטיות – מאיר לוין אחרי זה ידבר על הנושא הזה – כדי לראות שאנחנו לא עושים באמצעות הבינה המלאכותית, שהיא קופסה שחורה, הטיות, שלנשים נותנים עבודה כזאת ולגברים עבודה אחרת, או מכווינים ערבים למשהו אחד

איתן לבני:  אנחנו מאוד זהירים בנושא הזה

איתן לבני:      דוגמה שנייה היא במשרד התחבורה, כל הנושא של ניהול הדאטה סביב עומסי תנועה ואיך אפשר להשתמש בבינה מלאכותית - - -     

אורית פרקש הכהן: בעצם אתם מכינים את הקרקע לפרויקטים הלאומיים

איתן לבני: נכון, כי גופי הממשלה אומרים: יש בינה מלאכותית, יש לנו צורך, אבל קשה להם לגשר על הפער איך עושים את זה, אז למעשה אנחנו רוצים להקים מרכז ידע לאומי שייתן גם הכשרות, גם מומחי AI וגם מתודולוגיות איך עושים תהליך כזה

איתן לבני:  נלמד מפרויקט לפרויקט

איתן לבני:  זה לא שכל משרד צריך להתמודד מחדש עם הטמעת בינה מלאכותית אלא נלמד ונצבור לאורך הדרך תובנות יחד עם מערך הדיגיטל, שעסוקים הרבה בהטמעה של טרנספורמציה דיגיטלית

אורית פרקש הכהן: אז הפרויקטים הלאומיים שיזמנו יוצאים לדרך לקראת יולי כשיהיה צוות מעין מכרזי שיבחר את הדברים?     

איתן לבני: נכון

איתן לבני:  שותפים בו אגף תקציבים, רשות החדשנות, מערך הדיגיטל, משרד המשפטים כמובן

איתן לבני:  צוות שבוחר אילו פרויקטים מספיק משמעותיים שאנחנו נשקיע בהם כסף

איתן לבני:  כמובן שהמשרד השותף חייב לשים מצ'ינג, הוא צריך להראות שזה חשוב לו, שהוא שם גם איזשהו פיבוט

אורית פרקש הכהן: ולגבי מוקד הידע, איפה הנושא הזה עומד? הוא יהיה במשרד החדשנות, נכון?     

איתן לבני: זה מוקד ידע רגולטורי

איתן לבני:  אני מדבר מעבר לצד הרגולטורי, אנחנו צריכים גם הרבה מאוד הבנה ויכולות איך להוביל פרויקטים כאלה ואיך להטמיע בממשלה

איתן לבני:  זה לא פשוט

איתן לבני:  יש מוקד ידע רגולטורי שמלווה את הרגולטורים, ויש מוקד ידע שהוא לעניין איך מטמיעים טכנולוגיות כאלה בממשלה

איתן לבני:       דבר אחרון

איתן לבני:  מעבר לכל הפרויקטים הגדולים – ויש לי עוד רשימה: בחינוך, משרד העבודה רוצה לנטר אזורי עבודה שיש בהם תאונות עבודה, איך לנטר את זה מראש באמצעות כלי בינה מלאכותית אם יש שם סיכונים וכל מיני כאלה – אנחנו נרצה גם לעזור לכל עובדי ועובדות המדינה רגילים איך לעשות שימוש בכלים כאלה ביום-יום

איתן לבני:  אתה כותב תשובה לאיזושהי פניית ציבור, למה שלא תעשה שימוש בכלי בינה מלאכותית ותקבל תשובה טובה יותר? כמובן שתקרא אותה, לא תשלח משהו שכתב צאט GPT אבל הוא יכול לעזור לך לנסח את זה טוב יותר

איתן לבני:  או למשל, אם אתה רוצה להוציא איזשהו סרטון, הכלים האלה שבשוק הפרטי כבר הולכים ונטמעים באופן מאוד מאוד מהיר, אנחנו רוצים שגם לכל עובדי המדינה תהיה נגישות ויידעו לעשות בזה שימושים

איתן לבני:  אנחנו נעבוד גם בפרויקטים קטנים, גם בגדולים, ואני חושב שזו בשורה טובה

אורית פרקש הכהן: תודה רבה

אורית פרקש הכהן:  הפרויקטים האלה מאוד מאוד חשובים

אורית פרקש הכהן:  אני מקווה שהם גם תוקצבו עוד יותר

אורית פרקש הכהן:  במקור אני זוכרת שדיברנו על הרבה יותר מ-120 מיליון שקלים

אורית פרקש הכהן:  זה מאוד חשוב שהממשלה עצמה תהנה מהפירות של זה וכתוצאה מכך כל הציבור

אורית פרקש הכהן:  אל"מ עידן בצלאל, תודה שבאתה, סיפרו לי שאתה מומחה ואחראי על תחום ה- AIבמפא"ת, בבקשה

עידן בצלאל:  שלום לכולם ותודה על הזכות להיות כאן

עידן בצלאל:  שמי עידן ואני ראש מחלקת דיגיטל וסייבר במפא"ת

עידן בצלאל:  אתי נמצא אלעד דביר, שהוא ראש ענף AI, הוא באמת המומחה האמיתי

עידן בצלאל:  התפקיד של מפא"ת במשרד הביטחון הוא לבצע מחקרים ופיתוח של יכולות בינה מלאכותית בעיקר באמצעות הפעלת חברות בחזית הטכנולוגיה והתאמת הפתרונות לצורכי צה"ל, משרד הביטחון והקהיליה, וגם למגזר הציבורי, ואנחנו מפתחים יכולות BI למול אחת משתי תכליות עיקריות: אחת, שיפור היעילות של צה"ל להחליף פעולה חזרתית של מפעילים באמצעות בינה מלאכותית, והשנייה, פיתוח של יכולות בינה מלאכותית במקום שבו המוח האנושי מתקשה לטפל בהיצף המידע כדי למקד את האדם ביכולת קבלת החלטות ולא באיסוף ועיבוד מידע

עידן בצלאל:      אנחנו גם מבצעים תהליך ממש טרנספורמטיבי בארגון כי אנחנו, ממקום של עיסוק דיסציפלינרי צר, צריכים להפוך את מקבלי ההחלטות ככאלה שמשתמשים ביכולות בינה מלאכותית

עידן בצלאל:  בצה"ל פיתחנו מתודולוגיה של פיתוח במפעלי מידע משותפים

עידן בצלאל:  לאורך השנים הבנו שיש יתרון משמעותי גם לאקדמיה וגם לתעשיות בכל מה שקשור לשמירה על קצב הלמידה בטכנולוגיות חדשות, אבל אין להם דאטה

עידן בצלאל:  אני חושב שזה מאוד מקביל למגזר הציבורי, שיש לו דאטה, דאטה מבצעי שאפשר לעבוד עליו, לצה"ל, בדומה למשרדי ממשלה, יש יתרון בהבנה העסקית של הבעיה ובהינתן דאטה אפשר לפתור המון בעיות מבצעיות

עידן בצלאל:       בנינו תפיסה של מפעלי מידע

עידן בצלאל:  בכל מפעל כזה יש מתחם משותף גם של אנשי מפא"ת, גם של אנשי תעשייה, אנשי אקדמיה וחוקרים מצה"ל, ובדרך כלל יש מוביל מבצעי, וגם את זה אפשר לקחת רגע למגזר הציבורי שמגדיר שאלת מחקר

עידן בצלאל:  לאחר מכן מבצעים עבודה על דאטה מבצעי מתוך המערכות הצה"ליות או בכלל ממקורות אזרחיים, עובדים על תרחיש מבצעי כדי לענות על שאלת מחקר ומשתמשים ביכולות אימון מתקדמות

עידן בצלאל:       אנחנו הבנו שחלק משמעותי בעיסוק בבינה מלאכותית דורש השקעה באדם

עידן בצלאל:  פיתחנו מרכז מצוינות ל- AIשתחת קורתו יש עשרות חוקרים מאוכלוסיות עילית שאנחנו מאתרים בצה"ל, תוך כדי הם ממשיכים לתארים מתקדמים ועוסקים במחקרים באקדמיה

אורית פרקש הכהן: מתוך המערכת, מתוך צה"ל?     

עידן בצלאל: כן

עידן בצלאל:  אנחנו מבצעים להם מבחנים והם עוברים תהליך של מנטורינג ע"י חוקרים ותיקים ומבצעים פעילות מחקר מאוד-מאוד עמוקה ובעיות מאוד מורכבות

עידן בצלאל:  זה מודל מאוד חשוב ואנחנו חושבים שגם כזה צריך להיות במגזר הציבורי, קרי תוכניות עילית שמכשירות אנשים מצוינים לעסוק בעולם ה- AI

עידן בצלאל:      בנוסף, במפא"ת בנינו הכשרה לבכירים

עידן בצלאל:  אנחנו כבר בסבב שני השנה של הכשרה

עידן בצלאל:  בכל השתלמות כזאת יש 30 אנשים כדי להפיץ את הבשורה ולהסביר, גם למפקדים בכירים אבל גם לאנשים שאחראים על פיתוח, מה יודעת להביא הטכנולוגיה כדי לעודד השקעה בתחום, כולל עידוד פנימי בתוך המערכת של כל מי שרוצה לבצע פעילות בעולם ה- AI

עידן בצלאל:  אנחנו מעודדים אותו וגם משקיעים תקציב נוסף כדי לראות שהם ממנפים את הפעילויות

עידן בצלאל:      אני לא אדבר על הטכנולוגיות כי זה לא הדיון

עידן בצלאל:  אנחנו עוסקים גם בפעילות דואלית

עידן בצלאל:  יש היום מנהלת דואלית שהוקמה במפא"ת שעוסקת בכל מה שקשור לרתימה של יכולות ויצירת שיתוף פעולה עם גופים אזרחיים בתחום הבינה המלאכותית

עידן בצלאל:  כמובן שאנחנו מובילים יחד עם משרד החדשנות, המדע והטכנולוגיה את תוכנית הבינה המלאכותית ותוכנית הקוונטים

אורית פרקש הכהן: תוכל לספר קצת על הפיתוח? אתם מתעסקים בפיתוח השפה, נכון?     

עידן בצלאל: אנחנו עוסקים בשני חלקים: אחד, פיתוח מחשב-העל שדיבר עליו זיו, והשני בנושא ה-NLP

עידן בצלאל:  בשנה וחצי האחרונות היינו מאוד מאוד עסוקים בלהביא דאטה

עידן בצלאל:  הבאנו סדר-גודל של 20 מיליארד מילים בעברית ובערבית ממקורות שונים

אורית פרקש הכהן: תסביר רק את ה-NLP למי שמאזין

עידן בצלאל: NLP – מודל שפה ענק שיאפשר שימוש למגזר הציבורי להשתמש בו לטובת הצרכים האזרחיים - - -     

אורית פרקש הכהן: לשפר את השימוש בעברית ובשפה הערבית

עידן בצלאל: כן, כדי שאפשר יהיה להשתמש במודל הזה באפליקציות שונות

עידן בצלאל:       סיכונים בראייתנו בשימוש בבינה מלאכותית: אחד, אתיקה ורגולציה בשימוש בבינה מלאכותית

עידן בצלאל:  אנחנו מכירים אמנות בין-לאומיות שמתחילות להתגבש שימנעו שימוש בבינה מלאכותית במערכות צבאיות ובדגש על מערכות נשק

עידן בצלאל:  זה נושא כבד

עידן בצלאל:  מדינת ישראל צריכה להיות שותפה פעילה בגיבוש האמנות בראייתנו

עידן בצלאל:  אני מדגיש היום שפעולת מודלי בינה מלאכותית בצה"ל הן תהליך בקבלת ההחלטות ובכל פעולה מעורב אדם בתהליך שמקבל את ההחלטה

עידן בצלאל:  מכונות לא מקבלות החלטות לבד

עידן בצלאל:      הדבר השני הוא השלכות לא צפויות של המודלים כתוצאה מהתנהגות לא דטרמיניסטית

עידן בצלאל:  דיבר על זה קודם גם זיו

עידן בצלאל:  אנחנו הולכים היום לטכנולוגיות של Explainable AI כדי להבין מה המכונה חושבת ועל סמך מה קיבלה החלטה

עידן בצלאל:  כל מה שקשור לחיסיון מידע ו-adversarial AI, קרי יכולת לחלץ את הדאטה עליו אומן המודל, פה יש סכנה משמעותית ואנחנו מפתחים מתודולוגיות להגנה על המידע

עידן בצלאל:      לסיכום, לשימוש בבינה מלאכותית יש המון יתרונות

עידן בצלאל:  אנחנו רואים בה יתרון משמעותי אבל צריכים לבצע בזה שימוש בצורה אחראית ונבונה

עידן בצלאל:  יש סיכונים, דיברנו עליהם, והמפתח זו השקעה משמעותית בכוח אדם, בהכשרת חוקרי עילית ובהכשרת מנהלים בכירים במשק להבנת הפוטנציאל ולהרחבת הבשורה

עידן בצלאל:  אנחנו נשמח להמשיך להוביל תוכניות בתחום עבור המדינה ככל שיידרש

אורית פרקש הכהן: תודה רבה

אורית פרקש הכהן:  חבר הכנסת שוסטר, בבקשה

אלון שוסטר: תודה, יושבת-הראש

אלון שוסטר:  שלוש נקודות: ראשית, אני מתייחס לדיון הזה, אורית, כדיון שעוסק בחוץ וביטחון, ביטחון פנים, חינוך, השכלה, הגנת סביבה, אנחנו עוסקים בליבת היכולת של מדינת ישראל

אלון שוסטר:  שניים, תוך כדי הדיון הזה, גם חברי הכנסת וגם אחרים, אתם עדים לדיונים שקוראים להם בהפשטה שמאל וימין כלכלי

אלון שוסטר:  אין מצב שמדינה תיתן לכוחות שוק לעסוק בביטחון ואין סיכוי שאנחנו נאפשר סוג של אדישות כלפי הסוגיה הזאת

אלון שוסטר:  המדינה חייבת להיכנס במלוא העוצמה שלה, כמו שאנחנו רואים פה כרגע

אלון שוסטר:  זה נראה טריוויאלי

אלון שוסטר:  אני רק רוצה שנסתכל על זה גם מהזווית של אחריות מדינתית ולא להפקיר את הנושא הקריטי הזה לכוחות השוק

אלון שוסטר:      הנקודה השלישית, כלילתיות חברתית, אינקלוסיביות חברתית

אלון שוסטר:  זאת הזדמנות כשאנחנו פורצים למרחבים חדשים לוודא שאנחנו מביאים לתהליך הזה ככל האפשר הישגים נוספים, לייצר סינרגיה חברתית

אלון שוסטר:  צה"ל מבקש לפחות 30%, כמניינם של תושבי הפריפריה – אני בחלקם – במקצועות הטכנולוגיים

אלון שוסטר:  אדרבה, בפריצות החדשות, באג'נדה החדשה הזו, בליבת התקדמות ובניית החוסן הכלכלי, מדעי וכנראה גם חברתי, בריאותי, חינוכי שלנו, יהיו כולם, פריפריה, ערבים, מכל סוג, מכול מין, מכול מחשבה

אלון שוסטר:  תודה

אורית פרקש הכהן: תודה, חבר הכנסת שוסטר

אורית פרקש הכהן:  בכלל אני חושבת שכל הנושא של ההייטק, הטכנולוגיה והבינה בכללותו הוא הזדמנות חברתית מאוד מאוד גדולה, כי בסוף מצד אחד זה תחום מאוד חזק, אבל כשמסתכלים על ההשתקפות החברתית שלו, בדיוק אותן אוכלוסיות שלא נמצאות בו אלה האוכלוסיות שכדאי וצריך לפנות אליהן

אורית פרקש הכהן:  חבר הכנסת רול, בבקשה

עידן רול: תודה רבה, גברתי היושבת-ראש, ותודה לכל האורחים הנכבדים שלנו

עידן רול:  אני יודע שבעיקר כשמדובר על רגולציה זה לא דבר שמעורר עודף נחת בקרב אנשי הייטק, בקרב מדענים, בקרב התחומים שאנו מדברים עליהם היום

עידן רול:  אני כן חושב שבשונה מתחומים אחרים זה לא עוד נושא טכנולוגי, זה נושא שההשלכות שלו, כבר אלו שאנחנו עדים לצפות היום, הן רחבות

עידן רול:  יש לו השלכות תעסוקתיות, כלכליות, קניין רוחני, סוגיות של פרטיות, סוגיות אפילו של זכויות יסוד

עידן רול:  ולכן זה לא רשתות חברתיות, זה לא נושא שאפשר לתחום אותו באיזושהי צורה, ואני חושב שזה דבר בלתי נמנע

עידן רול:      אני כן רוצה לומר שזה לא משהו שצריך לעורר חשש

עידן רול:  אני יודע שפרלמנטים באופן היסטורי לא מצטיינים ברגולציה מהירה ביחס לקצב התפתחות הטכנולוגיה

עידן רול:  אני עורך דין שמגיע מהתחום הזה בעברי וכל מי שעסק בזה יודע שנקודת הייחוס החוקית לכל תחום האינטרנט היה חוק המחשב

עידן רול:  שנים אחרי שכבר היה ענן וכל התפיסה של מחשב יצאה מגוף מתכת שיושב על השולחן עדיין נאלצו בתי המשפט להתייחס לזה כנקודת ייחוס כי החוק לא התעדכן, לבטח גם בסוגיות של פרטיות ואחרות

עידן רול:  ועדיין יש פה, לדעתי, חובה שלנו כמחוקקים להעמיק, להתייחס לזה בכובד ראש, אבל להבין שלצד האתגר הגדול ולצד הפוטנציאל הגדול חייבים גם לנסות ולהבין, לפחות בצעדים ראשונים, בסוגיות שתיארתי ואחרות, איך אנחנו מתכוננים כדי לגדר סיכונים ולהפוך את זה ליותר הזדמנות ופחות דברים שידאיגו אותנו או יהוו חסם

עידן רול:      כן צריך לומר שמדינת ישראל פעמים רבות מחכה לראות איפה יהיו המעצמות, איפה יהיה האיחוד האירופי, איפה תהיה ארצות הברית, מבחינת רגולציה

עידן רול:  אני לא תמיד דוגל בגישה הזאת

עידן רול:  אני חושב שמדינת ישראל, כמדינה שיודעת להיות סטארט-אפ ניישן, להתגאות בזה ולהוביל טכנולוגית, כמו שראינו מקום חמישי, צריכה גם לדעת, כמובן תוך תיאום, כמובן תוך משפט משווה ומבט החוצה, לקבל החלטות אמיצות, ולא מן הנמנע שאנחנו גם נהיה בין הראשונים שיקבעו מסמרות ברמה מסוימת גם בתחום הרגולציה

אורית פרקש הכהן: תודה רבה

אורית פרקש הכהן:  אני חושבת שבשבילך בדיוק יהיה מעניין לשמוע את המשנה ליועץ המשפטי לממשלה, מאיר לוין, לגבי טיוטת המדיניות שיצאה בזמן שלי כשרה בדיוק בנושא הזה, של האתיקה וכל השינויים שגם קורים, ואם זה גורם למחשבות מחדש על הכיוונים של מה שיצא

אורית פרקש הכהן:  ד"ר נעמי בק, ות"ת, בבקשה

אורית פרקש הכהן:  תחום הבינה המלאכותית נשען הרבה מאוד על מחקר ועל חוקרים

נעמי בק: תודה רבה

נעמי בק:  תודה על ההזמנה להשתתף בישיבה החשובה הזאת

נעמי בק:  אני נעמי בק, סמנכ"ל אסטרטגיה ובין-לאומיות במל"ג-ות"ת

נעמי בק:  ות"ת זו הוועדה לתכנון ותקצוב של המועצה להשכלה גבוהה

נעמי בק:  אנחנו בעצם הרגולטור של כל המוסדות המתוקצבים להשכלה גבוהה והלא מתוקצבים, ואנחנו מתקצבים את המוסדות הציבוריים

נעמי בק:       אני אסביר קצת מה ות"ת עשתה בנושא של מדעי הנתונים ובינה מלאכותית אחרי ששמענו על החלק היותר אפליקטיבי ממשרד החדשנות, המדע והטכנולוגיה וגם קצת על התוכנית הלאומית

נעמי בק:  ות"ת סימנה כתחום דגל כבר בתוכנית הרב-שנתית הקודמת – זו שהתחילה בשנת 2017, אז כבר ב-2016 – את הנושא של מדעי הנתונים בצורה מאוד רחבה

נעמי בק:  אני לא אקריא מה שכתוב בשקף כי כולם יודעים לקרוא, אבל בגדול אנחנו מדברים על מדעי הנתונים כמשהו שכולל בתוכו גם את הבינה המלאכותית

נעמי בק:  כלומר, זה כל התחום של טיפול חדש בנתונים

נעמי בק:  אני אסביר גם למה זה חשוב

נעמי בק:       מסביב לעיגול בצד שמאל יש את כל הדיסציפלינות שקיימות באקדמיה, כל האפליקציות, ובמרכז, בליבה, יש את התחומים שמהווים ביחד את הדיסציפלינה החדשה הזאת המתהווה של מדעי הנתונים

נעמי בק:  למה אנחנו התפקסנו על התחום הזה כבר אז? היו כאן כל מיני התפתחויות שקשורות לטכנולוגיה, אחסון, מחשוב וכו', שאפשרו פריצה של התחום הזה

נעמי בק:  אנחנו דיברנו על הנושא של נתוני עתק, או ביג דאטה, ולוות"ת היו כמה תוכניות דגל בתחום הזה, מדעי הנתונים כתחום בפני עצמו, וגם הנושא של רפואה מותאמת אישית

נעמי בק:  פה אתם יכולים לראות אנליזה של מילות מפתח שנעשתה אז ולראות איך הדברים האלה – כריית נתונים, בינה מלאכותית, ביג דאטה, Data Science, הם קצת interchangeable, מתייחסים בגדול לאותו התחום

נעמי בק:  זיו כבר סיפר על זה אז אני ארוץ על זה מהר

נעמי בק:      הבינה המלאכותית המקורית, 1960, לנסות להבין איך מחשב יכול לעשות משימה מדויקת, משימה שניתנת לו מראש שבן-אדם יכול, לדוגמה לנצח במשחק שחמט עם כל הכוח המחשובי וכו'

נעמי בק:  הבינה המלאכותית החדשה היא הרעיון של לתת הרבה מאוד נתונים למכונה ולתת לה להוציא את התובנות מהנתונים האלה ע"י שימוש בכל מיני דברים שנקראים למשל deep learning ומחקים איך שעובד המוח האנושי וכו'

נעמי בק:  לצורך ההדגמה, תוכנית דגל אחרת של ות"ת הייתה תוכנית ברפואה מותאמת אישית, חיברה נתונים גנומיים וקליניים בשביל לנסות להפיק מהם כל מיני תובנות, לקחת למשל בדיקות דם של מלא אנשים, לתת למחשב להתחיל ללמוד אותן ולהוציא משם כל מיני אוכלוסיות שלמשל אפשר לראות שם biomarkers למחלה כזו או אחרת, סרטן כזה או אחר, בשלב מאוד מוקדם ולנסות להתאים לזה טיפול מותאם אישית

נעמי בק:       התוכנית הזאת רצה במקביל לתוכנית של מדעי הנתונים וממנה כבר יצאו – למרות שזו לא הייתה המטרה העיקרית של ות"ת, ות"ת היא הגוף היחיד במדינת ישראל שמתקצב מחקר בסיסי, מחקר בסיסי זו האבן הראשונה של הפירמידה הגדולה הזאת שעליה יש את המחקר היישומי ואת התעשייה וכו' ולכן אנחנו תמיד מתמקדים במחקר הבסיסי

נעמי בק:  אז המטרה של רפואה מותאמת אישית הייתה קודם כל לתקצב מחקר בסיסי ולקדם אותו, אבל כפועל יוצא, בגלל שזה מחקר חדשני פורץ דרך, מהר מאוד קיבלנו פרוטוקולים חדשים לטיפול בחולים, קיבלנו אפילו כמה סטארט-אפים

נעמי בק:  כלומר, ההשקעה הפרטית בתוכנית המקבילה הזו כבר עברה את ההשקעה הממשלתית, מה שגייסו הסטארט-אפים שנוצרו

נעמי בק:       שוב להדגיש את העניין הזה – תראו, זו הייתה מפת הסטארט-אפים בישראל אז, בשנת 2017, כשעבדנו על התכנית, תראו כמה מהם מבוססים על מה שנקרא machine learning, בינה מלאכותית, ובעצם מה שווי השוק שלהם

נעמי בק:  כמובן שהמספרים האלה כבר לא עדכניים אבל זה מראה שוב את החשיבות של קידום המחקר הבסיסי

נעמי בק:  האפליקציות חשובות אבל אם לא נקדם את המחקר הבסיסי אז גם לא יהיו לנו את האפליקציות המעניינות אחר כך

נעמי בק:       השקף האחרון מראה מה הייתה תוכנית ות"ת

נעמי בק:  התוכנית הייתה בהיקף של 150 מיליון שקל

נעמי בק:  היא החלה לפעול בשנת 2018 - - -     

אורית פרקש הכהן: מה שמה? תוכנית לעניין בינה מלאכותית?     

נעמי בק: תוכנית לקידום מדעי הנתונים ובינה מלאכותית

נעמי בק:  ועדת ההיגוי של ות"ת – ות"ת תמיד ממנה ועדות היגוי שמורכבות ממומחים מהתחום, במקרה הזה 60%-70% מהמומחים הגיעו באמת מהתחום של בינה מלאכותית כי הוא ייצג את החוזק המחקרי דאז, עשינו שאלונים מאוד מפורטים שמראים בדיוק כמה חוקרים יש בתחום, כמה מהם מתעסקים בתחומי הליבה יותר מ-85% מהזמן, כמה בתחומי מעטפת, כמה תחומים חופפים, כל הדברים האלה

נעמי בק:  הכול נמצא, דרך אגב, באתר המל"ג, דוח מפורט בעברית ובאנגלית, 60 עמודים למי שמתעניין

נעמי בק:      הוועדה עבדה במשך חצי שנה, נפגשה עם הרבה מאוד גורמים, כולל צה"ל ומשרדי ממשלה שונים, ובסוף 2018 ות"ת אישרה את המלצות הוועדה לתוכנית ארבע-שנתית לקידום התחום

נעמי בק:  התוכנית הזאת עדיין פועלת כי התקצוב של ות"ת ממשיך

נעמי בק:  יש מענקים שממשיכים יותר זמן וכו'

נעמי בק:  בגדול, מתוך 150 מיליון שקל, 80% או 120 מיליון שקל תוקצבו להקמה של מרכזי מחקר, מרכזי גג קראנו להם, באוניברסיטאות, כלומר שמאגדים את כל הפעילות במוסד בתחום של מדעי הנתונים

נעמי בק:  חלק מזה היה במה שנקרא מסלול מואץ

נעמי בק:  רצינו מהר לתת את ההזרקה של הכסף לתחום כדי למנף אותו

נעמי בק:  כל מרכז מחקר היה אמור לעמוד בתנאי סף מסוימים, מסה מסוימת של חוקרים עם רמת מצוינות מסוימת כדי לקבל את התקצוב של ות"ת

נעמי בק:  תמיד אנחנו מבקשים מצ'ינג אז המוסדות נתנו 25% מצ'ינג על התקצוב - - -     

אורית פרקש הכהן: תודה רבה, אבל יש לי כמה שאלות

נעמי בק: לא סיימתי אבל בסדר

אורית פרקש הכהן: אז תסיימי אבל אני גם אשמח שתתייחסי – את מתארת תוכנית שהושקה בשנת 2018, חלפו 4 שנים שבה תקצבתם אותה - - -     

נעמי בק: היא עדיין פועלת

אורית פרקש הכהן: אני יודעת שגם בתוכנית הלאומית שמנו דגש גדול על האקדמיה ועל המחקר

אורית פרקש הכהן:  אז רציתי לשאול, א', כמה חוקרים יש היום באקדמיה בתחום הבינה המלאכותית

אורית פרקש הכהן:  אני כשרה זוכרת שיש אבל לא מספיק, אז קודם כל לשמוע ממך כי התחום הזה נשען ויש גם קושי, אני זוכרת שברגע שמישהו כבר בקיא בתחום הוא עובר לתעשייה

אורית פרקש הכהן:  אני לשמוע איך את רואה את הדברים והאם לא נכון שות"ת תוציא תוכנית חמש-שנתית חדשה בנושא הבינה מוכוונת לנושא הזה?     

נעמי בק: תודה על השאלות

נעמי בק:  קודם כל, התוכנית הושקה ב-2018, אז היה לה מסלול מואץ שתקצב את מרכזי המחקר לארבע שנים על פי עמידה בתנאי סף, כמו שאמרתי fixed sum לכל מרכז

נעמי בק:  היה גם מסלול תחרותי, הוא הושק שנתיים אחר כך כי לקח להם קצת זמן להכין את ההצעות, לקח זמן לוועדה בין-לאומית לבדוק את ההצעות, אז התוכנית הזאת נמצאת עדיין רק באמצע הדרך

נעמי בק:  היא מתקצבת את אותם מרכזי המחקר אבל פרויקטים חדשניים במיוחד שממנפים את היתרון היחסי של כל אוניברסיטה ואוניברסיטה, ושם חלוקת התקציב לא הייתה שוויונית

נעמי בק:          במקביל לזה הפעלנו תוכניות מלגות גם לדוקטורנטים וגם לפוסטים בדיוק בשביל להכין את העתודה המחקרית בתחום

נעמי בק:  באמת יש זליגה לכיוון התעשייה

נעמי בק:  יכולת ההשתכרות זה ברור, יכולות המחקר אבל גם כן במקומות כמו גוגל, פייסבוק, אמזון, הן מאוד מאוד גבוהות וחוקרים יכולים לעשות דה-פקטו מחקר בסיסי במקומות האלה, אז חשוב היה מאד לתחזק את ה- pipelineולהכין את העתודה המחקרית בתחום וגם לדאוג קצת לנושא של התשתית

נעמי בק:      אז מה עושה ות"ת? א', ות"ת ממשיכה את התוכנית הזאת כי היא עדיין פועלת, היא עוד לא הסתיימה ויש ועדת מעקב שבודקת בדיוק מה קורה עם הפרויקטים והמרכזים

נעמי בק:  ב', אנחנו ממשיכים את תוכניות המלגות שלנו, כמו שהזכיר זיו קציר

נעמי בק:  זה חלק מהפעימה הראשונה של תוכנית ה-AI

נעמי בק:  ג', ות"ת נמצאת עכשיו בתוכנית רב-שנתית חדשה

נעמי בק:  אנחנו סימנו כתחום דגל שבו אנחנו נשקיע קרוב לחצי מיליארד שקל את נושא הקיימות

נעמי בק:  במסגרת הזאת יש השקעה באנרגיה, אקלים, ים, מים, תזונה, מזון ומגוון ביולוגי, ולהרבה מהדברים האלה יש השקה גם לנושא של AI, לדוגמה חקלאות מדייקת, תחום שאפשר למנף אותו בצורה משמעותית בישראל, תחום שיכול להיות אחד מפרויקטי הדגל של הפעימה השנייה של התוכנית הלאומית לבינה מלאכותית

נעמי בק:  אז אנחנו שותפים מלאים בתוכנית הלאומית

נעמי בק:      יש את הרעיון – זיו לא הזכיר אותו – של moonshot, רעיון של פרויקטים מרחיקי לכת שיקפיצו את ישראל לחזית המחקר וחזית התעשייה בתחום

נעמי בק:  אנחנו חייבים למצוא את הנישה שבה אנחנו מאוד מיוחדים

נעמי בק:  לצורך העניין, NLP זה דבר חשוב בעברית לישראל, ברמה של מחקר בסיסי הוא לא חשוב בכלל, צריך להגיד את הדברים כמו שהם

נעמי בק:  אבל יש כן תחומים, כמו רפואה מותאמת אישית, שאנחנו הולכים להשקיע בה עוד חצי מיליארד שקל, כמו הנושא של חקלאות מדייקת, כמו הנושא של ניטור ימי, כל מיני דברים שבהם אפשר יהיה להשתמש בבינה מלאכותית

נעמי בק:  אלה כלים שקיימים באקדמיה ואנחנו מעוניינים כמובן לתגבר ולתעדף אותם

נעמי בק:  תודה רבה

אורית פרקש הכהן: תודה רבה

אורית פרקש הכהן:  עו"ד מאיר לוין, המשנה ליועץ המשפטי לממשלה במשרד המשפטים

אורית פרקש הכהן:  מאיר באמת רתם את המחלקה הפיסקלית ומשרד המשפטים לפרויקט שהיה ראשוני, יחד עם עו"ד דני חורין במשרד החדשנות, לקדם את כללי האתיקה

אורית פרקש הכהן:  כשנכנסתי לתפקיד ראיתי שישראל מדורגת יחסית בתחום הבינה נמוך מאוד בגלל העדר מדיניות ממשלתית וזאת הייתה עבודה מאוד ממושכת, מאוד ארוכה

אורית פרקש הכהן:  אשמח לשמוע ממך, מאיר, על התובנות

אורית פרקש הכהן:  תציג קצת את המדיניות הזו, איך אתה רואה את הדברים לאור כל השינויים בעולם, לאור כל החקיקה האירופית ולאור האתגרים

אורית פרקש הכהן:  כמובן, דני, אם תרצה להוסיף משהו, עבדת על זה גם קשה

אורית פרקש הכהן:  זאת ההזדמנות גם להגיד תודה לכל הצוותים שבזמנו עבדו על זה קשה מאוד

קריאה: עדיין עובדים קשה

אורית פרקש הכהן: נהדר

מאיר לוין: שלום לכולם, תודה ליושבת-הראש על הדיון החשוב כאן ועל ההזמנה

מאיר לוין:  אני שמח גם על ההשתתפות הערה של נציגים מכל התחומים הרלוונטיים, ממשלה, אקדמיה, תעשייה, מגזר השלישי

מאיר לוין:  זה בדיוק השולחן העגול שצריך להתקיים סביב הסוגיות האלה

מאיר לוין:       כפי שציינת, אנחנו כבר למעלה מ-3 שנים עוסקים במשרד המשפטים בכלל המחלקות של ייעוץ וחקיקה בנושא הזה של טכנולוגיה ובראש התחומים שהצבנו לעצמנו זה באמת נושא הבינה המלאכותית, אבל אנחנו משתפים פעולה בעניין הזה עם שורה של גופים בתוך הממשלה, משרד החדשנות, המדע והטכנולוגיה, רשות החדשנות, משרד האוצר, משרד התחבורה, הרגולטורים הפיננסיים וגורמים נוספים

מאיר לוין:      ממעוף הציפור, אחד התפקידים המרכזיים שלנו, כפי שאנחנו רואים, הוא לסייע לקובעי המדיניות בנוגע לאיזון, שכבר עלה פה בדיון, בין הרצון מצד אחד לעודד טכנולוגיה חדשנית לבין ההגנה על זכויות ואינטרסים ציבוריים

מאיר לוין:  כולנו ערים לשיח שמתנהל כרגע בעולם לגבי האתגרים, הסיכונים והאיומים של הבינה המלאכותית, אבל צריך גם לזכור את ההזדמנויות שהטכנולוגיה הזו מזמנת לנו, ולכן אני חושב שהאתגר יהיה לייצר את האיזון המתאים

מאיר לוין:  העבודה הזו עדיין בתחילתה ואני מניח שעוד נעסוק בה בשנים הקרובות

מאיר לוין:       על קצה המזלג אני ארצה להתייחס לאתגרים שעולים כתוצאה מהשימוש בבינה מלאכותית

מאיר לוין:  בגדול, האתגרים נובעים מהעובדה שהרגולציה בעולם ובמדינת ישראל מסתכלת אל אדם, מכוונת בעצם את כל הפעולות שלה ביחס לאדם, האדם הוא אחראי, איזה תפקידים אני מייעד לאדם, וכשאנחנו מדברים על מכונה, האתגרים יכולים להשתנות

מאיר לוין:  למשל, איך מתמודדים עם אפליה שעלולה להיגרם כתוצאה מהטיה במערכות האלה? האם יש לאדם זכות לדעת שמערכת בינה מלאכותית מקבלת החלטה בעניין שלו? האם צריך לדרוש מעורבות אנושית בפעילות הטכנולוגית? באיזו מידה נדרש שהמערכת תסביר את הנימוקים להחלטה? מי יישא באחריות המשפטית בגין טעות של המערכת? השאלות האלה מורכבות

מאיר לוין:  כנראה אנחנו נצטרך לעשות התאמות או לחשוב על הפרשנות של החקיקה שכבר קיימת, ובחלק אולי נצטרך להידרש לכללים חדשים ממש

מאיר לוין:       בשקף הבא אנחנו רואים מה נעשה בעולם

מאיר לוין:  בעולם אנחנו יודעים שעוסקים באינטנסיביות בניסיונות לקדם רגולציה ואתיקה בתחום הבינה המלאכותית

מאיר לוין:  יש ארגונים בין-לאומיים שעוסקים בזה, כמו ה-OECD, שפרסם עקרונות, שכפי שציינתי, הצענו לאמץ כעקרונות האתיקה בתחום גם בישראל

מאיר לוין:  יש מדינות מובילות שמקדמות יוזמות רגולציה קונקרטיות

מאיר לוין:  יש סקאלה שנעה בין האיחוד האירופי, שממליץ על רגולציה רוחבית נוקשה וכאן ועכשיו, לבין הגישה הבריטית האמריקאית, שנוטה יותר לרגולציה סקטוריאלית ומתפתחת

מאיר לוין:  יש ארגוני תקינה בעולם, כמו ה-ISO ו-NIST שעובדים על פיתוח סטנדרטיזציה ותקנים בתחום הבינה המלאכותית

מאיר לוין:      ומה לגבי ישראל? הגישה שאנחנו הצענו באותו מסמך משותף עם משרד החדשנות, המדע והטכנולוגיה בהובלה שלך בתקופה שכיהנת כשרה נוטה יותר לגישה הבריטית והיא כוללת בין השאר את הרכיבים הבאים: קודם כל, רגולציה לבינה מלאכותית תיקבע ככלל ברמה הסקטוריאלית

מאיר לוין:  זאת אומרת, לא ברמה רוחבית, או לא בהכרח ברמה רוחבית, אלא ניכנס לתחום הפיננסים, לתחום התחבורה, לתחום הבריאות וכן הלאה, ע"י הרגולטור שרלוונטי ולמול הסיכון הקונקרטי באותו תחום

מאיר לוין:  זה, כפי שאמרתי, בשונה מהאירופים שמציעים רגולציה רוחבית

מאיר לוין:       הרגולציה תיעשה ככלל באופן שתואם את הרגולציה שמקודמת במדינות המפותחות ובארגונים בין-לאומיים

מאיר לוין:  אנחנו צריכים לזכור שעם כל החדשנות הישראלית ישראל בסוף היא מדינה קטנה עם תעשייה משמעותית ונכונות של האזרחים לאמץ את הטכנולוגיה ואנחנו לא רוצים לייצר חסמים רגולטוריים מקומיים וייחודיים לפני כניסת הטכנולוגיה לישראל

מאיר לוין:  הרגולציה תהיה מותאמת לסיכונים ומבוססת על ניהול סיכונים

מאיר לוין:  יש הבדל בין נטפליקס, שמציעה על בסיס בינה מלאכותית איזה סרטים תקבל ותראה, לבין אבחון רפואי או החלטה לתת אשראי או לא לתת אשראי, וצריך שהרגולציה תבטא את ההבדל הזה

מאיר לוין:  ייעשה שימוש כשאפשר ברגולציה רכה ובכלי רגולציה מתקדמים, וגם ייעשה שימוש בנסייניות רגולטורית, סנדבוקסים, כדי להתמודד עם אי הוודאות והקצב המהיר של הטכנולוגיה

מאיר לוין:       צריך גם לומר שבחצי שנה האחרונה, והזכירה את זה יושבת-הראש, העיסוק ברגולציה של הטכנולוגיה התפתח כמעט כמו הטכנולוגיה עצמה

מאיר לוין:  אנחנו רואים חברות ומדענים מובילים בעולם שמזהירים מפני הסכנות שטמונות בטכנולוגיה, וחלקם אפילו ביקשו לעצור לתקופה מסוימת את הליך הפיתוח כדי לבצע חשיבה משותפת על הרגולציה

מאיר לוין:  הקריאות האלה נופלות על אוזניים קשובות

מאיר לוין:  אפילו בארצות הברית השיח משתנה וגם אנחנו קשובים לכך ואולי לצורך להתאים את המסגרת שהצענו להתפתחויות

מאיר לוין:      נתאר עכשיו כמה מהפעולות שכרגע נעשות בממשלה ברמה רוחבית בהיבטים האלה של רגולציה ומשפט

מאיר לוין:  דבר ראשון שנצטרך לעשות הוא השלמת מסמך מדיניות הרגולציה לתחום הבינה המלאכותית

מאיר לוין:  כבר פרסמנו טיוטה שלו להערות הציבור יחד עם משרד המדע, קיבלנו הרבה מאוד תגובות ענייניות ורציניות מהציבור, גם יש התפתחויות כרגע בעולם, ואת כל אלה נצטרך להטמיע במסגרת המסמך שנביא בפני הממשלה

אורית פרקש הכהן: בסוף זה גם מסמך של מדיניות של שר

אורית פרקש הכהן:  גם השר רלוונטי פה כי הממשלה בעצם הסמיכה את השר

מאיר לוין: בוודאי

אורית פרקש הכהן: עשינו עבודה משותפת אבל זה באמת היה פרי מדיניות

מאיר לוין: נכון

מאיר לוין:  ישנו צוות בין-משרדי שבוחן את הצורך בהתאמות ברגולציה הפיננסית לפעילות בינה מלאכותית

מאיר לוין:  עו"ד אמיר וסרמן מרשות ני"ע יתייחס לכך

מאיר לוין:  בייעוץ וחקיקה פועל צוות שבוחן את התאמת כללי המשפט המנהלי לשימושים בבינה מלאכותית ע"י הממשלה

מאיר לוין:  גם העולם הזה יכול להיות שיהיה מושפע מהתחום הזה

מאיר לוין:  לאחרונה יצא הצוות בסקר למיפוי היישומים של בינה מלאכותית במשרדי הממשלה ואנחנו מתחילים לקבל תוצאות ולנתח אותן

מאיר לוין:       אחרי שסקרנו את מה שנעשה, וכאן אני אסיים, נסתכל קדימה ונתבונן במה צריך לעשות

מאיר לוין:  אני יכול להגיד כמי שנותן ייעוץ משפטי למשרדים שהבינה מלאכותית מתחילה להשפיע על העיסוק שלהם

מאיר לוין:  אנחנו רואים את זה יותר ויותר

מאיר לוין:  אני יכול גם לומר בצורה די בטוחה שנדרש להעמיד את ההיבטים הרגולטוריים והמשפטים של בינה מלאכותית במקום גבוה מאוד בסדרי עדיפויות, גם כדי להגן על הציבור מפני סכנות מסוימות אבל גם כדי להבטיח שהציבור ייהנה מהיתרונות של הטכנולוגיה

מאיר לוין:       אני אמנה כמה עקרונות ופעולות שלדעתי חשוב לנקוט

מאיר לוין:  דבר ראשון, שיתוף פעולה ממשלתי

מאיר לוין:  בדוח המלצנו על הסדרה סקטוריאלית אבל גם הדגשנו, ואני חוזר ומדגיש גם כאן, חייב להיות שיתוף פעולה ממשלתי

מאיר לוין:  קודם כל זה יאפשר ללמוד מהניסיון של המשרדים, ודבר שני, ואולי חשוב מזה, שלא ייווצרו פערים משפטיים או רגולטוריים בין המשרדים

מאיר לוין:  זה לא הגיוני שהציבור יקבל הגנה חלקית כשמדובר בשירות נפוץ שמשפיע על חיי הפרט, נניח בנקאות, ולקבל הגנה משמעותית יותר כשמדובר בשירות שפחות משפיע, נניח הכוונת תנועה

נירה לאמעי רכלבסקי: מי ינהל את זה? יהיה גורם מרכזי שינהל את ההתאמה הזו?     

מאיר לוין: אחת מההמלצות – בנושא הזה אולי גם יש שינוי לעומת ההצעה המקורית – יש חשיבה על זה שיהיה מוקד ידע ממשלתי שיעשה את הסנכרון הכולל הזה, לצד ההמלצה שעדיין הרגולציה תובל ברמה הסקטוריאלית

מאיר לוין:  תובנה יסודית נוספת, ואני חושב שהיא ברורה לכל היושבים כאן, היא שאמון הציבור בטכנולוגיה עובר דרך משפט ורגולציה

מאיר לוין:  הדיון הציבורי – ממש כתבות משבוע לשבוע – רווי בשיח על איומי הבינה המלאכותית, כשלאחרונה אפילו מדברים על איומים קיומיים

מאיר לוין:  אני לא מזלזל חלילה באיומים האלה ואני חושב שלכולנו, מגזר ציבורי ועסקי, יש אחריות להקשיב ולחשוב איך מתמודדים עמם, אבל לצד זאת יש לא מעט שימושים שיכולים לשפר את חיי האזרח, אם בבריאות, בתחבורה, או בשירות הציבורי

מאיר לוין:       אם הציבור ישמע רק על האיומים הקיומיים בלי לשמוע על דרכי ההתמודדות איתם, הוא ייטה לא לאמץ את השימושים הפשוטים

מאיר לוין:  בינה מלאכותית זקוקה בסופו של דבר לאמון האנושי

מאיר לוין:  אמון כזה מתגבש בין היתר מתוך ידיעה שהדין והרגולציה מגנים על הציבור

מאיר לוין:  כולנו מפקידים את כספנו בבנק מתוך אמון במערכת הבנקאית, אמון שנבנה על בסיס הפיקוח של המדינה על המערכת

מאיר לוין:  אנחנו חייבים לייצר אמון כזה במערכות בינה מלאכותית בטוחות שיכולות לשפר את חיי האזרח

מאיר לוין:      נקודה נוספת שעלתה פה – אנחנו חייבים ליצור תשתית משפטית ורגולטורית לשגשוג הטכנולוגיה בתחומים של הדאטה והנסייניות

מאיר לוין:  מדינת ישראל צריכה תשתית משפטית מסודרת לשיתוף בדאטה, כפי שלמשל היום האירופאים מקדמים בדברי חקיקה שאפתניים שמבקשים להנגיש דאטה ולהגביר את התחרות עליו

מאיר לוין:  הדאטה הוא הבסיס לכל הפעילות של הטכנולוגיה הזו, כפי שנאמר כאן

מאיר לוין:      דבר נוסף, אנחנו חייבים לעודד את התרבות הנסיינית באמצעות יצירת סביבות ניסוי שיאפשרו פיילוטים מבחינת הטכנולוגיה

מאיר לוין:  יש כבר ניסיון היום בממשלה שנצבר במשרד התחבורה עם הרכב האוטונומי וברשות החדשנות

מאיר לוין:  זו צריכה להיות תרבות מפותחת יותר בקרב משרדי הממשלה ויש להם את הכלים לעשות כן

מאיר לוין:  גם אנחנו במשרד המשפטים מגויסים לסייע

מאיר לוין:      נקודה אחרונה, שבעצם משקפת את מה שקורה פה בחדר – נדרש שיח משותף עם המגזר העסקי והאקדמיה

מאיר לוין:  בינה מלאכותית היא שם רחב לשימושים שייתכן שעדיין לא ידועים לנו

מאיר לוין:  את צ'ט GPT לא הכרנו, חברת הכנסת אורית פרקש הכהן, כשעסקנו בדוח

מאיר לוין:  השוק תמיד יקדים אותנו בלדעת מה בקנה ומה מתפתח

מאיר לוין:  אני לא ארחיב על סוגיית הכשרת כוח האדם במדינה, אבל זה בוודאי קריטי שעובדי מדינה יזכו לאוריינות טכנולוגית ושנגייס יותר אנשי טכנולוגיה, אבל עד שזה יקרה, וגם אחרי שזה יקרה, אנחנו חייבים להתמיד בשיח המשולש של אקדמיה, מגזר עסקי ומגזר ציבורי

מאיר לוין:  שיח כזה יאפשר לנו לחשוף אותנו למגמות והתפתחויות, עשוי לתת למגזר העסקי יותר רצון לשתף פעולה עם הממשלה ולהגיע לפתרונות יצירתיים יחד

מאיר לוין:  תודה רבה

אורית פרקש הכהן: תודה רבה, מאיר, ושוב תודה על העבודה המשותפת שעשינו

אורית פרקש הכהן:  יש לי כמה שאלות בנושא

אורית פרקש הכהן:  המסמך המקצועי היה מסמך נלווה למסמך מדיניות שאני פרסמתי, טיוטה לשימוע, בנושא "עקרונות מדיניות רגולציה ואתיקה בבינה מלאכותית"

אורית פרקש הכהן:  המסמך הזה פורסם ב-30 באוקטובר, אתם מוזמנים להיכנס לאתרי משרד החדשנות או משרד המשפטים, ויש שם את כל החומר, מסמך מתודולוגיה ממש מרשים שנערך

אורית פרקש הכהן:       בזמנו התפיסה שאני אימצתי הייתה של חדשנות אחראית, של רגולציה רכה, אלה המונחים שבהם השתמשנו

אורית פרקש הכהן:  דיברנו על כך שאין מקום לחוק בינה מלאכותית כמו שכרגע מחוקקים באירופה והלכנו יותר על האמצע של בין הגישה המאוד ליברלית בארצות הברית לבין הגישה היותר נוקשה באירופה

אורית פרקש הכהן:  בסופו של יום שר המדע הנוכחי יהיה זה שיפרסם את המדיניות הסופית, הנוספת, וכאן השאלה שלי אליכם – כמובן כגורמי מקצוע, ההחלטה תהיה בסופו של דבר של השר – היא: א', האם באמת יש דברים שגרמו לכם לשנות את החשיבה מאז שפורסמה טיוטת המדיניות מטעמי באוקטובר?      דבר שני, אני רוצה להבין איפה עומדים דברים מסוימים שהותנעו, כי לפני 8 חודשים קבענו שתתחיל עבודה על כלי לניהול סיכונים, קבענו שיהיה מוקד ידע בנושא הזה שיפעל במשרד החדשנות בנושא הכללים, ואם אינני טועה, מאיר ודני, גם צוות רגולטורים שייעץ, שיהיה מוקד ידע ותיאום ממשלתי שיעסוק בריכוז ותיאום סוגיות ההסדרה של בינה מלאכותית וגם פורום רגולטורים ושיתוף הציבור בנושא הזה

אורית פרקש הכהן:  רציתי לשאול איפה הסטטוס של הדברים האלה שיצאו לדרך

דני קורן: בעבודה המשותפת של משרד החדשנות, המדע והטכנולוגיה ביחד עם ייעוץ וחקיקה, עם המחלקה הכלכלית, גובש אותו מסמך שמאיר הציג, גם את האתגרים שעמדו בפני הצוות שעבד על המסמך וגם את מדיניות הרגולציה שמדברת לא על איזשהו חוק רוחבי אלא על מתן הכלים לרגולטורים הספציפיים לפעול בתחומיהם

דני קורן:  המסמך כלל עוד כמה נדבכים, אחד מהם הוא אותם עקרונות אתיים כפי שגובשו ע"י הצוות ועל ידך כשכיהנת כשרה בהקשר הזה, והוא כלל גם היבטים נוספים שצריך לפעול במסגרת הממשלתית, גם הקמת פורום שונים, גם הקמת מוקד ידע ותהליכים נוספים, שלגבי חלקם דיבר מאיר והם מפורטים בהרחבה במסמך

דני קורן:      אחרי שהמסמך הזה פורסם כטיוטה להערות הציבור ביצענו ביחד עם משרד המשפטים עוד שורה של פעולות

דני קורן:  קיימנו הליך די משמעותי של שיתוף ציבור שכלל גם מפגשים באקדמיה, גם אירוע של שולחנות עגולים שהגיעו אליו עשרות גורמים רלוונטיים מהתעשייה, ממשרדי עורכי דין רלוונטיים, מהאקדמיה, מהמגזר השלישי ומעוד שורה של מקומות

דני קורן:  ביצענו עוד מפגשים והצגנו את טיוטת הדוח בפורומים נוספים

דני קורן:  קיבלנו שורה משמעותית של הערות ביחס לדברים, וגם, כפי שנאמר, ההתפתחויות שקרו מאז בהיבטים הטכנולוגיים, גם הן דברים שנלקחו מבחינתנו בחשבון

דני קורן:      בתקופה האחרונה, אחרי שהשלמנו את אותו מהלך של חשיפת טיוטת הדוח להערות הציבור, קיימנו גם מפגשים פנימיים של הצוות שעבד על המסמך במשרד החדשנות, המדע והטכנולוגיה ובמשרד המשפטים, אנשי המחלקה הכלכלית, שמענו חלק מהמעירים, גורמים שהעבירו הערות בכתב ביחס לדברים, והצענו להם לקיים מפגשים יותר משמעותיים כדי להעמיק וללבן את הדברים, מתוך הבנה ששיתוף הציבור בהקשרים האלה הוא מאוד מאוד חשוב

דני קורן:       במסגרת הזאת התחלנו מבחינתנו לעשות עבודה על עדכון המסמך לכדי מסמך סופי, שאני מקווה שיוגש לשר ממש בשבועות הקרובים, כשבחלק מהמלצות שיש לנו הכוונה היא באמת לבצע שינויים כאלה ואחרים

דני קורן:  אני לא חושב שבהכרח באופן משמעותי, בהמלצה העיקרית אולי, אבל חלק מהדברים בהחלט היו דברים שלמדנו וחשבנו ואנחנו כרגע מלבנים כדי לשקול איזה שינויים נדרשים במסמך

אורית פרקש הכהן: לגבי הדברים האחרים, לגבי כלי ניהול סיכונים, צוות רגולטורים, מוקד ידע, איפה עומדים הדברים?     

דני קורן: במסגרת הזאת של הכלי לניהול סיכונים עדיין אין כלי לניהול סיכונים, זה חלק מההמלצות שיש בטיוטה

דני קורן:  אנחנו כן ממשיכים לעקוב אחרי מה שקורה גם בעולם בהקשרים האלה ואני חושב - - -     

אורית פרקש הכהן: לא, זה קצת יותר מההמלצות לדעתי, כי במסמך שאני כתבתי אני קבעתי: זה הכללים ועכשיו אנחנו מורים ומנחים ומתחילים את הפעולות הללו

דני קורן: זה נכון שבמסמך שפורסם בסוף כטיוטה להערות הציבור - - -     

אורית פרקש הכהן: זה היה לשימוע, נכון

אורית פרקש הכהן:  אז בעצם רק כשהוא יהיה מחייב תתחיל העבודה על הקמת כלי הניהול

אורית פרקש הכהן:  אבל לא, אם אני לא טועה, מבחינת ההנחיה האדמיניסטרטיבית לצוותים, אמרנו להתחיל לעבוד כבר על כלי ניהול סיכונים, נכון?     

דני קורן: במקביל לעבודה על גיבוש המוסמך והטעמת ההערות, המשרד גם כן עוקב אחרי מה שמתקדם בעולם בהקשרים האלה, כי גם הכלים לניהול סיכונים שקיימים בעולם עדיין בתהליכי בנייה בהקשרים האלה

דני קורן:  גם לעניין מוקד הידע, זה פחות במסגרת שלי, אולי אנשי המשרד יידעו לפרט יותר, אבל יש איזשהו מהלך מול הגורמים הממשלתיים כדי להקים את אותו מוקד יידע במשרד שיוכל לבצע גם את הפעולות הנוספות שיוקצו בהקשר הזה

אורית פרקש הכהן: מאוד חשוב, יופי

אורית פרקש הכהן:  תודה רבה

אורית פרקש הכהן:  אני רק רוצה לומר שמאוד חשוב להוביל ולקדם את הנושא הזה

אורית פרקש הכהן:  לטובת המאזינים, כלי לניהול סיכונים, כמו שלמדתי מאנשי המקצוע במשרד, זה בעצם סוג של רגולציה יותר קלה אל מול התעשייה שמסייעת לחברות, לתעשייה, כשהן נתקלות בשאלות שנוגעות לבינה מתי הן נכנסות לאזורים שדורשים יותר שקיפות, הסברתיות, אחריותיות ועוד, וזה כלי שהוא נפוץ ואליו הולכות הרבה מאוד מדינות, אבל אני חושבת שלאור ההאצה המאוד גדולה ולאור הזמן שחלף כדאי מאוד לתת גז על הדברים החשובים האלה

נירה לאמעי רכלבסקי: הכוונה היא להשאיר לזירה השיפוטית את הפיתוח של הכללים בתחום הזה על הדברים הבסיסים? כלומר, איך אתם מצפים מבית המשפט לנהוג בתביעות נזיקיות שיתחיל להיות מוגשות?     

אורית פרקש הכהן: רגע, אני רק אעכב אותך כי פרופ' אורנה ברי נמצאת בזום

אורית פרקש הכהן:  פרופ' אורנה ברי, היום בכירה מאוד בגוגל ועוסקת בנושא הבינה המלאכותית, הייתה מדענית ראשית הרבה מאוד שנים, פורצת דרך בתעשייה הישראלית ואישה מעוררת השראה

אורית פרקש הכהן:  אני חושבת שמה שהיא רצתה להגיד לכולם זה שצריך לתת גז בנושא הזה ולהתקדם אתו, אבל אנחנו כמובן נשמע אותה

אורית פרקש הכהן:  לצערי, עקב תקלה טכנית איינו מצליחים לשמוע אותה אך נשמע אותה בדיון הבא

אורית פרקש הכהן:       הייתי רוצה לעבור לדובר האחרון מטעם הממשלה

אורית פרקש הכהן:  עו"ד אמיר וסרמן, היועץ המשפטי של רשות ניירות ערך

אורית פרקש הכהן:  נשמח לשמוע אותך כדוגמה איך התפיסה הזאת שיותר תחומי פעילות מסוימים בבינה מלאכותית עוסקים באתגרי הבינה המלאכותית ובכלל איך מה אתה חושב שכדאי שנדע ונבין ומהי העשייה שלכם בצוות הרגולטורים הפיננסיים בנושא הבינה

אמיר וסרמן: צהריים טובים ותודה רבה על ההזמנה להשתתף בדיון

אמיר וסרמן:  אני עומד בראש צוות שעוסק בבינה מלאכותית בסקטור הפיננסי יחד עם שרית פלבר ממשרד המשפטים

אמיר וסרמן:  אני אספר בכמה מילים על הצוות שלנו

אמיר וסרמן:  זה צוות שהוקם בתחילת השנה, יוזמה של מאיר לוין כאן ויתר הרגולטורים הפיננסיים

אמיר וסרמן:  יש לנו חברי צוות ממשרדי האוצר והמשפטים, רשות התחרות, בנק ישראל, רשות שוק ההון ורשות ניירות ערך

אמיר וסרמן:       עבודת הצוות באה בהמשך לשני מסמכי רקע חשובים, על מסמך אחד דיברתם, זה מסמך המדיניות בתחום הבינה המלאכותית בישראל שפורסם להערות ציבור והוא מסמך אסטרטגיה שמציג את הנושא עם תפיסה של אימוץ של עקרונות אתיים לשימוש בבינה מלאכותית וגם אמירה לגבי הצורך בבחינה של הרגולציה ע"י רגולטורים סקטוריאליים, שזה בעצם מה שאנחנו עושים

אמיר וסרמן:  המסמך השני הוא מחקר שנערך לבקשת משרד המשפטים ע"י צוות של חוקרים מאוניברסיטת תל אביב שבו נסקרו השימושים האפשריים בבינה מלאכותית בסקטור הפיננסי וההתפתחויות ברגולציה הזרה בתחום הזה ולמעשה החוקרים ממשיכים לסייע לנו גם בעבודה הנוכחית

אמיר וסרמן:      השאלה הראשונה היא למה להקים צוות שעוסק בבינה מלאכותית דווקא בסקטור הפיננסי

אמיר וסרמן:  ראשית, זה תחום שצפויים להיות בו שימושים רבים ל-AI

אמיר וסרמן:  זה תחום מפוקח שבו גם יש כלים קיימים לעסוק בפעילות הזו, ובתחומים מפוקחים, צריך לזכור, שהבחינה היא לא רק האם צריכים להיות כללים חדשים שיסדירו את הפעילות אלא גם האם יש חסמים, כלומר רגולציה קיימת שצריך להסיר כדי שהפעילות בכלל תתאפשר

אמיר וסרמן:  תחום הפיננסיים הוא תחום שמורגל בשינויים טכנולוגיים ויש כאן עבודה משותפת של הרגולטורים הרלוונטיים כדי ללמוד ולהתמודד עם האתגרים באופן דומה, וכמובן בעולם ראינו יוזמות דומות של רגולטורים פיננסיים, זאת אומרת, אנחנו בחברה מאוד טובה מבחינת ההסתכלות והכניסה לתחום הזה בעת הנוכחית

אמיר וסרמן:       הצוות הונחה בשלב הראשון להתמקד בשימושים שקשורים לחיתום של אשראי וביטוח, לניהול תיקי השקעות ולפעולות של ייעוץ

אמיר וסרמן:  ייעוץ זה יכול להיות ייעוץ השקעות או ייעוץ פנסיוני

אמיר וסרמן:  אנחנו חילקנו את העבודה ל-3 שלבים מרכזיים: השלב הראשון הוא שלב של למידה, שבו בדקנו מה כל גורם, כל רגולטור, עשה בנושא הזה עד היום – כל גורם עשה מעט – מפגשי למידה על הטכנולוגיה, למידה של ההתפתחויות הרגולטוריות בחו"ל, חלקן נזכרו כאן

אמיר וסרמן:      השלב השני, שאנחנו כעת נמצאים בו, זה שיח עם התעשייה

אמיר וסרמן:  פרסמנו קול קורא והתחלנו לקיים מפגשים עם גורמים קיימים בתחום הפיננסי ועם מגזר ההייטק

אמיר וסרמן:  השלב השלישי יהיה התכנסות לדיונים והמלצות, שזה אמור לקרות לקראת סוף השנה

אמיר וסרמן:  לתחושתנו, הצוות פועל בעיתוי המתאים

אמיר וסרמן:  הרעיון להקים אותו היה מעט לפני המפץ הגדול של צ'אט GPT וזה עיתוי פנטסטי ללמוד את הנושא ולהיכנס אליו גם מבחינה רגולטורית

אמיר וסרמן:  אנחנו מרגישים שיש כאן גם שיתוף פעולה שהוא לא קורה כל יום בין הרגולטורים הפיננסיים, בין כל גורמי המדינה שרלוונטיים לתחום שלנו, כדי להשיג את התוצאות הנכונות

אורית פרקש הכהן: אתה יכול לפרט את סיכוני ה- AIשבהם אתם תתמקדו למשל?     

אמיר וסרמן: הם נסקרו כאן קודם והם באמת נובעים מכך שפעולות שבוצעו בעבר ע"י בני-אדם יבוצעו ע"י מכונות

אמיר וסרמן:  אפשר לקחת לדוגמה את תחום האשראי, תחום שמאוד מדובר למשל בארצות הברית - - -     

אורית פרקש הכהן: מתן הלוואות

אמיר וסרמן: הסיכונים שמדברים עליהם בדרך כלל הם סיכונים של הטיות, סיכונים של הסברתיות, מודל שעובד בקופסה שחורה, כיצד ניתן להבין אותו, סיכונים שקשורים לסייבר, לפרטיות

אמיר וסרמן:  יש שורה של סיכונים שמקובל לדבר עליהם בסקטור הפיננסי

אמיר וסרמן:  אני כן אגיד שבגלל שמדובר בתחום מפוקח יש כנראה גם כלים טובים יותר להתמודד עם הסיכונים

אמיר וסרמן:  אני מניח שבוועדה אתם תדברו גם על פעילויות שהן לא מפוקחות בכלל, פעילויות שהן ברשת, פעילויות שלא נמצאות תחת מסגרת

אמיר וסרמן:  כשיש מסגרת קיימת המיטיגציה או ההתמודדות יכולה להיות טובה יותר

אורית פרקש הכהן: תודה רבה

אורית פרקש הכהן:  קודם כל, אני חושבת שזו דוגמה מצוינת

אורית פרקש הכהן:  צריך עוד צוותים כאלה, מאיר, בתחומים נוספים, ודני והמשרד כמובן, שתובילו בנושא הזה

אורית פרקש הכהן:  זה באמת מעניין

אורית פרקש הכהן:  הינה למשל דוגמה לבינה מלאכותית שכשהיא תמפה אדם ותקבע או תעשה קריטריונים לתנאי ריבית ושיעור ריבית, היא תגיד: רגע, מי האנשים שאנחנו רגילים שמשלמים ועומדים בתשלומים וכו', וכאן בדיוק יכולים להגיע להטיות שאנחנו חוששים מהן

אורית פרקש הכהן:  מה סטטוס העבודה הזו?     

אמיר וסרמן: אנחנו בשלב השני, כמו שאמרתי, של עיבוד הערות שקיבלנו בקול הקורא, ויותר מזה, מפגשים גם עם אנשים שהגיבו לקול הקורא וגם גורמים שלא הגיבו ואנחנו רוצים לפגוש

אמיר וסרמן:  זה השלב של השיח עם התעשייה

אמיר וסרמן:  במקביל, כמעט כל שבוע יש פרסומים חדשים בנושא של הבינה המלאכותית באופן כללי וגם בתחום הפיננסי אז אנחנו ממשיכים לעקוב, לדבר עם רגולטורים בחו"ל

אמיר וסרמן:  זאת פעילות מאוד נמרצת בתקופה הזו

אורית פרקש הכהן: תודה רבה

אורית פרקש הכהן:  גאיה הררי, בבקשה

גאיה הררי הייט: שמי גאיה הררי, אני ראש תחום מדיניות ורגולציה ב-SNPI

גאיה הררי הייט:  אנחנו מכון מדיניות ומחקר שמבקש לשמר ולקדם את המובילות הטכנולוגית בהייטק הישראלי

גאיה הררי הייט:  אנחנו נמצאים בקשר עם הרבה מהגורמים החשובים שנמצאים כאן סביב השולחן ועושים עבודה מאוד משמעותית בתחומים של בינה מלאכותית, אבל חשוב לנו גם רגע לעצור ולהגיד שהעולם נמצא בתחרות מאוד מאוד גדולה בתחום הזה

גאיה הררי הייט:  כולם רוצים להפוך להיות מעצמות AI כי ההזדמנויות הן עצומות והשאלה של מה יעשה, כמה יעשה ומתי יעשה זה מה שיקבע אם אנחנו נהיה או לא נהיה AI Nation

גאיה הררי הייט:        ב- SNPIאנחנו מסתכלים על זה מכמה זוויות ואני אבקש להגיד מה לדעתנו הדברים החשובים והדחופים ביותר לעשות בכל אחת מהסוגיות

גאיה הררי הייט:  הדבר הראשון זה העולם של הובלה טכנולוגית, מובילות, והאם אנחנו נצליח באמת לשמר אותה

גאיה הררי הייט:  זיו התייחס לכך שעל פי המדדים אנחנו באמת מאוד טובים במו"פ וקצת פחות טובים באסטרטגיה ממשלתית ובתשתיות והוא גם הציג הרבה מהפעילות החשובה שתוכנית הבינה הלאומית הולכת לעשות ועל התוכנית של פורום תל"מ

גאיה הררי הייט:      הפעימה השנייה של פורום תל"מ כוללת הרבה מאוד עשייה אבל לא הרבה מאוד כסף, וכן חשוב להגיד שאנחנו דיברנו לפני כמה שנים – פרופ' ישראלי דיבר על 10 מיליארד שקלים לבינה מלאכותית, אורנה ברי דיברה על 5 מיליארד, יו"ר הוועדה בתפקידה כשרה ניסתה להגדיל את התקציב למיליארד וחצי, אם אני זוכרת נכון, 2 מיליארד, וכרגע אנחנו מדברים על 500 מיליון שקלים שנכנסו בפעימה השנייה ובאמת ישמשו לכל הדברים המאוד חשובים שזיו דיבר עליהם והוא מקדם

גאיה הררי הייט:       אנחנו רוצים להגיד שאם ישראל רוצה להיות מעצמה בתחום היא צריכה להשקיע משאבים הולמים

גאיה הררי הייט:  לדבר הזה יש גם חשיבות מאוד גדולה במסר הבין-לאומי ועצם העובדה הזו יכולה למשוך הרבה הזדמנויות לישראל

גאיה הררי הייט:  אנחנו גם מאמינים שהשותפות של ממשלה ושוק הפרטי בישראל היא זו שיצרה את התעשייה הכול-כך משגשגת, ודווקא כשאנחנו בתחילה של גל טכנולוגי חדש הבנייה של תשתיות היא הכי חשובה והמעורבות הממשלתית היא הכי חשובה והדברים שייעשו או לא ייעשו עכשיו הם דרמטיים

גאיה הררי הייט:      שני הדברים העיקריים שאנחנו חושבים שצריך להשקיע בהם זה תשתיות והון האנושי

גאיה הררי הייט:  זה מאוד מתחבר לעשייה שאנחנו שומעים עליה כאן

גאיה הררי הייט:  בתשתיות צריך להגיד שאנחנו חושבים שכוח מחשוב צריך להתחיל להיתפס בממשלה כמשאב בסיסי

גאיה הררי הייט:  זה חשמל

גאיה הררי הייט:  זה הדבר הכי בסיסי שעליו אחר כך אנחנו יכולים לפתוח את כל הטכנולוגיות ולפתח אותן

גאיה הררי הייט:  המשאב הזה צריך להיות מאוד-מאוד זמין וזמין בצורה שוויונית שמעודדת תחרותיות

גאיה הררי הייט:  הדבר הזה בעינינו הוא ממש קריטי

גאיה הררי הייט:       הסוגיה השנייה, שבהרבה מובנים קשורה לסיפור של תשתיות, זה הון אנושי

גאיה הררי הייט:  ישראלים כבר היום מובילים בעולם את המהפכה של הבינה המלאכותית אבל לא בהכרח הם עושים את זה בישראל

גאיה הררי הייט:  אנחנו מאוד מאוד רוצים להחזיר לכאן טאלנטים, למנוע בריחת מוחות, לפתח כאן את ההון האנושי שיוביל את העולם הזה, ובשביל זה באמת צריך תשתיות, אקדמיה, תמריצים ובקנה מידה מאוד מאוד גבוה ודרמטי

גאיה הררי הייט:       הצד השני זה הצד של סיכונים וכאן אנחנו מתחברים לשיח המאוד חשוב על רגולציה וחקיקה

גאיה הררי הייט:  אנחנו באמת נמצאים בשבוע מאוד דרמטי בעולם, אירופה בדיוק בשיא העבודה על ה- AI Actועל חוק הבינה המלאכותית האירופי

גאיה הררי הייט:  פה זה לא אירופה ואני חושבת שזה טוב

גאיה הררי הייט:  דווקא זה שהמסמך שיו"ר הוועדה, משרד המשפטים, ובגילוי נאות אני אספר שגם אני הייתי קשורה אליו בתפקידי הקודם - - -     

אורית פרקש הכהן: נכון, גאיה עבדה איתי במשרד החדשנות וסייעה לכתיבת מסמך המדיניות

גאיה הררי הייט: אז חשוב לי להגיד שדווקא העובדה שמאז אוקטובר עדיין הוא לא אושר סופית ועדיין משלימים את העבודה המאוד חשובה של שמיעת הערות הציבור, וכולנו ראינו כמה קרה בחצי שנה הזו – הפיצוץ הגדול של ה- Generative AIושל צ'אט GPT – מראה לנו שהמחוקק לא יצליח להדביק את הקצב של הרגולטור, בטח באקלים הישראלי, באי היציבות הישראלית, וראינו גם כמה קשה היה להעביר את תקנות הפרטיות

גאיה הררי הייט:  כנראה שחקיקה זו לא הדרך לישראל

גאיה הררי הייט:       אבל כן חשוב להגיד – וכאן אני מאוד מתחברת למה שנאמר פה בחדר וברור גם שגורמי המקצוע מבינים את החשיבות – האלטרנטיבה של ואקום היא לא טובה

גאיה הררי הייט:  אם ישראל אכן תבחר לאמץ את מסמך המדיניות וללכת אל העולם של רגולציה חכמה, זה תפקיד שהוא הרבה יותר קשה ומסובך מלחוקק חוק, כי הוא דורש שכל הממשלה תשב בשיתוף פעולה עם גורמי ציבור, עם אקדמיה ותעשייה, ותעשה רגולציה שהיא חכמה, גמישה ויצירתית

גאיה הררי הייט:  הדבר הזה באמת דורש תיאום ממשלתי מאוד מאוד גדול ועבודה מאוד מאוד חשובה, שאם לא יעשה כל מה שנאמר על כלי לניהול סיכונים ועל מוקד ידע, התוצאה עשויה להיות ואקום

גאיה הררי הייט:      ואקום, מעבר לזה שהוא לא שומר על הזכויות והאינטרסים של האזרחים, הוא גם מאוד לא טוב לתעשייה

גאיה הררי הייט:  גם התעשייה רוצה ודאות והחשש בוואקום הוא שהוא יתמלא בצורה שלילית

גאיה הררי הייט:  אז אנחנו מאוד מעודדים את השיח שאנחנו שומעים כאן בשולחן ומקווים שגם הממשלה החדשה תבין שהדבר הזה דורש משאבים, גיבוי פוליטי והרבה מאוד תמיכה בגורמי המקצוע בשביל להשלים את המהלך השאפתני הזה שאנחנו נהיה המדינה הזו שעושה רגולציה חכמה, גמישה וטובה

גאיה הררי הייט:  אני כן אגיד בנקודה שיכול להיות שצריך לשקול שבתחומים מסוימים ממוקדים כן תהיה רגולציה או חקיקה ייעודית

גאיה הררי הייט:  סין עושה את זה ועם כל הביקורת על סין דווקא בבינה מלאכותית היא מעצמה וגם בחקיקה של בינה מלאכותית, אז אולי יש כמה תחומים שאפשר כבר עכשיו להתחיל לחשוב לתת להם מענה חקיקתי

גאיה הררי הייט:       הדבר האחרון זה הסיפור של הטמעה במערכות הציבור, מתי כולנו נתחיל להרגיש שאנחנו חיים וחיות ב- AI Nation, וגם כאן מקווים שהעבודה תיעשה בצורה דרמטית ומורגשת ובאמת מקווים להסתכלות אסטרטגית, סנכרון ממשלתי, תקציבים, מאמצים שיבטיחו שנהיה AI Nation

גאיה הררי הייט:  תודה רבה על העבודה

גאיה הררי הייט:  מקווים שהיא תמשיך

אורית פרקש הכהן: תודה רבה

אורית פרקש הכהן:  בבקשה, פרופ' מארק פייגן, בבקשה

מארק פאגן: (מדבר בשפה האנגלית, להלן תרגום:)     מארק פאגן מאוניברסיטת הווארד הפקולטה על שם קנדי, בית ספר לממשל, מנהל התוכנית לרכב אוטונומי

מארק פאגן:  בנוסף, אני עוסק גם בבינה מלאכותית

מארק פאגן:  אני מעריך ומודה על הזמנתכם

מארק פאגן:       המיקוד של הערותיי הם לטווח הקצר ולא הטווח הארוך

מארק פאגן:  אני מאמין שהממשלה נמצאת בעמדת מפתח בטיפוח מערכת יעילה של בינה מלאכותית

מארק פאגן:  ישנם  מהלכים שניתן לעשות כרגע כדי להפוך זאת למציאות

מארק פאגן:       אני  אציג ארבע קטגוריות בהן ממשלות יכולות לפעול כדי לתרום לפיתוח בינה מלאכותית בארץ ישראל: 1

מארק פאגן:  להיות מנחה

מארק פאגן:  2

מארק פאגן:  להיות מנהל סיכונים

מארק פאגן:  3

מארק פאגן:  להיות מפשר 4

מארק פאגן:  להיות משתמש

מארק פאגן:       אני אסביר כל אחד מהסעיפים

מארק פאגן:  בתפקיד המנחה, לממשלה יש את היכולת לשכנע ולהביא את כל הגופים יחד להידברות: ממשלה,   מגזר פרטי, חברה אזרחית

מארק פאגן:  אנחנו לא יכולים להצליח לקדם את הבינה מלאכותית רק על ידי חלק מהגופים

מארק פאגן:  החלפת המידע תוביל לשינוי

מארק פאגן:  לממשלה יש את היכולת לשכנע את כל הצדדים

מארק פאגן:  אתן לכם דוגמא מהעולם שלי: אנחנו מביאים יחד בהאקת'ון את כל גורמי הממשל, הסקטור המוניציפאלי, המגזר הפרטי, החברות המפתחות, המשתמשים בטכנולוגיה, חברות שעוסקות בניידות, אקדמיה ועוד סביב שולחן אחד

מארק פאגן:  במשך 24 שעות אנחנו דנים בנושאים ספציפיים, כל פעם בנושא אחר, כגון: בטיחות, איכות סביבה, פרטיות ועוד

מארק פאגן:  קבוצת האנשים הללו יכולים להוביל לשינוי

מארק פאגן:  בנוסף, הממשלה מחזיקה בתפקיד של מוציאה לפועל, מממנת מחקרים, ומממנת במקום שהשוק קטן מידי כדי להביא משקיעים

מארק פאגן:  למשל בנושא תחנות טעינה, כיום אין עדיין רווח לחברות והן לא רוצות להשקיע ולכן  הממשלה יכולה להשקיע ולגרום לזה לקרות

מארק פאגן:       בתפקיד השני שכבר חלק דיברו עליו, הממשלה כרגולטור

מארק פאגן:  אני רואה זאת כניהול סיכונים יותר מאשר רגולטור

מארק פאגן:  אני חושב שהממשלה נמצאת בתפקיד של ניהול סיכונים יותר מאשר לכתוב רק תקנות וחוקים

מארק פאגן:       בתחום הבינה המלאכותית אנחנו ניצבים מול חדשנות וזה שונה מרגולציה בעבר

מארק פאגן:  ישנו ספקטרום רחב איך אתה יוצר רגולציה או שליטה בתחום של חדשנות

מארק פאגן:  בקצה האחד יש את החופשיות לפתח כאשר הסיכון הוא מינימלי לאזרח

מארק פאגן:  לאחר מכן יש שלב שאנו עוברים למצב שבו אנחנו צריכים ליצור רגולציה חדשה שלא הייתה קיימת בעבר ובקצה השני של הספקטרום אנחנו חוסמים

מארק פאגן:  זו חדשנות שאנחנו לא יכולים לקדם בשלב זה, למשל: הנדסה אנושית מתאים למודל זה

מארק פאגן:       כדי להסביר לכם, אקח אתכם שוב לעולם של הרכב האוטונומי ולמידע הנאגר בתחום זה

מארק פאגן:  במקרה זה יש לנו ארבעה תחומים: 1

מארק פאגן:  מידע על הרכב עצמו: מהירות, כמה זמן לוקח לטעון ועוד

מארק פאגן:  בתחום זה אין לממשלה תפקיד ויש אור ירוק לצבור נתונים ומידע

מארק פאגן:  2

מארק פאגן:  מידע שהרכב האוטונומי קולט תוך כדי נסיעה: תמרורים, צמתים ועוד

מארק פאגן:  למידע זה יש שימוש גם למפעיל וגם לממשלה ואנחנו משתמשים ברגולציות הקיימות

מארק פאגן:  3

מארק פאגן:  מידע על האנשים שבתוך הרכב- הנוסעים: בכל רכב אוטונומי יש מצלמה

מארק פאגן:  נשאלת השאלה של מי המידע הזה? וכאן צריך רגולציות חדשות

מארק פאגן:  4

מארק פאגן:  הרכב האוטונומי אוסף מידע במצלמה על המתרחש ברחוב

מארק פאגן:  המפעיל של המכוניות הללו אוגר מידע רב לגבי האנשים ברחוב

מארק פאגן:  עולה כאן שאלה מעניינת: האם יש כאן רגולציה חדשה שצריך לנסח?  או חייבים לעצור וכאן זה קו אדום

מארק פאגן:   זו דוגמא לאתגרים הנציבים בפני מפעילי הרכב האוטונומי

מארק פאגן:      לסיכום,  ה- Sam Boxes הוא מודל מעולה מכיוון שהוא  מאגד ביחד את כל הגופים הקשורים לנושא מסוים, ויוצר שיח משמעותי ומוביל לשיתופי פעולה

מארק פאגן:     	התפקיד השלישי של ממשלות הוא להיות מפשר

מארק פאגן:  הבינה מלאכותית הוא מרכיב אחד בעולם

מארק פאגן:  אתן לכם שוב דוגמא  מרכבים אוטונומיים

מארק פאגן:  לרכבים אלו יש  אפשרות להוריד באופן דראסטי את הנפגעים והמתים בתאונות דרכים

מארק פאגן:  בארצות הברית מתים 34 אלף אנשים בשנה מתאונות

מארק פאגן:  הרכבים האוטונומיים יורידו את מספר המתים בחצי או אף יותר

מארק פאגן:  אבל במקביל שימוש ברכבים האוטונומיים יצרו תופעות משמעותיות אחרות

מארק פאגן:  רכבים אלו ימחקו תעשיות שלמות של עבודה: למשל בארצות הברית ארבעה מיליון אנשים מתפרנסים מנהיגה

מארק פאגן:  העבודות הללו יכולות להימחק 

מארק פאגן:   תפקיד הממשלה לראות התמונה הרחבה ואיך מביאים למיקסום התועלת לחברה

מארק פאגן:       הנקודה האחרונה שאני רוצה להתייחס, היא תפקיד המדינה כמשתמש בבינה מלאכותית

מארק פאגן:   למשל בתחומים של בטחון ובטיחות- ישראל מאוד מצליחה

מארק פאגן:  ניתן לשימוש בזה לבריאות, לאיסוף מיסים ועוד תחומים רבים

מארק פאגן:  השימוש בבינה מלאכותית הוא בלתי נגמר וניתן להשתמש בזה כבר היום

מארק פאגן:          לסיכום, כיצד הבינה מלאכותית יכולים לתת לנו מושג מה יהיה בעתיד

מארק פאגן:  זו טכנולוגיה חדשה

מארק פאגן:  מתי נגיע למיליון לקוחות

מארק פאגן:  הכול קורה מהר והסבירות גבוהה שהדברים יתפתחו באופן לא צפוי

מארק פאגן:       אני מציע שני כלים: 1

מארק פאגן:  System dynamic – מערכת דינמית, שרואה את כל ההיבטים ולא מערכת צרה שמסתכלת על תחום ספציפי 2

מארק פאגן:  הכנת תרחישים מגוונים למצבים אפשריים

מארק פאגן:  מה יכול לקרות בעולם הלא ודאי הזה

מארק פאגן:       אני מודה לכם על הזמן שהקדשתם לי

אורית פרקש הכהן: תודה לך על הדברים והצפת האתגרים שאנו ניצבים בפניהם ואני מקווה שנוכל לדון בזה בדיונים הבאים

אורית פרקש הכהן:  המטרה של הדיון הראשון בנושא זה היא הרמת הדגל לקדמה הזו שאנו צריכים לשאוף אליה

אורית פרקש הכהן:  אני מקווה שנוכל להתייעץ איתך גם בעתיד

אורית פרקש הכהן:           תודה רבה

אורית פרקש הכהן:  אני באמת מעריכה את זה

אורית פרקש הכהן:  נדבר על אותם הדברים, הסיכונים וההזדמנויות ועל העובדה שהמדינה צריכה להיות עם תפקיד מאוד אקטיבי כי היא צריכה לתרחש – זה מה שהוא מתכוון ב- scenario planning – את כל האדוות של ההשפעה שתהיה לדבר הזה, להיערך מצד אחד אבל גם להעצים את הפוטנציאל שיש לדבר הזה לשנות את החיים של כולנו לטובה

אורית פרקש הכהן:  חבר הכנסת יאסר חוג'יראת, בבקשה

יאסר חוג'יראת: שלום לכולם, דיון מעניין

יאסר חוג'יראת:  רציתי לשאול תחילה האם יש בחדר ערבים או נציגים של החברה הערבית?     

איתן לבני: אנחנו משרתים את כל הציבור

יאסר חוג'יראת: האם יש חרדים? אין

יאסר חוג'יראת:  הנושא של בינה מלאכותית זה נושא מאוד חשוב, הוא בעצם העתיד של ההתפתחות, לא רק בתעשייה, לא רק בהייטק אלא בכל תחומי החיים, גם בחינוך, ברווחה וכו'

יאסר חוג'יראת:  אני חושב שמדובר כאן על ההון האנושי וחשוב מאוד – אני רוצה לשים זרקור – על הנושא החברתי

יאסר חוג'יראת:  כדי להתקדם בכל נושא הבינה המלאכותית, בכל התחומים שבתוכה, חייבים בצורה כזו או אחרת לשלב גם את האוכלוסיות המוחלשות, גם החברה הערבית וגם החברה החרדית

יאסר חוג'יראת:  זה חשוב מאוד

יאסר חוג'יראת:  זה נושא שצריך להתייחס אליו בחשיבות וצריך לקחת אותו לתשומת הלב, כל נושא ההכשרות

יאסר חוג'יראת:      מצד השני, אנחנו כן רוצים להתקדם

יאסר חוג'יראת:  אני מכיר יותר את הנושא המדעי, רפואה מותאמת אישית, כי אני בא מהתחום

יאסר חוג'יראת:  יש הרבה דאטה, יש הרבה מידע וחשוב לשמור אותו ולנצל אותו בשביל להתקדם

יאסר חוג'יראת:  הדבר החשוב הוא גם שצריך בלמים ואיזונים בכל ההתפתחות של הבינה המלאכותית

יאסר חוג'יראת:  חשוב מאוד תמיד לשמור גם על הפרטיות

יאסר חוג'יראת:  שמעתי את הייעוץ המשפטי, אני בעד אולי ייעוץ סקטוריאלי ולא רוחבי כי לכל תחום צריך לתת את הבלמים בצורה כזו או אחרת

יאסר חוג'יראת:  תודה

אורית פרקש הכהן: תודה

אורית פרקש הכהן:  ליאת גלזר, גוגל, בבקשה

ליאת גלזר: שמי ליאת גלזר, אני מנהלת קשרי ממשל ומדיניות ציבורית בחברת גוגל

ליאת גלזר:  אנחנו שמחים על ההזדמנות להגיע ולהשתתף בשיח הזה וקצת לחלוק את התפיסה שלנו בחברה לגבי בינה מלאכותית

ליאת גלזר:  הרבה מהדברים נאמרו כאן ואחד הדברים המרכזיים שנאמרו זה שהשיח הזה הוא שיח משותף והדרך הנכונה לנהל אותו היא באמת בפורום כזה של שולחן עגול

ליאת גלזר:  זה לא רק שיח של ממשלה, זה לא רק שיח של תעשייה, זה לא רק שיח של אקדמיה, וזה משמח אותנו שהגופים שמובילים את התהליכים הממשלתיים באמת מכירים בכך

ליאת גלזר:  שמחתי על עוד כמה דברים שעלו כאן בדיון וזה שהדיון לא עסק רק ברגולציה ובסיכונים אלא גם בהזדמנות

ליאת גלזר:       אנחנו לאחרונה, בגוגל, פרסמנו כמה מסמכים בנושא שעוסקים בתפיסה שלנו של מהי המסגרת הנכונה לגבש מדיניות בתחום הזה של בינה מלאכותית

ליאת גלזר:  מכיוון שאנחנו כחברה עוסקים בזה, זו העבודה שלנו, אנחנו AI-first company כבר כמה שנים

ליאת גלזר:  נכון שהיום כולם מדברים על Generative AI אבל ב-AI יש המון המון דברים וכל המוצרים שלנו שאתם משתמשים בהם כוללים אלמנטים כאלה

ליאת גלזר:  יש לנו פעילות מאד משמעותית בתחום של AI and Social Good, שמשתמשים במודלים של בינה מלאכותית לחיזוי אסונות או לטייב חוות דעת רפואיות

ליאת גלזר:  לכן אצלנו בחברה אין ואקום, אבל זה לא אומר שאנחנו לא חושבים שיש מקום לממשלה להתערב ולהביע את עמדתה גם על ההזדמנות וגם על הסיכונים

ליאת גלזר:      לאחרונה פרסמנו מסמך – אני יכולה לחלוק עם כולם את הקישורים, יש לנו אותו גם מתורגם לעברית – שמדבר על שלושה עמודי תווך (pillars) כשבאים להסתכל על מדיניות AI: אחד, המישור של ההזדמנות, זיהוי ומיצוי ההזדמנות הכלכלית שטמונה בבינה מלאכותית

ליאת גלזר:  אני רוצה להגיד על זה רק דבר אחד קצר, שלאורך ההיסטוריה מדינות שבחרו לאפשר גישה מרבית לטכנולוגיה וניצלו אותה להשיג יעדים ציבוריים, במקום לנסות ולהגביל את ההתקדמות הטכנולוגיות, הן אלה שקצרו את פירות ההצלחה ואני חושבת שזה בוודאי נכון גם למישור של בינה מלאכותית

ליאת גלזר:      הדבר השני הוא הנושא של קידום אחריות וצמצום הסיכונים

ליאת גלזר:  דובר על זה רבות

ליאת גלזר:  אני מתחברת מאד לדברים שמאיר דיבר

ליאת גלזר:  בלי אמון של הצרכנים במערכות האלה לא יהיה שימוש בטכנולוגיה ואנחנו נאבד את הפוטנציאל

ליאת גלזר:  הדבר האחרון זה הנושא של אבטחה ובטיחות

ליאת גלזר:  הנושא של בינה מלאכותית הוא בעצם שחקן בשני הכיוונים – הוא גם יכול לשפר את היכולת ואת הכלים שיש בתחום האבטחה אבל מהצד השני גם מייצר סיכונים חדשים, כמו למשל הנושא של פייק, דיפ-פייק, ואנחנו מנסים לייצר כלים שייתנו יותר מידע על מנת להבין את המקור של התוצרים ושל המידע שאנשים שנחשפים אליו

ליאת גלזר:  כאמור, אנחנו כאן להמשך שיח, היינו שותפים לשיח גם בשולחנות העגולים וגם בעת גיבוש המסמך וכל מי שירצה לקבל קישורים לכל המסמכים אני אשמח לחלוק אותם

ליאת גלזר:  תודה

אורית פרקש הכהן: תודה רבה

אורית פרקש הכהן:  ד"ר יובל פינטר, מרצה באוניברסיטת בן גוריון, בבקשה

יובל פינטר: תודה רבה על ההזדמנות ועל ההזמנה

יובל פינטר:  אני מבין שזמני קצר אז אני לא אגע בכל הדברים שרשמתי לי

יובל פינטר:  קודם כל, שמחתי לשמוע על המאמץ לגרום לעוד מידע יותר, יותר דאטה ממשלתי, פרוטוקולים וטקסטים ציבוריים להשתחרר בתור מידע שאפשר יהיה לאמן עליו מודלים בעברית בעתיד

יובל פינטר:  זה משמח מאוד לשמוע ואני מקווה שזה באמת גם יקרה

יובל פינטר:      רציתי לדבר על כך שבינה מלאכותית בסופו של דבר היא כלי בשימוש של בני-אדם, אנשים משתמשים בזה והרגולציה צריכה להתמקד כן בני-האדם שעושים בה שימוש

יובל פינטר:  הטכנולוגיה לא אחראית לכלום בסופו של דבר וצריך להבין שזה משהו שהמשתמשים, כולל הגורמים הממשלתיים והציבוריים שעושים בה שימוש, צריכים לקבל על זה הכשרה מאוד מאוד נרחבת

יובל פינטר:  הם אלה שצריכים לדעת אחר כך לעמוד בכללים ולהימנע מהחלטות שמתבססות על ההטיות למיניהן ששמענו עליהן פה במהלך הדיון

יובל פינטר:  למשל, אחד הדוברים דיבר על כלי הסברתיות במונחים של מה מכונה חושבת

יובל פינטר:  זה מונח שמאניש את האלגוריתמים, את המוצרים האלה, באופן בלתי מודע זה גם מסיר את האחריות מבני-האדם שמשתמשים במכונות האלה וכדאי להקפיד על המונחים בצד הזה של החקיקה והרגולציה

יובל פינטר:  זה הדבר החשוב שרציתי לומר

אורית פרקש הכהן: תודה רבה

אורית פרקש הכהן:  עו"ד ניר גרסון, הרשות להגנת הפרטיות, גוף מאוד חשוב ורלוונטי לדיון הזה

ניר גרסון: כן, בהחלט

ניר גרסון:  גברתי יושבת-ראש, הרשות להגנת הפרטיות אכן היא גוף רלוונטי לנושא

ניר גרסון:  היינו גם שותפים כמובן בגיבוש טיוטת המדיניות

ניר גרסון:  שאלות של פרטיות, של אבטחת מידע, הן לא היחידות בנושא הבינה המלאכותית אבל הן בהחלט קיימות ונקודת המוצא היא שרגולציית ה- Data protectionודיני הפרטיות ממשיכים להתקיים גם בנוגע לטכנולוגיות בינה מלאכותית

ניר גרסון:  בניגוד אולי לתחומים אחרים, בתחום שלנו אנחנו עוסקים באופן שוטף כבר הרבה זמן בדברים שכרוכים בסוגיות של בינה מלאכותית

ניר גרסון:  הוזכרו פה מצלמות זיהוי פנים וטכנולוגיות שונות, אנחנו גם עוסקים בזה בשוטף כיוון שבתחום שלנו לא מדובר ברבולוציה, במהפכה, אלא באבולוציה, התפתחות שפשוט בתקופה האחרונה מתקדמת בטור הנדסי

אורית פרקש הכהן: אתה יודע שלמשל החקיקה שתתקדם בפרלמנט האירופי יש בה פעולות פסולות ואסורות, כמו צילום סיטונאי, זיהויי פנים ביומטריים, במרחב הציבורי?     

ניר גרסון: נכון

ניר גרסון:  זיהוי פנים בזמן אמת

ניר גרסון:  יש ויכוחים גם בתוך הפרלמנט האירופי אז אני לא יודע על מה הצביעו בסוף בגרסה האחרונה אבל אכן, זאת אחת הטכנולוגיות שבסיכון גבוה

ניר גרסון:  רציתי לחלוק אתכם שאנחנו כמובן מפרשים באופן שוטף את הדין הקיים בשים לב לסיכונים של בינה מלאכותית ולעקרונות של טיוטת המדיניות שהוזכרה כאן קודם, אבל במקביל אנחנו גם עובדים על מסמך שירכז את סוגיות הפרשנות של דיני הגנת הפרטיות הקיימים ביחס לסיכונים ולאתגרים המיוחדים של טכנולוגיית בינה מלאכותית

ניר גרסון:       לצד הפעילות הפרשנית הזאת ושיתוף פעולה עם גורמים אחרים, אנחנו כמובן מקווים שהליכי חקיקה לתיקון חוק הגנת הפרטיות שנמצאים עכשיו על שולחן הכנסת, תיקון 14 לחוק הגנת הפרטיות שעליו הוחל דין רציפות כולל עדכונים ושיפורים של החוק שיכולים לתת מענה טוב יותר, גם לטיפול ומתן מענה לאתגרים של בינה מלכותית מנקודת מבט של Data protection וגם יש עבודת מטה נוספת שעליה עובדים במשרד המשפטים יחד אתנו, תיקון נוסף, שמכונה תיקון 15, שאם הוא יתקדם ויחוקק גם הוא ייתן מענים טובים יותר לסוגיות שעומדות עכשיו על הפרק

אורית פרקש הכהן: תודה רבה

אורית פרקש הכהן:  אושר עשור, חברת Auren Israel, בבקשה

עשור: קודם כל, תודה רבה לכל המכובדים ועל השיח

עשור:  חשוב מאוד שתהיה ועדה כזו שנוגעת בטכנולוגיה משנת חיים לדעתי

עשור:  דיברנו על ההזדמנויות ואני רוצה דווקא כן להציף את הסיכונים בנושא הפרטיות, כמו שנגע הבחור מהרשות להגנת הפרטיות

עשור:  אנחנו מדברים פה על תהליכים קדימה, ועדה שתלך ויהיו עוד ועוד פגישות, אבל בינתיים המידע שלנו קצת מופקר בידי בינה מלאכותית, בידי חברות אזרחיות שכבר משתמשות בו

עשור:  אם ניקח את השחקן המרכזי, openAI, שלא עומד כרגע בשום רגולציה וכולם משתמשים בו, אין משרד שלא משתמש בו, והזכירו פה חבריי שיש גם משרדים ממשלתיים שמתכוונים להשתמש בצ'אט GPT לטובת ייעול כל מיני תהליכים והמון מידע רגיש עולה אליו ואף אחד לא מתייחס לזה, זה קצת נעלם מהשטח

עשור:  צריך לתת לזה מענה מידי, במקביל לתהליכים שאנחנו עושים כדי לפתח את החדשנות

אורית פרקש הכהן: תודה רבה

אורית פרקש הכהן:  דוד גולן, בבקשה

דוד מגן: תודה רבה ותודה על הדיון המעולה

דוד מגן:  שמי דוד גולן, ב-7 שנים האחרונות קמתי וניהלתי את חברת Viz

דוד מגן: ai, חברת בינה מלאכותית בתחום הרפואה

דוד מגן:  אנחנו מזהים פתולוגיות, כגון שבץ, מסריקות CT ומתריעים לרופאים במטרה לאפשר טיפול מהיר ולהציל חיים של חולים, ולא רק שאנחנו מנסים, אנחנו גם מצליחים, המוצר שלנו פעיל במעל ל-1,400 בתי חולים ברחבי העולם, כולל בארץ, ומציל חיים על בסיס יומיומי, כך שבינה מלאכותית זה איך שאני מוצא את פרנסתי, גם בעולמות אפליקטיביים וגם עם המון-המון רגולציה

דוד מגן:      אני מאוד התרשמתי מהעבודה שנעשתה וממה שהוצג פה, אני כן חייב להגיד משהו אחד, שיש בינה מלאכותית ויש בינה מלאכותית, ובשנה-חצי שנה האחרונות אנחנו רואים קצב התקדמות הרבה-הרבה יותר מהיר ואנחנו לא יכולים לשחק את המשחק של אתמול, אנחנו צריכים לשחק את המשחק של היום

דוד מגן:  מנהלים ומנהלות של חברות הייטק גדולות, מה שהם עושים היום כל היום זה לחשוב איך הם מטמיעים עוד ועוד כלי AI בתוך החברות שלהם, גם לפיתוח אבל גם במחלקות המשפטיות, מחלקות השיווק ומחלקות התמיכה

דוד מגן:  אנחנו רואים הגדלת יעילות והגדלת פריון של 30% עד 50% במחלקות שונות לאורך כל הארגונים כל הזמן

דוד מגן:      ממשלות שלא יקפצו על העגלה ויעשו את זה פשוט יישארו מאחור

דוד מגן:  מה זה דורש מבחינתנו? המציאות השתנתה, זה דורש גם לשנות את סדרי העדיפויות

דוד מגן:  שני פערים מאוד גדולים: אחד מהם בצד של ה-NLP, הנגישות של כולנו לבינה המלאכותית היא חלקית בגלל שהיא עדיין לא מדברת עברית כמו שצריך וחייבים להגדיל את ההשקעה בזה ולהאיץ את לוחות הזמנים

דוד מגן:  הדבר השני הוא פשוט תמיכה

דוד מגן:  אנחנו מדברים פה על סכומים שנשמעים גדולים, 500 מיליון שקל, עוד 500 מיליון שקל, Viz זו חברת יוניקורן שגייסה 250 מיליון דולר עד היום לאפליקציה אחת בבתי חולים

דוד מגן:  צריך הרבה כסף לדברים האלה אבל הם מחזירים את עצמם עם המון-המון דיבידנדים

דוד מגן:      הדבר האחרון שחשוב לי להגיד הוא שאי אפשר להתעלם מהפיל בחדר ולא משנה מה עמדתכם לגבי הרפורמה המשפטית

דוד מגן:  לא יכול להיות שכשהמציאות משתנה אנחנו מתעלמים מזה ולא יכול להיות שכשסם אלטמן, מנכ"ל החברה החשובה ביותר בתחום, מגיע לארץ הוא לא נפגש עם ראש הממשלה

דוד מגן:  לא משנה, צריך להיות צודקים ולא חכמים, לשים את זה בצד ולהתמקד באתגרים החשובים שפה היום, להסיט את המשאבים, תשומת הלב והכסף לטובת שדרוג של כל המדינה להפוך להיות מסטארט-אפ ניישן ל-AI Nation במובן האמיתי והמלא

דוד מגן:  תודה רבה

אורית פרקש הכהן: תודה רבה

אורית פרקש הכהן:  מסכימה עם כל מילה שלך ואתה יודע שאני גם בצוות של בית הנשיא ואין מישהי שרוצה יותר ממני שהדברים יגיעו לפתרון טוב

אורית פרקש הכהן:  תודה על הדברים

אורית פרקש הכהן:  אורלי אלידן הראל, חברת סרנוס, בבקשה

אורלי אלידן הראל: שלום לכולם, שמי אורלי הראל, אני מנכ"לית ומייסדת של חברת סטארט-אפ בשם סרנוס AI שמתמחה בבינה מלאכותית לתחום הבריאות

אורלי אלידן הראל:  החברה שלנו פיתחה מערכת ממוחשבת מבוססתGenerative AI עם פטנט רשום לצורך קבלת החלטות טיפוליות רפואיות מותאמות אישית ולצורך תעדוף תורים בבתי חולים

אורלי אלידן הראל:  המערכת היא כלי מציל חיים מהמעלה הראשונה ובמקביל גם חוסכת למערכות בריאות משאבים כספיים יקרים שאפשר לנתב למטרות חשובות אחרות

אורלי אלידן הראל:  הפתרון שלנו ופתרונות אחרים בתחום ה-AI בעולם הבריאות יכולים לשפר את טיב ואיכות השירותים הרפואיים שיינתנו לציבור הרחב ולקדם שוויון מהותי ע"י הטמעת סטנדרט רפואי אחיד על בסיס המחקרים והדאטה העדכניים ביותר

אורלי אלידן הראל:       בדיון החשוב הזה אני רוצה להתייחס למצב בשוק מזווית של התעשייה מכיוון שללא תעשייה ישראל תישאר בתחום מאחור

אורלי אלידן הראל:  חיי היזמים והיזמיות בתחום ה-AI בישראל כיום מאתגרים, היקף ההשקעות בהייטק ברבעון הראשון של השנה ירד במעל 70% ביחס לשנה שעברה, ירידה חדה אל מול שאר העולם

אורלי אלידן הראל:  רוב החברות החדשות מתאגדות מחוץ לישראל וחברות קיימות בוחנות העברה של הפעילות לחו"ל

אורלי אלידן הראל:  חברות צעירות שהוקמו בשנים האחרונות לא מצליחות לגייס סבבים נוספים והן תסתגרנה

אורלי אלידן הראל:  המשמעות היא שהקניין הרוחני כבר לא יהיה בישראל, שהחברות בתחום כבר לא יצמחו בישראל ולא יעסיקו עובדים ישראלים ושטובי המוחות והחוקרים ירצו גם הם לצאת מחוץ לישראל

אורלי אלידן הראל:      מדינות שונות בעולם מציעות תמריצים שונים לאנשי ההייטק ואילו בישראל אנו מוצאים את עצמנו במלחמה קיומית ומול קיצוצים ברשות החדשנות

אורלי אלידן הראל:  אני פונה לממשלת ישראל מכאן, אנו במצב חירום, גנזו כל חקיקה קיצונית, תחזירו את הוודאות למשקיעים וליזמים, תקצו עוד משאבים לרשות החדשנות על מנת ליצור עוד תמריצים לפרויקטים בתחומי ה-AI

אורלי אלידן הראל:  בואו נפעל ביחד לשיקום הנזקים לפני שיהיה מאוחר מדי

אורלי אלידן הראל:  תודה

אורית פרקש הכהן: תודה רבה

אורית פרקש הכהן:  אנחנו נצטרך לצערי הרב לסיים

אורית פרקש הכהן:  אני מסכמת את הדיון הזה קודם כל בהערכה מאוד מאוד גדולה לכל מי שהשתתף בדיון וגם נשאר עד סופו

אורית פרקש הכהן:  אם אפשר לארוז את כל הדברים שנאמרו כאן זה שבעולם הטכנולוגיה והבינה המלאכותית אנחנו צופים במהפכה אמיתית, מהפכה של ממש שהולכת להשפיע על כל תחומי חיינו

אורית פרקש הכהן:  ישראל נמצאת בתחרות בין-לאומית אדירה בתחום הזה ואני, ובשם הוועדה, קוראת לממשלה ללחוץ על הגז, נעשים דברים חשובים אבל צריך להעלות את הנושא הזה לסדר העדיפויות, את נושא הבינה המלאכותית ואנחנו נעקוב בנושא

אורית פרקש הכהן:      אני חושבת שהעובדה שדיון ראשון ויחיד מסוגו מתקיים בכנסת בנושא הזה אחרי שמונה חודשי כינונה של ממשלה זה דבר שאינו צריך להיות כך

אורית פרקש הכהן:  אני חושבת שהממשלה חייבת לקחת את הדבר הזה ולהעלות אותו מאוד מאוד גבוה בראש סדר העדיפויות שלה

אורית פרקש הכהן:  אני מברכת על העבודה המאוד חשובה שמתקדמת במשרדי הממשלה השונים

אורית פרקש הכהן:  אני גם יודעת כמה היא מורכבת ואתם פוסעים במין ארץ לא זרועה, אבל הממשלה גם בעיניי חייבת לתת משאבים הולמים יותר לתוכנית הלאומית לבינה מלאכותית

אורית פרקש הכהן:  הצטערתי לשמוע שהתקציב לפרויקטים לאומיים ירד

אורית פרקש הכהן:  אני אשמח ופונה לוות"ת לשקול לעדכן ולייצר תוכנית חמש-שנתית עדכנית בנושא חיזוק האקדמיה בתחום הזה

אורית פרקש הכהן:       ישראל צריכה לחתור להיות מובילת AI, גם בהיבט האקדמי, גם בשווי השוק שהחברות הישראליות ייצרו בתחום, גם בהערכות שלה, בדיוק כפי שאמר כאן הפרופסור לגבי היערכות המדינה לשינויים שייערכו בכלכלה ובעולם התעסוקה שלה ובכלל

אורית פרקש הכהן:  אין עוד טכנולוגיה שיכולה להשפיע על חיי הישראלים לטובה בתחום החינוך, הבריאות, המדע ותחומים אחרים מול הממשלה

אורית פרקש הכהן:  אני קוראת להאיץ את התהליכים, על מוקד הידע, על צוות הרגולטורים, והכל בשיתוף פעולה מלא עם ענף ההייטק בישראל

אורית פרקש הכהן:  שנתעסק בעבודה ונתעסק בישראל לפני הכול ולא בדברים אחרים

אורית פרקש הכהן:  תודה רבה, מאוד מעריכה את השתתפותכם

אורית פרקש הכהן:  ישיבה זו נעולה