ועדת המדע והטכנולוגיה, כנסת 20, פרוטוקול מספר 177, 2018-06-04 12:00

אורי מקלב: צהריים טובים.

אורי מקלב: אני קודם כל מתנצל, לפני שאני מתכבד לפתוח את הישיבה.

אורי מקלב: אני חוזר מניהול ישיבה בוועדת חוקה, מילאתי את מקומו של יושב ראש הוועדה הקבוע בנושא תקנות ההוצאה לפועל ואני ממש לפני שתיים-שלוש דקות סיימתי את הישיבה.

אורי מקלב: אז מהישיבה הזו אני ממשיך, תתחשבו בי, זו הייתה ישיבה גם ככה קצת מורכבת, אבל מעניין, יש איזה ממשק, סך הכול שני קירות מפה ושם דנו בהוצאה לפועל.

אורי מקלב: אמרתי להם שאני עכשיו הולך לוועדה, 'אתם משפרים ודנים ככה וככה והיא תפתור את כל הבעיה', 'מדוע?' הם שואלים אותי, הבינה המלאכותית כבר תזהה את האנשים שעומדים להיות פוטנציאל של הוצאה לפועל, אותן החברות כבר לא ייתנו להם, הם כבר לא יהיו במשחק, 'אתם עכשיו דנים בזה ואנחנו תיכף יכולים לפתור לכם את הבעיה מכיוון אחר לגמרי'.

אורי מקלב: אני חושב שלא הגזמתי, יכול להיות שזה חלק מהעניין.

אורי מקלב: אז אני ברשות

אורי מקלב: כם אפתח באופן רשמי את הישיבה של ועדת המדע והטכנולוגיה, היום יום שני, כ"א בסיוון התשע"ח, 4.6.2018, ועל סדר יומנו, כפי שאמרנו, בינה מלאכותית, הזדמנויות ואתגרים.

אורי מקלב: לסדר היום צורפה עבודה של רועי גולדשמידט, שנותנת לנו את הרקע לדיון.

אורי מקלב: אני מכבד קודם כל את נוכחותו של יושב ראש האופוזיציה, חבר הכנסת בוז'י הרצוג, הוא אורח קבוע פה ואני חושב שגם בדיון הקודם שהיה, כשדנו על התכנית הלאומית לבריאות דיגיטלית, גם השתתפת.

אורי מקלב: אני רוצה להגיד בכותרת על מה אנחנו רוצים לדון, אני מבקש ורוצה לשמוע כמה שיותר אנשים, יש לנו כאן באמת אנשים שאצלם זה לא דיון ראשון וגם אנחנו בוועדת המדע והטכנולוגיה, אמנם מקיימים דיון ראשון ציבורי בנושא מבחינת ממשלה, אבל בנושא של בינה מלאכותית, בדיון האחרון שלנו, כשדנו בתכנית הלאומית לבריאות דיגיטלית, של הממשלה, משרד הבריאות, זה גם חלק מבינה מלאכותית.

אורי מקלב: לקחת אוסף של מידע וידע שיש לנו ולעבד אותו ולהשתמש בו מכמה היבטים ודאי.

אורי מקלב: לא מעט דיונים היו לנו בנושא תחבורה, שגם יש שם בינה מלאכותית.

אורי מקלב: הפעם אנחנו רוצים לדון בממשלה, ממשלת ישראל, מדינת ישראל, גם כמשתמשת, אבל בעיקר גם כקובעת מדיניות.

אורי מקלב: יש לא מעט היבטים, מעבר להיבטים בחלק המעשי, היום מה שקורה בעולם הגלובלי בנושא בינה מלאכותית, איפה נמצאים בעולם, בוודאי במישור הפילוסופי שיש לנו הרבה מה לדון.

אורי מקלב: מי שנמצא פה, רובכם, כבר דנתם בעניין הזה, גם בהיבט המעשי, לאן, לאן זה יוביל אותנו, אני הייתי מבקש להתמקד בנושא הממשלה.

אורי מקלב: יש זמן מסוים, ואני חושב שכבר הגיעה העת, אם לא כבר מאוחר, איפה ממשלה אומרת את דברה, איך היא רואה את הדברים מבחינת השימושים, קידום הנושאים, אבל לא מעט איפה אנחנו מפעילים רגולציה, מה החקיקה שאנחנו חושבים, איפה צריך את ההתערבות.

אורי מקלב: למשל בנושא הפרקטי, יש שוני בנושא העסקת הנשים, בנושא עבודה, יש מקצועות שלכאורה ייעלמו, מה אנחנו עושים בעניין הזה, האם יש לנו הכשרות בנושא?

אורי מקלב: האם אנחנו נדע להתמודד גם עם אנשים וגם עם אנשים חדשים שאנחנו צריכים, אני אקדים להכשיר אותם כבר מגיל החינוך?

אורי מקלב: האם מערכת החינוך יודעת היום כבר להכין ולהכשיר ומודעת לדברים ולמקצועות הבאים, או לידע ולהשכלה שאנחנו רוצים שבאמת יידעו.

אורי מקלב: זה בחלק הפרקטי, אחד מהדברים.

אורי מקלב: יש כאן סדרת שאלות שיש לנו בנושא הזה.

אורי מקלב: אני אקח את זה עד לדבר שבעיניי זה אולי הקיצון, החלק הערכי, החלק המשפטי.

אורי מקלב: מכונית אוטונומית פוגעת, אני לא אומר צריכה להחליט לפגוע בילד או בבעל חי, אם היא צריכה לקבל כזאת החלטה, אני לא אומר בין שני בני אדם, אבל בעיקר אם מישהו פגע, מי אחראי משפטית, הרכב האוטונומי, החברה שמפעילה את זה, האדם שהזמין את הרכב הזה או המתכנת של הרכב, שהוא עשה את התוכנה ומשתמשים בה?

אורי מקלב: איפה החלק הזה נמצא?

אורי מקלב: את מי אנחנו תובעים, אם יש את מי לתבוע?

אורי מקלב: אני אומר את זה ממש בקצרה, אפשר עוד הרבה להרחיב, אני לא רוצה לקחת מהזמן, אבל הרבה נושאים, זו גם לא הישיבה היחידה בעניין, זו הישיבה הראשונה, שאנחנו מציפים את זה כאן בכנסת ומכאן אנחנו רוצים להגיע הלאה ובאנו לכאן כדי לשמוע אתכם.

אורי מקלב: לפני שאני אבקש מפרופ' שעשוע, שאתה תיתן דברי פתיחה בנושא, יושב ראש הקואליציה, מר יצחק הרצוג.

יצחק הרצוג: לא, בבקשה, בוא נתחיל עם פרופ' שעשוע.

אורי מקלב: אז אם ככה סיכמנו לפי סדר הדברים שנתחיל עם פרופ' שעשוע.

אורי מקלב: בבקשה.

אורי מקלב: באמת תודה רבה שבאת אלינו, כשמדברים על בינה מלאכותית הרבה חושבים מיד עליך.

אורי מקלב: אני אומר לפני שאתה אומר, גם העביר לי את זה בצורה מסודרת דובר הוועדה, אני אצטט מה שבמשלי נאמר, כבר אז חשבו על זה, במשלי כתוב 'אשרי אדם מצא חכמה ואדם יפיק בינה', הוא מפריד בין חוכמה לבין בינה.

אורי מקלב: שני דברים, שני נושאים.

אורי מקלב: חוכמה יכול כל אחד למצוא ושילמד מאחרים, הוא תלמיד חכם, איך אומרים אצלנו?

אורי מקלב: לא אומרים חכם, הוא תלמיד חכם, מישהו שכל הזמן לומד, לעומת זאת תבונה הוא יכול להפיק מעצמו, כי זה כבר הסקת מסקנות.

אורי מקלב: כמה נכון.

אורי מקלב: אנחנו נמצאים כאן עכשיו, אומר על זה, בתמונה.

אורי מקלב: אומר על זה שמשון רפאל הירש, לא לפני הרבה שנים, הוא מתייחס למה שכתוב בפרקי אבות, אם אין דעת אין בינה, אם אין בינה אין דעת.

אורי מקלב: איפה ההשוואה?

אורי מקלב: הוא אומר שצריך את שני הדברים ביחד.

אורי מקלב: איך יש דעת?

אורי מקלב: ניסיון זה דעת, אבל הוא לא מספיק בלי בינה.

אורי מקלב: זאת אומרת ידע עיוני שמשכלל את מה שבא מהניסיון זה הדבר המושלם.

אורי מקלב: הוא אומר ההיפך, יש מישהו שיש לו בינה עיונית, אבל ללא בסיס ניסיוני מוצק הוא מגדל פורח באוויר.

אורי מקלב: אלה שני הדברים.

אורי מקלב: אז תבונה וחוכמה כבר הייתה פעם, אנחנו עכשיו רוצים להוציא את זה באופן ממשי.

אורי מקלב: בבקשה.

אמנון שעשוע: תודה רבה על ההזדמנות לשאת דברים בפני הוועדה.

אמנון שעשוע: אני רואה כאן פנים מוכרות, פרופ' משה בן בסט, עוד ממקימי בינה מלאכותית בשנות ה-80.

אמנון שעשוע: קראתי את הדוח של רועי גולדשמידט, דוח ממש מצוין, אני ממליץ לכולם לקרוא אותו, ממצה, אז כמובן שאני לא אחזור עליו, אני אנסה לספר לכם מה לא נמצא בדוח.

אורי מקלב: עם מה אתה מסכים ומה אתה לא מסכים?

אמנון שעשוע: לא, אני מסכים עם הכול, דוח מצוין, אני ממליץ שתפרסמו אותו, שכלל הציבור יוכל לקרוא אותו, ממש דוח מצוין.

אמנון שעשוע: באמת מאוד נהניתי לקרוא.

אמנון שעשוע: הרקע שממנו אני אשא את הדברים, יש לי מעבדה עם דוקטורנטים ומסטרנטים, אנחנו כבר יותר משש שנים מפרסמים מאמרים בהיבטים תיאורטיים של בינה מלאכותית, אני אחראי לאלפי אנשים שעוסקים בבינה מלאכותית, במובילאיי, אורקם וחלקים נרחבים של אינטל, אז אני יכול להסתכל על שני ההיבטים, גם ההיבט המחקרי תיאורטי וגם ההיבט המעשי וכמובן רכבים אוטונומיים, אני אגע ברכבים אוטונומיים, על הדילמות האתיות ואני גם אדבר על סכנות והזדמנויות, במיוחד במדינה קטנה כמו ישראל, מה ראוי שנעשה ומה לא.

אמנון שעשוע: אז דבר ראשון אני אנסה להסביר מה מדהים ומה לא מדהים במה שיש היום בבינה מלאכותית.

אמנון שעשוע: הדברים שנמצאים במדע הפופולרי הם הדברים הפחות מעניינים, הדברים היותר מעניינים, פחות יודעים עליהם, אז אני אנסה גם להתמקד בהם.

אמנון שעשוע: אני חושב שיש הסכמה רחבה, גם בקרב מדענים וגם חברות טכנולוגיה, שאנחנו בתחילתה של מהפכת מחשוב סביב בינה מלאכותית.

אמנון שעשוע: חשוב לציין מה הכוח המניע כי הכוח המניע הוא טיפה מפתיע.

אמנון שעשוע: יש שני כוחות מניעים, כוח מניע ראשון הוא שינוי דרמטי בכוח מחשוב, ואני אסביר, והכוח המניע השני הוא שינוי דרמטי בזמינות מידע.

אמנון שעשוע: אני בכוונה לא אמרתי שום דבר לגבי מדע, המדע הוא לא הכוח המניע.

אמנון שעשוע: עד היום אין מדע חדש, זו תחייה מחודשת של מדע ישן.

אמנון שעשוע: מדע ישן וטוב ומצוין, אבל תיאורטי, אני כמובן לא מזלזל, אבל המהפכה הזאת לא נולדה ממדע חדש.

אמנון שעשוע: היא נולדה, משינוי דרמטי בכוח מחשוב, כוח מחשוב שהוא זמין וכוח מחשוב שהיה בעבר נגיש לממשלות, לארגוני ענק, היום הוא זמין לכולם והוא נובע מהמשך של חוק מור של צפיפות שבבי חישוב וגם ניצול של מאיצים גרפיים למשחקים שעברו הסבה לעולם המדע, ג'י פי יוז למיניהם, למי שמבין.

אמנון שעשוע: אז אנחנו מדברים על כוח מחשוב דרמטי שזמין היום לכולם, זה מעין דמוקרטיזציה של מחשוב, והדבר השני שהוא מהפכה זה מהפכת המידע, הדאטה, האינטרנט נותן לנו זמינות של תמונות וטקסט, הוא שינוי משנה משחק.

אמנון שעשוע: שני הדברים האלה נפגשו בערך בשנת 2012 ולא היה כאן מדע חדש.

אמנון שעשוע: אז אלה הכוחות המניעים, על מה מדובר?

אמנון שעשוע: בבסיס מדובר על שתי מגמות.

אמנון שעשוע: מגמה אחת היא מה שכולם מכירים, נקרא לזה למידה מבוססת מידע.

אמנון שעשוע: מדובר על מערכות, אלגוריתמים, שיודעות למצוא פרמטרים של ניפוי מקלט לפלט על סמך מידע.

אמנון שעשוע: מה הכוונה?

אמנון שעשוע: קלט יכול להיות תמונה, פלט יכול להיות 'תמצא לי את הרכבים והולכי הרגל בתמונה', 'תמצא לי את כל העצמים בתמונה', 'תגיד לי מה העצמים עושים'.

אמנון שעשוע: תמונה יכול להיות גם וידיאו.

אמנון שעשוע: אז אם מדברים על רכב אוטונומי, זה הבסיס של רכב אוטונומי, יש לו חיישנים וצריך להבין את העולם הוויזואלי סביב הרכב.

אמנון שעשוע: קלט יכול להיות חתימת קול, פלט יכול להיות 'תיתן לי הטקסט', 'תעשה ניתוח שפה טבעית', 'מה אנשים אומרים'.

אמנון שעשוע: זה הבסיס של סירי וקורטנה וכל התקשורת שאנחנו עושים.

אמנון שעשוע: קלט יכול להיות מידע אישי, פלט יכול להיות המלצות למוזיקה וסרטים, זה נטפליקס.

אמנון שעשוע: קלט יכול להיות שיחות, פלט יכול להיות רובוט שעושה שיחות ונותן שירות.

אמנון שעשוע: אז זה ניפוי מקלט לפלט ואנחנו מדברים על מערכות שהתפקיד שלהן הוא לחקות בני אדם.

אמנון שעשוע: אז אנחנו מדברים על מהפכה שלקחה בעיות שהיו קשות מאוד למחשוב, כמו זיהוי עצמים, והפכה אותם לזמינות ומדובר על מערכות שמנסות לחקות בעיות שלבני אדם קל מאוד לעשות.

אמנון שעשוע: לבני אדם קל מאוד להבין שפה, לבני אדם קל מאוד לזהות עצמים, למחשבים זה היה קשה מאוד, היום למחשבים זה כבר לא קשה מאוד.

אמנון שעשוע: אנחנו מדברים על מערכות שמחקות בני אדם וכמובן שבמערכות האלה איכות המידע היא מאוד מאוד חשובה.

אמנון שעשוע: אם יש לנו הטיות במידע אז אי אפשר לצפות שהמערכת תוכל להכליל וכאן סביב זה יש המון דברים שאפשר מבחינת רגולטור להסתכל עליהם, כל מיני הטיות במידע, במדגם האמון.

אמנון שעשוע: זה נמצא גם בדוח של רועי, הטיות במידע יגרמו להטיות באותם אלגוריתמים, אבל זאת למידה מבוססת מידע.

אמנון שעשוע: זה מאוד מעניין, יש המון אפליקציות, אבל זה לא הדבר שיגרום למהפכה.

אמנון שעשוע: הדבר שיגרום למהפכה הוא הדבר הבא, למידה שלא מבוססת מידע, ופה מדובר על מערכות שהתפקיד שלהן הוא לבצע החלטות.

אמנון שעשוע: המימוש היום נמצא במשחקים ולכן אולי הציבור פחות מודע לכך, המימוש כרגע נמצא במשחקים וברכבים אוטונומיים.

יצחק הרצוג: ובמטוסים, לא?

אמנון שעשוע: לא, עדיין לא.

יצחק הרצוג: אבל אתה יודע שהמטוס הוא על אוטומט?

אמנון שעשוע: כן, אבל אין שם בינה מלאכותית.

אמנון שעשוע: להטיס מטוס בצורה אוטונומית זה לא דבר קשה, להניע רכב ולעשות החלטות של השתלבות בתנועה הוא דבר קשה, יש עוד סוכנים ואתה צריך לעשות משא ומתן עם סוכנים אחרים.

אמנון שעשוע: כשאתה במטוס אתה לבד, זה לא דבר כל כך מסובך.

אמנון שעשוע: אז אנחנו מדברים על מערכות שהמטרה שלהן היא לא לחקות יכולת אנושית ואין כאן בכלל מידע, מדובר כאן רק על מחשוב, מחשוב שעבר שינוי דרמטי ומדובר על לפתור בעיות קשות.

אמנון שעשוע: למשל אם אנחנו נסתכל על משחק כמו שחמט או משחק הסיני גו, שהוא משחק הרבה יותר קשה לשחמט, זה משחק שמאתגר את המוחות האנושיים הטובים ביותר.

אמנון שעשוע: או נסתכל על קובייה הונגרית, שאנחנו יודעים שיש לה פתרון אנליטי, בקובייה הונגרית אתה מסתכל על מצב הקובייה ואתה צריך לחשוב מה הצעד הבא שאני צריך לעשות.

אמנון שעשוע: יש תיאוריה מתמטית מאוד מורכבת שאומרת מה מספר הצעדים המקסימלי, נגיד צריך 26 צעדים כדי לפתור את הקובייה, צריך הבנה מתמטית מאוד מאוד רחבה בתורת החבורות כדי להבין בכלל את הפתרון, צריך גאונות בכלל לחשוב על הפתרון הזה ובני אדם הצליחו לפתור את הקובייה ההונגרית.

אמנון שעשוע: רכב אוטונומי, אחרי שהרכב הבין את הסביבה שלו הוא צריך לבצע החלטות, איך אני מתמזג בתנועה, האם אני משנה נתיב, איך אני משנה נתיב בצורה בטוחה, האם סוכן הדרך השני, הרכב השני, ייתן לי לשנות נתיב או לא ייתן לי לשנות נתיב, למי אני מחליט לתת זכות קדימה, למי אני מחליט לקחת זכות קדימה, יש שם המון משא ומתן שאנחנו עושים.

אמנון שעשוע: זו דוגמה להחלטות שצריך לקחת ואנחנו יודעים שזו בעיה קשה כי בני אדם לוקחים שיעורי נהיגה ולוקח הרבה שנים עד שאתה נהיה נהג סביר.

אמנון שעשוע: אז משחקים כמו לדוגמה שחמט וגו או רכב אוטונומי, הן הדוגמאות, יש מספר דוגמאות די קטן היום והן הדוגמאות של אותן מערכות שמצליחות להגיע להישגים די מדהימים ואין כאן מידע.

אמנון שעשוע: מה המערכות האלה עושות?

אמנון שעשוע: המערכות האלה, הסביבה מוגדרת היטב במערכות האלה, מה הכוונה הסביבה מוגדרת היטב?

אמנון שעשוע: בהינתן מצב, למשל סידור הכלים בשחמט ובהינתן פעולה, כמו הזזת כלי במשחק, אתה יודע מה הולך להיות המצב הבא, או אתה יודע התפלגות על מרחב המצבים.

אמנון שעשוע: אז במשחקים הדבר הזה מוגדר היטב, גם ברכב אוטונומי זה מוגדר היטב.

אמנון שעשוע: אז באותן סביבות שמוגדרות היטב מערכות המחשוב מייצרות סימולציה שפותחת את כל העתידים האפשריים תוך שימוש בטכניקות סטטיסטיות שפותחו על ידי מדעני מחשב לפני עשור או שניים, איך לעשות דגימה מאוד חכמה של אותם אפשריים והסימולטורים האלה מייצרים את המידע באופן מלאכותי למערכות לומדות שלומדות, בהינתן מצב, להחליט מה הפעולה הבאה.

אמנון שעשוע: המערכות האלה לא מנסות לחקות ידע אנושי, הן רק משחקות נגד עצמן כל הזמן על ידי סימולציה.

אמנון שעשוע: ההצלחות הן הצלחות די מעטות, אבל אותן הצלחות הן הצלחות מדהימות.

אמנון שעשוע: למשל במשחק גו המערכות האלה היום מנצחות את המומחים - - - זה משחק שלא חשבו שאי פעם מחשב יוכל להגיע להישגים.

אמנון שעשוע: הקובייה ההונגרית, זה יצא לפני כשבועיים.

אמנון שעשוע: מערכת למדה לשחק בקובייה הונגרית משחק אופטימלי, זאת אומרת אם יש 26 צעדים, זה המקסימום, אז הוא משחק ב-26 צעדים, ללא שום הבנה מתמטית, ללא הבנה בתורת החבורות.

אמנון שעשוע: בנהיגה אוטונומית אנחנו מראים היום השתלבות בתנועה בכבישי ירושלים, הנהג הישראלי מאוד מאוד אגרסיבי, הירושלמי עוד יותר אגרסיבי, לאנשים אין סבלנות, לא ייתנו לך להיכנס אלא אם כן תהיה קצת אסרטיבי והמערכות האלה משתלבות בתנועה ממש כמו נהג אנושי.

אמנון שעשוע: זה גם כן משהו שהוא בעיה קשה.

אמנון שעשוע: אז מדובר על מערכות שמסוגלות, מהדוגמאות המעטות האלה, לפתור בעיות קשות שלבני אדם מאוד קשה לפתור.

אמנון שעשוע: משחק גו, משחק שחמט, רכב אוטונומי.

אמנון שעשוע: פה טמון הפוטנציאל.

אמנון שעשוע: אנחנו מסתכלים מה הפוטנציאל של בינה מלאכותית, לחקות בני אדם זה נחמד, יש המון אפליקציות של חיקוי בני אדם, אבל הפוטנציאל האמיתי של בינה מלאכותית, הדרך הטובה ביותר לראות את זה, נאמר שהיו חוצנים מגיעים לכדור הארץ, חייזרים מגיעים לכדור הארץ, עם בינה הרבה הרבה יותר חזקה משלנו ונניח שהם לא רוצים להשמיד אותנו, אז מה היינו עושים?

אמנון שעשוע: היינו באים אליהם עם כל הבעיות שיש לנו, סרטן, איידס, כל הבעיות הקשות שאנחנו לא יודעים לפתור, היינו מציגים להם את הבעיות האלה והם היו פותרים, נכון?

אמנון שעשוע: זאת ההבטחה של הבינה המלאכותית, היכולת לפתור בעיות קשות שכיום אנחנו לא יודעים לפתור.

אורי מקלב: מה שמפתיע אותי ושאני הבנתי, נניח במשחק שחמט, בעצם החוכמה במחשב זה הזיכרון, נתת לו הרבה פתרונות ועכשיו הוא רק צריך להביא את זה על סמך מה שאמרת לו.

אורי מקלב: אדם לא יכול בשכל האנושי שלו לזכור כל כך הרבה מהלכים, אפשרויות ואופציות, למחשב, שיש לו יותר כוח זיכרון מהמוח האנושי, עכשיו הוא לוקח את מה שאמרת לו ומביא את זה גם למהלך הזה.

אורי מקלב: מה שאתה אומר, אם אני מבין אותך, שהוא חושב.

אורי מקלב: הוא חושב, זה כבר משהו שהוא - - -

קריאה: הוא לא מחשב קדימה.

אורי מקלב: הוא לא מחשב קדימה, אבל הוא חושב.

אמנון שעשוע: חושב אחרת, נגיד ככה.

אורי מקלב: מה שלא הכנסת לו.

אורי מקלב: נניח, דיברנו קודם כהכנה לישיבה, נניח מופיע בפני הוועדה רובוט שמבצע ניתוחי מוח.

אורי מקלב: יכול להיות שלב שלא אמרו לו, הוא מגיע לצומת שהוא לא יכול להמשיך בגלל שאף פעם לא נתנו לו מה קורה במקרה הזה, גם לא ידעו, המישהו האנושי לא ידע שיש דבר כזה, כי אנחנו לא יודעים כל מה שקורה, ואז הוא לא יידע מה לעשות או שכן?

אורי מקלב: או שהוא לוקח מעצמו, הוא אומר 'מכיוון שבמקרים כאלה, מכאן שככה, זה אמנם לא המקרה הדומה, אבל אני לוקח כל מיני חיבורים ועכשיו אני מחליט לבד שאני עושה איזה שהוא מהלך כזה'?

אורי מקלב: גם אם את המהלך הזה לא אמרתי לו.

אורי מקלב: זה אולי שונה משחמט, בשחמט יכול להיות שמישהו ייצור סוג של מהלך שאף פעם לא אמרו לו?

אמנון שעשוע: כן.

אמנון שעשוע: בוא ניקח שחמט כדוגמה.

אמנון שעשוע: הבעיה בזיכרון זה שמספר המצבים הוא אקספוננציאלי, לכן גם המחשב החזק ביותר לא יכול לזכור את כל המצבים האפשריים, הוא לא יכול לפתח את כל העתידיים האפשריים כי כל העתידיים האפשריים זה אם אני אעשה את הצעד הזה, היריב יעשה את הצעד הבא, אני אעשה את הצעד הבא, זה מתפוצץ קומבינטורית וגם המחשב החזק ביותר, לא רק היום, גם בעוד מאה שנה, לא יוכל לפתח את כל העתידים האפשריים.

אמנון שעשוע: אז גישת הברוט פורס הזאת נתקלת בחוכמה.

אמנון שעשוע: מה שמלמדים את המחשב לעשות זה לזהות מצב, שזה הסידור הכללי, מהמצב הזה להחליט לא על סמך פיתוח כל העתידים האפשריים, להחליט מיידית מה המצב הבא שצריך לעשות.

אמנון שעשוע: כאן נדרשת חוכמה.

אמנון שעשוע: הדבר המדהים במה שהתפתח הוא שניתן ללמד את המחשב הזה את אותה חוכמה ולפתור בעיות שאנחנו כבני אדם קשה לנו מאוד לפתור.

אמנון שעשוע: הבעיות של זיהוי עצמים וניתוח שפה הן בעיות קשות, אבל לנו כבני אדם קל מאוד לעשות.

אמנון שעשוע: שם לא טמונה המהפכה.

אמנון שעשוע: שם יש הרבה סכנות, צריך לעשות רגולציה.

אמנון שעשוע: המהפכה באמת טמונה ביכולת לפתור בעיות שאנחנו היום לא יודעים לפתור.

אמנון שעשוע: פיתוח תרופות חדשות, פתרון לסרטן, לעשות דברים שאנחנו לא יודעים לעשות.

אמנון שעשוע: אותן מספר דוגמאות, כרגע זה רק תחילתו, משחק גו, שחמט, רכב אוטונומי, קובייה הונגרית.

אמנון שעשוע: זה הכול, זה לא מספר קטן מול הרבה, זה מה שיודעים לעשות היום.

משה בן בסט: אני הייתי רוצה להגיע דווקא לנושא של הממשלה.

אורי מקלב: בסדר.

אמנון שעשוע: אז שם טמון הפוטנציאל, הפוטנציאל הוא מאוד מאוד גדול.

אמנון שעשוע: לגבי סכנות והזדמנויות, אני רק אסכם פה.

אמנון שעשוע: לגבי למידה מבוססת מידע, אני חושב שרועי דיבר על הסכנות של מידע מוטה.

אמנון שעשוע: אם אותו מדגם אמון הוא מוטה, אלגוריתמים מוטים, במיוחד אם מדברים על פרויקטים לאומיים או אפליקציות שמשפיעות על הציבור הרחב, למשל אני רוצה לעשות ניתוח סיכון למתן הלוואה, ניתוח למתן שירות, לביטוח, אפילו לענישה, אם המידע מוטה, האלגוריתמים מוטים, פה נדרש לפחות לשאול את השאלות הנכונות.

אמנון שעשוע: צריך להיזהר עם רגולציה, אבל לפחות לשאול את השאלות הנכונות.

אמנון שעשוע: בתחום מערכות שמקבלות החלטה.

אמנון שעשוע: יש בהחלט מקום להסדרה האתית, אבל צריך לעשות את זה בצורה זהירה.

אמנון שעשוע: בוא ניקח את הרכב האוטונומי, כי חבר הכנסת מקלב ציין את זה.

אמנון שעשוע: אחת הבעיות שיש ברכב אוטונומי בתהליך קבלת ההחלטות היא שמצד אחד אתה רוצה לנהוג כמו בן אדם, כי אם אתה תהיה נהג זהיר מדי אתה פשוט תבלום את התנועה, מצד שני אתה רוצה להבטיח בטיחות ואתה רוצה להבטיח שרכב אוטונומי לא יהיה מעורב בתאונות.

אמנון שעשוע: זה דבר שקשה מאוד לעשות בתוך מסגרת של מערכות לומדות.

אמנון שעשוע: מערכות לומדות לא מטפלות במקרי קצה ותאונה זה מקרה קצה.

אמנון שעשוע: יש מקום להסדרה אתית.

אמנון שעשוע: אנחנו התחלנו לעשות את זה, פרופ' שי שלו שוורץ, שהוא גם CTO של מובילאיי ואנוכי פרסמנו מאמר לפני כחצי שנה שהמטרה שלו להסדיר את כל השיקולים האתיים מאחורי מערכות אוטונומיות.

אמנון שעשוע: אנחנו בקשר עם כל הגופים הרגולטוריים בארצות הברית ובאירופה וביפן, לא התחלנו בישראל, קצת מדי קטן בישראל בשביל זה, איך לקחת את המודלים המתמטיים האלה כדי להסדיר אותם מבחינת שיקולים אתיים.

אמנון שעשוע: אני מאוד ממליץ שגם ישראל תיכנס לזה.

אמנון שעשוע: זו דוגמה למקום שיש לך מערכת שמבצעת החלטות ואתה רוצה לוודא שיש הסדרה אתית של קבלת החלטות.

אורי מקלב: הכלים האלה זה בתחום האקדמיה או בתחום הממשלות?

אמנון שעשוע: בתחום הממשלות.

אמנון שעשוע: אנחנו מדברים עם ה-NPSP, עם סנטורים בארצות הברית, עם ה-EU Commission, עם ה-EU NCAP על אותו מודל ואני אשמח גם לעשות את זה בארץ.

אמנון שעשוע: רגולציה לשליטה על מידע ופרטיות.

אמנון שעשוע: פה אני ממליץ לא להיות יותר מדי מחמיר, מדינת ישראל היא מדינה קטנה, ההישרדות שלנו תלויה בהתקדמות טכנולוגית, פרטיות זה לא נושא כזה חשוב, למען האמת, והייתי אומר שהעניין למשל של רפואה דיגיטלית, היא בנויה על מידע.

אמנון שעשוע: אם המידע הרפואי יהיה נגיש לאותן מערכות, ואני חושב שבישראל אפשר יהיה לעשות מהפכות ברפואה, חוקי הפרטיות שכרגע יוצאים מאירופה, צריך לבחון אותם בצורה זהירה, לא לאמץ כל דבר.

אמנון שעשוע: יש כאן פוטנציאל של נזק מאוד מאוד גדול של עצירת פיתוח טכנולוגי ואני לא חושב שהציבור זקוק לכל כך הרבה הגנות כפי שהרגולטורים האירופאיים - - -

יצחק הרצוג: זה נתון למחלוקת.

אמנון שעשוע: נתון למחלוקת, אבל יש דברים ששווים דיון.

אורי מקלב: אנחנו קיימנו על זה דיונים פה, חברת פייסבוק עצמה הייתה כאן.

אמנון שעשוע: והדבר האחרון שהייתי אומר לגבי הזדמנויות, יש את הפוטנציאל של אוטומציה, של איבוד מקומות עבודה, אני מאמין שבסופו של דבר תהיה יותר יצירת מקומות עבודה מאשר האיבוד שלהם, אבל הדבר החשוב, אם אנחנו רוצים שבינה מלאכותית תהיה מנוע צמיחה במסגרת ההייטק הישראלי צריך לעשות כמה שינויים במערכת החינוך, בפרט בחינוך העל יסודי.

אמנון שעשוע: היום האזרח הישראלי נחשף לחומרים האלה של מערכות לומדות ובסטטיסטיקה מתקדמת.

אמנון שעשוע: כשאני אומר סטטיסטיקה, זה לא הסטטיסטיקה שלומדים בכלכלה ובפסיכולוגיה ובחינוך על יסודי, מדובר על, זה נקרא statistics learning, סטטיסטיקה לימודית, שזה שילוב של סטטיסטיקה ואנליזה פונקציונלית, שהוא הכוח המניע מאחורי מערכות לומדות.

אמנון שעשוע: אז האזרח הישראלי נחשף לזה רק בסוף תואר ראשון, אם בכלל, אתה יכול לעבור תואר ראשון במדעי המחשב ולא להיחשף לזה.

אמנון שעשוע: אני חושב ששווה להיחשף לזה כבר במסגרת לימודי תיכון.

אמנון שעשוע: הקולגה שלי, פרופ' שי שלו שוורץ, הוא כתב את ה-ספר למערכות לומדות, זה ספר שנלמד בכל מקום בעולם, הוא מעביר קורס באוניברסיטה העברית, שלדעתי הוא הקורס הטוב ביותר בעולם וזה קורס שהוא זמין, שהוא קיים דיגיטלית.

אמנון שעשוע: אפשר לקחת את הקורס הזה ולשנמך אותו לרמה של חינוך על יסודי.

אמנון שעשוע: יש קורסים בקורסרה, היום מבחינת קורסים יש נגישות, זמינות מאוד מאוד גבוהה של חומרים מאוד מאוד מתקדמים.

אורי מקלב: לחשוף אותם לנושא ולהביא אותם לזה?

אורי מקלב: או שאתה רואה שזה מספיק השכלה היום להשתלב בעולם ההייטק, בעולם החידושים האלה, גם בלי תואר ראשון?

אורי מקלב: זו שאלה שאנחנו דנו בה ומעניין אותי מה אתה אומר.

אמנון שעשוע: זו שאלה מאוד מעניינת.

אורי מקלב: אחרי הכול גם כאלה שעברו מדעי מחשב, בלי הניסיון לא לוקחים אותם גם אחרי זה.

אורי מקלב: למשל דוגמה עכשיו, עשינו מיזם ממשלתי, הכנת מיישמי סייבר.

אורי מקלב: אחרי שהם עברו את זה ולמדו הם אומרים 'אנחנו לא יכולים להתקבל לשום מקום, דורשים מאיתנו ניסיון.

אורי מקלב: גם הממשלה עצמה, שהכשירה אותנו, אנחנו מוצאים את עצמנו למדים ועל אף שאנחנו חושבים שיש לנו את הידע', אפילו לא הבסיסי, הרבה יותר מבסיסי שהם יכולים להשתלב במחסור שקיים, אין ספק הרי שיש מחסור, מדינת ישראל מתמודדת עם מחסור, אתה גם רואה, ככה בכל אופן אומרים המומחים, אני מניח שאתה גם מסכים להנחה הזאת.

אמנון שעשוע: כן, הייתי אומר שהשכלה אוניברסיטאית הוא תנאי הכרחי, לא תנאי מספיק.

אמנון שעשוע: יש תפקידים לצורך אלה שמפתחים בינה מלאכותית שאפשר לעשות גם אם אין לך תואר במדעי המחשב.

אמנון שעשוע: אני חושב שזה תנאי הכרחי, לא תנאי מספיק.

אמנון שעשוע: למה הוא תנאי הכרחי?

אמנון שעשוע: אחד החוזקים שלנו, חדשנות זה לא רק יזמות, המדינה היזמית ביותר היא הודו, אני לא שמעתי על מוצר הודי שמישהו משתמש בו, זה לא רק יזמות, חדשנות זה עומק ועומק טכנולוגי מגיע מהשכלה עמוקה.

אמנון שעשוע: מובילאיי לא נוצרה מאיזה שהוא טריק פיננסי, יש פה עומק מאוד מאוד גדול והעומק הזה מגיע מהשכלה עמוקה וההשכלה האוניברסיטאית שלנו זה משהו שהתברכנו בו וצריך לחזק אותו.

אמנון שעשוע: אבל הוא לא מספיק.

אמנון שעשוע: אם אתה מסתכל על חברות הייטק גדולות, כמו גוגל ואינטל ואמזון וכך הלאה, הן בונות הכשרות משל עצמן, קורסים משל עצמן, קורס של כמה שבועות שהעובדים שלהם עוברים, כי ההשכלה האוניברסיטאית לא מספיקה.

אמנון שעשוע: היא הכרחית, אבל לא מספיקה.

אמנון שעשוע: אבל בכל מקרה אם החשיפה לחומרים המתקדמים האלה נעשית רק בסוף תואר ראשון ולא לכולם אז לא פלא שחסרים לך מדעני מחשב, אלה האנשים שרלוונטיים לתחומים האלה.

אמנון שעשוע: אני חושב שיש מקום לחשוף את זה בהשכלה תיכונית.

אורי מקלב: זה חשוב.

אורי מקלב: גם כשזה מקצועות קשים, אולי הרבה לא רוצים להתמודד, אבל אני חושב גם הדימוי הסביבתי, וזה חלק ממה שאנחנו עושים עבודה על המקצועות האלה, שהם באמת מקצועות עתידיים והם המקצועות שחשובים.

אורי מקלב: אני מודה לך בשלב הזה.

אורי מקלב: ודאי עוד יהיו שאלות, גם הזמן שלנו מוגבל.

אורי מקלב: לפני שאני אבקש מפרופ' משה בן בסט, חבר הכנסת יצחק הרצוג, אני חושב שבשלב הזה חשוב שתגיד את הדברים.

יצחק הרצוג: אני רק אגיד בקצרה.

יצחק הרצוג: אנחנו נמצאים בעידן של שינוי עצום באנושות, אני חושב שהרעיון של ה-AI, של הבינה המלאכותית, הוא נוגע בכל תחום של החיים.

יצחק הרצוג: אז אתה, פרופ' שעשוע, בצדק, מתמצת את זה עכשיו לארבעה תחומים מוגבלים, אבל האמת היא לא בדיוק כך, זה משיק לעולמות תוכן אדירים שאתה פוגש אותם בכל מקום.

יצחק הרצוג: נתחיל ב-personalized medicine, נעבור לביג דאטה, שלא לדבר על תוכנות מתוכנות שונות שמתערבות לך כבר בחיים.

יצחק הרצוג: אפילו בעת שאתה כותב הוא מכתיב לך את הטקסט להשלמת המשפט.

יצחק הרצוג: זה הכול נגזרות שמשפיעות על כך שאדם יהיה תלוי בצורה מוחלטת במישהו אחר, או גורם טכנולוגי כלשהו שיקבל את ההחלטות בשבילו.

יצחק הרצוג: זה נראה רחוק, אבל זה לא באמת רחוק.

יצחק הרצוג: זה נוגע כבר לעולם הפיננסים וזה נוגע לעולם תורת הלחימה ותרבות הקרב.

יצחק הרצוג: נמצא פה חבר הכנסת לשעבר, פרופ' יצחק בן ישראל, שדיברנו על זה כבר לא מעט בעבר.

יצחק הרצוג: לכן אני חושב שהדיון הזה הוא כל כך קרדינלי, כל כך קריטי, כי יש בולמוס.

יצחק הרצוג: זה נהיה הבאזוורד של כל התעשייה, כולם רצים לשם עכשיו לדבר החדש אחרי דור האינטרנט, אבל בפועל אין איזה שהיא ראיית על שאומרת איך ייראו החיים שלנו עוד דור, האם נהיה תלויים לחלוטין במשהו שהאדם הפשוט לא יידע, לא יוכל יותר להתנהל בלעדיו ומה זה יעשה לחיים שלנו בכלל מבחינת שאלות של מוסר.

יצחק הרצוג: אתם יודעים את האמת, יש אפשרות שהמכשירים והמכונות והטכנולוגיות הללו יפתחו גם איברים בבני אדם בהמשך.

יצחק הרצוג: זה נראה רחוק, אבל הכול אפשרי.

יצחק הרצוג: אנחנו גם יודעים שבנקים לא יהיו עוד 20 שנה.

יצחק הרצוג: לכן זה משפיע על השאלה שנקראת אובדן הפרטיות וכבוד האדם.

יצחק הרצוג: פרופ' שעשוע, הפיתוי, הרצון של כולם לתת גיבוי לתעשייה הזאת הוא עצום, אין עוררין על כך, זה גם יהיה ככה, כי זה בלתי נמנע, אבל שאלות שעולות מה קורה בעידן של מנהיגים תאבי כוח ושכרון כוח שישלטו אולי במכונות הללו ויכתיבו משהו, זו גם אפשרות שאתה לא יכול לצפות אותה היום.

יצחק הרצוג: אתה אומר 'תן להם את כל המאגר הרפואי של כל בני האדם', זה מה שכולם רוצים לעשות, אבל בפועל אתה יכול להגיע למצב שבו גם זה ינוצל לרעה.

יצחק הרצוג: לכן האיזונים מעוררים דילמה שעוד לא התחלנו לדון בה.

יצחק הרצוג: אז שיהיה בהצלחה בדיון הזה כי הוא דיון מאוד מאוד חשוב.

אורי מקלב: תודה, תודה על ההשתתפות שלך בנושא ואני מניח שגם בהמשך.

אורי מקלב: ועכשיו נעבור אליך, פרופ' בן בסט.

משה בן בסט: אנחנו נתחיל בחינוך, כי במשלי בהמשך, יש באיזה שהוא מקום 'ובכל קנינך קנה בינה'.

משה בן בסט: זה לעניין הזה.

משה בן בסט: אני מסכים גם עם הדברים שנאמרו פה לגבי איזה כוח אדם להכשיר.

משה בן בסט: בלי ספק הייחודיות שלנו זה ביכולת ליצור מוצרים שדורשים ידע עמוק, כי אחרת קל מאוד לחקות אותם ולהתחרות בנו וכן הלאה.

משה בן בסט: אבל יחד עם האנשים שהם האנשים המעמיקים ומבינים יש הרבה מקום לאנשים עם הכשרה נגיד פחותה יותר.

משה בן בסט: אני הייתי רוצה להתחיל מפרויקטים מהסוג שדיברנו עליהם, דווקא לא דברים שקשורים למשחק או לראייה ממוחשבת ודרך הדוגמאות האלה אני מקווה שנבין יותר את הפוטנציאל לממשלות לעשות את זה.

אורי מקלב: אני בכל אופן אגיד את זה, אני גם כיוונתי לכיוון הזה בגלל שיש היום אוכלוסיות במדינת ישראל שיש להם עומק, רק הם לא יכולים לעבור היום את כל השלבים של תואר, הם יכולים להתחיל בשלב, באמצע, בהכשרה של לימוד תעודה ואז להשתלב ואת העומק יש להם מארגז כלים אחר שהם - - -

יצחק הרצוג: זה דיון נפרד.

אורי מקלב: אני אמרתי את זה.

אורי מקלב: את הדבר הזה יש להם, זה גם הייחוד שלנו, בהודו אין את זה.

משה בן בסט: טיפה רקע על עצמי עם דוגמאות שנוגעות לדברים שעלו פה.

משה בן בסט: אל"ף, תאמינו או לא, הדוקטורט שלי מ-1975 זה על אינטליגנציה מלאכותית לדיאגנוזה רפואית בעזרת מחשב בבית חולים שיבא על אנדוקרינולוגיה.

משה בן בסט: מיד אחרי הדוקטורט, זה היה תחום חם מאוד אז, קיבלתי הזמנה להצטרף ל-USE בקליפורניה ושם עסקתי ב-intensive care unit, ובאמת כשהגענו לשלב של לתת את הכלי לרופא לעבוד ממש כשהפציינט מולו נשאלה השאלה האם אני צריך ביטוח רפואי, כשבארצות הברית זה כמובן נושא מאוד מאוד רגיש, אלא אם כן אנחנו לא יכולים להתחיל אפילו בניסיונות כי זה משפיע על חיי אדם, אבל לא זאת הנקודה.

משה בן בסט: כמו שכולכם יודעים על בינה מלאכותית, אז הייתה איזה שהיא פריחה, מה שנקרא האביב הראשון בשנות ה-80 ואמצע שנות ה-90, אחר כך קצת חורף ועכשיו מתחילה הפריחה החדשה.

משה בן בסט: ב-85' חזרתי מארצות הברית לישראל ואני מוזמן לראש מפא"ת והוא אומר לי 'תשמע, אני שומע על הבינה המלאכותית', אז התחלתי ללמד את הקורסים באוניברסיטה וככה התחלתי לקבל פה ושם, פה הרצאה, שם עבודת ייעוץ, מהר מאוד נגמר לי הזמן והתחלנו חברה קטנה שעסקה ביישומים של בינה מלאכותית.

משה בן בסט: אני רוצה לתת לכם כמה דוגמאות שכבר אז עשינו בצה"ל שדורשים אכן גם דאטה אבל גם שכל.

משה בן בסט: בנקודה הזאת אני אדגיש שמגיע למה שאתה קראת באמת יפה מאוד במסמך לא לתחומים ספציפיים, אלא לתחומים שדורשים פתרון בעיות יותר מורכבות, אני נגד זה שאנשים כל פעם מייצרים את העניין שיש פה תחרות בין אדם למחשב מי יותר חכם.

משה בן בסט: אני מאמין שבמערכות האלה, המערכות הממשלתיות, התוצר הטוב ביותר יהיה אדם ומחשב שעושים יחד יותר טוב מכולם.

משה בן בסט: אני אתן לכם שתי דוגמאות.

משה בן בסט: האנשים שקצת יותר מבוגרים פה בטח זוכרים את הפתקים שהיו בכבישי ישראל בזמן כל מלחמות ישראל, מלחמת יום כיפור והמלחמות שאחרי.

משה בן בסט: אי אפשר לנהל את התחבורה פה, למה?

משה בן בסט: כי כל רס"ר השתלט על איזה צומת כי הוא חשב שהיחידה שלו עושה את זה ואז התחלנו פרויקט שנקרא פרויקט ההיסעים של צה"ל ואחרי שנתיים-שלוש יצרנו מוצר, בעצם תוכנה, אתה לוחץ על כפתור, הרמטכ"ל אומר 'תן לי תכנית 7', אתה לוחץ על כפתור והוא מוציא לך תכנית איך יתנועע הצבא לקראת הגיוס.

משה בן בסט: מה הרעיון בגדול?

משה בן בסט: זה שגולני נקרא עד שעה שתיים, צנחנים לפה, אלה שם, טנקים צריכים מובילים.

משה בן בסט: עכשיו, חזרה למה שנאמר פה גם קודם, אין בן אדם שיכול לחשב ולקבל החלטות בהיקפים האלה.

משה בן בסט: אתה מדבר פה על עשרות פרמטרים של זמן, גיאוגרפיה, כמובן דרישות מבצעיות וכן הלאה.

משה בן בסט: היפה פה היה שבמקום שתעמיד מישהו - - - ופה ההבדל בין בינה מלאכותית ובין המחשבים שאתם מכירים, אם תסתכלו, את רוב המחשבים שאתם מכירים אתם מדריכים את דרך הפתרון, אתם אומרים לו, אפילו בגוגל, אתה אומר לו 'תראה לי זה', 'תראה לי זה'.

משה בן בסט: אנחנו אומרים, למשל בתכנית ההיסעים, אז מישהו יגיד 'תראה לי מה המצב בכביש 7 אם אני הולך לתכנית פה', בינה מלאכותית זה שאתה תגיד למחשב מה הבעיה, תלחץ על כפתור ותקבל פתרון ומפה מתחיל דרג יותר גבוה של קבלת החלטות.

משה בן בסט: נחזור למערכת ההיסעים, אז אחרי שנתיים-שלוש גמרנו את הדבר הזה, השווינו את זה מול התכניות, מעין תחרות כזאת, מה שאנשים עשו ואכן יצא שהמערכת מוציאה לפחות באותה רמת איכות ואז הגענו לבניין הגבוה בקריה, שאז עוד היה הכי גבוה בסביבה, היום כבר לא, והנה אנחנו שם וכל נכבדי צה"ל יושבים שם.

משה בן בסט: תכנית 7, אתה לוחץ על כפתור, עשינו סימולציה שמראה את כבישי ישראל וכל חמש דקות במחשב או כל דקה במחשב זה שעה במציאות ואתה רואה איך הכוחות מתחילים לזוז.

משה בן בסט: תכנית 7 נגמרה אחרי כמה דקות והם מסתכלים ואז האלוף המתאים אומר 'תראה, זה נכון שזה מתאים לתכנית שנתתי לך, אבל גולני, לא כל כך קריטי שהם יגיעו עד שעה 12 לראש הנקרה'.

משה בן בסט: אני גולני דרך אגב, בגלל זה כל הדוגמאות על גולני, 'לא אכפת לי שהם יגיעו בשעה שתיים אם זה יעזור לי לסדר את המובילים של התותחנים להגיע שעה יותר מוקדם'.

משה בן בסט: אמרתי לו, 'קדימה'.

משה בן בסט: משנים את השינוי הזה, לוחצים כפתור ובום יוצאת תכנית חדשה.

משה בן בסט: כאלה דברים לא היו קודם והם בפירוש דרשו טכנולוגיות בינה מלאכותית שמשתמשות גם בדאטה וגם בידע.

משה בן בסט: זה לא שאנחנו המצאנו לבד את צורת החשיבה, אלא ישבנו למשל עם כל מיני אנשי היסעים והבנו לפעמים את הטריקים של החשיבה שהם עושים.

משה בן בסט: לא אלאה אתכם פה בפרטים, אבל מערכות מרתקות אחרות שהיו, חלקן כמובן מסווגות, אבל למשל כל מערכת הערכת המצב של סטי"ל, הסטי"ל שקיים עכשיו התחילה אז ולמעשה כל חיל הים חושב היום בצורה הזאת.

משה בן בסט: מה הרעיון שם?

משה בן בסט: בדרך כלל בסטי"ל יש לך הרבה חיישנים, אבל אז היו שופכים את כל הנתונים על מין צג אלקטרוני והבן אדם היה צריך להחליט שזאת ספינת סוחר תמימה וזאת ספינת ביון סובייטית שמתחפשת לספינת דיג וזאת ספינת פטרול סורית וכן הלאה וכן הלאה.

משה בן בסט: לקחנו את הסרט של אנשי חיל הים, לא ברמה של החיישנים, כי זה הנדסה, ושילבנו אותו ביחד והאמת היא שבסיכומו של דבר יצאה מערכת שתומכת, שוב, תומכת יפה מאוד, כשבן אדם ומכונה ביחד עושים את זה יותר טוב.

משה בן בסט: יותר מאוחר אשתי ואני התחלנו איזה שהיא חברה שהצליחה בסדר, נגיד ככה, אז יצאנו גם לארצות הברית, אני חזרתי לארץ לפני כשלוש שנים ובעצם חזרתי וממש השנה התחלתי ללמד גם באוניברסיטה, בבינתחומי, קורס לבינה מלאכותית בביזנס סקול, זאת אומרת לא בהכרח לאנשים שיפתחו את זה אלא לאנשים שינהלו את זה.

משה בן בסט: במקביל אני משמש בתור יושב ראש של חברת MOBI שהיא עוסקת בפתרון בעיות תחבורה ברמה הציבורית.

משה בן בסט: אני לא רוצה שזה יישמע פה כאיזה פעולת מכירה, אני רק רוצה להראות דוגמה של דבר ממשלתי של מחשב שמשתמש בבינה מלאכותית.

משה בן בסט: מה הרעיון שם?

משה בן בסט: יש בעולם מספיק חיישנים שיכולים להגיד לך כמה מכוניות נכנסו מכביש 4 לתוך תל אביב וכמה מכביש 1 וכמה מכביש זה והכול פקוק, אז מה עושים?

משה בן בסט: אם נחזור למה שדיברנו קודם, קודם כל צריך לעשות הערכת מצב, להבין איפה בדיוק הפקקים, אחר כך להגיד, רגע, אם אני לא עושה כלום לאן זה מתפתח ואחר כך אוקיי, אז מה הפעולה?

משה בן בסט: נדמה לי שגם אמנון הזכיר קודם, או מישהו פה, שהקונטקסט מאוד חשוב, האם הקונטקסט זה יום ראשון בבוקר, ערב חג, על מה אנחנו מדברים?

משה בן בסט: הפעולות שאתה יכול לעשות זה לשנות נתיב מסוים בשעה מסוימת להיות רק נתיב ציבורי, או לפתוח את הרמזורים בצורה אחרת, או משהו כזה, זה מה שהחברה הזאת עושה.

משה בן בסט: דרך אגב בארצות הברית זה דווקא פועל יפה מאוד, פה הם התקינו את זה ביפה נוף בחיפה ואפשר למדוד שם שזה בשנה יכול לחסוך 7 מיליון ₪ בשנה באופן ממוצע, זאת אומרת שהערך הכלכלי של להכניס בינה מלאכותית לתוך המערכות הממשלתיות שלנו בוודאי נמצא שם.

משה בן בסט: אני אסיים רק בדוגמה אחת.

משה בן בסט: התחלנו ממש עכשיו פרויקט מחקרי בבינת

משה בן בסט: חומי שאנחנו קוראים לו לצורך העניין באנגלית national emergency responders.

משה בן בסט: נפגשנו עם מפקד פיקוד העורף לשתי ישיבות והרעיון הוא, אם תזכרו את הרעיון שאמרתי קודם על ההיסעים, זה גם דברים שעסקתי בהם בארצות הברית בנושא של חברות שירות, איך מנהלים חברות שירות בתקופת אסון.

משה בן בסט: בוא נגיד קטרינה או סנדי בארצות הברית או כל השיטפונות שאתם שומעים עכשיו באנגליה, אז לנו בישראל יש צרות רק בגלל השכנים, להם יש כל שנה אסון בסגנון 'צוק איתן', בכל שנה ושנה כמה וכמה אירועים כאלה.

משה בן בסט: שם עלתה השאלה, סיפקנו מערכות בינה מלאכותית שעוזרות להם להתמודד עם האסון.

משה בן בסט: אז באנו למפקד פיקוד העורף ואצלו הבעיה מורכבת כי יש גם סינכרוניזציה של כוחות, יש מגן דוד, יש מכבי אש, יש חומרים מסוכנים, פיקוד העורף, יש צה"ל בסביבה, משטרה, והשאלה שנשאלת איך אנחנו גורמים לסינכרוניזציה של כל הכוחות האלה כך שאיזה שהיא פונקציית מטרה שתוגדר על ידי הממשלה היא זו שנשאף אליה בסוף.

משה בן בסט: זה לא שמעניין אותי כרגע העיר הזאת או העיר הזאת, אלא מה הממשלה רוצה להשיג מבחינת הדברים האלה.

משה בן בסט: אני חושב שיש לנו שם אוזן קשבת.

משה בן בסט: דרך אגב, המון מחמאות לפיקוד העורף בקטע של הכנת התשתית המחשובית ברמת נתונים.

משה בן בסט: זה מדהים מה שהם עשו במובן זה שהם יודעים בכל דקה ודקה כמה חולים ברמב"ם, על איזה מיטות ואיפה יש חומרים מסוכנים, ממש מדהים.

משה בן בסט: עכשיו נשאר לטעמי, מה שהצעתי להם, איך אנחנו לוקחים את זה עכשיו ומעלים את זה לרמה של קבלת החלטות כי לא יהיה זמן שם.

משה בן בסט: זה הרעיון של בינה מלאכותית.

משה בן בסט: אני מאוד מקווה שיהיה המשך לדיונים האלה כי אני חושב שאפשר לעשות פה הרבה מאוד, גם בשטח של הכשרת אנשים ובטח ביוזמה של פרויקטים לאומיים שיכולים לקדם אותנו בנושא הזה.

אורי מקלב: תודה על הדברים, באמת מרתקים מאוד.

אורי מקלב: מנעתי מעצמי לשאול שאלות על אף שזה עמד לי על קצה הלשון, אבל רציתי לתת לך לסיים ואני רוצה לתת לעוד אנשים.

אורי מקלב: אני רוצה שישמעו אנשים אחרים, אנשים שנמצאים בממשלה או מינויים חדשים שתיכף נשמע, שכבר נמצאים ומתפקדים, איפה הממשלה צריכה להיות, מה היא כן מצליחה לעשות או לא מצליחה לעשות, אני בעצמי שואל, למשל אם התכנית הלאומית לבריאות דיגיטלית, אם היה אפשר להוציא את זה החוצה, מה הממשלה רואה את עצמה היא עושה, או מוציאה החוצה.

אורי מקלב: יש כאן הרבה בעיות מכיוון שהחקיקה לגבי זכויות הפרט, צנעת הפרט וכל מיני דברים שהממשלה מעלה, אז יכול להיות שנכון שהיא תעשה את זה לא רק בשביל עצמה אלא אולי בשביל לראות כאן יוזמה למדינות אחרות שייקחו את זה, כמו שעשינו בסייבר.

אורי מקלב: אבל אני לא רוצה להרחיב, אני רציתי לשאול אותך על הפרסום שהתפרסם היום אחר הצהריים, שגוגל הפסיקה את ההתקשרות עם הפנטגון.

אורי מקלב: זו לא רק שאלה של כוחות ומערך בזמן מלחמה, הבינה המלאכותית הולכת הרבה יותר רחוק, בעקבות מחאה של אלפים מעובדי גוגל, שלא היו מוכנים להיות שותפים לשיבושים שמערכות הביטחון רוצות לעשות בתחום המידע שיש.

אורי מקלב: זה מעבר לשאלות של חיים, הרבה יותר מאתיות, הרבה יותר מזה.

אורי מקלב: לכן אנחנו כבר נמצאים מבחינה פרקטית בשאלות שאנחנו צריכים לשאול את עצמנו הרבה יותר.

אורי מקלב: לפני שאני אתן לפרופ' יצחק בן ישראל, פרופ' שעשוע, רצית להעיר הערה.

אמנון שעשוע: חשבתי על מה שאמר חבר הכנסת הרצוג.

אמנון שעשוע: הדיון הזה יכול היה להיערך גם בארצות הברית, גם באירופה ונערך כאן, אני חושב שכאן זה שונה מאשר בארצות הברית.

אמנון שעשוע: המקום שלנו כמדינה קטנה מחייב אותנו לחשוב טיפה אחרת.

אמנון שעשוע: אני חושב שמדינה בגודלנו צריכה להתרכז יותר בהזדמנויות ולא בסכנות.

אמנון שעשוע: מדינה כמו ארצות הברית יכולה לחשוב גם על הסכנות, אנחנו צריכים, לדעתי, להתרכז יותר בהזדמנויות.

אמנון שעשוע: אנחנו מדינה קטנה, יש פה תחום שהוא מהפכה, אנחנו צריכים לחשוב מה מתוך התחום הזה אנחנו יכולים להוביל, מה מתוך התחום הזה אנחנו יכולים להשתלב, איך אנחנו מוודאים שאנחנו לא נשתרך מאחור, שהמנוע ההייטקי שלנו, שאנחנו כל כך גאים בו פתאום יתמוסס ויילך לו כי יש בינה מלאכותית שנעה לה קדימה.

אמנון שעשוע: אני חושב שהעניין של ההזדמנויות הרבה יותר חשוב מעניין הסכנות, כי אנחנו יכולים לבלות את השעה הקרובה לדבר רק על הסכנות.

אורי מקלב: אנחנו הפכנו סכנות להזדמנות.

אורי מקלב: נושא הסייבר זה סכנה ואנחנו הפכנו את הסכנות להזדמנויות.

אורי מקלב: זה מצד אחד.

אורי מקלב: זה נכון מה שאתה אומר, אבל מצד שני, קח דוגמה לגבי תופעות של הסתה ברשת, אלה סכנות, אנחנו צריכים לדון בזה, נכון שיש היום תקנות אירופאיות שהקדימו אותנו בעניין הזה, אנחנו מקבלים פה משלחות מהרבה מדינות באירופה של ועדות מדע וטכנולוגיה או שרי מדע וטכנולוגיה, שהם רוצים ללמוד מאיתנו גם בנושא הסכנות, איך אנחנו מתמודדים עם הדברים האלה.

אורי מקלב: יש בזה גם מובן מאליו, סכנה של הסתה ברשת, החלק המעשי של זה היה הרבה יותר נוגע למדינת ישראל הקטנה הזו.

אורי מקלב: הסתות ברשת שהביאו לידי פעולות טרור כאלה ואחרות, כשמישהו מוסת באירן נגד ארצות הברית, נגד צבא ארצות הברית, אז ההזדמנות שלו לפגוש חייל מארצות הברית היא כמעט הזדמנות לא ממשית, אבל כאן הוא מוסת, הוא יוצא ומתחת לבית שלו הוא פוגש יהודי או מישהו שזו הייתה הכוונה שלו והוא מיד - - - אנחנו דנו בסכנות האלה הרבה יותר, על אף שזו לא הזדמנות, אלה בסך הכול תופעות, הייתי מחכה לארצות הברית שתדון בעניין הזה, אנחנו היינו בעניין הזה רחוקים יותר, אנחנו כבר מנסים להוביל חקיקה בעניין.

אורי מקלב: אתה צודק בעניין ההזדמנויות, אבל אין לנו בררה אחרת, הכרח לא יגונה, אנחנו צריכים - - - עובדה שהפכנו סכנות - - - אי אפשר להתעלם מכך שהסייבר נוצר בגלל הידע הצבאי שלנו, הביטחוני, ומשם עברנו לתחום האזרחי.

אורי מקלב: שילוב של הדברים ועובדה שישראל בחלקים האלה היא הייתה יוזמת, אבל אי אפשר להשתלט על הכול וצריכים לבחור בתוך הדברים האלה מה בקדימות.

אורי מקלב: פרופ' ואלוף במילואים יצחק בן ישראל.

אורי מקלב: אתה ודאי לא אורח בוועדה כאן, אתה מופיע כאן הרבה.

אורי מקלב: אנחנו מלווים אותך בכמה תפקידים, זה נכון - - -

ענת לוי: תוסיף לו לתואר גם חבר ועדה לשעבר.

אורי מקלב: חבר ועדה לשעבר, אבל אפשר לספר על התפקיד החדש שקיבלת?

7035: אני לא רוצה להתייחס, זאת אומרת זה נורא קל להתווכח על כמעט כל משפט שאמרו כאן

7035: כי לכל אחד יש דעה משל עצמו וזה תלוי באיזה הקשר, אני רוצה לדלג על כל הדברים הללו ולצאת מהרישא של ההערה האחרונה של פרופ' שעשוע, שאומרת בעצם כל מה שאנחנו מדברים כאן גם כל העולם יודע וכולם עושים את זה בלי לחכות לנו.

אורי מקלב: אני לא הבנתי כך את מה שהוא אמר.

7035: אנחנו נורא גאים באוניברסיטאות שלנו, יש אוניברסיטאות, לצערי, יותר טובות בעולם.

7035: אנחנו נורא גאים במפא"ת שלנו, יש גופי פיתוח יותר - - - השאלה היא באמת מה היתרון שלנו.

7035: זו שאלה נורא חשובה.

7035: היתרון שלנו, כמו שעשינו בסייבר, דרך אגב, כי זה אותו דבר בדיוק, זה לא ששאר העולם לא התעסק בסייבר ואנחנו המצאנו את הסייבר, זה לא היה ככה.

7035: מה שאנחנו עשינו, שהבנו ברגע מסוים שלקוטן שלנו יש איזה שהוא יתרון, זאת אומרת אנחנו מסוגלים לעשות דבר שבאמריקה לא יעשו, או באנגליה, או בכל המדינות המתקדמות, זה את כל האלמנטים באקו סיסטם הזה שצריך למשהו אם הוא באמת חשוב, וסייבר עבר את המבחן הזה, כל האלמנטים האלה אפשר לקשור ביחד, לקשור ביחד, ולבנות בסוף איזה שהיא מערכת שבגללה החיבורים הפנימיים והקוטן שלנו, שמאפשר להגיע לכל מקום ולרתום את כולם, מאפשר לנו לעשות צעד לאומי, הוא צעד של כל האקו סיסטם, הוא לא רק חיזוק החינוך.

7035: דרך אגב, למה אנחנו לומדים סייבר בתיכון?

7035: זה לא כמו מה שמשתמע מההערה שלך, כי אנחנו חושבים שתהיה להם יותר עבודה אחר כך, לא זאת המטרה, כי אנחנו צריכים אותם אחר כך שילמדו את הדברים הנכונים באוניברסיטה.

7035: בדיוק מאותה סיבה אנחנו מלמדים אותם מתמטיקה, זה לא כדי שיילכו לעבוד כמתמטיקאים, זה השכלה כללית שאנחנו צריכים אותה אחר כך אם אתה מסתכל בראייה כוללת על כל האקו סיסטם.

7035: עכשיו, אנחנו יכולים לעשות את זה, גוגל לא יכולה.

7035: לגוגל כשחסר לה אנשים באינטליגנציה אלחוטית והיא לוקחת ושוכרת, כולל אצלי באוניברסיטה, את טובי הפרופסורים ואתה לא יכול להתחרות איתה או במיקרוסופט, כי במשכורות אי אפשר להתחרות איתם, אבל היא לא יכולה להחליט שהיא מגדילה את ההיצע על ידי זה שהיא מלמדת בבתי ספר תיכוניים או כל מיני דברים כאלה.

7035: זה בדיוק היתרון שיש למדינה והיתרון הזה, ניצלנו אותו פעם אחת בצורה שהצליחה לנו מאוד, זה לא ערובה, דרך אגב, לעתיד, אבל הצליחה לנו מאוד בסייבר לפני שש-שבע שנים, ובחצי השנה האחרונה חברי ד"ר אביתר מתניה, שעזב את הסייבר ב-1 בינואר כי נגמרו לו השושנים לפי המינוי וביחד כתבנו כמה ניירות על הדבר הזה ובסופו של דבר ראש הממשלה בימים אלה עומד למנות, לא מינה, כי הוא צריך את הבדיקות המשפטיות וכל הפרוצדורה שמי כמוכם מכיר לפני שממנים, עומד למנות אותי ואת אביתר ביחד לעמוד בראש מיזם כזה.

7035: מה זה מיזם?

7035: מטרת המיזם להגיש תכנית לממשלה, זה לא לעשות את כל הדברים האלה, להגיש תכנית ממשלה שהיא תהיה דומה בעיקרון המוביל שלה לתכנית שהגשנו בסייבר בזמנו, שאני הגשתי בזמנו בסייבר, שכוללת את כל האלמנטים, חינוך, תעשייה, ממשלה, ביטחון.

7035: יש חלקים שלא צריך כל כך לדבר עליהם, אבל זה מוכרח להיות כלול בדבר הזה, במיוחד בתנאי הארץ שהצבא הוא מין סוג של המשך המערכת החינוכית.

7035: לרוב האוכלוסייה, לא לכולם, אתה הולך לבית ספר עממי, אחרי זה לתיכון, אחרי זה לצבא ואחרי זה הלאה וכל היחידות שאנחנו מכירים וכל הדברים הללו.

7035: יש לזה השלכות עצומות.

7035: הכוונה שלנו היא להתעסק בתכנית שתדגיש לא רק את טכנולוגיות הליבה, שהוזכרו פה פחות או יותר, אני לא רוצה להוסיף להן.

7035: דרך אגב, אני רק רוצה להעיר שיש עוד כמה טכנולוגיות קשורות, זה מופיע במסמך שלנו, שהן קשורות לזה, אבל לא צריך פה עכשיו להלאות את כולם, אבל טכנולוגיות הליבה הן באמת סביב איזה שהוא שילוב בין הסיפור הזה החדש של אינטליגנציה מלאכותית בסגנון של למידה עמוקה וכל הדברים האלה יחד עם מדעי הנתונים, זה איזה שהוא שילוב שלהם, ויש גם טכנולוגיות אחרות שאנחנו נבדוק שהן קשורות לעניין הזה.

7035: הכוונה היא בסופו של דבר, כמו בסייבר, להעמיד את ישראל במצב שהיא נהפכת לאחד מהמרכזים העולמיים, אנחנו לא היחידים, כמו בסייבר, אבל מרכזים מובילים בעולם, על ידי נגיעה בכל ההיבטים של האקו סיסטם.

7035: עד כאן.

אורי מקלב: אני רק שואל אם במסגרת המנדט שלכם אתם גם אמורים לבדוק או להציע לממשלה עצמה, איך היא צריכה להיות - - -

7035: רק לממשלה עצמה.

אורי מקלב: לא, אתה אומר בתחום היזמות, כלומר חינוך זה נכון, אבל אני מדבר איתך - - -

7035: זה הממשלה.

אורי מקלב: בין בנגישות לאזרח מבחינת חקיקה, הסדרה, שיתופים בינלאומיים, איפה אנחנו - - -

7035: כל זה.

אורי מקלב: האם יש מישהו שמוביל כאן?

אורי מקלב: האם הממשלה נמצאת במקום הנכון?

אורי מקלב: האם כבר נמצאת, היא מדביקה את מה שקורה?

אורי מקלב: איפה אנחנו נמצאים?

7035: אז נכון להיום כל משרד במשרדי הממשלה, אני לא אגיד כל משרד, רוב משרדי הממשלה, יש להם נגיעה בתחום הבינה המלאכותית וכל אחד עושה בתחומו.

7035: זה כבר נכון להיום, משרד המדע, אני רואה פה את - - -

אורי מקלב: בצורה שכל אחד ביוזמה עצמית, או הנחיה ממשלתית?

אורי מקלב: יש מישהו שמוביל?

7035: לא, כולם מתוך הבנת הצרכים של עצמם, אין הנחיה ממשלתית.

7035: כל הרעיון במיזם הזה - - -

אורי מקלב: אתה יכול להגיד לי שמישהו במשרד המשפטים דן, היה דיון אחד בנושא בינה מלאכותית?

7035: כן.

7035: כן.

אורי מקלב: לא עם מערכת הביטחון?

7035: התשובה היא כן.

אורי מקלב: בנושא אזרחי לא בנושא ביטחון?

7035: לא, לא בביטחון.

7035: זה בהיבטים של, אפילו אני השתתפתי בדיון אחד כזה.

7035: זה בהיבטים של מה שיכול לצאת מהבינה המלאכותית.

אורי מקלב: נניח שוודאי שהתכנית הלאומית לבריאות דיגיטלית, משרד המשפטים צריך לדון, זה חלק - - -

7035: אבל אתה מתפרץ לדלת פתוחה.

7035: זה בדיוק מה שאמרתי.

7035: במקום שכל משרד יעשה את ה - - - ככה זה קורה בכל העולם, כל אחד שרוצים לשים לו אוטו אוטונומי על הכביש, אז הוא מיד מתחיל לחשוב מה הוא עושה בתחום המשרד שלו בשביל רגולציה, בשביל כל מיני דברים כאלה.

7035: במקום שזה יהיה, זה בדיוק הרעיון, שנעשה משהו דומה למה שעשינו בסייבר, שזה אומר ארגון ממשלתי.

7035: עכשיו, אני לא יכול להגיד לך אם בסוף יוקם, בסייבר הקמנו גוף במשרד ראש הממשלה, אני לא יכול להגיד לך אם זאת תהיה המלצתנו או לא כי עוד לא התחלנו לעבוד, אני מדבר על דבר שזה עתה רק הותנע, אבל הרעיון הוא לגרום לזה שזה יהיה - - -

אורי מקלב: הוא אומר שמה שקורה, שעה בהצגה זה נהיה חמש דקות במחשב, ככה פרופ' משה בן בסט, הזמנים כאן הם קצרים יותר, זה שנות אור ה - - -

7035: אם אתה חושב שאפשר להאיץ את זה על ידי זה שלמשל - - -

אורי מקלב: לא, המציאות היא - - -

7035: אתה רוצה להצטרף אלינו ולעזור?

7035: אני אשמח.

אורי מקלב: לא, אני לא רוצה להנחות אתכם, הפוך, אני מאוד מברך על הדברים האלה - - -

7035: אני מאוד שמח שאתה רואה את זה ככה, כי גם אנחנו חושבים.

7035: עכשיו בלי ציניות, אני מדבר ברצינות.

אורי מקלב: העובדה שאנחנו רואים את זה ושאנחנו דנים בזה ומקיימים דיונים - - -

7035: אני חושב שזה מאוד חשוב, התמיכה, כי זה באמת הולך לשנות לנו את החיים.

אורי מקלב: אני רוצה לחזק את התפקיד שלכם.

אורי מקלב: בתוך דבריי יש קצת ביקורת מסוימת, סמויה, לא ביקורת, אלא זרז, אני רוצה לזרז את הדברים, גם בלי ביקורת, אני לא חושב שזה ביקורת, אבל - - -

7035: אני שמח, אנחנו חושבים שצריך לזרז וצריך את הדחיפה הזו והתמיכה של ועדת המדע בכנסת היא חשובה.

7035: אני עכשיו מדבר בלי ציניות, אני אומר ברצינות, זה מאוד חשוב, יש לנו הזדמנות, אנחנו מתכוונים לסיים את העבודה שלנו תוך מספר חודשים.

7035: לא מדובר על שנה או משהו כזה, זה זמן קצר.

7035: אחר כך יתחיל כל הסיפור כולו שצריך לבצע את זה.

7035: זה ייקח כמה שנים.

7035: השינוי הטכנולוגי פה הוא עצום, כל הדברים האלה שפרופ' שעשוע דיבר עליהם, של מכונות שאיכשהו לומדות בעצמן או במשחק נגד עצמן, זה כולו תיאורטי, המאמר הראשון יצא ב-2014 על העניין הזה, או תחילת 15', זה קצב עצום, זאת אומרת קצב השינוי הטכנולוגי זה לא משהו שהיינו רגילים, אבל נצטרך להתמודד עם זה.

אורי מקלב: הכינו לי כאן בוועדה, מנהלת הוועדה, מאמרים.

אורי מקלב: אני ראיתי את הפערים שיש, יש כתבות שיצאו, ראיתי את הפערים של בין מה שיצא לפני שנה וחצי ובין מה שעכשיו, פשוט לראות על מה דיברו אז ועל מה אנחנו מדברים היום, באיזה פערים אנחנו מדברים.

משה בן בסט: הייתי רוצה להציע משהו מאוד פרקטי.

משה בן בסט: אחד הדרכים לקדם את זה בתוך הממשלה זה קודם כל שהאנשים במערך הממשלתי יידעו מה זה.

משה בן בסט: אני מוכן להתנדב פה כדי לעשות בסביבות אוקטובר איזה שהוא יום עיון לכל משרדי הממשלה בבינתחומי בהרצליה, נעשה להם סדרה של הרצאות עם אנשים מתוך המשק הישראלי.

אורי מקלב: אני חושב שזה רעיון טוב.

משה בן בסט: לפחות נדע מה הפוטנציאל ומה זה באמת אומר, כי האמת היא שמחשבים חושבים כמו בני אדם זה - - -

אורי מקלב: הייתה איזה הרצאה שעשיתם באילת והבאנו לפה, שהפתיעה את כולם.

ענת לוי: בנק הגנים.

אורי מקלב: בנק הגנים.

אורי מקלב: בגנטיקה, אנחנו כאן הבאנו הרצאה שהייתה בחוץ ו - - -

משה בן בסט: כשיודעים מה זה במובן הפרקטי זה עוזר.

אורי מקלב: אני רק אומר לפרופ' יצחק בן ישראל מה הם מגיעים היום.

אורי מקלב: אני לא יכול להתפרש על כל העניינים, אני רק יכול להגיד לך שגם אחרי שאנחנו מדברים על הממשלה ותיכף ידברו פה, חלק מהתפקידים שהם עושים, יש פערים בתוך הממשלה, פערים קוטביים בתוך אותו משרד.

אורי מקלב: אם אנחנו מדברים על ממשל זמין וישראל דיגיטלית, בתוך אותו משרד, חלק אנחנו יודעים ויש חלק שנמצא, מתקנים שנמצאים רחוק מאוד, אני מדבר איתך עוד לפני הבינה.

7035: זה בדיוק טבע האדם בכלל, טבע ממשלות עוד יותר.

7035: כל הרעיון שאני מספר לכם עליו, כמו שעשינו בסייבר - - -

אורי מקלב: כן, הסייבר זה סיפור הצלחה.

7035: זה ניסיון לעשות איזה שהיא שפה משותפת ויעדים לפחות לאומיים, ואחר כך עוד צריכים לתרגם את זה לתכניות ספציפיות, כדי שהדבר שאתה מצביע עליו לא יהיה, כי הדבר שאתה מצביע עליו גם הוא מופיע לנו באותו ספר משלי.

אורי מקלב: בסייבר אנחנו מצד אחד נמצאים מאוד מאוד רחוק, כפי שאתה אמרת, שהיה פעם בסייבר והיום הסייבר, ואנחנו היום לפני שתי ישיבות דנים בהתקפות כופר בשלטון המקומי, שאין הגנות והמערכות לא בנויות לזה.

אורי מקלב: זה עדיין רחוק, יש פערים.

אורי מקלב: יאיר פרנק, ראש רשות התקשוב הממשלתי.

אורי מקלב: בבקשה, יאיר.

יאיר פרנק: תודה.

יאיר פרנק: מה שחבריי הפרופסורים המכובדים דיברו על כרגע, אני גם יצא לי ללמוד אצל פרופ' בן בסט פעם אחת, מה שהם אמרו כרגע, הם דיברו על תפיסות וסוגיות מערכתיות, זאת אומרת בין ההקשרים הטכנולוגיים לבין סוגיות מערכתיות ואני לצערי או לשמחתי לא עוסק בסוגיות המערכתיות האלה כיום, אולי אעסוק בעתיד, אבל כרגע אנחנו לא עוסקים בזה, אבל אנחנו כן עוסקים כל הזמן בנגזרות של מה הטכנולוגיה, ככל שהיא מתקדמת, איזה אתגרים היא מעמידה מולנו ומה אנחנו יכולים לעשות איתם.

יאיר פרנק: בהקשר הזה אני מצטרף למה שאמר פרופ' שעשוע, הסיפור של ההזדמנויות הוא כנראה אין סופי.

יאיר פרנק: כשממשלה מדברת על זה שהיא רוצה לקחת את מאגרי המידע שלה ולחשוף אותם לציבור ולמצות מהם דאטה יותר טוב או למצות מהם יכולת לקבלת החלטה יותר טובה, או למצות מהם כל דבר שרק אפשר, אז ברור שדאטה כזה הוא דאטה שיכול להוות זרז לחוקרים גם בתחומים התיאורטיים וגם בתחומים המעשיים כדי לדעת לבנות את המערכות או את התפיסות יותר טוב.

יאיר פרנק: כשהממשלה, ודנת בזה פה לפני שבועיים, נדמה לי, מדברת על בריאות לאומית כמנוע צמיחה ומדברת על הקמה של חדרי מחקר סביב עולם הדאטה הזה ולהגיע למצב של רפואה מותאמת אישית וכן הלאה, אז כל הדברים האלה קורים.

יאיר פרנק: אנחנו מנסים היום לחשוב, לקחת רגע אחד את הדברים האלה מהאיגרא רמה המאוד מאוד גבוהה הזאת ולנסות רגע אחד להוריד אותם למטה, עשר קומות, לא יודע, להוריד אותם למטה ולראות מה אפשר לעשות מדברים קיימים מחר בבוקר בשירות הממשלתי.

יאיר פרנק: בתחום שאני עוסק, שזה תחום של שירות לציבור, אנחנו לא חרתנו על דגלנו להוביל טכנולוגית, כן חרתנו על דגלנו להוביל בשירות.

יאיר פרנק: אז אם אנחנו מסוגלים לקחת טכנולוגיה קיימת סביב עולם של בינה מלאכותית או סביב עולם של Machine Learning או כל הטכנולוגיות המתקדמות האלה ולעשות מהם שירות יותר טוב, אז בוודאי שאנחנו נרצה לעשות את זה ואנחנו מדברים על זה היום.

יאיר פרנק: סתם ניקח דוגמה, אין סיבה בעולם שממשלת ישראל לא תוכל לתת שירות לאזרח שהוא מופעל על ידי תפיסת עולם כמו עוזר רישי, כמו סירי, או כמו קורטנה.

אורי מקלב: אנחנו חושבים אפילו קצת יותר קדימה, אנחנו חושבים, וזה נמצא במסמך של רועי, אני חושב, שתהליך קבלת ההחלטות, היום הבירוקרטיה, שאצלנו היא מאוד כבדה ומובנית, שהבינה המלאכותית תקבל את זה ואנחנו נשחרר שם.

אורי מקלב: יכול להיות שנתקדם בעניין הזה, גם בסמכות, אבל בתהליך קבלת ההחלטות זה יכול להגיע - - -

קריאה: אנחנו אולי מדברים במערכות תומכות החלטה.

אורי מקלב: תומכות, בסדר, תמיד צריך שילוב, אבל אנחנו מדברים שידלגו על כל מיני שלבים ויכולים להביא רק את החלק האחרון, אני לא מדבר על ניתוק, אני אומר אם אנחנו, נניח אם נחתוך, ננפה את הבירוקרטיה, תגיע לתהליך קבלת החלטות, מי שמקבל את זה, ואז אנחנו נוכל - - -

משה בן בסט: משפט אחד לנסות ללמוד מהעבר.

משה בן בסט: סיפרתי קודם שמפא"ת אמרו 'אנחנו רוצים - - -', מה שמפא"ת עשו בעצם, הם פנו לחילות השונים בצה"ל ואמרו 'אנחנו יוזמים את קידום נושא בינה מלאכותית, כל מי שיש לו פרויקט, שיבוא, אנחנו מוכנים לדאוג לזה כלכלית', זה היה מבחינת מפא"ת והאמת היא שכתוצאה מזה באמת הגיעו פרויקטים מרתקים, מחיל אוויר, מהמפח"ש, כמובן מההיסעים.

יאיר פרנק: אז כנראה קלענו לדעת גדולים כי יש לנו כוונה ואנחנו מטפלים בזה כרגע, להקים בתוך הממשלה מעבדת חדשנות, אותה מעבדת חדשנות תהיה מסוגלת, אנחנו יודעים עוד פעם, בירוקרטיות ממשלתיות זה לא דבר פשוט, אז אנחנו מנסים כרגע לפתור את הדבר הזה, ואותה מעבדת חדשנות תהפוך לסוג חדר פתרונות וחדר הדגמות של טכנולוגיות לתוך צרכים ממשלתיים.

יאיר פרנק: את זה נרצה כמובן לעשות בשיתוף כזה או אחר עם עולם הסטארט אפים ועם עולם האקדמיה.

יאיר פרנק: אבל אם קודם נתתי את הדוגמה של סירי, אז אנחנו כרגע לא מסוגלים לפתור את הבעיה של עוזר אישי בשפה העברית, כי אין מערכות תומכות שמנתחות את השפה הטבעית העברית.

יאיר פרנק: אז אם אני מסוגל להגיד שיש פה קול קורא לסטארט אפים ישראלים שיקימו את זה ואני מבטיח להם שאנחנו נשתמש בתוצרת שלהם, אז אני אומר גם את זה.

יאיר פרנק: ולגבי מה שאמרת קודם, אדוני היושב ראש, לגבי הבירוקרטיות ותהליכים, אני מעדיף להילחם בבירוקרטיה ולהוריד אותה מאשר לפתח מערכת שתדע לעקוף אותה או תדע להתמודד איתה.

אורי מקלב: תדע לעזור לה, תדע ל - - - כן, המערכות האלה יכולות - - -

יאיר פרנק: נכון, אבל בעיקר בעיקר אנחנו רוצים להגיע למצב שגם תהליכי קבלת החלטות בממשלה, ושוב, זה לא הטכנולוגיה שאנחנו מדברים עליה, אלה טכנולוגיות של פעם, שאנחנו לצערי הרב לא עושים בהן שימוש, אבל שגם תהליכי קבלת ההחלטות יהיו מבוססים מידע וידע ולא מבוססים שליפה.

יאיר פרנק: דרך אגב, קראתי מחקר שעשתה, ברח לי השם כרגע, בקרב למעלה מ-1,000 מנכ"לים של חברות גדולות ו-67% מהם ענו שהם מקבלים החלטות לפי אינטואיציה ולא לפי נתונים, אבל זה ככה בשביל בדיחות הדעת.

יאיר פרנק: אנחנו לא נעצרים כמובן ברמה כזאת.

יאיר פרנק: בקיצור ולעניין, מה שאני מנסה להגיד, יש לנו כרגע תהליכים של חשיבה, של הסדרה, אין לנו כרגע תהליך שמסתכל על כל המערכת מלמעלה ואני שמח לשמוע את מה שאמר כרגע פרופ' איציק בן ישראל על תפיסת עולם כזאת ואנחנו כמובן נשמח להשתלב במין תפיסת עולם כזאת, איך להביא את זה ליום יום של האזרחים.

אורי מקלב: הערה קצרה ואחר כך אני ארצה לעבור לד"ר ניל נימר.

אמנון שעשוע: הערה קצרה.

אמנון שעשוע: כשארגון גדול מסתכל על המרחב האין סופי הזה של הזדמנויות בבינה מלאכותית הארגון הזה שואל את עצמו היכן אני יכול להוביל, אתה לא יכול להוביל בכול, אתה צריך לבחור מספר כיוונים ובהם להחליט 'אני מוביל'.

אמנון שעשוע: בישראל, לדעתי, כל הנושא של הרפואה הדיגיטלית זה מקום שישראל יכולה להוביל, בהנגשת מאגרי מידע ותמיכה פיננסית, קרנות יוזמה כאלה ש - - - זה תחום שישראל יכולה להוביל.

אמנון שעשוע: אפשר לחשוב על עוד תחומים, אבל צריך להחליט מה התחומים, אחרת זה - - -

אורי מקלב: יש לא מעט דיונים שאנחנו מקיימים כאן בוועדה, אנחנו ננסה, הוועדה שדנה במחקרים בבני אדם וועדות הלסינקי, אנחנו מקבלים את הדוח ואנחנו גם נפגשים עם חברות פארמה ישראליות והם באים, יש כאן גם תחום, לאו דווקא הממשלה, יש כאן גם יזמי חוץ ובאים לישראל, רוצים לבצע את המחקרים פה, מחקרים יישומיים גם כן ויש הרבה דברים שמונעים מהם, בירוקרטיה או לא בירוקרטיה, שמונעים מהם.

אורי מקלב: במדינות אחרות הם מקבלים יחס והאפשרויות הן הרבה יותר מתקדמות ומתאימות להן והן מעדיפות את ישראל, בגלל הידע שיש לנו, יכול להיות בגלל שהרפואה היא הטרוגנית, המחקר טוב, הרמה הרפואית פה טובה, היכולת - - - הם אומרים שהם היום עושים במיליארדים, הם מתחייבים שבשיפור התהליכים הם משלשים את הסכום, שלושה מיליארד מיד, הם מתחייבים על זה שהם מביאים כאן למדינת ישראל ויש כאן תהליכים שמונעים מהם.

אורי מקלב: זה נכון שאנחנו צריכים לקחת את מה שאנחנו יכולים, אבל הנה דבר שיכולים, במקום זה אנחנו צריכים לא מעט דרכים לנסות כדי לפתור את זה.

אורי מקלב: הופיע כאן בוועדה, היה בתחום הרחפנים, אבל תוכנות שאותו מפתח, שני צעירים, אחד יושב בארצות הברית ואחד יושב בישראל, אחרי שיש לו פיתוח שהוא פיתח לעצמו, הוא מקבל את האישורים ממערכות הביטחון בישראל, נניח זה היה במקרה הזה בתחום הרחפנות, והוא מחכה כמה חודשים.

7035: באיזה תחום?

אורי מקלב: הרחפנות, רחפנים.

אורי מקלב: תוכנות על רחפנים.

אורי מקלב: בגלל שהוא צריך לקבל אישורים שבארצות הברית אין, הוא פיתח, אותו חבר שלו פיתח באותו זמן ומיד הוא שיווק את זה.

אורי מקלב: כאן הוא היה צריך לעבור לא מעט דברים ואנחנו רוצים לשפר את זה.

7035: בארצות הברית, אם זה מוצר ביטחוני - - -

אורי מקלב: זה לא מוצר ביטחוני.

7035: אם זה לא מוצר ביטחוני גם בישראל לא צריך אישור.

אורי מקלב: אבל בישראל צריך להגדיר אם זה מוצר ביטחוני או לא.

אורי מקלב: כדי לקבל את האישור על זה, יש לזה קונוטציה מסוימת.

7035: כנראה שהוא חשב שזה ביטחוני.

7035: בישראל ובארצות הברית זה אותו דבר, אם זה מוצר ביטחוני צריך לקבל אישור ואם זה לא מוצר ביטחוני לא צריך לקבל אישור.

אורי מקלב: אני לא רוצה להגיד כמה זמן משך האישור, אבל גם בלי זה, גם עצם האישור עצמו, הוא אומר שהוא מפתח מוצר, אותו מוצר שהוא פיתח, כאן הוא היה צריך לעבור רישיון שם הוא לא היה צריך לעבור.

אורי מקלב: אלה עובדות שבאו לכאן, שאנחנו מנסים גם באמת לשפר את זה.

אורי מקלב: אנחנו אמנם בוכים על זה, אבל קח את תחום הלוויינות, לישראל היה בזה יתרון, אבל בשלב מסוים היא החליטה שהיא מוותרת על זה.

אורי מקלב: כבר היה לה יתרון גדול, מכיוון שהיום מבחינה כלכלית החליטו שצריך לשים את הדגשים במקומות אחרים, על אף שלא מדובר בסכומים גדולים.

אורי מקלב: היום בתחום הלוויינות, ננו לוויינות, אנחנו מאבדים את היתרון שלנו או את הראשוניות שלנו בעניין הזה והיום כל המדינות האחרות שהן מתחרות בהזמנות, בגלל שהממשלה מתערבת בזה, כאן הממשלה לא רצתה להתערב ואנחנו בעניין הזה מנסים ל - - - יכול להיות שלא רק שנאבד את זה, נניח תקשורת ודברים כאלה, נהיה תחת מדינות אחרות שהיום זה בסדר, אף אחד לא יודע שבמצב חירום זה גם ימשיך להיות בסדר.

אורי מקלב: זה המצב שאנחנו מתמודדים, אנחנו יודעים עליו, הוא בעייתי, אבל עם כל זה אנחנו מבינים שבאיזה שהוא מקום אי אפשר לתפוס את הכול, על אף שבנושא הזה אנחנו חושבים שכן היה צריך להמשיך איתו, ההשקעה היא כבר לא גדולה אחרי שיש לך את הידע.

אורי מקלב: באמת אחת השאלות שנשאלנו, אני חושב שאתה כתבת את זה, האם יש צורך לעודד השקעות ייעודיות או מחקר בסיסי, מחקר ופיתוח בתחום הבינה המלאכותית.

אורי מקלב: האם כוח אדם בתחומים האלה מספק מבחינת היקפו?

אורי מקלב: זו אחת השאלות שהעלה רועי.

אורי מקלב: אני חושב שדווקא בעניין הזה, ד"ר ניל נמיר, מהמועצה הלאומית למחקר ופיתוח אזרחי, הצליח ל - - -

ניל נמיר: שלום.

ניל נמיר: אנחנו במו"פ, בגלל ההצטלבות של הזמינות של האלגוריתמים וכוח המחשוב והדאטה מזהים הזדמנות להשתלב בתעשיות שעד כה לא השתלבנו, במיוחד כשהכישורים שנדרשים לפתח את המערכות האלה בדיוק קולעים ליכולות הדנ"א הישראלי.

ניל נמיר: אנחנו פעלנו, אבל בטווח הקצר כנראה יהיה זעזוע משמעותי בשוק התעסוקה.

ניל נמיר: לגבי הטווח הארוך יש דיון סוער אם זה יספק יותר מקומות עבודה או שוק העבודה יצטמצם, אבל בטוח שבטווח הקצר יהיה זעזוע.

ניל נמיר: נהגי מוניות לא יוכלו להשתלב בסיעוד בחייהם, שוטרי תנועה לא יהיו לוחמי סייבר ונצטרך להיערך לזה.

ניל נמיר: דרך אגב, מי שמעניין אותו, היום בבוקר היה מאמר מאוד מסכם בגלובס, על ידי עמרי זרחוביץ שמטפל ודן בכל הנושא של שוק העבודה.

ניל נמיר: במולמו"פ אנחנו פועלים במספר מישורים בתחום, בגלל הקרבה שלנו למשרד המדע אנחנו פעלנו להעלות את המודעות.

ניל נמיר: פרופ' בליי הודיע בשבוע שעבר בכנס של המדענים הראשיים שבמשרד המדע 2019 תהיה שנת בינה מלאכותית.

ניל נמיר: אני שמח שכבר בפועל הקול קורא האחרון למחקרים בינה מלאכותית זה בראש סדר הדברים וכן מסלולים ישירים לדוקטורט על שם ז'בוטינסקי ועל שם אלוני, כדי לשמר את המצטיינים בתוך האקדמיה, כי משם, כדוגמת מובילאיי, תבוא הישועה, אז זה יצא לפועל והקולות הקוראים הללו הם עכשיו פתוחים.

אורי מקלב: בבריטניה אני חושב שראיתי שממשלת בריטניה מקצה מימון למחקר ל-500 חוקרים בתחום הבינה המלאכותית, כל היעד שלהם יהיה בינה מלאכותית, מתקציב של ממשלת בריטניה.

ניל נמיר: באותו דוח גם, זה הדוח של בית הלורדים, הודיעו שמקימים מטה לאומי לבינה מלאכותית במינון של 2.5 מיליארד שטרלינג.

ניל נמיר: הדבר השני, בעצת פרופ' בן ישראל, המולמו"פ עם צוות מצומצם המליץ עשר המלצות לשר המדע איך לקדם בינה מלאכותית.

ניל נמיר: והדבר האחרון שאנחנו פועלים, אנחנו מממנים סקר נרחב של ההזדמנויות והחסמים בכל השוק הלאומי בבינה מלאכותית, עושים מיפוי של התעשייה, עושים מיפוי של האקדמיה ובעוד מספר חודשים, לקראת סוף השנה, ייצאו המלצות לגבי חינוך, לגבי כל הערוצים ואני מקווה שבאינפורמציה ובעבודה מקיפה נוכל לתמוך בוועדה של פרופ' בן ישראל.

אורי מקלב: התחלה טובה.

אורי מקלב: יש לנו עוד שני דוברים קצרים.

אורי מקלב: ד"ר קרין נהון וד"ר תהילה אלטשולר.

קרין נהון: את הפרופסורה קיבלתי ב-2010, אבל זה בסדר.

קרין נהון: תודה רבה, כבוד היושב ראש.

קרין נהון: אני חושבת שזה חשוב מאוד שיש ישיבה ראשונה בנושא הזה ובתחום הזה, זה באמת חשוב.

קרין נהון: רק לתת לכם כמה דרכים, כי אתם מכירים אותי בכובעים שונים בחדר הזה, אבל אני חושבת שהכובע שיהיה הכי רלוונטי לנושא הזה זה הכובע שאני ניהלתי באוניברסיטת וושינגטון כ-12 שנה מעבדה שמתעסקת בתחום לא של בינה מלאכותית ישירות, אבל בסוף ימיה של המעבדה כבר עברנו לנושא של מערכות אוטומטית וסמי אוטומטיות אינטליגנטיות, כבר התחלנו להתעסק עם זה.

קרין נהון: אבל אני גם מגיעה מההיבט של הצד, נקרא לזה של המדיניות של הניהול של הדברים ולא רק בצד של איך לתכנת ואיך לפתח ואני מסכימה כמובן שבמדינת ישראל יש לזה מקום מאוד חשוב לפיתוח ולדחיפת החדשנות, אבל עם זאת אנחנו נמצאים בתקופה מאוד מעניינת, כי התקופה הזאת היא התקופה שאנחנו יכולים לנסות ולהסדיר דברים מסוימים, שלא יגיעו למקומות שאחר כך יהיה לנו קשה לתקן אותם.

קרין נהון: בדרך כלל כששואלים אותי, שאלת את השאלה הכי חשובה, מה אני בתור מדינה צריך להסדיר ואני באמת חושבת שבמערכות פרטיות של התעשייה אני לא הייתי רוצה לראות הסדרה, אלא אם יש כשל שוק וכמובן אני גם לא נאיבית, אני יודעת שאנחנו נגיע לכשל השוק הזה מתי שהוא, אבל כל עוד אנחנו יכולים לדחוף כמה שיותר הייתי רוצה לחכות, אבל יש כן שני מקומות שיש לנו מקום מאוד חשוב ליצור שולחן עגול אינטרדיסציפלינרי, שהוא לא רק של אנשי פיתוח, אלא גם אנשים שמגיעים ממשפטים, מפסיכולוגיה, מסוציולוגיה, ממדעי המדינה וזה המקרים של מערכות AI שהן או ציבוריות, דהיינו מערכות שמפותחות על ידי הממשלה לכל זרועותיה למיניהן, או מערכות שיש להן השלכה ציבורית נרחבת.

קרין נהון: גילוי נאות, הייתי בוועדה שדנה בנושא של אתיקה של המערכות הבריאותיות, היה לזה דיון מאוד רחב, זה המשיך בסיפור הזה.

קרין נהון: מכיוון שאנחנו כבר נמצאים במצב שבו יש מערכות שההטיות הן לא רק בהטיות של מידע, אתה הזכרת את הטיות האינפוט, אבל זה לא רק הטיות אינפוט ההטיות כבר נמצאות גם ברמה של הניתוח וגם הטיות ברמה של האאוט פוט שאחר כך אתה משנה אותן והן לא רק במצב ש - - - אנחנו מדברים על מערכות שלומדות, אנחנו נמצאים במצב שהמערכות כבר משנות החלטות פוליטיות וגם משנות החלטות חברתיות.

קרין נהון: ואני רוצה לתת כמה דוגמאות.

קרין נהון: אני מדברת על שלושה סוגי הטיות.

קרין נהון: הטיה ראשונה זה הטיית ייצוגיות וכולנו זוכרים את הסיפור של הבחירות בארצות הברית, אז אני אתן דוגמה אחת משם לגבי הטיית בחירות.

קרין נהון: דונלד טראמפ, שהוא נשיא ארצות הברית, השתמש באופן מאוד כבד בתקופת הבחירות בשימוש בבוטים במכונה לומדת.

קרין נהון: בשימוש בבוטים בשתי קהילות שהוא היה מאוד חלש בהן, בהיספנים ושחורים, וזה יצר לו בעצם מניפולציה, או תעדוף בקרב קהילות ששם הוא היה חלש יותר.

קרין נהון: שאלה, איפה הקווים האדומים.

קרין נהון: עוד פעם, אני לא מדברת על ההיבטים הפרטיים, אני מדברת על דברים שיש להם משמעויות.

קרין נהון: הטיות גם בנושא הקלסיפיקציה והסיווגיות.

קרין נהון: יש למשל מערכת בשם קומפס בארצות הברית שפועלת בשמונה מדינות.

קרין נהון: המדינה, המשטרה, כשהיא מגיעה לעצור מישהו ומגיעה לשופט היא מביאה עם המערכת בעצם דוח לשופט בין 1 ל-10 כמה רמת המסוכנות.

קרין נהון: בדקו 30,000 החלטות של המערכת הזאת, היא פועלת בשמונה מדינות וגילו משהו מאוד מעניין.

קרין נהון: היא לוקחת בערך 25,000 אינדיקטורים, זה משהו באמת עצום ולומדת וגילו משהו מאוד מעניין, כשמשווים את כל ההחלטות של המערכת, וכמובן השופטים הולכים לפי המערכת הזאת, שיש לה רק אפליה אחת, לגבי שחור או לבן.

קרין נהון: כלומר אם אתה שחור רמת המסוכנות שלך אוטומטית גבוהה לעומת אותו לבן שיש לו את אותם אינדיקטורים, 25,000 אינדיקטורים.

אורי מקלב: ממשיכים להשתמש בזה?

קרין נהון: ממשיכים להשתמש בזה, כן.

קרין נהון: לכן אני נותנת את הדוגמאות האלה, כי אנחנו נגיע לדוגמאות האלה ואי אפשר להגיד שאנחנו לא משתמשים בהם, אנחנו נמצאים כבר שם, זה לא מדע בדיוני, זה לא רק גו ו-chess, אנחנו מדברים כבר על דברים שמשמשים כרגע בפוליטיקה האמריקאית, היא גם תגיע אלינו.

קרין נהון: ודבר אחרון, אני רוצה לדבר על הטיה של הקצאת משאבים.

קרין נהון: זה גם אנחנו רואים בארצות הברית מאוד יפה.

קרין נהון: לפני חודש נכנסה מערכת מאוד חדשנית, יאיר, שווה לך לבדוק אותה, בביטוח הלאומי, שמחליטה על הקצאות לביטוח לאומי במדינות בארצות הברית.

קרין נהון: המערכת הזאת ביום אחד בהיר, ממש ביום בהיר אחד, שלחה מכתבים לאזרחים ברחבי ארצות הברית שאומרת להם 'אתם עד עכשיו הייתם זכאים לאיקס כסף, קיבלתם 3,000 דולר, עכשיו אתם זכאים לאפס כסף', למה?

קרין נהון: כי המערכת אמרה את זה.

קרין נהון: המערכת גם משתמשת בבינה מלאכותית על מנת להבין את הדברים האלה ומה שזה יצר, וזה אוכלוסיות חלשות, אתם יכולים להבין במי מדובר במערכות האלה, האוכלוסיות החלשות האלה הגיעו להתלונן על המערכת, 'איך זה יכול להיות שאני כל החיים מקבל 3,000 דולר ופתאום אני מקבל אפס', ואז אמרו להם 'אין בעיה, רק אנחנו לא יודעים, המערכת היא מאוד עמומה, אפילו אלה שתכנתו אותה כשתכנתו אותה, היא כבר למדה כל כך הרבה, אנחנו כבר לא יודעים להסביר לכם למה אתם אפס ולמה אתם לא 3,000'.

קרין נהון: אז יש דברים שאנחנו מסוגלים לעשות בעזרת הסדרה, לגרום לשקיפות ברמת מסוימות של למידה, של האינפוט, הוא הזכיר פה, של איך לומדים את הקלסיפיקציות ויוצרים בהתחלה לתת למערכת ללמוד ויש גם לנסות ליצור פחות עמימות, אבל עוד פעם, אני חושבת שהמקום שלנו פה זה ליצור הסדרה בדיוק למערכות שהמדינה מטפלת בהן.

קרין נהון: נגיע לסיפור של התעשייה, התעשייה תגיע לכם, אבל אני מסכימה לבטח שיש לנו יתרון.

אורי מקלב: יש לנו דרך ארוכה.

קרין נהון: לגמרי.

אורי מקלב: אוקיי, זה שאת לא תיקנת, מרוב צניעותך, אני אמרתי ד"ר, פרופ' קרין נהון, אז נתקן את זה, בוודאי לפרוטוקול באופן כללי.

קרין נהון: חוגגת שמונה שנים, אגב.

אורי מקלב: חבר הכנסת עמר בר-לב, אתה גם מוזמן לשבת פה, לא ככה בסוף, אבל אתה משתלב טוב עם הציבור.

אורי מקלב: אני הבנתי שביקשו ממני עוד התייחסות של גוגל ועוד מאוניברסיטת תל אביב, אבל אני חייב ללכת, דקה אחת אני אעשה לכם הפסקה ואחר כך אני אבקש מד"ר תהילה אלטשולר.

אורי מקלב: ד"ר תהילה אלטשולר, בבקשה.

תהילה שוורץ אלטשולר: תודה רבה.

תהילה שוורץ אלטשולר: אני רוצה להודות כמובן לפרופ' שעשוע על הדברים הנכוחים שללא ספק שימחו את ההורים שלי.

תהילה שוורץ אלטשולר: אף אחד לא מבין חוץ מכם במה מדובר.

תהילה שוורץ אלטשולר: פרופ' שי שלו שוורץ זה אחי.

תהילה שוורץ אלטשולר: בתור מי שמסיימת לכתוב עכשיו מחקר מדיניות רחב היקף על הנושא של בינה מלאכותית והאתגרים שלה למדיניות, אני באה מהעולם של מדיניות ושל משפט והיחס שלו לטכנולוגיה ולתקשורת, אני רוצה להעיר פה כמה הערות כלליות שאני חושבת שיכולות להיות מועילות לדיון.

תהילה שוורץ אלטשולר: ראשית, נאמר פה נכון שמהפכת הבינה המלאכותית היא לא דבר חדש, אבל היא מתרחשת באופן היסטורי בערך 20 שנה אחרי מהפכה גדולה מאוד מאוד, שזאת מהפכת הקישוריות, מהפכת האינטרנט.

תהילה שוורץ אלטשולר: אנחנו יודעים היום להסתכל על היתרונות והחסרונות של המהפכה הזאת, על דברים שידענו לשים עליהם את האצבע בזמן אמת ברמת מדיניות ופעלנו כדי לטפל בהם ועל אלה שלא ידענו, ולכן אנחנו צריכים עכשיו להתמודד עם הנזקים שלהם.

תהילה שוורץ אלטשולר: אני חושבת שאחד הדברים שאפשר ללמוד מהחוסרים הוא באמת היעדר השיח האינטרדיסציפלינרי הן בתוך האקדמיה והן בין האקדמיה לבין מקבלי ההחלטות וזה דבר שצריך עכשיו בעת הזאת כבר לטפל בו.

תהילה שוורץ אלטשולר: הדבר הנוסף שאנחנו מרגישים בצורה מאוד חזקה הוא הבורות הדיגיטלית של מקבלי ההחלטות, חוסר הידע שלהם שמוביל הרבה פעמים דווקא בהקשרים האלה לסכיזופרניה.

תהילה שוורץ אלטשולר: הוא מוביל לסכיזופרניה כי מצד אחד יש איזה שהוא סוג של אופוריה של חיינו מעתה ועד עולם יהיו כאלה שאפשר יהיה לפתור בהם את הבעיות שלא יכולנו לפתור עד היום ומן הצד השני המכונות יקומו עלינו לכלותנו.

תהילה שוורץ אלטשולר: זה או זה או זה והאמת היא איפה שהיא באמצע, כמו שהיא בהרבה הקשרים אחרים של החיים.

תהילה שוורץ אלטשולר: אני חושבת שהשאלה שמקבלי ההחלטות צריכים לשאול את עצמם היום היא מה שונה בשדה המדיניות בין אינטרנט לבין בינה מלאכותית, האם זה היכולת לגרום נזק פיזי, האם זה ביצוע המשימות בדרך שהיא לא תמיד צפויה מראש?

תהילה שוורץ אלטשולר: האם זה ערפול הגבול של בין אדם לבין מכשיר, שפרופ' שעשוע דיבר עליו עכשיו ומתוך זה בעצם לייצר הפשטה של הסוגיות שצריך לטפל בהן, כי הסוגיות האלה הן סוגיות רוחב, הן לא עוסקות רק ברכב אוטונומי ולא רק בבריאות דיגיטלית.

תהילה שוורץ אלטשולר: דבר נוסף שיכול לשרת אותנו בהקשר הזה הוא באמת לדבר על היבטי מדיניות רחבים כמו תעסוקה, כמו תחבורה, לא פחות מזה, אגב, כמו משטר, האם בעולם שבו אין פרטיות ומכונות מקבלות עבורנו החלטה המשטר שאנחנו חיים בו ייראה באותה דרך כמו שאנחנו מכירים ב-150, 200 השנים האחרונות?

תהילה שוורץ אלטשולר: האם העובדה שמקבלי ההחלטות רטוריקנים, שעד היום היו צריכים להתנהל באיזה שהוא סוג של תנאי חוסר ודאות עדיין יהיו אלה שיהיה שווה לבחור בהם?

תהילה שוורץ אלטשולר: או שאולי נצטרך לחפש את הגיקים שיודעים פשוט לפתח את המערכות הנכונות.

תהילה שוורץ אלטשולר: כל אלה הן שאלות שצריך לדון בהן בהקשר של הייבטי מדיניות רחבים.

תהילה שוורץ אלטשולר: ההיבט הבא הוא היבט של רגולציה ופיתוח, מפני שהתעשייה שם וצריך לשאול את עצמנו מי יודע לפקח עליה, מהן בכלל סוגיות המדיניות, האם זה רק תחרות, איכות של מוצרים, איך עושים AI by design , כמו שעושים privacy by design, אלה שאלות שצריך לשאול ואולי צריך בעצם שהמדינה תפתח את המכונות שיידעו לפקח על המכונות.

תהילה שוורץ אלטשולר: זה גם לא דבר בלתי סביר.

תהילה שוורץ אלטשולר: הדבר השלישי שצריך לדבר עליו הוא מערכות לומדות בשירות המדינה.

תהילה שוורץ אלטשולר: אני חושבת שבהקשר הזה צריך לומר ביושר שהרבה מאוד היום נעשה מתחת לרדאר וזה מאוד בעייתי.

תהילה שוורץ אלטשולר: מערכת הביטחון פועלת בדרך הזאת, המשטרה שעוברת לשיטור גבוה ושיטור חכם, בלי תמיד הסמכה חוקית, או שאלות מדיניות ביחס למערכות שמתפתחות.

תהילה שוורץ אלטשולר: התכנית של בריאות דיגיטלית שלא עברה את הכנסת ונמצאת רק בממשלה, ופה בעיניי אתם, חברי הכנסת, צריכים לתבוע את הדיון הציבורי ואת השליטה שלכם כנציגי הציבור בהקשרים האלה.

תהילה שוורץ אלטשולר: אני חייבת לומר שמטריד אותי, פרופ' בן ישראל לא נמצא כאן כבר, אבל מטריד אותי מאוד שאנשי הסייבר הם אלה שהולכים לטפל בעולמות של בינה מלאכותית.

תהילה שוורץ אלטשולר: לא בהכרח לבינה מלאכותית חייבת להיות הארומה הביטחונית שמאפיינת את הדיון בענייני סייבר במדינת ישראל.

תהילה שוורץ אלטשולר: יש פה הרבה מאוד היבטים אזרחיים וגם היבטים של זכויות אדם, אני לא בטוחה שזה - - - יש מספיק שונויות בשביל שיצדיקו באמת חשיבה אולי טיפה יותר רעננה בהקשרים האלה.

אורי מקלב: דווקא הפוך, גם אם נניח שבעולם הסייבר היה אפשר לקחת להשיק מהתחום הביטחוני בהרבה דברים, בנושא של בינה מלאכותית אני לא בטוח.

אורי מקלב: גם אם יש היתרים בנושא הביטחוני, דווקא בינה מלאכותית זה מצע אחר לגמרי.

תהילה שוורץ אלטשולר: אני איתך לגמרי ולכן אני חושבת שבכלל לא בטוח שהאנשים שידעו לעשות את זה בעבר הם - - -

אורי מקלב: לא האנשים, אני אומר על התפיסה.

תהילה שוורץ אלטשולר: התפיסות האלה הן התפיסות ההכרחיות.

תהילה שוורץ אלטשולר: הדבר הרביעי הוא ההיבט המוסדי, וזה נאמר קודם, אני באמת אגיד את זה בחצי משפט, נדרשת כאן חשיבה חוצת ממשלה היום.

תהילה שוורץ אלטשולר: אני כמי שפועלת בשדות של הפרטיות יודעת שאין למשל מדיניות פרטיות חוצת ממשלה במדינת ישראל, זה מאוד מאוד נדרש גם בהקשרים האלה שהם הקשרים שבאמת יש בהם שאלות חוצות ממשלה.

תהילה שוורץ אלטשולר: אני רוצה לחלוק, ברשותך, על פרופ' שעשוע, על העניין של הזכות לפרטיות.

תהילה שוורץ אלטשולר: אני חושבת שהזכות לפרטיות - - -

אורי מקלב: אתה נמצא פה, אחרים הולכים.

תהילה שוורץ אלטשולר: לא, אבל אני אגיע גם לתמיכה המקווה.

תהילה שוורץ אלטשולר: הזכות לפרטיות, לא רק שיש לה עדיין חשיבות, היא מלכת זכויות האדם של העולם הדיגיטלי.

תהילה שוורץ אלטשולר: אם אנחנו נוותר עליה, לפחות במשמעויות של יצירת מלכודות אוטונומיה ויכולת בעצם להחליף את שיקול הדעת שלנו בשיקול דעת אחר בלי שאנחנו מודעים לזה, ללא שקיפות בהקשר הזה - - -

אורי מקלב: היא המלכה, היא לא המלכה עם הכתר.

תהילה שוורץ אלטשולר: היא מלכת זכויות האדם במובן הזה שהיא הופכת להיות תנאי מוקדם למימושו של ההליך הדמוקרטי התקין ובלי דמוקרטיה אין הגנה על זכויות האדם האחרות, ולו רק בגלל זה.

תהילה שוורץ אלטשולר: כמובן שצריך להסתכל בחשדנות הראויה על הרגולציה האירופית וכמובן שמדינת ישראל חייבת ל - - -

אורי מקלב: זכויות אדם את מתכוונת גם פרטיות.

תהילה שוורץ אלטשולר: כן, בוודאי.

אורי מקלב: זה הדבר שהכי נפגע.

תהילה שוורץ אלטשולר: כן.

אורי מקלב: אני לא חושב שיש עוד משהו שיותר פגע בפרטיות יותר מהמהפך הדיגיטלי.

תהילה שוורץ אלטשולר: לא, מה שאני מנסה לומר הוא שהפרטיות באמת מקבלת נופך אחר בעולם הדיגיטלי, צריך להסתכל על המשמעויות החשובות שיש לה, צריך להסתכל עליה בהיבטים רגשיים ונפשיים ולא רק בהיבטים של שליטה של אדם במידע, אבל זה כבר עניין לוויכוח אחר ולהרצאה אחרת.

תהילה שוורץ אלטשולר: אני כן רוצה לדבר לשנייה אחת על הסיפור של אתגר השקיפות של המערכות הלומדות.

תהילה שוורץ אלטשולר: האתגר הזה של השקיפות של המערכות הלומדות יכול להיות בשאלה של התרת הפקעת בין אדם ומכונה.

תהילה שוורץ אלטשולר: כשגוגל דופלקס מנהלת שיחות ומי שנמצא מהצד השני של הקו לא יודע שזו מכונה אפשר לשאול את השאלה אם זה נכון או לא נכון, איזה רמה של שקיפות אנחנו צריכים, אבל יותר מזה סוגיית הקופסאות השחורות.

תהילה שוורץ אלטשולר: המערכות הלומדות, אני חושבת, הדבר המשמעותי ביותר שיש בהם הוא באמת חוסר היכולת לצפות או להסתכל אחורה ולדעת כיצד הן מתוכננות.

תהילה שוורץ אלטשולר: ופה אני כן רוצה להזכיר דבר שפרופ' שעשוע דיבר עליו ואני קוראת לוועדה להמשיך ולדון דווקא בו, המידול הזה שיצרו שלו שוורץ ושעשוע, המודל הזה שנקרא RSS, שמפרמל את המושג של אשמה בתאונה, בעצם יוצר פה מצב שבו לראשונה מנסים להפוך קופסה שחורה לקופסה אפורה.

תהילה שוורץ אלטשולר: לא הייתי קוראת לה קופסה לבנה, אבל לקופסה אפורה.

תהילה שוורץ אלטשולר: למובילאיי יש עכשיו עניין בדבר הזה, מובילאיי רוצה לייצר אמון ציבורי במערכות שלה, נכון?

תהילה שוורץ אלטשולר: אחרת לא יאמצו את הרכב האוטונומי.

תהילה שוורץ אלטשולר: יש כאן צירוף אינטרסים מאוד מאוד מעניין בין היכולת של המדינה לדרוש מחברות שמפתחות בדיוק את המעבר הזה מקופסאות שחורות לקופסאות אפורות לבין האינטרס המסחרי של החברות וזה שיהיה בהן אמון.

אורי מקלב: אבל הם יוזמים?

אורי מקלב: נניח הם יכולים להגיד 'אנחנו נותנים את המוצר - - -

אורי מקלב: זה עניין רגולטורי, אדוני היושב ראש.

אורי מקלב: - - 'יש לזה השלכות, למה אנחנו צריכים - - -', או שהם בכלל, נניח מה שדיברנו קודם, יכול להיות שבאמת מובילאיי יכולה לעצור את הפיתוח שלה אם היא צריכה להחליט בין בן אדם לבעל חי, אם המוצר מחליט או לא, או סוג של בני אדם, או שניים או אחד - - -

תהילה שוורץ אלטשולר: לא, השאלה היא עד כמה אתה ואני - - - לא אתה ואני, אבל עד כמה נוכל לדעת מה ההחלטות, זאת בעצם השאלה.

תהילה שוורץ אלטשולר: לא איך היא מחליטה ומה השורה התחתונה של ההחלטות, אלא על דרך קבלת ההחלטה.

תהילה שוורץ אלטשולר: אני חושבת שאם יש משהו שהיום יושב על השולחן בעולמות של בינה מלאכותית כעניין חוצה תעשייה זה בדיוק הסיפור הזה כי אנחנו יכולים למצוא את עצמנו בעוד עשור עם הרבה מאוד מערכות שפותחו כמערכות של קופסה שחורה שלא נוכל להתמודד אחורה עם ההשלכות שלהן.

תהילה שוורץ אלטשולר: לכן דווקא הדוגמה הזאת היא דוגמה לאפשרות של תביעה רגולטורית מצד חברה מסחרית, שיהיה לה עניין להיענות לתביעה הזאת והיא תוכל לשמש סוג של דוגמה באמת אחר כך איך לומדים מזה ביחס למהפכות אחרות.

תהילה שוורץ אלטשולר: תודה רבה.

אורי מקלב: תודה רבה.

אורי מקלב: שורת הדוברים הסתיימה ויש לנו ממש כמה דקות, אז אם יוכלו כמה דוברים בדקה, דקה וחצי, אני אוכל לאפשר את זה.

אורי מקלב: שמעון שמואלי, מנהל מדיניות ציבורית של גוגל, נמצא פה?

שמעון שמואלי: כן, נמצא פה.

שמעון שמואלי: תודה על רשות הדיבור ותודה על הכינוס היום.

שמעון שמואלי: זה לא פשוט לדבר אחרי כל כך הרבה פרופסורים וראש רשות החדשנות, אני אנסה.

שמעון שמואלי: גוגל שמה את נושא ה-AI בשנים האחרונות בראש סדר העדיפויות שלה כחברה, הטכנולוגיה משולבת - - - וזה שאנחנו מדברים על טכנולוגיות עתידיות, אבל כמעט כל המוצרים שמשתמשים, מחיפוש ועד תרגום, יש בהם איזה שהוא מרכיב של בינה מלאכותית.

שמעון שמואלי: חשוב לדעת, ולא הרבה יודעים, שבתוך מרכז הפיתוח שלנו, המחקר והפיתוח בישראל בראשותו של פרופ' יוסי מטיאס, יש צוות שעוסק בתחום ה-AI ומפתחים מספר פיתוחים שונים וזה חשוב לדעת שיש את הידע ואת היכולת הזאת בישראל.

שמעון שמואלי: למה אני אומר את זה?

שמעון שמואלי: כי אנחנו חושבים שחוץ מהתועלות הישירות מהטכנולוגיות שיכולות לצמוח יש שני דברים שכדאי להשקיע בהם מחשבה וזה כמובן הערך הכלכלי שיכול לצמוח למדינת ישראל מהובלה בתחום הזה, יש מחקר של בנק - - - שמצביע על גדילה של השוק ל-150 מיליארד דולר עד 2020, והערך שזה יכול לתת לממשלה, פה נכנסת הרשות לתקשוב מבחינת שירותים לציבור וכיו"ב.

שמעון שמואלי: בהונג קונג פיתחו איזה שהיא שיטה טכנולוגית באמצעות AI שהם מקבלים בקשה לדרכון, הבקשות מתמיינות ובכך הם חוסכים המון זמן ונותנים תשובות לציבור יותר מהר.

שמעון שמואלי: חמישה דברים שאנחנו זיהינו והדברים כבר נאמרו פה, אז אני אומר אותם ממש בקצרה, ממש בדקה, שממשלות יכולות לעשות מאמץ בהם, הראשון זה כמובן הכשרת כוח אדם.

שמעון שמואלי: אנחנו בגוגל מציעים בכלל לציבור קורס הכשרה בחינם און ליין, חוץ מזה אנחנו גם עושים קורסים של שלושה חודשים, של crash courses שהופכים מהנדסים, עוזרים למהנדסים להיכנס לתחום של AI.

שמעון שמואלי: הדבר השני זה מחקר, בקנדה למשל הממשלה השקיעה 100 מיליון דולר למחקר בנושא AI.

שמעון שמואלי: פתיחה והנגשה אחראית של מאגרי מידע, להנגיש אותם למפתחים, רשות התקשוב עשו אצלנו לאחרונה איזה שהוא האקטון עם מידע שנפתח על ידי - - - והביאו מפקחים ואני חושב שזה כיוון נכון.

שמעון שמואלי: גם החלטת הבריאות הדיגיטלית היא בכיוון הנכון.

שמעון שמואלי: אגב, באיחוד האמירויות, הם מינו שר, זה השר היחיד בעולם ל-AI והם שמו לעצמם יעד שהממשלה תפתח 800 דאטה בייס, שזה עד 2021.

שמעון שמואלי: הדבר הרביעי זה להנגיש את היכולות האלה גם לתעשיות שהן לא הייטק.

שמעון שמואלי: כולנו מכירים את ההתרחקות בין שתי הכלכלות בישראל, זה דבר חשוב ואנחנו מחויבים להתאמץ בו.

אורי מקלב: והדבר האחרון?

שמעון שמואלי: נקודה אחרונה.

שמעון שמואלי: גוגל עובדת, לא בכל העולם, בכמה מקומות, אני יכול לציין את הודו ביחד עם הממשלה, לתמוך בממשלה בתכניות האלה במה שאנחנו יכולים, במה שהממשלה מעוניינת בו, אנחנו כמובן מציעים את זה גם בישראל ונשמח להמשיך בשיח בנושא הזה.

שמעון שמואלי: תודה.

אורי מקלב: תודה על הדברים.

אורי מקלב: פרופ' עירד בן גל, אוניברסיטת תל אביב.

עירד בן גל: אני אהיה מאוד קצר.

עירד בן גל: נאמר פה הכול, למעשה, ואני רק אזקק את המסר שנראה מבחינתי חשוב ואני אצמד למה שנאמר קודם, גם לגבי היתרון בקוטן וגם לגבי ההצלחה בסייבר.

עירד בן גל: אני חושב שיש כמה דברים, אם נחשוב על ההזדמנות ברמה ממשלתית שאפשר לעשות, כל האלגוריתם שדיברנו עליהם, בוודאי מכוניות אוטונומיות, הן נשענות על מידע והן חייבות את המידע הזה בצורה דיגיטלית.

עירד בן גל: הבוסט הגדול ביותר למערכות כאלה במדינה כמו מדינת ישראל יהיה לפתוח את מאגרי המידע בצורה מבוקרת, כמובן תוך התחשבות בסיכונים בתחומים שדיברנו קודם, תחבורה, רפואה, בירוקרטיה, ערים חכמות.

עירד בן גל: ואם יש מקום שיכול להביא אלינו תעשייה והזדמנות בטווח קצר לעשות אימפקט זה יהיה בדיוק אם נוכל דווקא בשטח כזה קטן להנגיש את כל המידע הזה.

עירד בן גל: אני בטוח שגם באקדמיה, גם סטארט אפים וגם חברות בינלאומיות מאוד ישמח לקחת בזה חלק.

עירד בן גל: רוב החברות המעניינות היום בעולם אלה חברות שיודעות לעבוד בין שני העולמות האלה, אם זה אמזון, גם בעולם הפיזי וגם הדיגיטלי, וגם בארץ, גם וייז וגם מובילאיי, הכול נשען על העובדה שאתה יכול לקחת מידע מהעולם הפיזי ולהעביר אותו דיגיטציה ואז לעשות דברים חכמים ולהחזיר את זה חזרה לעולם הפיזי.

עירד בן גל: זה לדעתי המסר העיקרי.

אורי מקלב: תודה על הדברים שהיו מתומצתים באמת ומכוונים טוב ועמדו בלוח הזמנים.

אורי מקלב: פרופ' יואב בנימיני, גם מאוניברסיטת תלאביב.

אורי מקלב: בבקשה.

יואב בנימיני: אני חושב שהתחום של בינה מלאכותית נשען על רגליים יותר רחבות מאשר התחום של סייבר.

יואב בנימיני: הוא נשען, כמו שהזכירו, על מדע הנתונים ועל למידה ממוחשבת ובהנדסה - - - וכן הלאה, וזה תחום רחב מאוד.

יואב בנימיני: נדבך מאוד מרכזי פה זה מדע הנתונים, זה ביג דאטה ולמידה ממוחשבת ולמידה סטטיסטית וסטטיסטיקה וכן הלאה וכן הלאה.

יואב בנימיני: זה גם משפיע על הדרך שבה אנחנו יכולים לבנות את היכולות שלנו בכיוון הזה.

יואב בנימיני: זאת אומרת אם אנחנו מדברים על איך לומדים את הדבר הזה, אז לומדים את זה לרוחב של הרבה מקצועות שונים וכך צריך להיות גם בתארים המתחילים בהם, זה ממדעי המחשב וסטטיסטיקה והנדסה, מערכות מידע וכו' וכו', ואת כל התחומים האלה צריך לבדוק.

יואב בנימיני: אני רוצה רק לספר, הוות"ת הקימו ועדה לתכנון אסטרטגי למדע הנתונים, הוועדה מתחילה לעבוד השבוע, אני עומד בראשה, אנחנו גם ממפים את היכולות באקדמיה ואת המצב הקיים, אנחנו נותנים אסטרטגיה הרבה יותר רחבה מאשר איך לשפר את הדברים האלה, אלא גם איך צריכה להיות התרומה למשל ל-AI, לבינה מלאכותית, למשל במדעי החברה, אנחנו חושבים שנראה לי, בינתיים, שהכשרה בכיוון הזה של איך לוקחים נתונים, איך מנצלים אותם, איך מוציאים מסקנות, איזה יתרונות יש לזה ואיזה מגבלות יש לזה, זה חינוך שצריך להגיע לכל מי שלומד תואר ראשון כדי שיוכל להתמודד אחרי כן גם כאזרח עם היכולות והמגבלות.

יואב בנימיני: אני רוצה שהפעילות הזאת תהיה מוכרת גם כאן.

אורי מקלב: תודה.

אורי מקלב: הדובר האחרון, הרשות לחדשנות, ממש בדקה.

גדי הורנשטיין: כן.

גדי הורנשטיין: אין ספק שאנחנו עומדים פה בפני מהפכה שאנחנו חווים אותה בתקופה הזאת.

גדי הורנשטיין: אנחנו מקדמים מספר פעילויות שמאפשרות לחברות בתעשייה לקבל סכומים משמעותיים למחקר, אנחנו כמובן נשמח לראות את מובילאיי וגוגל מובילות פה את התעשייה ובעצם מפזרות אבק כוכבים על מגוון חברות הסטארט אפ שמההסתכלות שלנו חסרות את הידע או ה - - - לא תמיד מושלם ואם אנחנו רוצים גם לשפר ולשמור על האוכלוסייה הזאת אנחנו נשמח למעורבות כזאת.

אורי מקלב: תודה רבה על הדברים.

אורי מקלב: יש לנו עוד ברשימה, אבל הזמן תם.

אורי מקלב: לזה עוד לא הצליחו לעשות בינה מלאכותית, לעצור את הזמן.

אורי מקלב: אז קודם כל אני רוצה להודות לכם כולכם שהשתתפתם איתנו, זה היה חשוב מאוד.

אורי מקלב: פרופ' אמנון שעשוע, אני לא יודע כמה אתה לוקח להרצאה בחוץ - - - לא לוקח, אז אתה עוד לא לוקח, ברוך ה'.

אורי מקלב: אבל אין ספק שבאמת זה היה חשוב מאוד והידע שלך הוא גם ידע יישומי מאוד וזה דוגמה להרבה דברים ואתה נגעת בנקודות.

אורי מקלב: היה מאוד חשוב לשמוע, אבל זה רק אומר לנו שיש כאן מרחב גדול מאוד.

אורי מקלב: זה דיון ראשון, אולי זו גם שאלה, דיון ראשון שהפרלמנט עושה את זה במסגרת הזו, לא על דברים שצריך ללמוד, לראות גם את תחום הממשלה ביישום וגם כקביעת מדיניות.

אורי מקלב: בסוף, לא צריך להגיד את זה, לא צריך להגיד שלישראל יש את היכולת באמת ובינה מלאכותית היא הכתובת ודאי להיות מובילה, ללא ספק, וגם הבשורה הזאת, מבחינתי זו בשורה, של פרופ' יצחק בן ישראל וד"ר אביתר מתניה, שאנחנו מכירים אותם, הם יעמדו בראש המיזם הזה, מיזם האיתור, אני חושב שזה נותן איזה כיוון טוב.

אורי מקלב: כמובן גם אתם לא יכולים על הכול.

אורי מקלב: מעבר לכך שגופים פרטיים, בוודאי שיזמים מוצאים את ישראל כמקום נוח, יש לנו הרבה מה לעשות ואנחנו צריכים להתחיל עכשיו לפרוס לפרוסות את כל מה שאנחנו חושבים שצריך לעשות ולקבוע שצריך לעשות.

אורי מקלב: יש דברים, גם נגיד, נניח בתחום הרגולציה או בתחום החקיקה וקביעת המדיניות, אנחנו חושבים שלא לעשות, זו גם החלטה, רק צריכים לראות שאנחנו מקבלים החלטה.

אורי מקלב: אני לא כל כך מסכים, למשל, אני יכול להביא את הדוגמה שבתחום הסייבר, כשאת אומרת שאנחנו ידענו את הסכנות וטיפלנו בהם, המדינה לא כל כך טיפלה - - -

קריאה: מי טיפלנו?

אורי מקלב: חלק מהדברים.

אורי מקלב: אני רוצה לתת לך לדוגמה, אני לא מדבר על תופעות של שיימינג ותופעות של הסתות, אני מדבר על כמו הסייבר, שאנחנו היינו מובילים, אבל כמדינת ישראל, הממשלה שלה לא ידעה, היא היום מטמיעה מערכות שבפיתוח לא פיתחו יחד עם הסייבר.

אורי מקלב: אנחנו לפעמים בבחינת הסנדלר הולך יחף, יכול להיות שהממשלה יכולה להתקדם, המדינה יכולה להתקדם הרבה ולהזניח את החקיקה שלה, מה שהיא צריכה ואנחנו בחלק הזה כן רוצים להיות, אנחנו לא רוצים לגרום לפערים, ושהמדינה לעצמה וגם בשירות לאזרח ובכלל בתפקוד שלה היא תהיה בעניין.

אורי מקלב: מעבר שיש כאן גם שאלות כלליות ואנחנו נגענו בזה.

אורי מקלב: זאת לא הישיבה האחרונה שלנו, זו הישיבה הראשונה ואנחנו נקיים עוד ישיבות ואני מאוד אשמח ואודה לכם על שיתוף הפעולה, מאוד השכלנו מאלה שדיברו ומאלה שממונים, וגם אלה שלא הספיקו, אני אתן הזדמנות בפעם הבאה.

אורי מקלב: אני מודה לכם, תודה רבה.