GiliGold/VAD_KnessetCorpus huggingface dataset:
7035: זה בדיוק היתרון שיש למדינה והיתרון הזה, ניצלנו אותו פעם אחת בצורה שהצליחה לנו מאוד, זה לא ערובה, דרך אגב, לעתיד, אבל הצליחה לנו מאוד בסייבר לפני שש-שבע שנים, ובחצי השנה האחרונה חברי ד"ר אביתר מתניה, שעזב את הסייבר ב-1 בינואר כי נגמרו לו השושנים לפי המינוי וביחד כתבנו כמה ניירות על הדבר הזה ובסופו של דבר ראש הממשלה בימים אלה עומד למנות, לא מינה, כי הוא צריך את הבדיקות המשפטיות וכל הפרוצדורה שמי כמוכם מכיר לפני שממנים, עומד למנות אותי ואת אביתר ביחד לעמוד בראש מיזם כזה.
7035: מה זה מיזם?
7035: מטרת המיזם להגיש תכנית לממשלה, זה לא לעשות את כל הדברים האלה, להגיש תכנית ממשלה שהיא תהיה דומה בעיקרון המוביל שלה לתכנית שהגשנו בסייבר בזמנו, שאני הגשתי בזמנו בסייבר, שכוללת את כל האלמנטים, חינוך, תעשייה, ממשלה, ביטחון.
7035: יש חלקים שלא צריך כל כך לדבר עליהם, אבל זה מוכרח להיות כלול בדבר הזה, במיוחד בתנאי הארץ שהצבא הוא מין סוג של המשך המערכת החינוכית.
7035: לרוב האוכלוסייה, לא לכולם, אתה הולך לבית ספר עממי, אחרי זה לתיכון, אחרי זה לצבא ואחרי זה הלאה וכל היחידות שאנחנו מכירים וכל הדברים הללו.
7035: יש לזה השלכות עצומות.
7035: הכוונה שלנו היא להתעסק בתכנית שתדגיש לא רק את טכנולוגיות הליבה, שהוזכרו פה פחות או יותר, אני לא רוצה להוסיף להן.
7035: דרך אגב, אני רק רוצה להעיר שיש עוד כמה טכנולוגיות קשורות, זה מופיע במסמך שלנו, שהן קשורות לזה, אבל לא צריך פה עכשיו להלאות את כולם, אבל טכנולוגיות הליבה הן באמת סביב איזה שהוא שילוב בין הסיפור הזה החדש של אינטליגנציה מלאכותית בסגנון של למידה עמוקה וכל הדברים האלה יחד עם מדעי הנתונים, זה איזה שהוא שילוב שלהם, ויש גם טכנולוגיות אחרות שאנחנו נבדוק שהן קשורות לעניין הזה.
7035: הכוונה היא בסופו של דבר, כמו בסייבר, להעמיד את ישראל במצב שהיא נהפכת לאחד מהמרכזים העולמיים, אנחנו לא היחידים, כמו בסייבר, אבל מרכזים מובילים בעולם, על ידי נגיעה בכל ההיבטים של האקו סיסטם.
7035: עד כאן.
אורי מקלב: אני רק שואל אם במסגרת המנדט שלכם אתם גם אמורים לבדוק או להציע לממשלה עצמה, איך היא צריכה להיות - - -
7035: רק לממשלה עצמה.
אורי מקלב: לא, אתה אומר בתחום היזמות, כלומר חינוך זה נכון, אבל אני מדבר איתך - - -
7035: זה הממשלה.
אורי מקלב: בין בנגישות לאזרח מבחינת חקיקה, הסדרה, שיתופים בינלאומיים, איפה אנחנו - - -
7035: כל זה.
אורי מקלב: האם יש מישהו שמוביל כאן?
אורי מקלב: האם הממשלה נמצאת במקום הנכון?
אורי מקלב: האם כבר נמצאת, היא מדביקה את מה שקורה?
אורי מקלב: איפה אנחנו נמצאים?
7035: אז נכון להיום כל משרד במשרדי הממשלה, אני לא אגיד כל משרד, רוב משרדי הממשלה, יש להם נגיעה בתחום הבינה המלאכותית וכל אחד עושה בתחומו.
7035: זה כבר נכון להיום, משרד המדע, אני רואה פה את - - -
אורי מקלב: בצורה שכל אחד ביוזמה עצמית, או הנחיה ממשלתית?
אורי מקלב: יש מישהו שמוביל?
7035: לא, כולם מתוך הבנת הצרכים של עצמם, אין הנחיה ממשלתית.
7035: כל הרעיון במיזם הזה - - -
אורי מקלב: אתה יכול להגיד לי שמישהו במשרד המשפטים דן, היה דיון אחד בנושא בינה מלאכותית?
7035: כן.
אורי מקלב: לא עם מערכת הביטחון?
7035: התשובה היא כן.
אורי מקלב: בנושא אזרחי לא בנושא ביטחון?
7035: לא, לא בביטחון.
7035: זה בהיבטים של, אפילו אני השתתפתי בדיון אחד כזה.
7035: זה בהיבטים של מה שיכול לצאת מהבינה המלאכותית.
אורי מקלב: נניח שוודאי שהתכנית הלאומית לבריאות דיגיטלית, משרד המשפטים צריך לדון, זה חלק - - -
7035: אבל אתה מתפרץ לדלת פתוחה.
7035: זה בדיוק מה שאמרתי.
7035: במקום שכל משרד יעשה את ה - - - ככה זה קורה בכל העולם, כל אחד שרוצים לשים לו אוטו אוטונומי על הכביש, אז הוא מיד מתחיל לחשוב מה הוא עושה בתחום המשרד שלו בשביל רגולציה, בשביל כל מיני דברים כאלה.
7035: במקום שזה יהיה, זה בדיוק הרעיון, שנעשה משהו דומה למה שעשינו בסייבר, שזה אומר ארגון ממשלתי.
7035: עכשיו, אני לא יכול להגיד לך אם בסוף יוקם, בסייבר הקמנו גוף במשרד ראש הממשלה, אני לא יכול להגיד לך אם זאת תהיה המלצתנו או לא כי עוד לא התחלנו לעבוד, אני מדבר על דבר שזה עתה רק הותנע, אבל הרעיון הוא לגרום לזה שזה יהיה - - -
אורי מקלב: הוא אומר שמה שקורה, שעה בהצגה זה נהיה חמש דקות במחשב, ככה פרופ' משה בן בסט, הזמנים כאן הם קצרים יותר, זה שנות אור ה - - -
7035: אם אתה חושב שאפשר להאיץ את זה על ידי זה שלמשל - - -
אורי מקלב: לא, המציאות היא - - -
7035: אתה רוצה להצטרף אלינו ולעזור?
7035: אני אשמח.
אורי מקלב: לא, אני לא רוצה להנחות אתכם, הפוך, אני מאוד מברך על הדברים האלה - - -
7035: אני מאוד שמח שאתה רואה את זה ככה, כי גם אנחנו חושבים.
7035: עכשיו בלי ציניות, אני מדבר ברצינות.
אורי מקלב: העובדה שאנחנו רואים את זה ושאנחנו דנים בזה ומקיימים דיונים - - -
7035: אני חושב שזה מאוד חשוב, התמיכה, כי זה באמת הולך לשנות לנו את החיים.
אורי מקלב: אני רוצה לחזק את התפקיד שלכם.
אורי מקלב: בתוך דבריי יש קצת ביקורת מסוימת, סמויה, לא ביקורת, אלא זרז, אני רוצה לזרז את הדברים, גם בלי ביקורת, אני לא חושב שזה ביקורת, אבל - - -
7035: אני שמח, אנחנו חושבים שצריך לזרז וצריך את הדחיפה הזו והתמיכה של ועדת המדע בכנסת היא חשובה.
7035: אני עכשיו מדבר בלי ציניות, אני אומר ברצינות, זה מאוד חשוב, יש לנו הזדמנות, אנחנו מתכוונים לסיים את העבודה שלנו תוך מספר חודשים.
7035: לא מדובר על שנה או משהו כזה, זה זמן קצר.
7035: אחר כך יתחיל כל הסיפור כולו שצריך לבצע את זה.
7035: זה ייקח כמה שנים.
7035: השינוי הטכנולוגי פה הוא עצום, כל הדברים האלה שפרופ' שעשוע דיבר עליהם, של מכונות שאיכשהו לומדות בעצמן או במשחק נגד עצמן, זה כולו תיאורטי, המאמר הראשון יצא ב-2014 על העניין הזה, או תחילת 15', זה קצב עצום, זאת אומרת קצב השינוי הטכנולוגי זה לא משהו שהיינו רגילים, אבל נצטרך להתמודד עם זה.
אורי מקלב: הכינו לי כאן בוועדה, מנהלת הוועדה, מאמרים.
אורי מקלב: אני ראיתי את הפערים שיש, יש כתבות שיצאו, ראיתי את הפערים של בין מה שיצא לפני שנה וחצי ובין מה שעכשיו, פשוט לראות על מה דיברו אז ועל מה אנחנו מדברים היום, באיזה פערים אנחנו מדברים.
משה בן בסט: הייתי רוצה להציע משהו מאוד פרקטי.
משה בן בסט: אחד הדרכים לקדם את זה בתוך הממשלה זה קודם כל שהאנשים במערך הממשלתי יידעו מה זה.
משה בן בסט: אני מוכן להתנדב פה כדי לעשות בסביבות אוקטובר איזה שהוא יום עיון לכל משרדי הממשלה בבינתחומי בהרצליה, נעשה להם סדרה של הרצאות עם אנשים מתוך המשק הישראלי.
משה בן בסט: לפחות נדע מה הפוטנציאל ומה זה באמת אומר, כי האמת היא שמחשבים חושבים כמו בני אדם זה - - -
אורי מקלב: הייתה איזה הרצאה שעשיתם באילת והבאנו לפה, שהפתיעה את כולם.
ענת לוי: בנק הגנים.
אורי מקלב: בנק הגנים.
אורי מקלב: בגנטיקה, אנחנו כאן הבאנו הרצאה שהייתה בחוץ ו - - -
משה בן בסט: כשיודעים מה זה במובן הפרקטי זה עוזר.
אורי מקלב: אני רק אומר לפרופ' יצחק בן ישראל מה הם מגיעים היום.
אורי מקלב: אני לא יכול להתפרש על כל העניינים, אני רק יכול להגיד לך שגם אחרי שאנחנו מדברים על הממשלה ותיכף ידברו פה, חלק מהתפקידים שהם עושים, יש פערים בתוך הממשלה, פערים קוטביים בתוך אותו משרד.
אורי מקלב: אם אנחנו מדברים על ממשל זמין וישראל דיגיטלית, בתוך אותו משרד, חלק אנחנו יודעים ויש חלק שנמצא, מתקנים שנמצאים רחוק מאוד, אני מדבר איתך עוד לפני הבינה.
7035: זה בדיוק טבע האדם בכלל, טבע ממשלות עוד יותר.
7035: כל הרעיון שאני מספר לכם עליו, כמו שעשינו בסייבר - - -
אורי מקלב: כן, הסייבר זה סיפור הצלחה.
7035: זה ניסיון לעשות איזה שהיא שפה משותפת ויעדים לפחות לאומיים, ואחר כך עוד צריכים לתרגם את זה לתכניות ספציפיות, כדי שהדבר שאתה מצביע עליו לא יהיה, כי הדבר שאתה מצביע עליו גם הוא מופיע לנו באותו ספר משלי.
אורי מקלב: בסייבר אנחנו מצד אחד נמצאים מאוד מאוד רחוק, כפי שאתה אמרת, שהיה פעם בסייבר והיום הסייבר, ואנחנו היום לפני שתי ישיבות דנים בהתקפות כופר בשלטון המקומי, שאין הגנות והמערכות לא בנויות לזה.
אורי מקלב: זה עדיין רחוק, יש פערים.
אורי מקלב: יאיר פרנק, ראש רשות התקשוב הממשלתי.
אורי מקלב: בבקשה, יאיר.
יאיר פרנק: תודה.
יאיר פרנק: מה שחבריי הפרופסורים המכובדים דיברו על כרגע, אני גם יצא לי ללמוד אצל פרופ' בן בסט פעם אחת, מה שהם אמרו כרגע, הם דיברו על תפיסות וסוגיות מערכתיות, זאת אומרת בין ההקשרים הטכנולוגיים לבין סוגיות מערכתיות ואני לצערי או לשמחתי לא עוסק בסוגיות המערכתיות האלה כיום, אולי אעסוק בעתיד, אבל כרגע אנחנו לא עוסקים בזה, אבל אנחנו כן עוסקים כל הזמן בנגזרות של מה הטכנולוגיה, ככל שהיא מתקדמת, איזה אתגרים היא מעמידה מולנו ומה אנחנו יכולים לעשות איתם.
יאיר פרנק: בהקשר הזה אני מצטרף למה שאמר פרופ' שעשוע, הסיפור של ההזדמנויות הוא כנראה אין סופי.
יאיר פרנק: כשממשלה מדברת על זה שהיא רוצה לקחת את מאגרי המידע שלה ולחשוף אותם לציבור ולמצות מהם דאטה יותר טוב או למצות מהם יכולת לקבלת החלטה יותר טובה, או למצות מהם כל דבר שרק אפשר, אז ברור שדאטה כזה הוא דאטה שיכול להוות זרז לחוקרים גם בתחומים התיאורטיים וגם בתחומים המעשיים כדי לדעת לבנות את המערכות או את התפיסות יותר טוב.
יאיר פרנק: כשהממשלה, ודנת בזה פה לפני שבועיים, נדמה לי, מדברת על בריאות לאומית כמנוע צמיחה ומדברת על הקמה של חדרי מחקר סביב עולם הדאטה הזה ולהגיע למצב של רפואה מותאמת אישית וכן הלאה, אז כל הדברים האלה קורים.
יאיר פרנק: אנחנו מנסים היום לחשוב, לקחת רגע אחד את הדברים האלה מהאיגרא רמה המאוד מאוד גבוהה הזאת ולנסות רגע אחד להוריד אותם למטה, עשר קומות, לא יודע, להוריד אותם למטה ולראות מה אפשר לעשות מדברים קיימים מחר בבוקר בשירות הממשלתי.
יאיר פרנק: בתחום שאני עוסק, שזה תחום של שירות לציבור, אנחנו לא חרתנו על דגלנו להוביל טכנולוגית, כן חרתנו על דגלנו להוביל בשירות.
יאיר פרנק: אז אם אנחנו מסוגלים לקחת טכנולוגיה קיימת סביב עולם של בינה מלאכותית או סביב עולם של Machine Learning או כל הטכנולוגיות המתקדמות האלה ולעשות מהם שירות יותר טוב, אז בוודאי שאנחנו נרצה לעשות את זה ואנחנו מדברים על זה היום.
יאיר פרנק: סתם ניקח דוגמה, אין סיבה בעולם שממשלת ישראל לא תוכל לתת שירות לאזרח שהוא מופעל על ידי תפיסת עולם כמו עוזר רישי, כמו סירי, או כמו קורטנה.
אורי מקלב: אנחנו חושבים אפילו קצת יותר קדימה, אנחנו חושבים, וזה נמצא במסמך של רועי, אני חושב, שתהליך קבלת ההחלטות, היום הבירוקרטיה, שאצלנו היא מאוד כבדה ומובנית, שהבינה המלאכותית תקבל את זה ואנחנו נשחרר שם.
אורי מקלב: יכול להיות שנתקדם בעניין הזה, גם בסמכות, אבל בתהליך קבלת ההחלטות זה יכול להגיע - - -
קריאה: אנחנו אולי מדברים במערכות תומכות החלטה.
אורי מקלב: תומכות, בסדר, תמיד צריך שילוב, אבל אנחנו מדברים שידלגו על כל מיני שלבים ויכולים להביא רק את החלק האחרון, אני לא מדבר על ניתוק, אני אומר אם אנחנו, נניח אם נחתוך, ננפה את הבירוקרטיה, תגיע לתהליך קבלת החלטות, מי שמקבל את זה, ואז אנחנו נוכל - - -
משה בן בסט: משפט אחד לנסות ללמוד מהעבר.
משה בן בסט: סיפרתי קודם שמפא"ת אמרו 'אנחנו רוצים - - -', מה שמפא"ת עשו בעצם, הם פנו לחילות השונים בצה"ל ואמרו 'אנחנו יוזמים את קידום נושא בינה מלאכותית, כל מי שיש לו פרויקט, שיבוא, אנחנו מוכנים לדאוג לזה כלכלית', זה היה מבחינת מפא"ת והאמת היא שכתוצאה מזה באמת הגיעו פרויקטים מרתקים, מחיל אוויר, מהמפח"ש, כמובן מההיסעים.
יאיר פרנק: אז כנראה קלענו לדעת גדולים כי יש לנו כוונה ואנחנו מטפלים בזה כרגע, להקים בתוך הממשלה מעבדת חדשנות, אותה מעבדת חדשנות תהיה מסוגלת, אנחנו יודעים עוד פעם, בירוקרטיות ממשלתיות זה לא דבר פשוט, אז אנחנו מנסים כרגע לפתור את הדבר הזה, ואותה מעבדת חדשנות תהפוך לסוג חדר פתרונות וחדר הדגמות של טכנולוגיות לתוך צרכים ממשלתיים.
יאיר פרנק: את זה נרצה כמובן לעשות בשיתוף כזה או אחר עם עולם הסטארט אפים ועם עולם האקדמיה.
יאיר פרנק: אבל אם קודם נתתי את הדוגמה של סירי, אז אנחנו כרגע לא מסוגלים לפתור את הבעיה של עוזר אישי בשפה העברית, כי אין מערכות תומכות שמנתחות את השפה הטבעית העברית.
יאיר פרנק: אז אם אני מסוגל להגיד שיש פה קול קורא לסטארט אפים ישראלים שיקימו את זה ואני מבטיח להם שאנחנו נשתמש בתוצרת שלהם, אז אני אומר גם את זה.
יאיר פרנק: ולגבי מה שאמרת קודם, אדוני היושב ראש, לגבי הבירוקרטיות ותהליכים, אני מעדיף להילחם בבירוקרטיה ולהוריד אותה מאשר לפתח מערכת שתדע לעקוף אותה או תדע להתמודד איתה.
אורי מקלב: תדע לעזור לה, תדע ל - - - כן, המערכות האלה יכולות - - -
יאיר פרנק: נכון, אבל בעיקר בעיקר אנחנו רוצים להגיע למצב שגם תהליכי קבלת החלטות בממשלה, ושוב, זה לא הטכנולוגיה שאנחנו מדברים עליה, אלה טכנולוגיות של פעם, שאנחנו לצערי הרב לא עושים בהן שימוש, אבל שגם תהליכי קבלת ההחלטות יהיו מבוססים מידע וידע ולא מבוססים שליפה.
יאיר פרנק: דרך אגב, קראתי מחקר שעשתה, ברח לי השם כרגע, בקרב למעלה מ-1,000 מנכ"לים של חברות גדולות ו-67% מהם ענו שהם מקבלים החלטות לפי אינטואיציה ולא לפי נתונים, אבל זה ככה בשביל בדיחות הדעת.
יאיר פרנק: אנחנו לא נעצרים כמובן ברמה כזאת.
יאיר פרנק: בקיצור ולעניין, מה שאני מנסה להגיד, יש לנו כרגע תהליכים של חשיבה, של הסדרה, אין לנו כרגע תהליך שמסתכל על כל המערכת מלמעלה ואני שמח לשמוע את מה שאמר כרגע פרופ' איציק בן ישראל על תפיסת עולם כזאת ואנחנו כמובן נשמח להשתלב במין תפיסת עולם כזאת, איך להביא את זה ליום יום של האזרחים.
אורי מקלב: הערה קצרה ואחר כך אני ארצה לעבור לד"ר ניל נימר.
אמנון שעשוע: הערה קצרה.
אמנון שעשוע: כשארגון גדול מסתכל על המרחב האין סופי הזה של הזדמנויות בבינה מלאכותית הארגון הזה שואל את עצמו היכן אני יכול להוביל, אתה לא יכול להוביל בכול, אתה צריך לבחור מספר כיוונים ובהם להחליט 'אני מוביל'.
אמנון שעשוע: בישראל, לדעתי, כל הנושא של הרפואה הדיגיטלית זה מקום שישראל יכולה להוביל, בהנגשת מאגרי מידע ותמיכה פיננסית, קרנות יוזמה כאלה ש - - - זה תחום שישראל יכולה להוביל.
אמנון שעשוע: אפשר לחשוב על עוד תחומים, אבל צריך להחליט מה התחומים, אחרת זה - - -
אורי מקלב: יש לא מעט דיונים שאנחנו מקיימים כאן בוועדה, אנחנו ננסה, הוועדה שדנה במחקרים בבני אדם וועדות הלסינקי, אנחנו מקבלים את הדוח ואנחנו גם נפגשים עם חברות פארמה ישראליות והם באים, יש כאן גם תחום, לאו דווקא הממשלה, יש כאן גם יזמי חוץ ובאים לישראל, רוצים לבצע את המחקרים פה, מחקרים יישומיים גם כן ויש הרבה דברים שמונעים מהם, בירוקרטיה או לא בירוקרטיה, שמונעים מהם.
אורי מקלב: במדינות אחרות הם מקבלים יחס והאפשרויות הן הרבה יותר מתקדמות ומתאימות להן והן מעדיפות את ישראל, בגלל הידע שיש לנו, יכול להיות בגלל שהרפואה היא הטרוגנית, המחקר טוב, הרמה הרפואית פה טובה, היכולת - - - הם אומרים שהם היום עושים במיליארדים, הם מתחייבים שבשיפור התהליכים הם משלשים את הסכום, שלושה מיליארד מיד, הם מתחייבים על זה שהם מביאים כאן למדינת ישראל ויש כאן תהליכים שמונעים מהם.
אורי מקלב: זה נכון שאנחנו צריכים לקחת את מה שאנחנו יכולים, אבל הנה דבר שיכולים, במקום זה אנחנו צריכים לא מעט דרכים לנסות כדי לפתור את זה.
אורי מקלב: הופיע כאן בוועדה, היה בתחום הרחפנים, אבל תוכנות שאותו מפתח, שני צעירים, אחד יושב בארצות הברית ואחד יושב בישראל, אחרי שיש לו פיתוח שהוא פיתח לעצמו, הוא מקבל את האישורים ממערכות הביטחון בישראל, נניח זה היה במקרה הזה בתחום הרחפנות, והוא מחכה כמה חודשים.
7035: באיזה תחום?
אורי מקלב: הרחפנות, רחפנים.
אורי מקלב: תוכנות על רחפנים.
אורי מקלב: בגלל שהוא צריך לקבל אישורים שבארצות הברית אין, הוא פיתח, אותו חבר שלו פיתח באותו זמן ומיד הוא שיווק את זה.
אורי מקלב: כאן הוא היה צריך לעבור לא מעט דברים ואנחנו רוצים לשפר את זה.
7035: בארצות הברית, אם זה מוצר ביטחוני - - -
אורי מקלב: זה לא מוצר ביטחוני.
7035: אם זה לא מוצר ביטחוני גם בישראל לא צריך אישור.
אורי מקלב: אבל בישראל צריך להגדיר אם זה מוצר ביטחוני או לא.
אורי מקלב: כדי לקבל את האישור על זה, יש לזה קונוטציה מסוימת.
7035: כנראה שהוא חשב שזה ביטחוני.
7035: בישראל ובארצות הברית זה אותו דבר, אם זה מוצר ביטחוני צריך לקבל אישור ואם זה לא מוצר ביטחוני לא צריך לקבל אישור.
אורי מקלב: אני לא רוצה להגיד כמה זמן משך האישור, אבל גם בלי זה, גם עצם האישור עצמו, הוא אומר שהוא מפתח מוצר, אותו מוצר שהוא פיתח, כאן הוא היה צריך לעבור רישיון שם הוא לא היה צריך לעבור.
אורי מקלב: אלה עובדות שבאו לכאן, שאנחנו מנסים גם באמת לשפר את זה.
אורי מקלב: אנחנו אמנם בוכים על זה, אבל קח את תחום הלוויינות, לישראל היה בזה יתרון, אבל בשלב מסוים היא החליטה שהיא מוותרת על זה.
אורי מקלב: כבר היה לה יתרון גדול, מכיוון שהיום מבחינה כלכלית החליטו שצריך לשים את הדגשים במקומות אחרים, על אף שלא מדובר בסכומים גדולים.
אורי מקלב: היום בתחום הלוויינות, ננו לוויינות, אנחנו מאבדים את היתרון שלנו או את הראשוניות שלנו בעניין הזה והיום כל המדינות האחרות שהן מתחרות בהזמנות, בגלל שהממשלה מתערבת בזה, כאן הממשלה לא רצתה להתערב ואנחנו בעניין הזה מנסים ל - - - יכול להיות שלא רק שנאבד את זה, נניח תקשורת ודברים כאלה, נהיה תחת מדינות אחרות שהיום זה בסדר, אף אחד לא יודע שבמצב חירום זה גם ימשיך להיות בסדר.
אורי מקלב: זה המצב שאנחנו מתמודדים, אנחנו יודעים עליו, הוא בעייתי, אבל עם כל זה אנחנו מבינים שבאיזה שהוא מקום אי אפשר לתפוס את הכול, על אף שבנושא הזה אנחנו חושבים שכן היה צריך להמשיך איתו, ההשקעה היא כבר לא גדולה אחרי שיש לך את הידע.
אורי מקלב: באמת אחת השאלות שנשאלנו, אני חושב שאתה כתבת את זה, האם יש צורך לעודד השקעות ייעודיות או מחקר בסיסי, מחקר ופיתוח בתחום הבינה המלאכותית.
אורי מקלב: האם כוח אדם בתחומים האלה מספק מבחינת היקפו?
אורי מקלב: זו אחת השאלות שהעלה רועי.
אורי מקלב: אני חושב שדווקא בעניין הזה, ד"ר ניל נמיר, מהמועצה הלאומית למחקר ופיתוח אזרחי, הצליח ל - - -
ניל נמיר: שלום.
ניל נמיר: אנחנו במו"פ, בגלל ההצטלבות של הזמינות של האלגוריתמים וכוח המחשוב והדאטה מזהים הזדמנות להשתלב בתעשיות שעד כה לא השתלבנו, במיוחד כשהכישורים שנדרשים לפתח את המערכות האלה בדיוק קולעים ליכולות הדנ"א הישראלי.
ניל נמיר: אנחנו פעלנו, אבל בטווח הקצר כנראה יהיה זעזוע משמעותי בשוק התעסוקה.
ניל נמיר: לגבי הטווח הארוך יש דיון סוער אם זה יספק יותר מקומות עבודה או שוק העבודה יצטמצם, אבל בטוח שבטווח הקצר יהיה זעזוע.
ניל נמיר: נהגי מוניות לא יוכלו להשתלב בסיעוד בחייהם, שוטרי תנועה לא יהיו לוחמי סייבר ונצטרך להיערך לזה.
ניל נמיר: דרך אגב, מי שמעניין אותו, היום בבוקר היה מאמר מאוד מסכם בגלובס, על ידי עמרי זרחוביץ שמטפל ודן בכל הנושא של שוק העבודה.
ניל נמיר: במולמו"פ אנחנו פועלים במספר מישורים בתחום, בגלל הקרבה שלנו למשרד המדע אנחנו פעלנו להעלות את המודעות.
ניל נמיר: פרופ' בליי הודיע בשבוע שעבר בכנס של המדענים הראשיים שבמשרד המדע 2019 תהיה שנת בינה מלאכותית.
ניל נמיר: אני שמח שכבר בפועל הקול קורא האחרון למחקרים בינה מלאכותית זה בראש סדר הדברים וכן מסלולים ישירים לדוקטורט על שם ז'בוטינסקי ועל שם אלוני, כדי לשמר את המצטיינים בתוך האקדמיה, כי משם, כדוגמת מובילאיי, תבוא הישועה, אז זה יצא לפועל והקולות הקוראים הללו הם עכשיו פתוחים.
אורי מקלב: בבריטניה אני חושב שראיתי שממשלת בריטניה מקצה מימון למחקר ל-500 חוקרים בתחום הבינה המלאכותית, כל היעד שלהם יהיה בינה מלאכותית, מתקציב של ממשלת בריטניה.
ניל נמיר: באותו דוח גם, זה הדוח של בית הלורדים, הודיעו שמקימים מטה לאומי לבינה מלאכותית במינון של 2.5 מיליארד שטרלינג.
ניל נמיר: הדבר השני, בעצת פרופ' בן ישראל, המולמו"פ עם צוות מצומצם המליץ עשר המלצות לשר המדע איך לקדם בינה מלאכותית.
ניל נמיר: והדבר האחרון שאנחנו פועלים, אנחנו מממנים סקר נרחב של ההזדמנויות והחסמים בכל השוק הלאומי בבינה מלאכותית, עושים מיפוי של התעשייה, עושים מיפוי של האקדמיה ובעוד מספר חודשים, לקראת סוף השנה, ייצאו המלצות לגבי חינוך, לגבי כל הערוצים ואני מקווה שבאינפורמציה ובעבודה מקיפה נוכל לתמוך בוועדה של פרופ' בן ישראל.
אורי מקלב: יש לנו עוד שני דוברים קצרים.
אורי מקלב: ד"ר קרין נהון וד"ר תהילה אלטשולר.
קרין נהון: את הפרופסורה קיבלתי ב-2010, אבל זה בסדר.
קרין נהון: תודה רבה, כבוד היושב ראש.
קרין נהון: אני חושבת שזה חשוב מאוד שיש ישיבה ראשונה בנושא הזה ובתחום הזה, זה באמת חשוב.
קרין נהון: רק לתת לכם כמה דרכים, כי אתם מכירים אותי בכובעים שונים בחדר הזה, אבל אני חושבת שהכובע שיהיה הכי רלוונטי לנושא הזה זה הכובע שאני ניהלתי באוניברסיטת וושינגטון כ-12 שנה מעבדה שמתעסקת בתחום לא של בינה מלאכותית ישירות, אבל בסוף ימיה של המעבדה כבר עברנו לנושא של מערכות אוטומטית וסמי אוטומטיות אינטליגנטיות, כבר התחלנו להתעסק עם זה.
קרין נהון: אבל אני גם מגיעה מההיבט של הצד, נקרא לזה של המדיניות של הניהול של הדברים ולא רק בצד של איך לתכנת ואיך לפתח ואני מסכימה כמובן שבמדינת ישראל יש לזה מקום מאוד חשוב לפיתוח ולדחיפת החדשנות, אבל עם זאת אנחנו נמצאים בתקופה מאוד מעניינת, כי התקופה הזאת היא התקופה שאנחנו יכולים לנסות ולהסדיר דברים מסוימים, שלא יגיעו למקומות שאחר כך יהיה לנו קשה לתקן אותם.
קרין נהון: בדרך כלל כששואלים אותי, שאלת את השאלה הכי חשובה, מה אני בתור מדינה צריך להסדיר ואני באמת חושבת שבמערכות פרטיות של התעשייה אני לא הייתי רוצה לראות הסדרה, אלא אם יש כשל שוק וכמובן אני גם לא נאיבית, אני יודעת שאנחנו נגיע לכשל השוק הזה מתי שהוא, אבל כל עוד אנחנו יכולים לדחוף כמה שיותר הייתי רוצה לחכות, אבל יש כן שני מקומות שיש לנו מקום מאוד חשוב ליצור שולחן עגול אינטרדיסציפלינרי, שהוא לא רק של אנשי פיתוח, אלא גם אנשים שמגיעים ממשפטים, מפסיכולוגיה, מסוציולוגיה, ממדעי המדינה וזה המקרים של מערכות AI שהן או ציבוריות, דהיינו מערכות שמפותחות על ידי הממשלה לכל זרועותיה למיניהן, או מערכות שיש להן השלכה ציבורית נרחבת.
קרין נהון: גילוי נאות, הייתי בוועדה שדנה בנושא של אתיקה של המערכות הבריאותיות, היה לזה דיון מאוד רחב, זה המשיך בסיפור הזה.
קרין נהון: מכיוון שאנחנו כבר נמצאים במצב שבו יש מערכות שההטיות הן לא רק בהטיות של מידע, אתה הזכרת את הטיות האינפוט, אבל זה לא רק הטיות אינפוט ההטיות כבר נמצאות גם ברמה של הניתוח וגם הטיות ברמה של האאוט פוט שאחר כך אתה משנה אותן והן לא רק במצב ש - - - אנחנו מדברים על מערכות שלומדות, אנחנו נמצאים במצב שהמערכות כבר משנות החלטות פוליטיות וגם משנות החלטות חברתיות.
קרין נהון: ואני רוצה לתת כמה דוגמאות.
קרין נהון: אני מדברת על שלושה סוגי הטיות.
קרין נהון: הטיה ראשונה זה הטיית ייצוגיות וכולנו זוכרים את הסיפור של הבחירות בארצות הברית, אז אני אתן דוגמה אחת משם לגבי הטיית בחירות.
קרין נהון: דונלד טראמפ, שהוא נשיא ארצות הברית, השתמש באופן מאוד כבד בתקופת הבחירות בשימוש בבוטים במכונה לומדת.
קרין נהון: בשימוש בבוטים בשתי קהילות שהוא היה מאוד חלש בהן, בהיספנים ושחורים, וזה יצר לו בעצם מניפולציה, או תעדוף בקרב קהילות ששם הוא היה חלש יותר.
קרין נהון: שאלה, איפה הקווים האדומים.
קרין נהון: עוד פעם, אני לא מדברת על ההיבטים הפרטיים, אני מדברת על דברים שיש להם משמעויות.
קרין נהון: הטיות גם בנושא הקלסיפיקציה והסיווגיות.
קרין נהון: יש למשל מערכת בשם קומפס בארצות הברית שפועלת בשמונה מדינות.
קרין נהון: המדינה, המשטרה, כשהיא מגיעה לעצור מישהו ומגיעה לשופט היא מביאה עם המערכת בעצם דוח לשופט בין 1 ל-10 כמה רמת המסוכנות.
קרין נהון: בדקו 30,000 החלטות של המערכת הזאת, היא פועלת בשמונה מדינות וגילו משהו מאוד מעניין.
קרין נהון: היא לוקחת בערך 25,000 אינדיקטורים, זה משהו באמת עצום ולומדת וגילו משהו מאוד מעניין, כשמשווים את כל ההחלטות של המערכת, וכמובן השופטים הולכים לפי המערכת הזאת, שיש לה רק אפליה אחת, לגבי שחור או לבן.
קרין נהון: כלומר אם אתה שחור רמת המסוכנות שלך אוטומטית גבוהה לעומת אותו לבן שיש לו את אותם אינדיקטורים, 25,000 אינדיקטורים.
אורי מקלב: ממשיכים להשתמש בזה?
קרין נהון: ממשיכים להשתמש בזה, כן.
קרין נהון: לכן אני נותנת את הדוגמאות האלה, כי אנחנו נגיע לדוגמאות האלה ואי אפשר להגיד שאנחנו לא משתמשים בהם, אנחנו נמצאים כבר שם, זה לא מדע בדיוני, זה לא רק גו ו-chess, אנחנו מדברים כבר על דברים שמשמשים כרגע בפוליטיקה האמריקאית, היא גם תגיע אלינו.
קרין נהון: ודבר אחרון, אני רוצה לדבר על הטיה של הקצאת משאבים.
קרין נהון: זה גם אנחנו רואים בארצות הברית מאוד יפה.
קרין נהון: לפני חודש נכנסה מערכת מאוד חדשנית, יאיר, שווה לך לבדוק אותה, בביטוח הלאומי, שמחליטה על הקצאות לביטוח לאומי במדינות בארצות הברית.
קרין נהון: המערכת הזאת ביום אחד בהיר, ממש ביום בהיר אחד, שלחה מכתבים לאזרחים ברחבי ארצות הברית שאומרת להם 'אתם עד עכשיו הייתם זכאים לאיקס כסף, קיבלתם 3,000 דולר, עכשיו אתם זכאים לאפס כסף', למה?
קרין נהון: כי המערכת אמרה את זה.
קרין נהון: המערכת גם משתמשת בבינה מלאכותית על מנת להבין את הדברים האלה ומה שזה יצר, וזה אוכלוסיות חלשות, אתם יכולים להבין במי מדובר במערכות האלה, האוכלוסיות החלשות האלה הגיעו להתלונן על המערכת, 'איך זה יכול להיות שאני כל החיים מקבל 3,000 דולר ופתאום אני מקבל אפס', ואז אמרו להם 'אין בעיה, רק אנחנו לא יודעים, המערכת היא מאוד עמומה, אפילו אלה שתכנתו אותה כשתכנתו אותה, היא כבר למדה כל כך הרבה, אנחנו כבר לא יודעים להסביר לכם למה אתם אפס ולמה אתם לא 3,000'.
קרין נהון: אז יש דברים שאנחנו מסוגלים לעשות בעזרת הסדרה, לגרום לשקיפות ברמת מסוימות של למידה, של האינפוט, הוא הזכיר פה, של איך לומדים את הקלסיפיקציות ויוצרים בהתחלה לתת למערכת ללמוד ויש גם לנסות ליצור פחות עמימות, אבל עוד פעם, אני חושבת שהמקום שלנו פה זה ליצור הסדרה בדיוק למערכות שהמדינה מטפלת בהן.
קרין נהון: נגיע לסיפור של התעשייה, התעשייה תגיע לכם, אבל אני מסכימה לבטח שיש לנו יתרון.
קרין נהון: לגמרי.
אורי מקלב: אוקיי, זה שאת לא תיקנת, מרוב צניעותך, אני אמרתי ד"ר, פרופ' קרין נהון, אז נתקן את זה, בוודאי לפרוטוקול באופן כללי.
קרין נהון: חוגגת שמונה שנים, אגב.
אורי מקלב: חבר הכנסת עמר בר-לב, אתה גם מוזמן לשבת פה, לא ככה בסוף, אבל אתה משתלב טוב עם הציבור.
אורי מקלב: אני הבנתי שביקשו ממני עוד התייחסות של גוגל ועוד מאוניברסיטת תל אביב, אבל אני חייב ללכת, דקה אחת אני אעשה לכם הפסקה ואחר כך אני אבקש מד"ר תהילה אלטשולר.
אורי מקלב: ד"ר תהילה אלטשולר, בבקשה.
תהילה שוורץ אלטשולר: אני רוצה להודות כמובן לפרופ' שעשוע על הדברים הנכוחים שללא ספק שימחו את ההורים שלי.
תהילה שוורץ אלטשולר: אף אחד לא מבין חוץ מכם במה מדובר.
תהילה שוורץ אלטשולר: פרופ' שי שלו שוורץ זה אחי.
תהילה שוורץ אלטשולר: בתור מי שמסיימת לכתוב עכשיו מחקר מדיניות רחב היקף על הנושא של בינה מלאכותית והאתגרים שלה למדיניות, אני באה מהעולם של מדיניות ושל משפט והיחס שלו לטכנולוגיה ולתקשורת, אני רוצה להעיר פה כמה הערות כלליות שאני חושבת שיכולות להיות מועילות לדיון.
תהילה שוורץ אלטשולר: ראשית, נאמר פה נכון שמהפכת הבינה המלאכותית היא לא דבר חדש, אבל היא מתרחשת באופן היסטורי בערך 20 שנה אחרי מהפכה גדולה מאוד מאוד, שזאת מהפכת הקישוריות, מהפכת האינטרנט.
תהילה שוורץ אלטשולר: אנחנו יודעים היום להסתכל על היתרונות והחסרונות של המהפכה הזאת, על דברים שידענו לשים עליהם את האצבע בזמן אמת ברמת מדיניות ופעלנו כדי לטפל בהם ועל אלה שלא ידענו, ולכן אנחנו צריכים עכשיו להתמודד עם הנזקים שלהם.
תהילה שוורץ אלטשולר: אני חושבת שאחד הדברים שאפשר ללמוד מהחוסרים הוא באמת היעדר השיח האינטרדיסציפלינרי הן בתוך האקדמיה והן בין האקדמיה לבין מקבלי ההחלטות וזה דבר שצריך עכשיו בעת הזאת כבר לטפל בו.
תהילה שוורץ אלטשולר: הדבר הנוסף שאנחנו מרגישים בצורה מאוד חזקה הוא הבורות הדיגיטלית של מקבלי ההחלטות, חוסר הידע שלהם שמוביל הרבה פעמים דווקא בהקשרים האלה לסכיזופרניה.
תהילה שוורץ אלטשולר: הוא מוביל לסכיזופרניה כי מצד אחד יש איזה שהוא סוג של אופוריה של חיינו מעתה ועד עולם יהיו כאלה שאפשר יהיה לפתור בהם את הבעיות שלא יכולנו לפתור עד היום ומן הצד השני המכונות יקומו עלינו לכלותנו.
תהילה שוורץ אלטשולר: זה או זה או זה והאמת היא איפה שהיא באמצע, כמו שהיא בהרבה הקשרים אחרים של החיים.
תהילה שוורץ אלטשולר: אני חושבת שהשאלה שמקבלי ההחלטות צריכים לשאול את עצמם היום היא מה שונה בשדה המדיניות בין אינטרנט לבין בינה מלאכותית, האם זה היכולת לגרום נזק פיזי, האם זה ביצוע המשימות בדרך שהיא לא תמיד צפויה מראש?