GiliGold/VAD_KnessetCorpus huggingface dataset:
דני קורן:
זה נכון שבמסמך שפורסם בסוף כטיוטה להערות הציבור - - -
אורית פרקש הכהן:
זה היה לשימוע, נכון
אורית פרקש הכהן:
 אז בעצם רק כשהוא יהיה מחייב תתחיל העבודה על הקמת כלי הניהול
אורית פרקש הכהן:
 אבל לא, אם אני לא טועה, מבחינת ההנחיה האדמיניסטרטיבית לצוותים, אמרנו להתחיל לעבוד כבר על כלי ניהול סיכונים, נכון?
דני קורן:
במקביל לעבודה על גיבוש המוסמך והטעמת ההערות, המשרד גם כן עוקב אחרי מה שמתקדם בעולם בהקשרים האלה, כי גם הכלים לניהול סיכונים שקיימים בעולם עדיין בתהליכי בנייה בהקשרים האלה
דני קורן:
 גם לעניין מוקד הידע, זה פחות במסגרת שלי, אולי אנשי המשרד יידעו לפרט יותר, אבל יש איזשהו מהלך מול הגורמים הממשלתיים כדי להקים את אותו מוקד יידע במשרד שיוכל לבצע גם את הפעולות הנוספות שיוקצו בהקשר הזה
אורית פרקש הכהן:
מאוד חשוב, יופי
אורית פרקש הכהן:
 אני רק רוצה לומר שמאוד חשוב להוביל ולקדם את הנושא הזה
אורית פרקש הכהן:
 לטובת המאזינים, כלי לניהול סיכונים, כמו שלמדתי מאנשי המקצוע במשרד, זה בעצם סוג של רגולציה יותר קלה אל מול התעשייה שמסייעת לחברות, לתעשייה, כשהן נתקלות בשאלות שנוגעות לבינה מתי הן נכנסות לאזורים שדורשים יותר שקיפות, הסברתיות, אחריותיות ועוד, וזה כלי שהוא נפוץ ואליו הולכות הרבה מאוד מדינות, אבל אני חושבת שלאור ההאצה המאוד גדולה ולאור הזמן שחלף כדאי מאוד לתת גז על הדברים החשובים האלה
נירה לאמעי רכלבסקי:
הכוונה היא להשאיר לזירה השיפוטית את הפיתוח של הכללים בתחום הזה על הדברים הבסיסים? כלומר, איך אתם מצפים מבית המשפט לנהוג בתביעות נזיקיות שיתחיל להיות מוגשות?
אורית פרקש הכהן:
רגע, אני רק אעכב אותך כי פרופ' אורנה ברי נמצאת בזום
אורית פרקש הכהן:
 פרופ' אורנה ברי, היום בכירה מאוד בגוגל ועוסקת בנושא הבינה המלאכותית, הייתה מדענית ראשית הרבה מאוד שנים, פורצת דרך בתעשייה הישראלית ואישה מעוררת השראה
אורית פרקש הכהן:
 אני חושבת שמה שהיא רצתה להגיד לכולם זה שצריך לתת גז בנושא הזה ולהתקדם אתו, אבל אנחנו כמובן נשמע אותה
אורית פרקש הכהן:
 לצערי, עקב תקלה טכנית איינו מצליחים לשמוע אותה אך נשמע אותה בדיון הבא
אורית פרקש הכהן:
      הייתי רוצה לעבור לדובר האחרון מטעם הממשלה
אורית פרקש הכהן:
 עו"ד אמיר וסרמן, היועץ המשפטי של רשות ניירות ערך
אורית פרקש הכהן:
 נשמח לשמוע אותך כדוגמה איך התפיסה הזאת שיותר תחומי פעילות מסוימים בבינה מלאכותית עוסקים באתגרי הבינה המלאכותית ובכלל איך מה אתה חושב שכדאי שנדע ונבין ומהי העשייה שלכם בצוות הרגולטורים הפיננסיים בנושא הבינה
אמיר וסרמן:
צהריים טובים ותודה רבה על ההזמנה להשתתף בדיון
אמיר וסרמן:
 אני עומד בראש צוות שעוסק בבינה מלאכותית בסקטור הפיננסי יחד עם שרית פלבר ממשרד המשפטים
אמיר וסרמן:
 אני אספר בכמה מילים על הצוות שלנו
אמיר וסרמן:
 זה צוות שהוקם בתחילת השנה, יוזמה של מאיר לוין כאן ויתר הרגולטורים הפיננסיים
אמיר וסרמן:
 יש לנו חברי צוות ממשרדי האוצר והמשפטים, רשות התחרות, בנק ישראל, רשות שוק ההון ורשות ניירות ערך
אמיר וסרמן:
      עבודת הצוות באה בהמשך לשני מסמכי רקע חשובים, על מסמך אחד דיברתם, זה מסמך המדיניות בתחום הבינה המלאכותית בישראל שפורסם להערות ציבור והוא מסמך אסטרטגיה שמציג את הנושא עם תפיסה של אימוץ של עקרונות אתיים לשימוש בבינה מלאכותית וגם אמירה לגבי הצורך בבחינה של הרגולציה ע"י רגולטורים סקטוריאליים, שזה בעצם מה שאנחנו עושים
אמיר וסרמן:
 המסמך השני הוא מחקר שנערך לבקשת משרד המשפטים ע"י צוות של חוקרים מאוניברסיטת תל אביב שבו נסקרו השימושים האפשריים בבינה מלאכותית בסקטור הפיננסי וההתפתחויות ברגולציה הזרה בתחום הזה ולמעשה החוקרים ממשיכים לסייע לנו גם בעבודה הנוכחית
אמיר וסרמן:
     השאלה הראשונה היא למה להקים צוות שעוסק בבינה מלאכותית דווקא בסקטור הפיננסי
אמיר וסרמן:
 ראשית, זה תחום שצפויים להיות בו שימושים רבים ל-AI
אמיר וסרמן:
 זה תחום מפוקח שבו גם יש כלים קיימים לעסוק בפעילות הזו, ובתחומים מפוקחים, צריך לזכור, שהבחינה היא לא רק האם צריכים להיות כללים חדשים שיסדירו את הפעילות אלא גם האם יש חסמים, כלומר רגולציה קיימת שצריך להסיר כדי שהפעילות בכלל תתאפשר
אמיר וסרמן:
 תחום הפיננסיים הוא תחום שמורגל בשינויים טכנולוגיים ויש כאן עבודה משותפת של הרגולטורים הרלוונטיים כדי ללמוד ולהתמודד עם האתגרים באופן דומה, וכמובן בעולם ראינו יוזמות דומות של רגולטורים פיננסיים, זאת אומרת, אנחנו בחברה מאוד טובה מבחינת ההסתכלות והכניסה לתחום הזה בעת הנוכחית
אמיר וסרמן:
      הצוות הונחה בשלב הראשון להתמקד בשימושים שקשורים לחיתום של אשראי וביטוח, לניהול תיקי השקעות ולפעולות של ייעוץ
אמיר וסרמן:
 ייעוץ זה יכול להיות ייעוץ השקעות או ייעוץ פנסיוני
אמיר וסרמן:
 אנחנו חילקנו את העבודה ל-3 שלבים מרכזיים: השלב הראשון הוא שלב של למידה, שבו בדקנו מה כל גורם, כל רגולטור, עשה בנושא הזה עד היום – כל גורם עשה מעט – מפגשי למידה על הטכנולוגיה, למידה של ההתפתחויות הרגולטוריות בחו"ל, חלקן נזכרו כאן
אמיר וסרמן:
     השלב השני, שאנחנו כעת נמצאים בו, זה שיח עם התעשייה
אמיר וסרמן:
 פרסמנו קול קורא והתחלנו לקיים מפגשים עם גורמים קיימים בתחום הפיננסי ועם מגזר ההייטק
אמיר וסרמן:
 השלב השלישי יהיה התכנסות לדיונים והמלצות, שזה אמור לקרות לקראת סוף השנה
אמיר וסרמן:
 לתחושתנו, הצוות פועל בעיתוי המתאים
אמיר וסרמן:
 הרעיון להקים אותו היה מעט לפני המפץ הגדול של צ'אט GPT וזה עיתוי פנטסטי ללמוד את הנושא ולהיכנס אליו גם מבחינה רגולטורית
אמיר וסרמן:
 אנחנו מרגישים שיש כאן גם שיתוף פעולה שהוא לא קורה כל יום בין הרגולטורים הפיננסיים, בין כל גורמי המדינה שרלוונטיים לתחום שלנו, כדי להשיג את התוצאות הנכונות
אורית פרקש הכהן:
אתה יכול לפרט את סיכוני ה- AIשבהם אתם תתמקדו למשל?
אמיר וסרמן:
הם נסקרו כאן קודם והם באמת נובעים מכך שפעולות שבוצעו בעבר ע"י בני-אדם יבוצעו ע"י מכונות
אמיר וסרמן:
 אפשר לקחת לדוגמה את תחום האשראי, תחום שמאוד מדובר למשל בארצות הברית - - -
אורית פרקש הכהן:
מתן הלוואות
אמיר וסרמן:
הסיכונים שמדברים עליהם בדרך כלל הם סיכונים של הטיות, סיכונים של הסברתיות, מודל שעובד בקופסה שחורה, כיצד ניתן להבין אותו, סיכונים שקשורים לסייבר, לפרטיות
אמיר וסרמן:
 יש שורה של סיכונים שמקובל לדבר עליהם בסקטור הפיננסי
אמיר וסרמן:
 אני כן אגיד שבגלל שמדובר בתחום מפוקח יש כנראה גם כלים טובים יותר להתמודד עם הסיכונים
אמיר וסרמן:
 אני מניח שבוועדה אתם תדברו גם על פעילויות שהן לא מפוקחות בכלל, פעילויות שהן ברשת, פעילויות שלא נמצאות תחת מסגרת
אמיר וסרמן:
 כשיש מסגרת קיימת המיטיגציה או ההתמודדות יכולה להיות טובה יותר
אורית פרקש הכהן:
 קודם כל, אני חושבת שזו דוגמה מצוינת
אורית פרקש הכהן:
 צריך עוד צוותים כאלה, מאיר, בתחומים נוספים, ודני והמשרד כמובן, שתובילו בנושא הזה
אורית פרקש הכהן:
 זה באמת מעניין
אורית פרקש הכהן:
 הינה למשל דוגמה לבינה מלאכותית שכשהיא תמפה אדם ותקבע או תעשה קריטריונים לתנאי ריבית ושיעור ריבית, היא תגיד: רגע, מי האנשים שאנחנו רגילים שמשלמים ועומדים בתשלומים וכו', וכאן בדיוק יכולים להגיע להטיות שאנחנו חוששים מהן
אורית פרקש הכהן:
 מה סטטוס העבודה הזו?
אמיר וסרמן:
אנחנו בשלב השני, כמו שאמרתי, של עיבוד הערות שקיבלנו בקול הקורא, ויותר מזה, מפגשים גם עם אנשים שהגיבו לקול הקורא וגם גורמים שלא הגיבו ואנחנו רוצים לפגוש
אמיר וסרמן:
 זה השלב של השיח עם התעשייה
אמיר וסרמן:
 במקביל, כמעט כל שבוע יש פרסומים חדשים בנושא של הבינה המלאכותית באופן כללי וגם בתחום הפיננסי אז אנחנו ממשיכים לעקוב, לדבר עם רגולטורים בחו"ל
אמיר וסרמן:
 זאת פעילות מאוד נמרצת בתקופה הזו
אורית פרקש הכהן:
 גאיה הררי, בבקשה
גאיה הררי הייט:
שמי גאיה הררי, אני ראש תחום מדיניות ורגולציה ב-SNPI
גאיה הררי הייט:
 אנחנו מכון מדיניות ומחקר שמבקש לשמר ולקדם את המובילות הטכנולוגית בהייטק הישראלי
גאיה הררי הייט:
 אנחנו נמצאים בקשר עם הרבה מהגורמים החשובים שנמצאים כאן סביב השולחן ועושים עבודה מאוד משמעותית בתחומים של בינה מלאכותית, אבל חשוב לנו גם רגע לעצור ולהגיד שהעולם נמצא בתחרות מאוד מאוד גדולה בתחום הזה
גאיה הררי הייט:
 כולם רוצים להפוך להיות מעצמות AI כי ההזדמנויות הן עצומות והשאלה של מה יעשה, כמה יעשה ומתי יעשה זה מה שיקבע אם אנחנו נהיה או לא נהיה AI Nation
גאיה הררי הייט:
       ב- SNPIאנחנו מסתכלים על זה מכמה זוויות ואני אבקש להגיד מה לדעתנו הדברים החשובים והדחופים ביותר לעשות בכל אחת מהסוגיות
גאיה הררי הייט:
 הדבר הראשון זה העולם של הובלה טכנולוגית, מובילות, והאם אנחנו נצליח באמת לשמר אותה
גאיה הררי הייט:
 זיו התייחס לכך שעל פי המדדים אנחנו באמת מאוד טובים במו"פ וקצת פחות טובים באסטרטגיה ממשלתית ובתשתיות והוא גם הציג הרבה מהפעילות החשובה שתוכנית הבינה הלאומית הולכת לעשות ועל התוכנית של פורום תל"מ
גאיה הררי הייט:
     הפעימה השנייה של פורום תל"מ כוללת הרבה מאוד עשייה אבל לא הרבה מאוד כסף, וכן חשוב להגיד שאנחנו דיברנו לפני כמה שנים – פרופ' ישראלי דיבר על 10 מיליארד שקלים לבינה מלאכותית, אורנה ברי דיברה על 5 מיליארד, יו"ר הוועדה בתפקידה כשרה ניסתה להגדיל את התקציב למיליארד וחצי, אם אני זוכרת נכון, 2 מיליארד, וכרגע אנחנו מדברים על 500 מיליון שקלים שנכנסו בפעימה השנייה ובאמת ישמשו לכל הדברים המאוד חשובים שזיו דיבר עליהם והוא מקדם
גאיה הררי הייט:
      אנחנו רוצים להגיד שאם ישראל רוצה להיות מעצמה בתחום היא צריכה להשקיע משאבים הולמים
גאיה הררי הייט:
 לדבר הזה יש גם חשיבות מאוד גדולה במסר הבין-לאומי ועצם העובדה הזו יכולה למשוך הרבה הזדמנויות לישראל
גאיה הררי הייט:
 אנחנו גם מאמינים שהשותפות של ממשלה ושוק הפרטי בישראל היא זו שיצרה את התעשייה הכול-כך משגשגת, ודווקא כשאנחנו בתחילה של גל טכנולוגי חדש הבנייה של תשתיות היא הכי חשובה והמעורבות הממשלתית היא הכי חשובה והדברים שייעשו או לא ייעשו עכשיו הם דרמטיים
גאיה הררי הייט:
     שני הדברים העיקריים שאנחנו חושבים שצריך להשקיע בהם זה תשתיות והון האנושי
גאיה הררי הייט:
 זה מאוד מתחבר לעשייה שאנחנו שומעים עליה כאן
גאיה הררי הייט:
 בתשתיות צריך להגיד שאנחנו חושבים שכוח מחשוב צריך להתחיל להיתפס בממשלה כמשאב בסיסי
גאיה הררי הייט:
 זה חשמל
גאיה הררי הייט:
 זה הדבר הכי בסיסי שעליו אחר כך אנחנו יכולים לפתוח את כל הטכנולוגיות ולפתח אותן
גאיה הררי הייט:
 המשאב הזה צריך להיות מאוד-מאוד זמין וזמין בצורה שוויונית שמעודדת תחרותיות
גאיה הררי הייט:
 הדבר הזה בעינינו הוא ממש קריטי
גאיה הררי הייט:
      הסוגיה השנייה, שבהרבה מובנים קשורה לסיפור של תשתיות, זה הון אנושי
גאיה הררי הייט:
 ישראלים כבר היום מובילים בעולם את המהפכה של הבינה המלאכותית אבל לא בהכרח הם עושים את זה בישראל
גאיה הררי הייט:
 אנחנו מאוד מאוד רוצים להחזיר לכאן טאלנטים, למנוע בריחת מוחות, לפתח כאן את ההון האנושי שיוביל את העולם הזה, ובשביל זה באמת צריך תשתיות, אקדמיה, תמריצים ובקנה מידה מאוד מאוד גבוה ודרמטי
גאיה הררי הייט:
      הצד השני זה הצד של סיכונים וכאן אנחנו מתחברים לשיח המאוד חשוב על רגולציה וחקיקה
גאיה הררי הייט:
 אנחנו באמת נמצאים בשבוע מאוד דרמטי בעולם, אירופה בדיוק בשיא העבודה על ה- AI Actועל חוק הבינה המלאכותית האירופי
גאיה הררי הייט:
 פה זה לא אירופה ואני חושבת שזה טוב
גאיה הררי הייט:
 דווקא זה שהמסמך שיו"ר הוועדה, משרד המשפטים, ובגילוי נאות אני אספר שגם אני הייתי קשורה אליו בתפקידי הקודם - - -
אורית פרקש הכהן:
נכון, גאיה עבדה איתי במשרד החדשנות וסייעה לכתיבת מסמך המדיניות
גאיה הררי הייט:
אז חשוב לי להגיד שדווקא העובדה שמאז אוקטובר עדיין הוא לא אושר סופית ועדיין משלימים את העבודה המאוד חשובה של שמיעת הערות הציבור, וכולנו ראינו כמה קרה בחצי שנה הזו – הפיצוץ הגדול של ה- Generative AIושל צ'אט GPT – מראה לנו שהמחוקק לא יצליח להדביק את הקצב של הרגולטור, בטח באקלים הישראלי, באי היציבות הישראלית, וראינו גם כמה קשה היה להעביר את תקנות הפרטיות
גאיה הררי הייט:
 כנראה שחקיקה זו לא הדרך לישראל
גאיה הררי הייט:
      אבל כן חשוב להגיד – וכאן אני מאוד מתחברת למה שנאמר פה בחדר וברור גם שגורמי המקצוע מבינים את החשיבות – האלטרנטיבה של ואקום היא לא טובה
גאיה הררי הייט:
 אם ישראל אכן תבחר לאמץ את מסמך המדיניות וללכת אל העולם של רגולציה חכמה, זה תפקיד שהוא הרבה יותר קשה ומסובך מלחוקק חוק, כי הוא דורש שכל הממשלה תשב בשיתוף פעולה עם גורמי ציבור, עם אקדמיה ותעשייה, ותעשה רגולציה שהיא חכמה, גמישה ויצירתית
גאיה הררי הייט:
 הדבר הזה באמת דורש תיאום ממשלתי מאוד מאוד גדול ועבודה מאוד מאוד חשובה, שאם לא יעשה כל מה שנאמר על כלי לניהול סיכונים ועל מוקד ידע, התוצאה עשויה להיות ואקום
גאיה הררי הייט:
     ואקום, מעבר לזה שהוא לא שומר על הזכויות והאינטרסים של האזרחים, הוא גם מאוד לא טוב לתעשייה
גאיה הררי הייט:
 גם התעשייה רוצה ודאות והחשש בוואקום הוא שהוא יתמלא בצורה שלילית
גאיה הררי הייט:
 אז אנחנו מאוד מעודדים את השיח שאנחנו שומעים כאן בשולחן ומקווים שגם הממשלה החדשה תבין שהדבר הזה דורש משאבים, גיבוי פוליטי והרבה מאוד תמיכה בגורמי המקצוע בשביל להשלים את המהלך השאפתני הזה שאנחנו נהיה המדינה הזו שעושה רגולציה חכמה, גמישה וטובה
גאיה הררי הייט:
 אני כן אגיד בנקודה שיכול להיות שצריך לשקול שבתחומים מסוימים ממוקדים כן תהיה רגולציה או חקיקה ייעודית
גאיה הררי הייט:
 סין עושה את זה ועם כל הביקורת על סין דווקא בבינה מלאכותית היא מעצמה וגם בחקיקה של בינה מלאכותית, אז אולי יש כמה תחומים שאפשר כבר עכשיו להתחיל לחשוב לתת להם מענה חקיקתי
גאיה הררי הייט:
      הדבר האחרון זה הסיפור של הטמעה במערכות הציבור, מתי כולנו נתחיל להרגיש שאנחנו חיים וחיות ב- AI Nation, וגם כאן מקווים שהעבודה תיעשה בצורה דרמטית ומורגשת ובאמת מקווים להסתכלות אסטרטגית, סנכרון ממשלתי, תקציבים, מאמצים שיבטיחו שנהיה AI Nation
גאיה הררי הייט:
 תודה רבה על העבודה
גאיה הררי הייט:
 מקווים שהיא תמשיך
אורית פרקש הכהן:
 בבקשה, פרופ' מארק פייגן, בבקשה
מארק פאגן:
(מדבר בשפה האנגלית, להלן תרגום:)     מארק פאגן מאוניברסיטת הווארד הפקולטה על שם קנדי, בית ספר לממשל, מנהל התוכנית לרכב אוטונומי
מארק פאגן:
 בנוסף, אני עוסק גם בבינה מלאכותית
מארק פאגן:
 אני מעריך ומודה על הזמנתכם
מארק פאגן:
      המיקוד של הערותיי הם לטווח הקצר ולא הטווח הארוך
מארק פאגן:
 אני מאמין שהממשלה נמצאת בעמדת מפתח בטיפוח מערכת יעילה של בינה מלאכותית
מארק פאגן:
 ישנם  מהלכים שניתן לעשות כרגע כדי להפוך זאת למציאות
מארק פאגן:
      אני  אציג ארבע קטגוריות בהן ממשלות יכולות לפעול כדי לתרום לפיתוח בינה מלאכותית בארץ ישראל: 1
מארק פאגן:
 להיות מנחה
מארק פאגן:
 2
מארק פאגן:
 להיות מנהל סיכונים
מארק פאגן:
 3
מארק פאגן:
 להיות מפשר 4
מארק פאגן:
 להיות משתמש
מארק פאגן:
      אני אסביר כל אחד מהסעיפים
מארק פאגן:
 בתפקיד המנחה, לממשלה יש את היכולת לשכנע ולהביא את כל הגופים יחד להידברות: ממשלה,   מגזר פרטי, חברה אזרחית
מארק פאגן:
 אנחנו לא יכולים להצליח לקדם את הבינה מלאכותית רק על ידי חלק מהגופים
מארק פאגן:
 החלפת המידע תוביל לשינוי
מארק פאגן:
 לממשלה יש את היכולת לשכנע את כל הצדדים
מארק פאגן:
 אתן לכם דוגמא מהעולם שלי: אנחנו מביאים יחד בהאקת'ון את כל גורמי הממשל, הסקטור המוניציפאלי, המגזר הפרטי, החברות המפתחות, המשתמשים בטכנולוגיה, חברות שעוסקות בניידות, אקדמיה ועוד סביב שולחן אחד
מארק פאגן:
 במשך 24 שעות אנחנו דנים בנושאים ספציפיים, כל פעם בנושא אחר, כגון: בטיחות, איכות סביבה, פרטיות ועוד
מארק פאגן:
 קבוצת האנשים הללו יכולים להוביל לשינוי
מארק פאגן:
 בנוסף, הממשלה מחזיקה בתפקיד של מוציאה לפועל, מממנת מחקרים, ומממנת במקום שהשוק קטן מידי כדי להביא משקיעים
מארק פאגן:
 למשל בנושא תחנות טעינה, כיום אין עדיין רווח לחברות והן לא רוצות להשקיע ולכן  הממשלה יכולה להשקיע ולגרום לזה לקרות
מארק פאגן:
      בתפקיד השני שכבר חלק דיברו עליו, הממשלה כרגולטור
מארק פאגן:
 אני רואה זאת כניהול סיכונים יותר מאשר רגולטור
מארק פאגן:
 אני חושב שהממשלה נמצאת בתפקיד של ניהול סיכונים יותר מאשר לכתוב רק תקנות וחוקים
מארק פאגן:
      בתחום הבינה המלאכותית אנחנו ניצבים מול חדשנות וזה שונה מרגולציה בעבר
מארק פאגן:
 ישנו ספקטרום רחב איך אתה יוצר רגולציה או שליטה בתחום של חדשנות
מארק פאגן:
 בקצה האחד יש את החופשיות לפתח כאשר הסיכון הוא מינימלי לאזרח
מארק פאגן:
 לאחר מכן יש שלב שאנו עוברים למצב שבו אנחנו צריכים ליצור רגולציה חדשה שלא הייתה קיימת בעבר ובקצה השני של הספקטרום אנחנו חוסמים
מארק פאגן:
 זו חדשנות שאנחנו לא יכולים לקדם בשלב זה, למשל: הנדסה אנושית מתאים למודל זה
מארק פאגן:
      כדי להסביר לכם, אקח אתכם שוב לעולם של הרכב האוטונומי ולמידע הנאגר בתחום זה
מארק פאגן:
 במקרה זה יש לנו ארבעה תחומים: 1
מארק פאגן:
 מידע על הרכב עצמו: מהירות, כמה זמן לוקח לטעון ועוד
מארק פאגן:
 בתחום זה אין לממשלה תפקיד ויש אור ירוק לצבור נתונים ומידע
מארק פאגן:
 מידע שהרכב האוטונומי קולט תוך כדי נסיעה: תמרורים, צמתים ועוד
מארק פאגן:
 למידע זה יש שימוש גם למפעיל וגם לממשלה ואנחנו משתמשים ברגולציות הקיימות
מארק פאגן:
 מידע על האנשים שבתוך הרכב- הנוסעים: בכל רכב אוטונומי יש מצלמה
מארק פאגן:
 נשאלת השאלה של מי המידע הזה? וכאן צריך רגולציות חדשות
מארק פאגן:
 4
מארק פאגן:
 הרכב האוטונומי אוסף מידע במצלמה על המתרחש ברחוב
מארק פאגן:
 המפעיל של המכוניות הללו אוגר מידע רב לגבי האנשים ברחוב
מארק פאגן:
 עולה כאן שאלה מעניינת: האם יש כאן רגולציה חדשה שצריך לנסח?  או חייבים לעצור וכאן זה קו אדום
מארק פאגן:
  זו דוגמא לאתגרים הנציבים בפני מפעילי הרכב האוטונומי
מארק פאגן:
     לסיכום,  ה- Sam Boxes הוא מודל מעולה מכיוון שהוא  מאגד ביחד את כל הגופים הקשורים לנושא מסוים, ויוצר שיח משמעותי ומוביל לשיתופי פעולה
מארק פאגן:
    	התפקיד השלישי של ממשלות הוא להיות מפשר
מארק פאגן:
 הבינה מלאכותית הוא מרכיב אחד בעולם
מארק פאגן:
 אתן לכם שוב דוגמא  מרכבים אוטונומיים
מארק פאגן:
 לרכבים אלו יש  אפשרות להוריד באופן דראסטי את הנפגעים והמתים בתאונות דרכים
מארק פאגן:
 בארצות הברית מתים 34 אלף אנשים בשנה מתאונות
מארק פאגן:
 הרכבים האוטונומיים יורידו את מספר המתים בחצי או אף יותר
מארק פאגן:
 אבל במקביל שימוש ברכבים האוטונומיים יצרו תופעות משמעותיות אחרות
מארק פאגן:
 רכבים אלו ימחקו תעשיות שלמות של עבודה: למשל בארצות הברית ארבעה מיליון אנשים מתפרנסים מנהיגה
מארק פאגן:
 העבודות הללו יכולות להימחק
מארק פאגן:
  תפקיד הממשלה לראות התמונה הרחבה ואיך מביאים למיקסום התועלת לחברה
מארק פאגן:
      הנקודה האחרונה שאני רוצה להתייחס, היא תפקיד המדינה כמשתמש בבינה מלאכותית
מארק פאגן:
  למשל בתחומים של בטחון ובטיחות- ישראל מאוד מצליחה
מארק פאגן:
 ניתן לשימוש בזה לבריאות, לאיסוף מיסים ועוד תחומים רבים
מארק פאגן:
 השימוש בבינה מלאכותית הוא בלתי נגמר וניתן להשתמש בזה כבר היום
מארק פאגן:
         לסיכום, כיצד הבינה מלאכותית יכולים לתת לנו מושג מה יהיה בעתיד
מארק פאגן:
 זו טכנולוגיה חדשה
מארק פאגן:
 מתי נגיע למיליון לקוחות
מארק פאגן:
 הכול קורה מהר והסבירות גבוהה שהדברים יתפתחו באופן לא צפוי
מארק פאגן:
      אני מציע שני כלים: 1
מארק פאגן:
 System dynamic – מערכת דינמית, שרואה את כל ההיבטים ולא מערכת צרה שמסתכלת על תחום ספציפי 2
מארק פאגן:
 הכנת תרחישים מגוונים למצבים אפשריים
מארק פאגן:
 מה יכול לקרות בעולם הלא ודאי הזה
מארק פאגן:
      אני מודה לכם על הזמן שהקדשתם לי
אורית פרקש הכהן:
תודה לך על הדברים והצפת האתגרים שאנו ניצבים בפניהם ואני מקווה שנוכל לדון בזה בדיונים הבאים
אורית פרקש הכהן:
 המטרה של הדיון הראשון בנושא זה היא הרמת הדגל לקדמה הזו שאנו צריכים לשאוף אליה
אורית פרקש הכהן:
 אני מקווה שנוכל להתייעץ איתך גם בעתיד
אורית פרקש הכהן:
          תודה רבה
אורית פרקש הכהן:
 אני באמת מעריכה את זה
אורית פרקש הכהן:
 נדבר על אותם הדברים, הסיכונים וההזדמנויות ועל העובדה שהמדינה צריכה להיות עם תפקיד מאוד אקטיבי כי היא צריכה לתרחש – זה מה שהוא מתכוון ב- scenario planning – את כל האדוות של ההשפעה שתהיה לדבר הזה, להיערך מצד אחד אבל גם להעצים את הפוטנציאל שיש לדבר הזה לשנות את החיים של כולנו לטובה
אורית פרקש הכהן:
 חבר הכנסת יאסר חוג'יראת, בבקשה
יאסר חוג'יראת:
שלום לכולם, דיון מעניין
יאסר חוג'יראת:
 רציתי לשאול תחילה האם יש בחדר ערבים או נציגים של החברה הערבית?
איתן לבני:
אנחנו משרתים את כל הציבור
יאסר חוג'יראת:
האם יש חרדים? אין
יאסר חוג'יראת:
 הנושא של בינה מלאכותית זה נושא מאוד חשוב, הוא בעצם העתיד של ההתפתחות, לא רק בתעשייה, לא רק בהייטק אלא בכל תחומי החיים, גם בחינוך, ברווחה וכו'
יאסר חוג'יראת:
 אני חושב שמדובר כאן על ההון האנושי וחשוב מאוד – אני רוצה לשים זרקור – על הנושא החברתי
יאסר חוג'יראת:
 כדי להתקדם בכל נושא הבינה המלאכותית, בכל התחומים שבתוכה, חייבים בצורה כזו או אחרת לשלב גם את האוכלוסיות המוחלשות, גם החברה הערבית וגם החברה החרדית
יאסר חוג'יראת:
 זה חשוב מאוד
יאסר חוג'יראת:
 זה נושא שצריך להתייחס אליו בחשיבות וצריך לקחת אותו לתשומת הלב, כל נושא ההכשרות
יאסר חוג'יראת:
     מצד השני, אנחנו כן רוצים להתקדם
יאסר חוג'יראת:
 אני מכיר יותר את הנושא המדעי, רפואה מותאמת אישית, כי אני בא מהתחום
יאסר חוג'יראת:
 יש הרבה דאטה, יש הרבה מידע וחשוב לשמור אותו ולנצל אותו בשביל להתקדם
יאסר חוג'יראת:
 הדבר החשוב הוא גם שצריך בלמים ואיזונים בכל ההתפתחות של הבינה המלאכותית
יאסר חוג'יראת:
 חשוב מאוד תמיד לשמור גם על הפרטיות
יאסר חוג'יראת:
 שמעתי את הייעוץ המשפטי, אני בעד אולי ייעוץ סקטוריאלי ולא רוחבי כי לכל תחום צריך לתת את הבלמים בצורה כזו או אחרת
אורית פרקש הכהן:
 ליאת גלזר, גוגל, בבקשה
ליאת גלזר:
שמי ליאת גלזר, אני מנהלת קשרי ממשל ומדיניות ציבורית בחברת גוגל
ליאת גלזר:
 אנחנו שמחים על ההזדמנות להגיע ולהשתתף בשיח הזה וקצת לחלוק את התפיסה שלנו בחברה לגבי בינה מלאכותית
ליאת גלזר:
 הרבה מהדברים נאמרו כאן ואחד הדברים המרכזיים שנאמרו זה שהשיח הזה הוא שיח משותף והדרך הנכונה לנהל אותו היא באמת בפורום כזה של שולחן עגול
ליאת גלזר:
 זה לא רק שיח של ממשלה, זה לא רק שיח של תעשייה, זה לא רק שיח של אקדמיה, וזה משמח אותנו שהגופים שמובילים את התהליכים הממשלתיים באמת מכירים בכך
ליאת גלזר:
 שמחתי על עוד כמה דברים שעלו כאן בדיון וזה שהדיון לא עסק רק ברגולציה ובסיכונים אלא גם בהזדמנות
ליאת גלזר:
      אנחנו לאחרונה, בגוגל, פרסמנו כמה מסמכים בנושא שעוסקים בתפיסה שלנו של מהי המסגרת הנכונה לגבש מדיניות בתחום הזה של בינה מלאכותית
ליאת גלזר:
 מכיוון שאנחנו כחברה עוסקים בזה, זו העבודה שלנו, אנחנו AI-first company כבר כמה שנים
ליאת גלזר:
 נכון שהיום כולם מדברים על Generative AI אבל ב-AI יש המון המון דברים וכל המוצרים שלנו שאתם משתמשים בהם כוללים אלמנטים כאלה
ליאת גלזר:
 יש לנו פעילות מאד משמעותית בתחום של AI and Social Good, שמשתמשים במודלים של בינה מלאכותית לחיזוי אסונות או לטייב חוות דעת רפואיות
ליאת גלזר:
 לכן אצלנו בחברה אין ואקום, אבל זה לא אומר שאנחנו לא חושבים שיש מקום לממשלה להתערב ולהביע את עמדתה גם על ההזדמנות וגם על הסיכונים
ליאת גלזר:
     לאחרונה פרסמנו מסמך – אני יכולה לחלוק עם כולם את הקישורים, יש לנו אותו גם מתורגם לעברית – שמדבר על שלושה עמודי תווך (pillars) כשבאים להסתכל על מדיניות AI: אחד, המישור של ההזדמנות, זיהוי ומיצוי ההזדמנות הכלכלית שטמונה בבינה מלאכותית
ליאת גלזר:
 אני רוצה להגיד על זה רק דבר אחד קצר, שלאורך ההיסטוריה מדינות שבחרו לאפשר גישה מרבית לטכנולוגיה וניצלו אותה להשיג יעדים ציבוריים, במקום לנסות ולהגביל את ההתקדמות הטכנולוגיות, הן אלה שקצרו את פירות ההצלחה ואני חושבת שזה בוודאי נכון גם למישור של בינה מלאכותית
ליאת גלזר:
     הדבר השני הוא הנושא של קידום אחריות וצמצום הסיכונים
ליאת גלזר:
 דובר על זה רבות
ליאת גלזר:
 אני מתחברת מאד לדברים שמאיר דיבר
ליאת גלזר:
 בלי אמון של הצרכנים במערכות האלה לא יהיה שימוש בטכנולוגיה ואנחנו נאבד את הפוטנציאל
ליאת גלזר:
 הדבר האחרון זה הנושא של אבטחה ובטיחות
ליאת גלזר:
 הנושא של בינה מלאכותית הוא בעצם שחקן בשני הכיוונים – הוא גם יכול לשפר את היכולת ואת הכלים שיש בתחום האבטחה אבל מהצד השני גם מייצר סיכונים חדשים, כמו למשל הנושא של פייק, דיפ-פייק, ואנחנו מנסים לייצר כלים שייתנו יותר מידע על מנת להבין את המקור של התוצרים ושל המידע שאנשים שנחשפים אליו
ליאת גלזר:
 כאמור, אנחנו כאן להמשך שיח, היינו שותפים לשיח גם בשולחנות העגולים וגם בעת גיבוש המסמך וכל מי שירצה לקבל קישורים לכל המסמכים אני אשמח לחלוק אותם
ליאת גלזר:
 תודה
אורית פרקש הכהן:
 ד"ר יובל פינטר, מרצה באוניברסיטת בן גוריון, בבקשה
יובל פינטר:
תודה רבה על ההזדמנות ועל ההזמנה
יובל פינטר:
 אני מבין שזמני קצר אז אני לא אגע בכל הדברים שרשמתי לי
יובל פינטר:
 קודם כל, שמחתי לשמוע על המאמץ לגרום לעוד מידע יותר, יותר דאטה ממשלתי, פרוטוקולים וטקסטים ציבוריים להשתחרר בתור מידע שאפשר יהיה לאמן עליו מודלים בעברית בעתיד
יובל פינטר:
 זה משמח מאוד לשמוע ואני מקווה שזה באמת גם יקרה
יובל פינטר:
     רציתי לדבר על כך שבינה מלאכותית בסופו של דבר היא כלי בשימוש של בני-אדם, אנשים משתמשים בזה והרגולציה צריכה להתמקד כן בני-האדם שעושים בה שימוש
יובל פינטר:
 הטכנולוגיה לא אחראית לכלום בסופו של דבר וצריך להבין שזה משהו שהמשתמשים, כולל הגורמים הממשלתיים והציבוריים שעושים בה שימוש, צריכים לקבל על זה הכשרה מאוד מאוד נרחבת
יובל פינטר:
 הם אלה שצריכים לדעת אחר כך לעמוד בכללים ולהימנע מהחלטות שמתבססות על ההטיות למיניהן ששמענו עליהן פה במהלך הדיון
יובל פינטר:
 למשל, אחד הדוברים דיבר על כלי הסברתיות במונחים של מה מכונה חושבת
יובל פינטר:
 זה מונח שמאניש את האלגוריתמים, את המוצרים האלה, באופן בלתי מודע זה גם מסיר את האחריות מבני-האדם שמשתמשים במכונות האלה וכדאי להקפיד על המונחים בצד הזה של החקיקה והרגולציה
יובל פינטר:
 זה הדבר החשוב שרציתי לומר
אורית פרקש הכהן:
 עו"ד ניר גרסון, הרשות להגנת הפרטיות, גוף מאוד חשוב ורלוונטי לדיון הזה
ניר גרסון:
כן, בהחלט
ניר גרסון:
 גברתי יושבת-ראש, הרשות להגנת הפרטיות אכן היא גוף רלוונטי לנושא
ניר גרסון:
 היינו גם שותפים כמובן בגיבוש טיוטת המדיניות
ניר גרסון:
 שאלות של פרטיות, של אבטחת מידע, הן לא היחידות בנושא הבינה המלאכותית אבל הן בהחלט קיימות ונקודת המוצא היא שרגולציית ה- Data protectionודיני הפרטיות ממשיכים להתקיים גם בנוגע לטכנולוגיות בינה מלאכותית
ניר גרסון:
 בניגוד אולי לתחומים אחרים, בתחום שלנו אנחנו עוסקים באופן שוטף כבר הרבה זמן בדברים שכרוכים בסוגיות של בינה מלאכותית
ניר גרסון:
 הוזכרו פה מצלמות זיהוי פנים וטכנולוגיות שונות, אנחנו גם עוסקים בזה בשוטף כיוון שבתחום שלנו לא מדובר ברבולוציה, במהפכה, אלא באבולוציה, התפתחות שפשוט בתקופה האחרונה מתקדמת בטור הנדסי
אורית פרקש הכהן:
אתה יודע שלמשל החקיקה שתתקדם בפרלמנט האירופי יש בה פעולות פסולות ואסורות, כמו צילום סיטונאי, זיהויי פנים ביומטריים, במרחב הציבורי?
ניר גרסון:
נכון
ניר גרסון:
 זיהוי פנים בזמן אמת
ניר גרסון:
 יש ויכוחים גם בתוך הפרלמנט האירופי אז אני לא יודע על מה הצביעו בסוף בגרסה האחרונה אבל אכן, זאת אחת הטכנולוגיות שבסיכון גבוה
ניר גרסון:
 רציתי לחלוק אתכם שאנחנו כמובן מפרשים באופן שוטף את הדין הקיים בשים לב לסיכונים של בינה מלאכותית ולעקרונות של טיוטת המדיניות שהוזכרה כאן קודם, אבל במקביל אנחנו גם עובדים על מסמך שירכז את סוגיות הפרשנות של דיני הגנת הפרטיות הקיימים ביחס לסיכונים ולאתגרים המיוחדים של טכנולוגיית בינה מלאכותית
ניר גרסון:
      לצד הפעילות הפרשנית הזאת ושיתוף פעולה עם גורמים אחרים, אנחנו כמובן מקווים שהליכי חקיקה לתיקון חוק הגנת הפרטיות שנמצאים עכשיו על שולחן הכנסת, תיקון 14 לחוק הגנת הפרטיות שעליו הוחל דין רציפות כולל עדכונים ושיפורים של החוק שיכולים לתת מענה טוב יותר, גם לטיפול ומתן מענה לאתגרים של בינה מלכותית מנקודת מבט של Data protection וגם יש עבודת מטה נוספת שעליה עובדים במשרד המשפטים יחד אתנו, תיקון נוסף, שמכונה תיקון 15, שאם הוא יתקדם ויחוקק גם הוא ייתן מענים טובים יותר לסוגיות שעומדות עכשיו על הפרק
אורית פרקש הכהן:
 אושר עשור, חברת Auren Israel, בבקשה
עשור:
קודם כל, תודה רבה לכל המכובדים ועל השיח