מתכוננים להדוף התערבות חיצונית בבחירות בישראל

 

ועדת המדע והטכנולוגיה התכנסה לדיון בנושא התמודדות עם קמפיינים תודעתיים מבוססי בינה מלאכותית ובפרט בתקופת בחירות. מנכ״לית ועדת הבחירות הדגישה בדיון כי החוק הקיים מיושן וכן סמכויות הוועדה מוגבלות לחוק התעמולה.

 

מ"מ יו"ר הוועדה, ח"כ אורית פרקש הכהן: "קיים מגוון מאוד רחב של תופעות שאנחנו יכולים לפגוש מקמפייני תודעה של מדינות ויישויות זרות, הדלפות של מכשירים עם מידע רגיש, לזרוע כאוס, הרצת מועמד מסוים עד שיבוש תוצאות הבחירות וחבלה ביום הבחירות עצמו. יש צורך בחינוך לזיהוי פעילות מתואמת וחריגה, דיווח לפלטפורמות החברתיות על פרופילים חשודים ובעיקר היכרות עם האופן שבו בינה מלאכותית משפיעה על השיח וסט כלים לפעול בנושא. כמו כן יש צורך בהקמת ועדת משנה לבחינת חוק התעמולה, להביא יועצי AI שייעלו את העבודה של ועדת הבחירות, להוסיף תקנות בנושא התודעה הכוזבת לפני הבחירות וכן הרחבת חובת הסימון והשקיפות גם לתוכן יציר מכונה, וקביעת חובת סימון על תוכן שנוצר על ידי מנועי AI. כמו כן נדרשת הרחבת סמכויות יו"ר ועדת הבחירות לתת צווי מניעה גם נגד תעמולה המפרה חוקים שאינם מנויים ישירות בחוק דרכי תעמולה, מתן סמכות בקרה בזמן אמת למבקר המדינה וכן להסדיר באופן מקיף את אבטחת המידע שנאסף ומוחזק בידי המתמודדים".

 

אורלי עדס, מנכ״לית ועדת הבחירות :"כל נושא הבינה המלאכותית הוא דבר חדש אל מול חוק דרכי התעמולה, שהוא חוק משנת 1959, ובמהלך השנים נעשו בו רק תיקונים קטנים. נושא זכות התעמולה הפוליטית מצוי בלב ליבו של חופש הביטוי, ולכן אין מגבלות בתחום זה אלא אם כן הן נקבעו במפורש בחוק. לא נקבע שאסור לשקר בתעמולת בחירות, אלא רק שאסור להטות. סמכותו של יושב ראש ועדת הבחירות לדון בנושא היא באמצעות הוצאת צו האוסר שימוש בדרכי תעמולה, וזאת רק לאחר הפרה של אחד מסעיפי חוק התעמולה. כל מקרה נבחן לגופו ונתון לפרשנות ולהכרעה של השופט המכהן כיושב-ראש הוועדה, ואין החלטה תקיפה אחת החלה על מקרים אחרים. ליושב-ראש אין סמכות ליזום פנייה למניעת שימוש בטכנולוגיות, ולכן גם אין לו סמכות לדון בקמפיין המתנהל על ידי גורם חיצוני שאינו פרסום מטעם מפלגה.

 

אין לנו יכולת לעבוד מול טלגרם ישראל ו־X, אך אנו מקיימים קשר עם מטא ועם טיקטוק במטרה ליצור מחויבות שלהן למערכת הבחירות. לחברות אלו יש תובנות מניסיונן במערכות בחירות ברחבי העולם. בלתי ישים שנוכל לנקות את המרחב המקוון מקמפיינים ותכנים בעייתיים ופיקטיביים. גם אם מסירים קמפיין גדול, הוא יכול לעלות מחדש בתוך שעות.

 

זו מערכת הבחירות השישית שבה אנו מכנסים פורום רחב מאוד הכולל את כלל גורמי הביטחון במדינת ישראל, בהם השב״כ, מערך הסייבר, הרשות להגנת הפרטיות וגופים נוספים, במטרה להיעזר בכלים ובתובנות שרק הם יכולים להעמיד. אנו עובדים בשיתוף פעולה עם השב״כ, קיימנו מפגש משותף והקמנו צוות ייעודי בימים אלו. בכל מערכת בחירות אנו מקיימים דסק ומשל״ט ביום הבחירות, העוסקים בהתמודדות עם פייק ניוז. אנו מצויים בהליך לאיתור יועצים בתחום בינה מלאכותית שירכיבו פורום ייעודי לנושא, והוא מצוי על סדר היום. עד תקופת הבחירות יהיו תובנות נוספות, לרבות בהיבטי אתגרי הסייבר.

 

מבקר המדינה עורך דוח רחב העוסק בסוגיית ההתמודדות עם בינה מלאכותית, ובכלל זה בהיבטי מערכת הבחירות. המבקר פנה אלינו לפני כשנה וחצי ומאז לא שמענו ממנו. לאחרונה נחשפנו לכותרת רחבה, וביקשתי לקבל את הבסיס לדברים. להפתעתי התברר כי מדובר בדוח המצוי בשלב טיוטה, וכי המסקנות נגזרו ללא דוח סופי. דוחות ללא ביקורת סופית אינם מקובלים".

 

יהודה בן־יעקב, מנהל מדיניות במטא: ״הנושא מוכר לנו כבר שנים רבות, ואנו לומדים ממערכת בחירות אחת לשנייה. רק לאחרונה התקיימו כ־30 מערכות בחירות בעולם שבהן המערכות שלנו היו פעילות. יש לנו צוות ייעודי ומומחה המלווה מערכות בחירות ברחבי העולם ומוקצה לכל מדינה כאשר מתקיימת בה מערכת בחירות. משנת 2019 צוותים אלה הוקצו גם לישראל ונתנו מענה מהיר, נוסף על הניטור השוטף שהם מבצעים. הסרנו סקר שהעלה ראש הממשלה נתניהו במהלך מערכת הבחירות, בהתאם לצו של ועדת הבחירות. מנתוני החברה עולה כי עיקר השימוש הבעייתי אינו דווקא בבינה מלאכותית, אלא בלקיחת נתונים ושילובם בהקשרים שאינם נכונים.״

 

ליאור וינטרוב, מנהל המדיניות הציבורית בטיקטוק: ״אנו פועלים למנוע כל פגיעה בתהליך הדמוקרטי, ופועלים לכך שניתן יהיה לזהות מתי שיח הוא אותנטי ומתי הוא מלאכותי. אנו לומדים ומשתפרים כל העת, ותמיד מתקיים משחק של חתול ועכבר מול מי שמנסה להערים על המערכת. אצלנו אין קמפיין פוליטי ממומן של פוליטיקאים, מכל צד, באופן גורף, ורק ועדת הבחירות יכולה לפרסם. בתקופת הבחירות אנו פותחים חדר מצב במטרה לתת מענה מיידי לכל הסוגיות שעולות. אנו דרוכים ומביטים קדימה לקראת הבחירות בישראל כדי לזהות מגמות מתהוות. פיתחנו כלי אוטומטי המבוסס על בינה מלאכותית, היוצר תווית המעידה כי התוכן נוצר באמצעות בינה מלאכותית. גם כאשר גולש יוצר תוכן באמצעות כלי חיצוני, אנו מזהים זאת ומוסיפים את התווית המתאימה. הסרנו 97% מהחומרים שנוצרו תוך שימוש עצמאי בבינה מלאכותית, וברוב המקרים לא בוצעה בהם אפילו צפייה אחת, דבר המעיד כי המערכת פועלת כראוי וההסרה מתבצעת במהירות.״

 

עידן רינג, סמנכ״ל קהילה באיגוד האינטרנט הישראלי:"מבצעי הונאה קורים עכשיו תחת האף שלנו. אנחנו רואים סרטונים של שרים שממליצים על מניות, אלה דברים לא ממדינות אחרות הן כאן ועכשיו - לרבות מעורבות איראנית שאין סיבה שלא יחזרו על עצמם. אנחנו מוכרים כמדווחים לפלטפורמות, דיווחנו 5,000 פעמים השנה. לפני 3 שנים בבחירות האחרונות, פנינו למטא ושאלנו אותם מה אתם עושים, ולא קיבלנו תגובה, פנו עיתונאים ולא קיבלו תגובה. אי אפשר להגיד ׳אנחנו מכינים חדר מצב׳, ואז לגלות שהוא בדאבלין. כמה אנשים דוברי עברית יש שם? כמה דוברי ערבית? הנתונים לא שקופים. במדינות אחרות המצב הוא לא כזה. במדינות כמו ברזיל וגרמניה דווקא כן אומרים מה הם עושים, כמה כסף הם משקיעים, מה קורה בחדרי המצב. צריך לדרוש הרבה יותר מזה, לדרוש היערכות יעודית, יש לפלטפורמות כלים, הם יודעים לעצור קמפיינים שעולים מחדש. צריך לדרוש הרבה יותר תשובות״.

 

מיה אילני מנכ"לית מכון ברנדייס לחברה וכלכלה: "במולדובה בבחירות האחרונות בספ' 25, השקיעה רוסיה 250 מיליון דולר כדי להטות את הבחירות שם והיו כמה אירועי AI בקמפיין הזה. סרטון של יו"ר ועדת הבחירות מזוייף הגיעו ל800 מיליון חשיפות. נוצרו גם סרטוני בינה שהתחזו לחברות חדשות ונשלחו לחברות שעשו בדיקת עובדות מתוך מטרה להעמיס על הרשות ולייצר נראות שהכל מזוייף.

 

יונתן חסידים, מנכ"ל חברת סקופר: "מזהים מטרות שונות בקמפיינים ע"י רשתות זרות ועושים זאת בעיקר ביצירת כאוס. בעזרת הבינה המלאכותית הם מדברים עברית מאוד אותנטית ולכן רשתות ההשפעה הזרות הן גדולות בהרבה יותר. יש פעילות מתואמת סביב אירועים ביטחוניים וציבוריים. יש גם תבניות חריגות של פעילות פנימית ע"י שיתוף מהיר של ציוצים ע"י פוליטיקאים - תוך שניות מהפרסום רואים ש70% משיתופים הם מחשבונות בהודו, מצרים וקטאר. אם נצלול לתוך החשבונות האלו נראה כי יש כאלו שהם מצייצים 300 אלף ציוצים שנה שזוהי כמות מוגזמת ולא הגיונית".