ראש השנה מסמן בדרך כלל התחלות חדשות. כך גם השנה החדשה שעומדת לפתחנו, שתביא עמה את אחת ממערכות הבחירות החריגות שידעה ישראל - הראשונה שמתקיימת במלואה בעידן הבינה המלאכותית. מאז הפעם האחרונה שבה הלכנו לקלפי, ה - AI עשה קפיצת מדרגה עצומה: הוא כבר מסוגל לייצר בתוך שניות טקסטים, תמונות, סרטונים וקולות שקשה להבחין בינם לבין הדבר האמיתי, לנתח מידע על בוחרים ולהתאים להם מסרים אישיים - ואפילו להשפיע על המידע שהם מקבלים מהצ'טבוטים שהפכו לחלק מחיי היומיום.
היכולות האלה לא משנות רק את הדרך שבה מנהלים קמפיין. הן מעלות שאלות משפטיות ודמוקרטיות כבדות משקל: מה מותר למפלגות לדעת עלינו ולעשות עם המידע הזה? מי אחראי לסמן תוכן שנוצר באמצעות AI? כיצד אפשר להתמודד עם מניפולציות שמתבצעות בזמן אמת - ומה קורה כשהחקיקה פשוט לא מצליחה להדביק את קצב ההתפתחות הטכנולוגית?
לקראת השנה החדשה שוחחנו עם עו"ד ד"ר תהילה שוורץ אלטשולר, משפטנית וחוקרת, ראשת התוכנית לדמוקרטיה בעידן המידע ועמיתה בכירה במכון הישראלי לדמוקרטיה. בראיון היא מצביעה על שלושה מרחבים חדשים שבהם הבינה המלאכותית עלולה לשנות את כללי המשחק בבחירות: זיוף תכנים, אוטומציה של תהליכי שכנוע והרעלת צ'טבוטים - ומנסחת את הפער שמטריד אותה: "מצד אחד התפתחות טכנולוגית עצומה, ומצד שני, דיני בחירות משנות החמישים של המאה שעברה".
עו"ד ד"ר אלטשולר, מערכת הבחירות הקרובה תהיה למעשה הראשונה בישראל שמתקיימת במלואה בעידן הבינה המלאכותית. מה הופך את בחירות 2026 לשונות ממערכות הבחירות שהכרנו עד היום, ומה האיומים החדשים שהטכנולוגיה הזאת מביאה איתה?
"למעשה, נגיעה לבינה המלאכותית הייתה כבר בבחירות האחרונות. בסופו של דבר הרשתות החברתיות משפיעות מאוד על הפוליטיקה שלנו, והדרך שבה מונגש מידע לאנשים ברשתות נעשית דרך אלגוריתם - שהוא כשלעצמו מערכת בינה מלאכותית ששואלת את עצמה מה יעניין אותך לאור ההיסטוריה והרגלי הגלישה שלך, ומנסה להתאים לך תוכן. זה כבר קיים. ובכל זאת יש שלושה דברים חדשים, שבהם ההבדל בין מה שהיה לפני ארבע שנים לבין מה שיש היום הוא עצום.
הדבר הראשון הוא שמכונות יודעות ליצור תוכן - לג'נרט תכנים - ואנחנו כבר לא יודעים להבחין בין תוכן אותנטי לבין תוכן שהמכונה ייצרה. לפני שלוש שנים, כשנכנסו לחיינו המערכות הראשונות שיודעות לג'נרט טקסטים בעברית, הטקסט היה עילג וקל לזיהוי, וכל אחד ידע להגיד שמכונה כתבה אותו. היום זה כבר לא כך. אותו דבר לגבי תמונות: בהתחלה הן כללו שש אצבעות או שיניים לבנות מדי, וידענו להבחין. היום אי אפשר להבחין."
ואיפה זה בולט במיוחד?
"בזיוף קולות. קל מאוד היום לג'נרט קולות של אנשים. תארו לעצמכם תרחיש שבו אדם נכנס לקלפי, המערכת מזהה שהוא נכנס - כי שמות הבוחרים מועברים דרך היישומונים של המפלגות - ואחת המפלגות יודעת שמדובר במי שמתלבט בין שני מועמדים. כשהוא נמצא מאחורי הפרגוד הוא מקבל קובץ קול, כמו בוואטסאפ, פותח אותו, ושומע הודעה בקולו של מועמד שאומר: 'לאור הנתונים בסקרים החלטתי להסיר את מועמדותי, אני קורא לכם לתמוך במועמד אחר'. תרחיש אחר: אדם נכנס מאחורי הפרגוד ומקבל קובץ קול, כביכול בקולו של פוליטיקאי, שמנחה אותו להרים את הטלפון אל המצלמה שמעליו כדי שייראה כיצד הוא מצביע.
כך גם עם הדיפ-פייקים. אני לא יודעת אם טקסט אמיתי, לא יודעת אם תמונה אמיתית, לא יודעת אם סרטון אמיתי, ולא יודעת אם קובץ קול שקיבלתי הוא באמת מה שמישהו אמר או סתם פייק. זה לא היה בבחירות הקודמות. הטכנולוגיה כאן השתכללה מאוד. הכנסת ניסתה להתמודד עם זה והעבירה חוק שמחייב לסמן תכנים שנוצרו באמצעות AI. השאלה היא עד כמה יש בזה ממש, וכמה הגנה זה באמת מספק."
ומהו המרחב השני?
"מה שאני קוראת לו אוטומציה של תהליך השכנוע. בבחירות האחרונות המפלגות מקבלות כל הזמן רשימה של מי הגיע להצביע, כך שהן יודעות מי עוד לא יצא מהבית.
מה עשו פעם? הושיבו מוקדנים - אנשים שהתקשרו למי שרוצה להצביע, הציעו הסעה, אמרו שזה חשוב וגורלי. לכל מוקדן היה תסריט שיחה מוכן. אבל אדם אחד יכול להתקשר רק לאדם אחר בכל רגע, ואחר כך הוא מתעייף, צריך שירותים והפסקת אוכל. כשמכונה מתקשרת, היא יכולה להתקשר לאלף אנשים בבת אחת, והיום היא גם יודעת להתאים את התסריט תוך כדי השיחה.
ונניח שאני יודעת במערכת שלי שיש עכשיו שמונת אלפים איש שעוד לא באו להצביע בכפר סבא. אני חותכת אותם לאלה שיצביעו עבורי ולאלה שלא. את אלה שיצביעו עבורי אני רוצה לעודד להגיע לקלפי, אז אני שולחת להם סרטונים מתאימים. אני מזהה שלושים מתוכם שמתפללים בבית כנסת מסוים, ומבקשת מהגבאי - שכתב לי ביישומון שהוא רוצה להתנדב - שירים טלפון לאותם שלושים, יזמין אותם לאזכרה בבית הכנסת אחר הצהריים עם ארוחת ערב, ואחרי שיבואו יציע להם טרמפ לקלפי."
ומה קורה עם מי שלא מתכוון להצביע עבורך?
"עידוד הצבעה הוא חלק לגיטימי ממה שהמפלגות עושות. אבל מה קורה עם ארבעת האלפים שלא יצביעו עבורי? לי יש אינטרס שיישארו בבית. אז לאלף מהם אני שולחת סרטון שמראה תורים או מכות בקלפי. לאלף אחרים אני שולחת קובץ קול בקולו של ראש עיריית כפר סבא, שאומר שיש תקלה במערכת המחשוב של הקלפיות, שהעירייה בקשר עם מערך הסייבר ושהעניין אמור להסתדר בתוך שעתיים. ולאלף אנשים אני לא שולחת כלום.
ובגלל שאני יכולה לדעת בזמן אמת מי יצא להצביע ומי לא - כי המשקיפים בקלפיות מזינים את המידע הזה כל הזמן ומעבירים ליישומון, והבינה המלאכותית יושבת על היישומון - אני אבדוק את עצמי בעוד ארבעים דקות ואראה מה עבד: אלה שקיבלו את הסרטון על המכות, אלה שקיבלו את קובץ הקול של ראש העיר, או אלה שלא קיבלו כלום. זו אוטומציה של תהליך ההשפעה: מה שבעבר עשו אנשים ידנית נעשה עכשיו בקנה מידה חסר תקדים, והמכונה בודקת את עצמה כל הזמן. אם המסר עבד, אני שולחת אותו לעוד אנשים; אם לא, אני מתחילה לשלוח מסרים אחרים. את זה אי אפשר לעשות עם מוקדנים אנושיים."
אבל איך הבינה המלאכותית בכלל יודעת למי אני מתכוונת להצביע?
"אם תסתכלי על איך נראו יישומוני הבחירות של המפלגות כבר לפני ארבע שנים, תראי שם שמות של אנשים, מספרי תעודת זהות, כתובת, אזור, היסטוריה של פעילות ברשתות חברתיות, שאלה של השתייכות למפלגה, שאלה האם יצאת להצביע בבחירות האחרונות, תמיכה פוליטית - וכל דבר שאפשר לשים עליו את היד, כולל הערות מיתוג כמו "הבן שלו משרת ביחידה מסוימת" או 'לחיץ כמו בקבוק קטשופ'. זה קרה כבר לפני ארבע שנים. עכשיו תדמייני מה קרה לטכנולוגיה מאז: הבינה המלאכותית יודעת לקחת את המידע הזה, לייצר את הפרופיל שלך, להתאים לך את המסר ואת שעת המשלוח, לדעת אם המסר עבד, ואם לא - לשלוח אחר. והכול בקנה מידה עצום, בלי שעות עבודה של אנשים.
לדעת איך להשפיע עלייך, מתי ובאמצעות איזה מסר - זו אמנות. יש אנשים שמחליטים מראש במי יצביעו, יש כאלה שלא בטוחים אם יצאו להצביע בכלל, ויש כאלה שמחליטים ממש בשנייה האחרונה מאחורי הפרגוד. אפשר לדעת מי זה מי, וזה בדיוק מה שמכונות טובות בו. זו אמנות שהיום מכונה יודעת לעשות בהיקף אדיר."
הזכרת מרחב שלישי. מהו?
"צ'טבוטים. לפי נתוני איגוד האינטרנט הישראלי, רמת החדירה של צ'טבוטים בישראל - צ'אט-GPT, ג'מיני, קלוד ודומיהם - פשוט מטורפת. אנשים משתמשים בצ'ט גם כמנוע חיפוש וכמקור מידע, וגם כחבר וכיועץ. לא רק 'תרגם לי', 'תקצר לי', 'תכתוב בשבילי', אלא 'תחפש לי', 'תן לי הצעה טובה'.
מה יקרה אם ביום הבחירות, או שעתיים לפני סגירת הקלפיות, אשאל את צ'אט-GPT שלי אם מזייפים את הבחירות? לתשובה שהוא ייתן תהיה השפעה עצומה עליי. אם הוא יגיד 'מה פתאום, קשה מאוד לזייף בחירות בישראל' - זו השפעה אחת. אם יגיד 'כן, בוודאות מזייפים, הנה תראי מה קורה בקלפי הזאת' - זו השפעה אחרת לגמרי. ובגלל שהיחסים שלי עם הצ'טבוט הם אחד על אחד, את לא יודעת מה הוא ענה לי ואני לא יודעת מה הוא ענה לך. זה מקל מאוד על קמפיינים של השפעה, כי אין זמן שהתקשורת תגיע לזה. זה לא כמו סרטון שעף בכל הרשתות - כאן כל אחד מקבל את התשובה שלו."
מי יכול להשפיע על התשובות שהצ'טבוט נותן?
"מתפתחת עכשיו תעשייה שנקראת Generative Engine Optimization, שתפקידה בעצם להרעיל את הצ'טבוטים - לגרום לכך שכשהצ'טבוט מחפש תשובה על נושא שנוי במחלוקת, הוא ימצא דווקא את התשובה שמסדר האינטרנט רוצה שיקבל.
איך עושים את זה? מקימים אתרי דמה, כותבים בהם, מקימים פורומים מזויפים ברשתות חברתיות שאיש לא שמע עליהן, כי יודעים שהצ'ט מחפש מידע באינטרנט בדרך שונה ממנוע החיפוש של גוגל - הוא לא מחפש דברים שמיועדים לאנשים, אלא דברים שמיועדים לעיני מכונות. נניח שמישהו מחליט לעשות קמפיין ש'גנבו את הבחירות'- הוא יתחיל יומיים לפני ההצבעה להציף את הרשת באתרי דמה ובמחקרים מזויפים, לכתוב בפורומים שהוא יודע שהצ'ט ילך לחפש בהם וכו'. ואז, כשתשאלי את הצ'ט אם גנבו את הבחירות, הוא יגיד לך שכנראה כן. ואם קבוצה גדולה מאוד של אנשים תשתכנע שגנבו כאן את הבחירות - מכאן ועד מלחמת אזרחים הדרך קצרה."
ומעבר לזה, יש גם היבט של הקשר האישי בין אנשים לצ'טבוטים.
"בהחלט. אנשים מתחילים להשתמש בצ'ט כחבר וכיועץ, כי לצ'טבוטים יש יכולת גבוהה מאוד להבין רגשות, לפענח אותם ולהשפיע עליהם. יש שאומרים שהצ'ט חנפן, אבל הוא הרבה יותר מחנפן - הוא מבין מאוד את הסנטימנט הרגשי שלנו ויודע לתת לו מענה. נניח שאשאל אותו ביום הבחירות מה מזג האוויר, והוא יענה: 'הולך להיות חם מאוד, הייתי מציע לך להישאר כל היום ליד המזגן'. או שאשאל אותו מה כדאי לי לעשות היום, ללכת לים או לקלפי, והוא יגיד: 'אמנם ללכת לקלפי היא חובה אזרחית חשובה, אבל היה לך קשה כל כך בתקופה האחרונה, אני מציע שתלכי לשתות קפה'. היכולת של צ'טבוטים להשפיע על התנהגות אנשים גדולה עכשיו מאוד, כי האימוץ שלהם בארץ רחב מאוד, וכי אנשים לא יודעים מי מרעיל את הצ'טבוטים מאחורי הקלעים."
מה נעשה בחקיקה כדי להתמודד עם כל זה?
"כנגד המרחב הראשון יש את החקיקה החדשה שהכנסת חוקקה לפני התפזרותה, שמחייבת לסמן תוכן שהוא יציר מכונה. אבל זה לא עוזר למרחב השני וגם לא לשלישי. לכן, אחד הדברים שטענתי בחוות הדעת ששלחתי לוועדת הבחירות הוא שאסור לאפשר להוציא את נתוני המצביעים בזמן אמת מהקלפיות - לא כל כך משום שזה פוגע בפרטיות, אלא משום שהאפשרות לעשות על זה מניפולציה גדולה, כפי שתיארתי.
מדובר באירוע מורכב מאוד: מצד אחד התפתחות טכנולוגית עצומה, ומצד שני דיני בחירות משנות החמישים של המאה שעברה, שאין להם רלוונטיות לרוב דרכי התעמולה וההתנהגויות של היום. זה הופך אותנו, האזרחים, לפגיעים מאוד, כי לפוליטיקאים יש עניין שזה יישאר כך - כך הם יכולים לעשות מה שבא להם."
האם אנחנו ערוכים להתמודד עם התערבות של גורמים זרים דרך בינה מלאכותית?
"התשובה היא שלא. וצריך להבין דבר חשוב מאוד: כשאין כללים שמחייבים או מגבילים את הפעילות הפנימית, זה כשלעצמו מאפשר לגורמים זרים להיכנס. אם אפשר לעשות כאן מה שרוצים - לשלוח כמה חומרים גנרטיביים שרוצים, לבצע אוטומציה של תהליכי שכנוע ולהרעיל צ'טבוטים - אז כל מה שהמפלגות יכולות לעשות, יכולים לעשות גם גורמים זרים."
לסיום, מה הדברים שכל אזרח צריך לדעת כדי לזהות ניסיונות מניפולציה שבוצעו דרך ה-AI?
"התשובה שלי כנראה שונה ממה שהיית רוצה לשמוע. היית רוצה שאגיד שצריך לחדד את יכולות החשיבה הביקורתית שלנו ולהתאמץ. אבל התשובה שלי היא שאין לנו כמעט מה לעשות ברמת הפרט - הדברים האלה גדולים עלינו בעשר מידות. להשאיר את האדם הבודד בסוף התהליך ולהפיל את האחריות על כתפיו הוא אחד הדברים הכי לא הוגנים שיש. בשביל זה יש ועדת בחירות, בשביל זה אמורה להיות חקיקה. הפוליטיקאים לא רוצים להגביל את עצמם, כי הם רוצים לעשות מה שבא להם כדי לנצח, ואז אומרים לי 'קחי אחריות'. זה קצת כמו להגיד לי שסוכר מאוד לא בריא, ובה בעת לשים לי מול הפנים עוגות כל היום ולבקש שאקח אחריות.
השאלות האלה, שכל תכליתן לתת לאנשים תחושת ביטחון, הן תחושת ביטחון כוזבת: 'אני בטח יודעת שזה AI כי יש לי חשיבה ביקורתית מפותחת', אבל לא - אף אחד לא יכול להבחין. חייבים לסמן את זה עבורנו, חייבים להגביל את השימוש בדאטה, חייבים להגביל את הפרקטיקות המותרות לצורך שכנוע. להפיל את זה בסוף על הכתפיים שלי נותן לאנשים תחושת ביטחון כוזבת - והתחושה הזאת אינה הוגנת."
*המידע במאמר זה הינו כללי בלבד ואינו מהווה תחליף לייעוץ משפטי מקצועי
** חלק מהתמונות והתכנים המופיעים בכתבה זו הוכנו בעזרת מחוללי בינה מלאכותית. אם זיהיתם תמונה או תוכן כלשהו בו אתם בעלי זכויות יוצרים, אתם רשאים לפנות אלינו ולבקש לחדול משימוש בו, באמצעות כתובת המייל mailto:[email protected]
