הבחירות בישראל ב-27 באוקטובר עשויות להפוך לאחת ההצבעות הגדולות הראשונות בעולם שמעוצבות בפועל על ידי בינה מלאכותית, וייתכן שהסיכון הגדול ביותר אינו זה שעליו מתמקדים הרגולטורים, דיווח The Times of Israel, בהסתמך על חוקרים הבוחנים את ההשפעה הפוליטית של הטכנולוגיה.
חלק ניכר מהשיח הציבורי התמקד בדיפייקים. יו"ר האופוזיציה יאיר לפיד הזהיר כי ניתן להציג לבוחרים סרטון משכנע שנוצר בבינה מלאכותית ובו הוא טוען בכזב שיקים ממשלה עם המפלגות הערביות. ועדת הבחירות המרכזית של ישראל הגיבה ביולי בהנהגת דרישות תיוג לחומרי בחירות שנוצרו בבינה מלאכותית. אך חוקרים טוענים שהאיום הזה, ככל שהוא אמיתי, הוא גם הקל ביותר לבוחרים להטיל בו ספק ברגע שהם יודעים לשים לב אליו.
הבעיה הקשה יותר, לדברי החוקר שי הרשקוביץ, היא מה שקורה בתוך הצ'אטבוטים שבהם כבר משתמשים כמעט 90 אחוז מהישראלים, לפי סקר של עמותת האינטרנט הישראלית מחודש מאי. טכניקות שמזריעות מידע ברשת במטרה ספציפית לעצב את האופן שבו מערכות בינה מלאכותית עונות על שאלות פוליטיות יכולות להטות בשקט את תשובת הצ'אטבוט לגבי מועמד או מפלגה, בלי שום מניפולציה גלויה שמשתמש יכול לזהות. 'שכבת האחזור המורעלת היא בעיה שאי אפשר' לאתר בקלות, אמר הרשקוביץ, בהשוואה לסרטון דיפייק שצופה יכול לפחות לבחון ביקורתית.
הבחירות המבוטלות ברומניה ב-2024 הן הדוגמה המזהירה שאליה חוזרים החוקרים שוב ושוב, שם מועמד קיצוני ימני שהיה עלום עד אז זינק בזכות תוכן מתואם שנוצר בבינה מלאכותית ופעילות בוטים, לפני שהתוצאות בוטלו כליל. הכללים הנוכחיים בישראל אינם מתמודדים באופן משמעותי עם סוג כזה של מניפולציה ברמת הצ'אטבוט, והרגולציה הקלה יחסית שישראל מפעילה על פלטפורמות טכנולוגיה, כאשר חברות ניצבות, לפי תיאור עמותת האינטרנט, בפני 'חוסר אחריותיות מוחלט' בהשוואה לכללים האירופיים, משאירה את הבוחרים חשופים יותר מאשר בדמוקרטיות רבות אחרות, לקראת הצבעה צמודה ומכרעת.
