חוקרים פיתחו שיטה לזיהוי בוטים ברשת, המבוססת על המאפיינים הייחודיים של דפוסי ההתנהגות האנושיים

בוטים חברתיים נהיו בשנים האחרונות צרה לא קטנה. אלו הם תוכנות אוטונומיות הפועלות ברשתות החברתיות, ומחקות התנהגות אנושית לצורכי תקשורת ואיסוף מידע. חלקם משמשים לצרכים לגיטימיים, כמו יצירת דיווחי חדשות אוטומטיים או למענה אוטומטי בשירות הלקוחות של בתי עסק ומוסדות. אולם יש גם גורמים שמשתמשים בבוטים החברתיים לצרכים פחות רצויים – למשל כדי להטות את דעת הקהל לקידום אינטרסים פוליטיים או כלכליים, ואפילו כדי להפיץ מידע כוזב. השימוש בהם נהיה טעון במיוחד בתקופת בחירות, כפי שנטען שנעשה במהלך הבחירות לנשיאות ארצות הברית בשנת 2016, או כשמסתייעים בבוטים כדי להפיץ טענות הפוגעות בבריאות הציבור, במיוחד בזמן מגפה.

חוקרים מלונדון ולוס אנג'לס טוענים במחקר חדש שבמסגרת המאמצים לאתר בוטים חברתיים ולהפסיק את פעילותם, לא נעשה מספיק כדי לאפיין בצורה ניתנת למדידה את ההתנהגות של הבוטים החברתיים, ולזהות עד כמה היא שונה מההתנהגות של אנשים ברשתות חברתיות כמו טוויטר. אם אפשר יהיה להבחין בצורה אמינה בין בוט למשתמש אנושי, יהיה קל יותר לזהות פעילות חריגה ולצמצם את השפעתה. 

החוקרים בחנו ציוצים של משתמשים אנושיים ושל בוטים בטוויטר, וניסו לאפיין דפוסי התנהגות שקיימים רק אצל בני אדם, כדי לפתח אסטרטגיה מוצלחת יותר לזיהוי הבוטים המתחזים. לשם כך הם מדדו את הנטייה של המשתמשים האנושיים ושל הבוטים החברתיים ליצור תוכן חדש ולקיים דיונים בנושאים אקטואליים בוערים כמו הצבעה בבחירות. הם התמקדו בכמה מאפיינים מדידים: מספר הציוצים החוזרים, ה"ריטוויטים", (העתקה של תוכן שפרסם משתמש אחר), תגובות לציוצים של משתמשים אחרים, תיוג של משתמשים אחרים ואורך הטקסט, ששימש מדד לכמות התוכן החדש שנוצר. 

את המדדים הללו הם הגדירו לתוכנת בינה מלאכותית והטילו עליה לאבחן מיהו משתמש אנושי ומיהו בוט חברתי. הם השוו את ממצאיה כאשר נעזרה בפרמטרים הללו או בלעדיהם, ובדקו אם התוכנה הצליחה לזהות יותר בוטים בעזרתם.

אילוסטרציה של אדם ובוט מתכתבים ביניהם | Kit8.net, Shutterstock
על מנת לצמצם את השפעת הבוטים, צריך קודם כל לאתר אותם ביעילות. אילוסטרציה של אדם ובוט מתכתבים ביניהם | Kit8.net, Shutterstock

תכונות אנושיות ייחודיות

המחקר העלה כי לדפוסי הפעילות של משתמשים אנושיים יש מאפיינים שלא קיימים אצל הבוטים, ואפשר אולי לייחס אותן לתכונות אנושיות כמו עייפות או סקרנות. משתמשים אנושיים נטו למשל להגביר בהדרגה את כמות הציוצים שלהם והתיוגים של משתמשים אחרים. החוקרים משערים שלאורך זמן המשתמשים נחשפים לעוד ועוד תגובות וציוצים, וזה מגדיל את הסיכוי שיגיבו לתוכן החדש שאליו נחשפו – כלומר יגבירו את האינטראקציה החברתית שלהם. 

לעומת זאת, המחקר העלה כי במהלך דיונים ארוכים (שיש בהם עשרים תגובות ומעלה), אנשים נטו לצמצם את אורך התגובות שלהם ככל שהדיון התמשך. הסבר אפשרי לכך יכול להיות שכעבור זמן מה בני האדם מתעייפים מהדיון או משתעממים ממנו, ולכן תורמים לו פחות תוכן חדש. שלא כמו בני האדם, בוטים חברתיים המשיכו להגיב בצורה דומה במהלך כל הדיון, בלי קשר לאורכו.

המודל החדש, שבחן מאפיינים הבודקים התנהגות ברשת לאורך זמן, הצליח להבדיל בין משתמשים אנושיים לבוטים טוב יותר ממודל שלא בדק אותם. מאחר שהתוכנות השולטות בבוטים החברתיים משתפרות בהתמדה בניסיון לדמות התנהגות אנושית, ייתכן שבעתיד נראה בוטים משוכללים יותר שיהיה קשה יותר לחשוף. מחקרים כאלה מאפשרים לנו להבין את הדינמיקה של ההתנהגות האנושית ברשת, הנבדלת מהתנהגות של בוטים, ואולי יסייעו לצמצם את המניפולציות שהם עושים על דעת קהל.