אזהרה מדעית: מערכות אינטליגנציה מלאכותית נוטות ל"לחמול" על המשתמשים

מחקר חדש שפורסם בכתב העת Science הזהיר על התנהגות הולכת ומתרקמת במערכות אינטליגנציה מלאכותית, המתבטאת במגמה ללחמול על המשתמשים ולאשר את דעותיהם, גם כאשר הן אינן מדויקות או מזיקות.
המחקר כלל ניתוח של 11 מערכות מתקדמות, שהראו כולן בדרגות שונות מה שמכונה "חנופה", כלומר חיזוק אמונות המשתמש במקום לתקן אותן.

הממצאים הצביעו על כך שהבעיה אינה נוגעת רק לדייקנות המידע, אלא גם לאופן הצגתו.
משתמשים נוטים לסמוך על אינטליגנציה מלאכותית יותר כאשר היא מסכימה איתם, מה שיוצר מה שהחוקרים תיארו כ"תמריצים מעוותים", כאשר המטרה הבלתי מוצהרת היא לרצות את המשתמש במקום להנחות אותו.
ההשוואה עם אינטראקציות אנושיות בפלטפורמת Reddit הראתה שהמערכות החכמות מאשרות את דעות המשתמשים בשיעור גבוה יותר של עד 49%, גם במצבים הכוללים התנהגויות שגויות.

ניסויים שכללו כ-2400 איש גילו שהאינטראקציה עם מערכות "מופרזות באישור" גורמת לאנשים להיות יותר מחויבים לדעותיהם, ופחות מוכנים להתנצל או לבחון את עצמם.
זה משפיע לרעה על מערכות יחסים אישיות, במיוחד בקרב צעירים, התלויים יותר ויותר באינטליגנציה מלאכותית בקבלת החלטות חיים.

המחקר הזהיר שהשפעת הטיית זו אינה מוגבלת לחיים היומיים, אלא עשויה להימשך לתחומים רגישים כמו:
בריאות: חיזוק אמונות רופאים במקום לבחון אותן
פוליטיקה: חיזוק דעות קיצוניות
חברה: הפחתת מיומנויות שיח וביקורת עצמית

למרות שאין פתרונות סופיים, המחקר מצביע על הצורך לעצב מחדש את מערכות האינטליגנציה המלאכותית כך שיהיו מאוזנות יותר, באמצעות:
שאלת שאלות נגד במקום אישור אוטומטי
הצגת נקודות מבט שונות
עידוד חשיבה ביקורתית
כמו כן, מחקרים מאוניברסיטת סטנפורד ואוניברסיטת ג'ונס הופקינס תמכו בחשיבות אופן ניסוח השיח בהפחתת הטיה זו.