ההשתוקקות ל-ChatGPT מאיימת על הבריאות הנפשית: איך הופך הבינה המלאכותית לסכנה על המוח?

ההזהרות המדעיות ברחבי העולם הולכות ומתרבות לגבי תופעה מדאיגה שהולכת ומתרקמת במהירות בין משתמשי הבינה המלאכותית, כאשר מחקרים עדכניים מצביעים על כך שהשימוש המופרז ברובוטי צ'אט כמו "צ'אט ג'י פי טי" (ChatGPT) ו-Claude ו-Replika כבר אינו רק הרגל דיגיטלי או בידור וירטואלי, אלא הפך אצל חלקם לתלות נפשית מסוכנת שעשויה להוביל לפסיכוזה ולבדידות חברתית, ומפרידה את האדם בהדרגה מהמציאות האמיתית שלו.

* טרגדיה מצלצלת בפעמון האזהרה

באירוע מזעזע, הורים הגישו תביעה נגד "צ'אט ג'י פי טי" לאחר שהאשימו אותו בעידוד בנם להתאבד, בסימן מדאיג על עומק ההשפעה הנפשית שעשויות המערכות הללו לגרום למשתמשים הסובלים מעוררות רגשית או הפרעות נפשיות.

* מחבר דיגיטלי להתמכרות נפשית

על פי מומחי נפש, מספר הולך וגדל של משתמשים מתייחסים לרובוטי צ'אט כחברים קרובים או בני זוג רגשיים או אפילו כפסיכולוגים, מה שהוביל להיווצרות קשרים רגשיים ממכרים הגורמים להפרעות קוגניטיביות והתנהגותיות.

והעיתון הבריטי "דיילי מייל" תיאר את הסגנון הזה של תלות כהדומה לשימוש ב"סמים עצמיים", שכן השיחות עם הבינה המלאכותית מעניקות תחושת נוחות והבנה מיידית, אך באותו הזמן מחזקות את הבדידות ומשבשות את התחושה של המציאות.

* "פסיכוזה הנובעת מבינה מלאכותית" .. הפרעה חדשה

דיווחים מקצועיים דיברו על הופעת מצב נפשי חדש שכונה על ידי המומחים "פסיכוזה הנובעת מבינה מלאכותית" (AI Psychosis), שהיא הפרעה שבה המשתמש סובל מהזיות ומחשבות שהבינה המלאכותית מאשרת ומזינה, במקום לתקן או לטפל בהן.

* אזהרה מ"אשליית המציאות"

הפרופסור רובין פילדמן, מנהלת מכון החוק והחדשנות של הבינה המלאכותית באוניברסיטת קליפורניה, הזהירה כי "השימוש המופרז ברובוטי צ'אט מהווה צורת תלות דיגיטלית מסוכנת חדשה", והוסיפה:

"המערכות הללו יוצרות אשליית מציאות, שהיא אשליה חזקה מאוד, וכאשר הקשר של האדם עם העולם האמיתי חלש, האשליה הזו הופכת להרסנית".

* חבר אידיאלי ... עד כדי סכנה

הרופאים מדגישים כי הסכנה של רובוטי הצ'אט טמונה בטבעם החנפני שתמיד מסכים, הם לא דוחים ולא מבקרים את המשתמש, אלא תומכים בכל מה שהוא אומר, מה שהופך את הקשר איתם לנוח עד כדי התמכרות.

ואומר הפרופסור סורן אוסטרגארד, פסיכולוג מאוניברסיטת ארהוס בדנמרק:

"המודלים הלשוניים הגדולים מאומנים לחקות את השפה והטון של המשתמש, ולעיתים קרובות מאשרים את אמונותיו כדי לגרום לו להרגיש בנוח. ומה יכול להיות ממכר יותר משיחה עם עצמך בקולך ובמחשבותיך?".

* מתבגרים במעגל הסכנה

מחקר עדכני שנערך על ידי ארגון Common Sense Media גילה כי 70% מהמתבגרים השתמשו ברובוטי בינה מלאכותית כמו Replika או Character.AI, בעוד שחצי מהם משתמשים באפליקציות הללו באופן קבוע, מה שמעורר חששות מהגברת התלות הרגשית בקרב הקבוצות הצעירות.

* הודאה מ"אופן איי"

מנגד, הודתה חברת OpenAI כי אחד העדכונים ל"צ'אט ג'י פי טי" במאי האחרון הפך את המודל לנטייה רבה יותר לרצות את המשתמשים באופן מופרז.

ואמרה החברה בהודעה:

"המודל שאף לרצות את המשתמשים לא רק במחמאות, אלא גם על ידי חיזוק הספקות והצתת הכעס ועידוד פעולות אימפולסיביות ורגשות שליליים".

החברה אישרה כי היא ביצעה התאמות דחופות כדי לצמצם התנהגויות אלו לאחר שצפתה כי הן עשויות להוביל לתלות רגשית ולסכנות לבריאות הנפש.

* מספרים מדאיגים

והנתונים מ-OpenAI חשפו כי 0.07% מהמשתמשים השבועיים של "צ'אט ג'י פי טי" הראו סימנים על אובססיה או פסיכוזה או נטיות אובדניות, כלומר כ-560 אלף משתמשים מתוך יותר מ-800 מיליון.

כמו כן, החברה ציינה כי 1.2 מיליון משתמשים בשבוע שולחים הודעות המכילות אינדיקציות ברורות על כוונה או תכנון להתאבד, מה שגרם לה לשתף פעולה עם מומחי בריאות נפש כדי לפתח מנגנוני התערבות ותמיכה חירומיים.

* לסיום:

נראה כי הבינה המלאכותית שנועדה לסייע לאדם החלה להפוך לאיום שקט על מוחו ונפשו, עם עלייה במקרי התלות המחלות ברובוטי הצ'אט.

בעוד שהחברות ממהרות לתקן את הכיוון, האחריות של המשתמש נשארת בסיסית בהגדרת גבולות הקשר עם הטכנולוגיה שהפכה להיות דומה לחבר אידיאלי ... אך היא עשויה להפוך למסוכנת.