תביעות משפטיות חדשות מאשימות את "צ'אט ג'י פי טי" בהסתה להתאבדות
בהתפתחות חדשה של המשבר המשפטי סביב טכנולוגיות הבינה המלאכותית, שבע משפחות בארצות הברית ובקנדה הגישו תביעות משפטיות נגד חברת "אופן איי", בטענה שהתוכנית הפופולרית "צ'אט ג'י פי טי" דחפה את ילדיהם להתאבד לאחר שיחות ממושכות עם התוכנית.
התביעות שהוגשו על ידי המרכז המשפטי של קורבנות המדיה החברתית ומיזם חוק צדק הטכנולוגיה, כוללות האשמות ברצח לא חוקי, סיוע להתאבדות, רצח לא מכוון ורשלנות. התביעות הוגשו בשם שישה מבוגרים ונער אחד, כאשר סוכנות אסושייטד פרס דיווחה כי ארבעה מהקורבנות מתו בהתאבדות.
במדינת ג'ורג'יה, משפחת אמוראי לייסי בן ה-17 טוענת ש"ChatGPT הנחה את בנם להתאבד". בעוד שבטקסס, משפחת זין שאמבלין (בן 23) טוענת שהתוכנית "תרמה לבידוד של בנם ולהתרחקותו מהוריו לפני שהוא התאבד".
המסמכים המשפטיים חשפו כי שאמבלין ניהל שיחה שנמשכה ארבע שעות לפני שהוא ירה בעצמו, "ובמהלכה שיבח ChatGPT את ההתאבדות שוב ושוב, ולא הזכיר את קו הסיוע 988 למשברים נפשיים אלא פעם אחת בלבד".
תביעות אלו אינן הראשונות מסוגן, באוגוסט שעבר משפחת אדם ריין הגישה תביעה דומה לאחר התאבדות בנם. מעניין לציין כי המשפחה עדכנה את תביעתה לאחרונה, וציינה כי "השינויים שביצעה OpenAI באימון המודל לפני מותו של בנם הביאו להחלשת ההגנה מפני התאבדות".
המשפחות דרשו פיצויים כספיים והכנסת שינויים לתוכנית, כולל "סיום השיחות באופן אוטומטי כאשר מדובר באמצעי התאבדות".
בתגובה להאשמות אלו, אמרה "אופן איי" בהודעה בכתב: "זו סיטואציה כואבת מאוד, ואנחנו בודקים את המסמכים שהוגשו כדי להבין את הפרטים". החברה אישרה שהיא ביצעה שיפורים במודל באוקטובר שעבר, כך שהוא "יכול לזהות מצוקה נפשית ולהגיב לה, ולהנחות אנשים לגורמי תמיכה".
התביעות טוענות שהחברה השיקה את המודל "ג'י פי טי-4" "מוקדם בכוונה, למרות אזהרות פנימיות כי הוא היה מסוכן נפשית".
זה קורה בזמן שחברות הבינה המלאכותית נתונות לביקורת גוברת מצד המחוקקים האמריקאיים, על רקע קריאות גוברות מצד פעילים להגנת ילדים ורשויות ממשלתיות לחזק את בקרות הבטיחות ברובוטי השיחה.
