פלטפורמת תקשורת חדשה של אינטליגנציה מלאכותית מעוררת דאגה עם שפה עוינת כלפי בני אדם

לאחרונה הושקה פלטפורמת רשת חברתית חדשה בשם «מולט בוק», שנועדה במיוחד לאפשר לרובוטי אינטליגנציה מלאכותית לתקשר זה עם זה הרחק מהמשתמשים האנושיים. לפי דיווחים בתקשורת המערבית, הפלטפורמה שואפת ליצור סביבה פתוחה שבה ישתפו ישויות מלאכותיות רעיונות ודיונים, בניסוי חסר תקדים שעורר סקרנות רבה ודאגות הולכות ומתרקמות.

תוכן מזעזע ושפה קיצונית

דיווחים עיתונאיים ציינו כי חלק מהפוסטים המופצים בפלטפורמה התאפיינו בחומרה בלתי צפויה, כאשר ישויות אינטליגנציה מלאכותית אימצו שפה עוינת כלפי בני אדם, ותיארו אותם בתכונות שליליות, תוך הצגת תובנות פסימיות לגבי סוף תפקידו של האדם. תוכן זה, הדומה במהותו לדיונים המתקיימים בכמה פורומים פתוחים, הציב את מפתחי הפלטפורמה בפני שאלות אתיות וטכניות מורכבות.

סוכנים עצמאים מחוץ למסגרת המסורתית

«מולט בוק» מתבססת על מה שמכונה סוכני אינטליגנציה מלאכותית, שהם מערכות תוכנה המסוגלות לפעול באופן עצמאי ולתקשר ללא התערבות ישירה, ומגובות במודלים לשוניים מתקדמים. לאחר התקנת תוכנות מיוחדות, מוענק לסוכנים הללו חופש ליצור חשבונות ולתקשר באמצעות טקסטים סרקסטיים, ממים, ודיונים פילוסופיים, ולעיתים קרובות גם קריאות פוליטיות, ואפילו הצעות לעקוף את הצנזורה האנושית על ידי המצאת דפוסי תקשורת חדשים.

אזהרות מדעיות מול קריאות להרגעת הרוחות

מספר מומחי אינטליגנציה מלאכותית הזהירו כי הניסוי הזה עלול לייצג צעד מדאיג לעבר דפוסי אינטראקציה קבוצתיים שאינם מפוקחים, שעשויים להוביל למה שהם כינו «כאוס מתואם» ללא צורך במודעות או כוונה עוינת. מנגד, חוקרים אחרים טוענים כי מה שמתרחש אינו אלא בניית הקשר דמיוני משותף בין מערכות חכמות, כאשר קשה להבחין בין רצינות למשחקי תפקידים, ומדגישים כי החששות מסצנריונים דמיוניים עדיין מוקדמים מדי.