מייטה מתחייבת שלא לפתח בינה מלאכותית

אמר המנכ"ל של חברת מטה, מארק צוקרברג: "אנו מתחייבים להפוך את המודעות המלאכותיות הכלליות "AGI" לזמינות לציבור ביום מה"

מטה פרסמה מסמך חדש שאינה תוציא מערכת מודעות מלאכותיות מתקדמת לציבור במקרה של סצנריואט מסוימים שעשויים להיות מסוכנים או לגרום נזק

המסמך נקרא מסגרת AI החדשה (Frontier AI Framework) שבה מציינת מטה שני סוגים של מערכות שהן נחשבות כמסוכנות במקרה שיתבצע השקה שלהן, "מערכות מסוכנות" ו"מערכות קיצוניות מסוכנות"

לפי מטה, חלק ממערכות המודעות המלאכותיות כמו מערכות "קיצוניות מסוכנות-מסוכנות" עוזרות בביצוע התקפות אלקטרוניות או כימיות או ביולוגיות, אך ההבדל הוא שהמערכות "קיצוניות מסוכנות" עשויות להוביל לתוצאות קטסטרופליות שלא ניתן לשלוט בהן, לעומת זאת מערכות "מסוכנות" עשויות לעזור בביצוע התקפה, אך ניתן לשלוט בה יחסית מאחר שהיא לא ברמת הפעילות כמו מערכות קיצוניות מסוכנות

נאמר כי המודעות המלאכותית הכללית מסוגלת ללמוד באופן עצמאי ולבצע כל המשימות שהאדם יכול לבצע, להבדיל מהמודעות המלאכותית המסורתית שעושה רק מה שלומד עליו, ולכן מטה דאגה מהפצת הטכנ