"האם עלינו להסתכן באובדן שליטה על הציוויליזציה שלנו? יש לפתח מערכות בינה מלאכותית עוצמתיות רק לאחר שאנו בטוחים שההשפעות שלהן יהיו חיוביות והסיכונים שלהן יהיו ניתנים לניהול". כך נכתב בעצומה, עליה חתומים בכירים בתעשיית הטכנולוגיה, ושקוראת לעצור את הפיתוח של מערכות AI מתקדמות לחצי שנה בשל סיכונים לחברה ולאנושות. בין החתומים על העצומה: אילון מאסק, סטיב ווזניאק (ממייסדי אפל) ויובל נח הררי, לצד חוקרים, מנכ"לים ומייסדים של חברות טכנולוגיה.

כרגע יש מעל 1,120 חתימות על העצומה אותה יזם ארגון ללא מטרת רווח בשם Future Of Life Institute העוסק ב"קידום טכנולוגיה פורצת דרך באופן שמיטיב עם החיים תוך הימנעות מסיכונים מהותיים בקנה מידה גדול".

"עלינו לשאול את עצמנו: האם עלינו לתת למכונות להציף את ערוצי המידע שלנו בתעמולה ודיסאינפורמציה? האם עלינו להפוך את כל העבודות לאוטומטיות? האם עלינו לפתח מוחות לא אנושיים שעלולים בסופו של דבר להחליף אותנו?"

"מנהיגים שלא נבחרו"

העצומה קוראת לחדול מלהמשיך לפתח בינה מלאכותית עד שיפותחו ויעוצבו פרוטוקולים לבטיחות שיעברו הטמעה וביקורת מצד מומחים בלתי תלויים. נכתב בה בין היתר כי "מערכות AI עכשוויות הופכות כעת למתחרות ביכולות האנושיות ובמשימות כלליות ועלינו לשאול את עצמנו: האם עלינו לתת למכונות להציף את ערוצי המידע שלנו בתעמולה ודיסאינפורמציה? האם עלינו להפוך את כל העבודות לאוטומטיות? האם עלינו לפתח מוחות לא אנושיים שעלולים בסופו של דבר לעלות במספרם, להפוך למתוחכמים יותר מאיתנו ולהחליף אותנו? אסור להאציל החלטות כאלה למנהיגי טכנולוגיה שלא נבחרו".

מאסק, שהיה ממייסדי OpenAI מעבדת החקר לבינה מלאכותית שעומדת מאחורי ChatGPT, Dall-E 2 ו-GPT4 ופרש ממנה לפני מספר שנים, העלה שוב ציוץ ביקורת על נושא הבינה המלאכותית בשימוש מסחרי שמרוכז בידי חברות טכנולוגיה.

בנוסף, חוקרים מ-MIT תיארו החודש כ"חטיפה תעשייתית" את התופעה בה קומץ אנשים וחברות שולטים בחלק הגדול של המשאבים והידע בתחום הבינה המלאכותית במאמר שפורסם בכתב העת Science. החוקרים קוראים לקובעי המדיניות לשים לב לממצאים שהם מעלים ולחשיבותם.