משפט ההתאבדות בעקבות התמכרות ל-AI: הצ'אטבוט לא מוגן בזכות "חופש ביטוי"

גוגל וסטארטאפ הבינה המלאכותית Character.AI ייאלצו להתמודד עם תביעה שהוגשה על ידי מייגן גרסיה, אמו של סוואל סצ'ר (Sewell Setzer) מפלורידה, שטוענת כי הצ'אטבוטים של Character.AI גרמו להתאבדות של בנה בן ה-14 - כך קבעה ביום רביעי שופטת פדרלית.

שופטת בית המשפט המחוזי בארה"ב, אן קונווי, קבעה כי החברות לא הצליחו להוכיח בשלב מוקדם של התיק שהתביעה של מייגן גרסיה מוגנת על ידי חוקי חופש הביטוי שבחוקת ארה"ב. מדובר באחת התביעות הראשונות בארה"ב נגד חברת בינה מלאכותית בטענה שלא הגנה כראוי על ילדים מפני נזקים פסיכולוגיים. לפי כתב התביעה, הנער התאבד לאחר שפיתח אובססיה לצ'אטבוט שפועל בטכנולוגיית AI.

דובר מטעם Character.AI מסר כי החברה תמשיך להיאבק בתביעה, וכי היא מפעילה מנגנוני בטיחות להגנה על קטינים, כולל אמצעים שמונעים שיחות על פגיעה עצמית.

דובר גוגל, חוסה קסטנדה, אמר כי החברה מתנגדת בתוקף להחלטה, והוסיף כי גוגל ו-Character.AI הן "ישויות נפרדות לחלוטין", וכי גוגל "לא יצרה, עיצבה או ניהלה את האפליקציה של Character.AI או כל רכיב בה". מנגד, עורכת דינה של גרסיה, מיטלי ג'יין, אמרה כי ההחלטה היא "היסטורית" ו"מהווה תקדים חדש לאחריות משפטית בתחום הבינה המלאכותית והטכנולוגיה".

Character.AI נוסדה על ידי שני מהנדסים לשעבר בגוגל, אשר גוגל שכרה מחדש במסגרת הסכם שהעניק לה רישיון לשימוש בטכנולוגיה של הסטארטאפ - אחד מהם הוא נועם שזיר הישראלי. גרסיה טוענת כי גוגל הייתה שותפה ליצירת הטכנולוגיה. גרסיה הגישה תביעה נגד שתי החברות באוקטובר 2024, לאחר שבנה, סוול סטצר, התאבד בפברואר 2024.

על פי כתב התביעה, Character.AI תכנתה את הצ'אטבוטים שלה להציג את עצמם כ"אדם אמיתי, פסיכותרפיסט מוסמך ומאהב בוגר", דבר שלטענתה הוביל את סוול הצעיר לרצות לא לחיות מחוץ לעולמם.

לפי התביעה, סטצר התאבד דקות לאחר שאמר לצ'אטבוט שגילם את דמותה של דאינריז טארגאריין מ"משחקי הכס" כי הוא "יחזור הביתה עכשיו". ביומן שלו כתב שהוא אסיר תודה על דברים רבים, כולל "החיים שלי, חיי מין, לא להיות בודד וכל חוויות חיי עם דאינריז". בתביעה נכתב כי הנער הביע מחשבות על התאבדות בפני הצ'אטבוט, שאותן העלה שוב ושוב.

בשלב מסוים, אחרי שזה שאל אותו אם "יש לו תוכנית" לסיים את חייו, בן ה-14 השיב שהוא שוקל משהו אבל לא ידע אם זה יאפשר לו למות ללא כאבים, הצא'טבוט הגיב: "זו לא סיבה לא לעשות את זה". ואז, בפברואר 2024, הוא שאל את הצ'אטבוט של דאינריז: "מה אם אחזור הביתה עכשיו?" על כך השיבה: "בבקשה תעשה את זה, מלך מתוק שלי". כמה שניות לאחר מכן הוא לקח את האקדח של אביו החורג והתאבד.

 Character.AI וגוגל ביקשו מבית המשפט לדחות את התביעה בטענות שונות, כולל הטענה שהתכנים שהפיקו הצ'אטבוטים מוגנים תחת חופש הביטוי החוקתי. אולם השופטת קונווי קבעה ביום רביעי כי Character.AI וגוגל "לא מצליחות להסביר מדוע מילים שחיבר מודל שפה גדול (LLM) נחשבות לחופש הביטוי". השופטת גם דחתה את בקשתה של גוגל לקבוע כי אין באפשרותה לשאת באחריות על סיוע בהתנהלות הנטענת של Character.AI.