בחודש מאי השיקה גוגל כלי ליצירת הווידאו מבוסס בינה מלאכותית בשם Veo 3, עם אודיו מובנה, שכבש את העולם בסערה בשל הקלות והאיכות של סרטונים שניתן ליצור באמצעותו. היום הוא מגיע לישראל ולמדינות נוספות ויוצע כחלק מתוכנית Google AI Pro בתשלום של 74.90 שקל לחודש, כאשר החודש הראשון בחינם. לצד זאת יש גם תוכנית יקרה יותר, Google AI Ultra שמציעה את כל הפיצ'רים של הפרו, לצד בין היתר, הרבה יותר קרדיטים ליצירת סרטונים ונפח אחסון של 30 טרה. מחירה הוא 469 שקלים לחודש, ובהמשך יעלה ל-949 שקלים לחודש.
בתוך כך, באופן לא בלתי צפוי, יש אנשים שמנצלים את הכלי החדש לרעה וספציפית ליצירת סרטונים מלאים בסטריאוטיפים גזעניים, בעיקר כלפי שחורים, שהיינו מצפים שכבר עברו מהעולם, כך על פי דוח חדש של ארגון הפיקוח על התקשורת Media Matters.
בין סרטוני ה-AI שהפכו לוויראליים בטיקטוק וצברו במצטבר מיליוני צפיות, אפשר למצוא מוכר בית קפה שמציע לאישה שחורה אבטיח ועופות מטוגנים (סטריאוטיפים ידועים בנוגע לשחורים) בתגובה לטענה שאין לה מספיק חלב בקפה, גבר שחור מתנשף שאומר, "אני לא יכול לנשום, אני צריך אבטיח", ואישה שחורה שאומרת שהיא בהריון ומהחלון אפשר לראות קוף בורח במכוניתו ועוד. בנוסף, סרטונים גזעניים רבים מציגים אנשים שחורים כקופים.
גם זוועות השואה הופכות לסרטון AI מחריד שזכה למיליון צפיות, בו רואים אסיר כחוש בכותונת פסים במחנה ריכוז נאצי שמתאר את יומו כאילו הוא מצלם ולוג. הוא עומד מול ארובת קרמטוריום ואומר: "קצת מעושן, אבל יש פה ריח ממש טוב", אחר כך הוא מצביע על ערימת נעליים ואומר: "מעניין אם יש שם איזה אייר ג'ורדן", ומסיים את הסרטון באמירה: "אני הולך עכשיו למקלחת".
Media Matters קבע שהסרטונים, שאחד מהם זכה ל־14.2 מיליון צפיות - נוצרו ככל הנראה עם Veo 3, לפי סימן המים "Veo" שמופיע בפינת הסרטונים. לפי הדיווח, חלק מהמשתמשים גם השתמשו בהאשטגים, כיתובים או שמות משתמש הקשורים ל־Veo 3 או ל-AI. כל סרטון שנמצא על ידי הארגון נמשך שמונה שניות בלבד, או הורכב ממספר קטעים שכל אחד מהם לא ארוך משמונה שניות — מגבלה התואמת את פורמט הכלי של Veo 3.
Veo 3, שהושק על ידי גוגל במאי והיום כאמור הגיע לישראל ומדינות נוספות, מאפשר ליצור סרטונים וקטעי קול בעזרת פרומפט טקסטואלי בלבד. באתר שלה גוגל מצהירה כי היא "חוסמת בקשות ותוצאות מזיקות". גם מדיניות טיקטוק קובעת כי "לדברי שנאה אין מקום בפלטפורמה", וכי טיקטוק "לא תמליץ על תוכן המכיל סטריאוטיפים שליליים כלפי אדם או קבוצה בעלי מאפיין מוגן".
"אנחנו אוכפים באופן יזום כללים מחמירים נגד דברי שנאה, והסרנו את החשבונות שזוהו בדוח, רבים מהם הוסרו עוד לפני פרסומו", אמרה דוברת טיקטוק, אריאן דה סלייה, בהצהרה ל-The Verge.
מבדיקת The Verge עולה שחלק מהסרטונים שהוזכרו על ידי Media Matters הופיעו גם ביוטיוב, אם כי עם פחות צפיות, ואילו המגזין Wired מצא סרטונים גזעניים דומים שנוצרו ב-AI גם באינסטגרם. סרטונים נוספים שנמצאו כוללים תכנים אנטישמיים ודימויים גזעניים של מהגרים ואנשים ממוצא אסייתי.
גוגל לא הגיבה באופן מיידי לפניית The Verge לקבלת תגובה.