מאמרים נכתבו על הסכנות הצפויות מההתפוצצות הגלובלית של טכנולוגיית AI גנרטיבי, אבל מחקר חדש מגלה שלפחות בכמה חזיתות, המציאות הדיסטופית כבר כאן. דו"ח חדש של NewsGuard, שנלחם בדיסאינפורמציה, זיהה 380 אתרי חדשות פיקטיביים, שבהם כל התכנים נוצרו על ידי בינה מלאכותית - החל מהתמונות וכלה בכתבות - ללא כל התערבות אנושית. המשמעות של תופעת חוות התוכן הללו היא הרסנית גם לתעשיית הפרסום באינטרנט, וגם למלחמה בדיסאינפורמציה ופייק ניוז ברשת.
האתרים שזוהו על ידי צוותי הניטור של ניוזגארד נושאים לרוב שמות גנריים עם פריסה ויזואלית שמקשה על הצרכנים להבין שיד אדם לא הייתה מעורבת בהם כלל, לא בכתיבה ולא בהליך הטכני של העלאת הכתבה לאוויר. האתרים גם לא מציינים מפורשות שמדובר בתוכן שהופק על ידי AI. מאות האתרים הללו זמינים במגוון שפות בכל רחבי העולם - כולל ערבית, צרפתית ופורטוגזית - והפיקו בין עשרות למאות של כתבות במגוון נושאים, חלקן ללא כל אחיזה במציאות וחלקן ללא קשר למועד שבו התרחשו. למשל, אתר בשם "מוות של סלבריטאים" הפיק ידיעה שלמה - ושקרית כמובן - על מותו של נשיא ארה"ב ג'ו ביידן.
האתרים נושאים לרוב שמות גנריים עם פריסה ויזואלית שמקשה על הצרכנים להבין שיד אדם לא הייתה מעורבת בהם כלל, לא בכתיבה ולא בהליך הטכני של העלאת הכתבה לאוויר
אחת הסיבות שאתרים מהסוג הזה קיימים היא מודל ההכנסות מפרסום באינטרנט. הם נוצרו למעשה עבור שטחי הפרסום שבהם, כששירותי הפרסומות פספסו באופן שיטתי את טיבם של האתרים האלה. דוח מוקדם יותר של ניוזגארד, מיוני, זיהה מאות מודעות פרוגרמטיות (כלומר, כאלה שלא נבחרו באופן אקטיבי על ידי המפרסמים אלא שובצו אוטומטית באמצעות שירותי פרסום) של 141 מותגים גדולים באתרי חדשות מזויפים מסוג זה. הרוב המוחלט של המודעות האלה הגיעו דרך שירות Google Ads.
דוגמה נוספת לכך שמפרסמים לא בהכרח מודעים לאן מופנים תקציבי הפרסום שלהם צפה לאחרונה כשפורסם דוח של חברת Adalytics שטען שתקציבי הפרסום של מפרסמים ברחבי העולם מתבזבזים על אתרי צד ג' שאינם עומדים בדרישות האיכות של גוגל עצמה: כך למשל פרסומות נוגנו אוטומטית או כשהן מוסתרות על ידי באנרים אחרים מבלי שמשתמשים צפו בהן אקטיבית.