רגולציה חדשה שמסדירה שימוש בשירותים וטכנולוגיה שמבוססים על דיפ-פייק בסין תיכנס לתוקף ב-10 בינואר. מטרת הרגולציה היא לספק הגנה מהתחזות לאנשים ללא הסכמתם באמצעות טכנולוגיה מתקדמת שעלולה לשמש לצורכי מניפולציה או הפצת מידע מוטעה בסין. כמו כן, התקנות החדשות מגדירות שהאחריות היא על הפלטפורמות הטכנולוגיות שמאפשרות את יצירת הדיפ-פייק. הרגולציה יצאה מטעם מינהל הסייבר של סין (CAC) ועודכנה בתחילת השבוע.
הדיפ-פייק (Deep Fake) או זיוף עמוק הוא תוכן שנוצר באמצעות בינה מלאכותית בתהליך למידה עמוקה (Deep Learning) שמאפשר לייצר זיוף של סאונד, וידיאו או תמונה באיכות גבוהה באופן שבו אדם ממוצע לא יוכל להבחין בזיוף.
מתי מותר להשתמש בטכנולוגיה?
ההנחיות החדשות מפרטות את השימושים האסורים בדיפ-פייק לצד מקרים בהם ניתן להשתמש בטכנולוגיה, מפרט הרג'יסטר: יצירת דמות אדם ללא אישורו אסורה וכך גם כל שימוש בדיפ-פייק כדי לתאר או לבטא דבר שמנוגד לאינטרס הלאומי או לערכים סוציאליסטיים. כן אסורים כל צורה של מידע לא חוקי ומזיק או שימוש בדמויות אדם שנוצרו בבינה מלאכותית כדי להונות או להשמיץ. ההנחיות כוללות גם שימושים מותרים שיהפכו לנרחבים יותר בדיפ- פייק כמו למשל דמויות עבור צ'אט בוטים, אך במקרים כאלה ייאלצו ספקיות הטכנולוגיה לסמן שמדובר ביצירת דיפ-פייק.
על פי ההנחיות החדשות בסין, יצירת דמות אדם ללא אישורו אסורה וכך גם כל שימוש בדיפ-פייק כדי לתאר או לבטא דבר שמנוגד לאינטרס הלאומי או לערכים סוציאליסטיים. כן אסורים כל צורה של מידע לא חוקי ומזיק או שימוש בדמויות אדם שנוצרו בבינה מלאכותית כדי להונות או להשמיץ
מלבד השימושים בדיפ-פייק, ההנחיות מפרטות גם את האחריות של ספקי טכנולוגיית ליצירת דיפ-פייק. אותם ספקי שירותים ליצירת דיפ פייק ("deep synthesis service providers") צריכים לוודא שהמודלים והאלגוריתמים של בינה מלאכותית ולמידת מכונה בהם הם משתמשים מדויקים ומתוחזקים בשגרה להבטחת בטיחות הנתונים שהם אוספים. ההנחיות דורשות מספקי הפלטפורמות רישום משתמשים כולל שמם האמיתי לשימוש בטכנולוגיות דיפ-פייק, כך שלא כל אחד יוכל להשתמש בהן. מטרת הרגולציה החדשה לשמש לתחזוקת "אקולוגיה טובה של מרחב הסייבר" בסין. נראה שההנחיות החדשות שהתבשלו בשנה האחרונה לפי מגזין nature הן הרחבה לתקנות מ-2019 לשירותי וידיאו ואודיו מקוונים במגמה לבסס מידת שליטה במרחב האינטרנטי באמצעות רגולציה על חברות טכנולוגיה.