האיסור החדש על יצירת תמונות אינטימיות ב‑AI: לא מה התכוונתם לעשות, אלא מה תוכלו להוכיח

1. שתי תביעות סביב גרוק: אחת נגד החברה, אחת מטעמה נגד משתמש

בסוף דצמבר 2025 נפתחה במודל גרוק של חברת xAI אפשרות לערוך תמונות. בינואר 2026 הוצפה רשת X בתמונות מיניות שנוצרו בתגובה לבקשות פשוטות של משתמשים אנונימיים, ובהן תמונות של נשים אמיתיות, מזוהות בשמן המלא ובפניהן, שהוצגו בעירום או בלבוש מינימלי בלא שהסכימו לכך. ביום 12 בינואר 2026 הודיעה בריטניה על פתיחת חקירה, ביום 14 בינואר 2026 פתח התובע הכללי של קליפורניה בחקירה משלו, אינדונזיה, מלזיה והפיליפינים חסמו זמנית את הגישה למודל, וביום 3 בפברואר 2026 ערכה משטרת הסייבר הצרפתית חיפוש במשרדי X בפריז.

מן האירועים האלה צמחו שני הליכים משפטיים.

הראשון הוגש בישראל. במרץ 2026 הגישה יוצרת התוכן שיר שחף תביעה אזרחית בבית משפט השלום בתל אביב נגד חברת X.AI Corp‏, על סך 277,000 שקלים, בגין שתי עוולות: הטרדה מינית ופגיעה בפרטיות. החידוש אינו בעילות, שהן מוכרות היטב בדין הישראלי, אלא בכך שהתביעה מופנית אל חברת הבינה המלאכותית עצמה ולא אל המשתמש האנונימי שהזין את הבקשה. התביעה תלויה ועומדת, וטרם ניתן בה פסק דין.

ההליך השני הוגש בארצות הברית, סביב אותה טכנולוגיה, אלא שהפעם התובעת היא החברה עצמה. ביולי 2026 תבעה xAI אחד ממשתמשי גרוק, תושב דרום קרוליינה בן 67 שנעצר קודם לכן בחשד לעבירות ניצול מיני של ילדים, בטענה שניסח בקשות מטעות ומתוחכמות במטרה לעקוף במכוון את מנגנוני הבטיחות המובנים במערכת ולהפוך תמונות תמימות לחומרים מיניים.

2. מה בדיוק אוסרת התקנה החדשה, ומה נשאר מחוץ לאיסור

סעיף 5 לחוק הבינה המלאכותית מונה את הפרקטיקות האסורות, הקטגוריה העליונה שאינה נתונה לניהול סיכונים אלא לאיסור מוחלט. התקנה החדשה מוסיפה לרשימה שני פריטים: מערכות בינה מלאכותית המייצרות או משנות תמונות, סרטונים או קול ריאליסטיים המציגים איברים אינטימיים של אדם מזוהה או פעילות מינית מפורשת שלו בלי שהסכים לכך, ומערכות המייצרות חומר של התעללות מינית בילדים. שני האיסורים חלים החל ביום 2 בדצמבר 2026.

הוראת האיסור לא נכללה בהצעת הנציבות המקורית מנובמבר 2025, אלא הוכנסה על ידי המועצה בעמדת המשא ומתן שלה במרץ 2026, לאחר האירועים שתוארו לעיל.

התקנה מבהירה כי שינוי של חומר קיים באופן שאינו מגדיל את חשיפת האיברים האינטימיים ואינו משנה את אופייה של הפעילות המינית המוצגת אינו נחשב שינוי לעניין האיסור. זוהי הוראה ממוקדת, לא הגבלה גורפת על עריכת תמונות.

3. הספק נתפס גם בלא כוונה, המפעיל רק בשימוש מכוון

שני התפקידים מוגדרים בחוק בנפרד, ומי שממלא את שניהם, כגון חברה שבנתה מודל ומפעילה אותו בשירות שלה, נמדד לפי שני המבחנים גם יחד.

שני מונחים חוזרים לאורך החוק, וכדאי להגדיר אותם מראש. שיווק (placing on the market)‏ הוא ההנגשה הראשונה של המערכת בשוק האיחוד, בתמורה או שלא בתמורה. הפעלה (putting into service)‏ היא מסירתה לשימוש ראשון, בין ללקוח ובין לשימוש הפנימי של החברה עצמה. די באחד משני אלה כדי להיכנס לתחולת החוק.

הבדיקה שהספק נדרש לערוך צרה ומדויקת: האם התוצאה האסורה צפויה באופן סביר, והאם ניתן להגיע אליה שוב בלי שינוי טכני משמעותי במערכת. אם התשובה חיובית, השאלה עוברת מיד אל האמצעים שהוטמעו. דברי ההסבר לתקנה מונים במפורש את סוגי האמצעים שעשויים לענות על הדרישה, ובהם אימון המודל לסרב לבקשות מסוג זה, חסימות בשלב הקלט, סינון התוצרים לפני הצגתם, ואיתור מקרים של שימוש לרעה ודיווח עליהם. עוד נדרש שהאמצעים יעמדו גם בפני ניסיונות עקיפה שניתן לצפות אותם מראש, וכי במקרה של עקיפה שהתגלתה או שדווחה יינקט תיקון הולם.

4. מה נדחה לדצמבר 2027, ומה חל כבר מדצמבר 2026

חוק הבינה המלאכותית אינו נכנס לתוקף במכה אחת, אלא בשורה של מועדים שכל אחד מהם מפעיל קבוצת חובות אחרת. התקנה החדשה הזיזה מתוכם שני מועדים בלבד, שניהם נוגעים למשטר הסיכון הגבוה, והשאירה את כל השאר במקומם.

• 2 בפברואר 2025הפרקטיקות האסורות המקוריות שבסעיף 5 וחובת האוריינות שבסעיף 4 נכנסו לתוקף. התקנה החדשה לא נגעה בהן.
• 2 באוגוסט 2025חובות ספקי המודלים לשימוש כללי נכנסו לתוקף. גם הן לא שונו.
• 2 באוגוסט 2026חובות השקיפות שבסעיף 50 חלות במלואן, לרבות היידוע על התקשרות עם מכונה וסימון תוכן מחולל. זהו המועד המקורי שסביבו נבנו רוב תוכניות הציות, והוא נותר על כנו.
• 2 בדצמבר 2026שני האיסורים החדשים נכנסים לתוקף: ייצור תמונות אינטימיות בלא הסכמה, וחומר התעללות בילדים. באותו יום עצמו חלה חובת הסימון הקריא למכונה שבסעיף 50(2)‏ גם על מערכות שכבר היו בשוק לפני אוגוסט 2026, שלגביהן ניתנה ארכה.
• 2 באוגוסט 2027המועד שבו על כל מדינה חברה להעמיד ארגז חול רגולטורי לאומי אחד לפחות.
• 2 בדצמבר 2027החובות המלאות על מערכות בסיכון גבוה עצמאיות לפי נספח III‏. נדחו מן המועד המקורי, 2 באוגוסט 2026, בשישה עשר חודשים.
• 2 באוגוסט 2028החובות על מערכות בסיכון גבוה המשובצות במוצרים לפי נספח I‏, בדחייה של שנים עשר חודשים.

5. בישראל האיסור חל על הפרסום, לא על הכלי שיצר את החומר

ההסדר הישראלי המרכזי נמצא בתיקון מספר 10 משנת 2014 לחוק למניעת הטרדה מינית, התשנ"ח‑1998, המוכר כחוק הסרטונים. סעיף 3(א)(5א) קובע כי פרסום תצלום, סרט או הקלטה של אדם, המתמקד במיניותו, בנסיבות שבהן הפרסום עלול להשפיל אותו או לבזותו ובלא שהסכים לכך, מהווה הטרדה מינית. הסעיף מוסיף במפורש כי המונח כולל עריכה או שילוב, ובלבד שבנסיבות העניין ניתן לזהות את האדם. הנוסח הזה, שנחקק שנים לפני שהמונח זיוף עמוק נכנס לשיח, חל על הטכנולוגיה החדשה כמעט במקרה. העונש מגיע עד חמש שנות מאסר, ולצדו עומדת עילה אזרחית לפיצוי של עד 120,000 שקלים בלא הוכחת נזק בגין כל פרסום.

בסוף ינואר 2026, על רקע אותם אירועים, פרסמה הרשות להגנת הפרטיות אזהרה שלפיה שימוש באמצעים טכנולוגיים כדי להציג אדם בעירום או בלבוש מינימלי בלא הסכמתו עשוי להוות עבירה פלילית. הרשות מנתה ארבעה מישורי חשיפה אפשריים: פגיעה בפרטיות, הטרדה מינית, עיבוד מידע אישי שלא כדין, ואחריות אפשרית של הפלטפורמות והחברות עצמן ולא רק של המשתמש שהזין את הבקשה. במקביל מתגלגלת בכנסת הצעת חוק העונשין (תיקון, עבירות זיוף עמוק), התשפ"ו‑2025, המבקשת לקבוע ענישה מדורגת וחובת הסרה מהירה מצד הפלטפורמות, וכן הצעה נפרדת שתאפשר לחשוף את זהותם של מפיצים אנונימיים, בהתבסס על ההסדר הקיים בחוק זכות יוצרים משנת 2007.

הדין הישראלי, כנוסחו כיום, רואה עבירה בפרסום ובהפצה. הוא אינו מתייחס אל הכלי שיצר את החומר, ואינו מטיל חובת זהירות עצמאית על מי ששיווק יכולת כזו. הדין האירופי החדש נוקט בדיוק את הגישה ההפוכה: הוא אינו עוסק במפיץ, אלא בשאלה אם המערכת שווקה עם אמצעי מניעה נאותים.

6. שתי שיטות אחריות, ומה הן אומרות לחברה ישראלית

משמעות מעשית לחברות טכנולוגיה ישראליות

תחולתו של חוק הבינה המלאכותית האירופי היא אקסטרה‑טריטוריאלית. הוא חל על ספקים, מפעילים, יבואנים ומפיצים המעמידים מערכות בשוק האיחוד, וכן על כל חברה שתוצרי המערכת שלה משמשים בתוך האיחוד, בלא תלות במקום התאגדותה או בנוכחותה הפיזית באירופה.

לפיכך חברות ישראליות המפתחות, מטמיעות או מציעות מחוללי מדיה וכלים לעריכת תמונות אינן יכולות להסתמך עוד על תנאי שימוש האוסרים על משתמשי הקצה שימוש בלתי חוקי. החל מדצמבר 2026 עוברת חובת הציות משלב בקרת הנזקים המשפטית אל שלב ארכיטקטורת המוצר, והיא מחייבת תיעוד הנדסי, בדיקות יריבותיות מתועדות מסוג red teaming‏, והוכחה מראש של עמידות טכנולוגית.