התשובה הקצרה
בדיקת מטא-נתונים מוכיחה שתמונה הגיעה ממחולל. היא לעולם לא מוכיחה את ההפך. היעדר תווית אומר שהתווית אבדה איפשהו, וזה קורה כל הזמן.
- תווית קיימת: ראיה חזקה ערך של IPTC Digital Source Type, שדה מחולל ב-XMP או מניפסט C2PA חתום נוקבים במקור ישירות. קבצים כמעט אף פעם לא מקבלים את השדות האלה במקרה.
- תווית חסרה: אין ראיה לשום כיוון צילומי מסך, העלאות לרשתות חברתיות, אפליקציות הודעות ורוב העורכים משמיטים שדות מקור. קובץ נקי מוכיח רק שהקובץ נקי.
איך נראית תווית בינה מלאכותית אמיתית
שלוש מערכות נפרדות כותבות את השדות האלה, וקובץ שנוצר בבינה מלאכותית נושא לעיתים קרובות יותר משדה אחד.
| סימן | היכן הוא נמצא | מה זה מגלה לכם |
|---|---|---|
| סוג מקור דיגיטלי של IPTC | בלוק IPTC או XMP | ערך מבוקר כמו trained algorithmic media, composite synthetic media או digital capture. IPTC מפרסמת את אוצר המונחים, ולכן משמעות הערכים זהה בכל מקום. |
| שדות מחולל ב-XMP | חבילת XMP | שם הכלי, המודל, לפעמים טקסט הפרומפט ומזהה משימה. |
| C2PA Content Credentials | מניפסט חתום בתוך הקובץ | מקור והיסטוריית עריכה, חתומים קריפטוגרפית. מפרט C2PA מגדיר את הפורמט. |
| תגיות Software והערות | EXIF | חלש יותר, אבל ערך Software שנוקב בשם מחולל עדיין נחשב לקצה חוט. |
בדקו קובץ בשלושה שלבים
- השיגו את הקובץ המקורי בקשו את הקובץ כפי שנשלח, לא צילום מסך ולא הורדה מרשת חברתית. עותק שנשמר מחדש כבר איבד את השדות שאתם רוצים לקרוא.
- פתחו אותו במציג טענו אותו בכלי המטא-נתונים. דבר אינו מועלה. חלונית הבינה המלאכותית והמקור מציגה את המחולל המוצהר וכל שדה מקור שהקובץ מחזיק.
- קראו את התוצאה כפשוטה שדות קיימים משמעותם שהקובץ מצהיר על כך. אם לא נמצא דבר, משמעות הדבר היא שהקובץ אינו אומר כלום. הכלי אינו הופך שתיקה לפסק דין, וכך גם עליכם לנהוג.
מדוע גלאי פיקסלים אינם מסכימים זה עם זה
גלאי תמונות בינה מלאכותית מסתכל על התמונה ונותן ציון לכמה היא נראית סינתטית. הציון הזה מגיע ממודל שאומן על דוגמאות, ולכן הוא יורש כל פער במערך האימון הזה. העבירו צילום אחד בשלושה גלאים ותוכלו לאסוף שלוש תשובות שונות.
אופני הכשל צפויים. דחיסה כבדה, מנקה רעשים חזק, פילטר יופי או חיתוך שהוגדל כולם דוחפים צילום אמיתי לכיוון ציון סינתטי. תמונה שנוצרה בבינה מלאכותית שעברה צילום מסך והעלאה לרשת חברתית נוחתת לעיתים קרובות בצד הבטוח. אף תוצאה מהן לא נושאת הוכחה.
מערכות סימני מים שחיות בתוך הפיקסלים נמצאות בקטגוריה שלישית. Google DeepMind מתארת את SynthID כאות בלתי מורגש שמוטמע בפיקסלים עצמם ומזוהה בטכנולוגיית SynthID. רק גלאי תואם קורא אותו. Vaultaire לעולם לא בודקת פיקסלים, ולכן היא מדווחת על מחרוזת SynthID רק כשהמטא-נתונים מזכירים אחת, ואחרת אומרת שבדיקת הפיקסלים לא רצה.
כיצד התוויות נעלמות
רוב אובדן התוויות לא קשור לכך שמישהו מסתיר משהו.
- צילומי מסך צילום מסך הוא תמונה חדשה של מסך. הוא נושא את המטא-נתונים של המכשיר שלכם ואף אחד מאלה של הקובץ המקורי.
- פלטפורמות חברתיות ואפליקציות הודעות העלאות עוברות קידוד מחדש כדי לחסוך ברוחב הפס. הקידוד מחדש שומר את הפיקסלים ומשמיט את רוב בלוקי המטא-נתונים.
- עריכות רגילות חתכו אותה, שנו את גודלה או ייצאו אותה בפורמט אחר, ועורכים רבים כותבים קובץ חדש רק עם השדות שמעניינים אותם.
- הסרה מכוונת כלי להסרת מטא-נתונים מנקה את השדות בכוונה. זו אותה בעיה חד-כיוונית מהצד השני.
שאלות נפוצות על בדיקת תמונות בינה מלאכותית
אפשר לדעת אם תמונה נוצרה בבינה מלאכותית?
לפעמים, ורק בכיוון אחד. כאשר הקובץ נושא תווית בינה מלאכותית כגון ערך ה-IPTC Digital Source Type של trained algorithmic media, שם של מחולל, או מניפסט C2PA חתום, יש לכם תשובה ודאית. כאשר הקובץ אינו נושא אף אחד מאלה, אין לכם תשובה כלל, מכיוון ששמירה ושיתוף מסירים שדות אלה באופן שגרתי.
האם גלאי תמונות בינה מלאכותית מדויקים?
גלאי פיקסלים מחזירים הסתברות, לא עובדה, והם טועים בשני הכיוונים בתמונות רגילות. השתמשו בהם כרמז ולעולם לא כראיה.
האם צילום מסך שומר מטא-נתונים של בינה מלאכותית?
לא. צילום מסך יוצר קובץ חדש ממה שהוצג על המסך. הוא נושא את המטא-נתונים שהמכשיר שלכם כותב ואף לא אחת מתוויות הבינה המלאכותית או רשומות ה-C2PA של הקובץ המקורי.
האם Instagram מסירה נתוני EXIF?
כל פלטפורמה חברתית גדולה מקודדת מחדש העלאות ומשמיטה את רוב המטא-נתונים המקוריים, כולל שדות מקור של בינה מלאכותית. תמונה שנשמרה מפיד חברתי כמעט אף פעם לא נושאת את מה שהמחולל כתב.
באילו מחוללים הדוח יכול לנקוב?
כשהקובץ מתעד זאת, הדוח נוקב בשמות Adobe Firefly, AUTOMATIC1111 או Stable Diffusion WebUI, ChatGPT או OpenAI, ComfyUI, DALL-E, Flux, Google Imagen, InvokeAI, Midjourney ו-Stable Diffusion. הוא מדווח על הטקסט שהקובץ מחזיק ולעולם לא מנחש מעבר לו.
האם הקובץ עוזב את המכשיר שלי?
לא. הפענוח מתבצע ב-Web Worker בדפדפן שלכם. ללא העלאה, ללא חשבון, ללא עותק בשרת.