Zaslon iPhonea s prikazom postavki aplikacije Photos s ikonom lokota i šifriranim podacima koji teku prema tamnom oblak-poslužitelju

Skenira li Apple Intelligence tvoje fotografije?

Od iOS-a 18.1 (listopad 2024.), Appleova aplikacija Photos po zadanim postavkama šalje šifrirane podatke o tvojim fotografijama na Appleove poslužitelje putem Enhanced Visual Searcha. Sama fotografija nikada ne odlazi. Odlazi šifrirani matematički otisak regija s prepoznatljivim mjestima u tvojim fotografijama. Apple ga ne može pročitati - ali on ipak napušta tvoj uređaj.

Apple Intelligence sam obrađuje većinu zadataka vezanih uz fotografije na uređaju. Zasebno, značajka aplikacije Photos pod nazivom Enhanced Visual Search aktivna je po zadanim postavkama od iOS-a 18.1 (listopad 2024.) i šalje šifrirane vektorske zapise regija s prepoznatljivim mjestima u tvojim fotografijama na Appleove poslužitelje. Zapisi su šifrirani homomorfnom enkripcijom prije nego što napuste tvoj uređaj. Apple ne može rekonstruirati tvoje fotografije iz njih, ali podaci o tvojim fotografijama ipak napuštaju tvoj uređaj. Enhanced Visual Search možeš isključiti u Postavkama, pod Aplikacije, zatim Photos.

Što Enhanced Visual Search zapravo radi

Enhanced Visual Search je značajka u aplikaciji Photos, uvedena u iOS-u 18.1 i macOS-u 15.1 u listopadu 2024. Omogućuje pretraživanje knjižnice fotografija prema prepoznatljivim mjestima i točkama interesa prema imenu. Upiši "Eiffelov toranj" i Photos pronalazi svaku fotografiju koja ga sadrži, bez obzira ima li fotografija priložene GPS podatke ili ne. To je zaista korisno za svakoga tko ima godine nerazvrstanih fotografija s putovanja.

Da bi to mogao, tvoj iPhone mora usporediti prepoznatljiva mjesta na tvojim fotografijama s globalnom bazom podataka koju Apple održava na svojim poslužiteljima. Taj proces zahtijeva da tvoj uređaj pošalje nešto o tvojim fotografijama prema van. Što šalje, kako to štiti i jesi li pristao na to - tri su pitanja vrijedna postavljanja.

Enhanced Visual Search odvojen je od Apple Intelligencea, Appleovog šireg generativnog AI sustava. Dva sustava imaju različite tehničke arhitekture i različite stavove prema privatnosti. Ta razlika je važna i objašnjena je u nastavku.

Što napušta tvoj uređaj: tri razine "privatnog"

Ovdje većina prikaza griješi, u oba smjera. Arhitektura ima tri smisleno različite razine, a miješanje ih onemogućuje donošenje informirane odluke.

Razina 1 je isključivo lokalna. Ništa ne napušta uređaj. Tvoje datoteke obrađuju se i pohranjuju na hardveru koji držiš. Bez poslužitelja, bez mrežnih zahtjeva. To opisuje enkripcija s nultim znanjem.

Razina 2 je šifrirana izvan uređaja, što je model Enhanced Visual Searcha. Podaci o tvojim fotografijama napuštaju uređaj, ali su zaštićeni prije odlaska. Zaštita je sofisticiranija nego što većina prikaza sugerira.

Razina 3 je obrada u oblaku s jamstvima privatnosti - Private Cloud Compute za Apple Intelligence. Zahtjevi se obrađuju na Appleovoj serverskoj infrastrukturi s jamstvima na razini arhitekture da se podaci ne pohranjuju i da ih Apple ne može čitati. Drugačiji sustav od EVS-a, opisan u nastavku.

Evo točnog mehanizma za Enhanced Visual Search, prema Appleovom ML Research blogu objavljenom 24. listopada 2024. Prvo, ML model na uređaju ispituje tvoje fotografije i identificira regije koje bi mogle sadržavati prepoznatljivo mjesto. Za svaku regiju, uređaj generira vektorski zapis - numerički otisak vizualnog uzorka, ne same fotografije. Taj zapis šifrira se homomorfnom enkripcijom (konkretno BFV shemom). Homomorfna enkripcija znači da Appleovi poslužitelji mogu pokretati izračune nad šifriranim podacima bez dešifriranja. Poslužitelji nikada ne drže ključ za tvoj upit.

Šifrirani upit putuje do Appleovih poslužitelja putem Oblivious HTTP (OHTTP) releja kojim upravlja treća strana. Relej uklanja tvoju IP adresu prije nego zahtjev stigne do Applea, tako da Apple ne može povezati nijedan upit s tvojim uređajem ili računom. Kako bi dodatno zamaglio stvarni zahtjev, tvoj uređaj šalje lažne dummy upite uz njega. Poslužitelj ne može razlikovati koji je upit stvaran. Poslužitelji vraćaju šifrirani rezultat. Tvoj uređaj ga lokalno dešifrira. Poslužitelj sve odbacuje.

Sama fotografija nikada se ne šalje. Pikseli se nikada ne šalju. Šalje se šifrirani matematički prikaz jedne regije jedne fotografije, a Apple ga ne može pročitati. To je zaista sofisticirano. Također je uključeno po zadanim postavkama, što je zasebno pitanje.

Kriptografija je stvarna, a opet nije bila opt-in

Tehnički prigovor Enhanced Visual Searchu nije da je Apple ugradio stražnja vrata. Prigovor je da je Apple isporučio to kao zadano, aktivirao na stotinama milijuna telefona u listopadu 2024. i nije pružio nikakvu smislenu obavijest dok to nisu primijetili istraživači privatnosti krajem prosinca 2024.

Skup homomorfne enkripcije plus diferencijalna privatnost plus OHTTP relej je stvaran, dokumentiran i rigorozniji od većine implementacija privatnosti u oblaku. Apple je objavio tehnički rad iza njega. Kriptografija zaslužuje biti priznata prije iznošenja argumenta o pristanku.

Ali impresivna kriptografija i informirani pristanak su različite stvari. Većina korisnika nikada neće pronaći postavku za promjenu zadanog. Većina korisnika nije znala da značajka postoji dok već nije bila pokrenuta. A značajka obrađuje svaku fotografiju na tvom uređaju, ne samo one u iCloudu, bez obzira koristiš li iCloud uopće. Ne moraš vjerovati oblak usluzi da bi bio pogođen.

Postoji naziv za to u politici privatnosti: opt-out umjesto opt-in. Praktična posljedica je da je zadano gotovo uvijek ishod za većinu ljudi.

Otkriće u siječnju 2025.

Rasprava o privatnosti izbila je u javnost krajem prosinca 2024. i početkom siječnja 2025., kada su programeri i sigurnosni istraživači otkrili da značajka već radi na njihovim uređajima.

1. siječnja 2025. Michael Tsai javno je dokumentirao problem. 3. siječnja 2025. The Register ga je preuzeo. Programer Jeff Johnson jasno je formulirao problem: "Moj prigovor Appleovom Enhanced Visual Searchu nije konkretno tehnički detalji, koje je većini korisnika teško procijeniti, već činjenica da je Apple preuzeo odluku iz mojih ruku i omogućio online uslugu po zadanim postavkama."

Matthew Green, kriptograf na Johns Hopkinsu, rekao je: "Jako je frustrirajuće kada saznaš za uslugu dva dana prije Nove godine i otkriješ da je već bila aktivirana na tvom telefonu."

Nijedan prigovor ne osporava enkripciju. Oba prigovaraju istoj stvari: odluka je donesena umjesto tebe. To je argument o pristanku u najčišćem obliku.

Apple Intelligence vs. Enhanced Visual Search: dva različita sustava

Ova dva se miješaju u većini prikaza. Rade na drugačiji način i imaju različite stavove prema privatnosti.

Enhanced Visual Search je značajka aplikacije Photos s vlastitom samostalnom arhitekturom privatnosti - homomorfna enkripcija, diferencijalna privatnost i OHTTP relej. Apple je objavio tehnički rad u listopadu 2024. Odvojen je od marketinškog kišobrana Apple Intelligence.

Apple Intelligence je Appleov brend za njegov generativni AI sustav: Writing Tools, sažeci, Smart Reply, generiranje slika i nadogradnje Sirija. Za jednostavnije zadatke, Apple Intelligence koristi modele na uređaju koji obrađuju podatke u potpunosti na tvom uređaju, bez mrežnih zahtjeva. Za zadatke koji zahtijevaju više računalne snage, koristi Private Cloud Compute.

Private Cloud Compute koristi Apple silicon poslužitelje s hardverskim zaštitama sličnim iPhoneovom Secure Enclaveu. Apple tvrdi obradu bez pohrane - tvoj zahtjev se obradi i odbaci, ne pohranjuje - i da Appleovi vlastiti inženjeri ne mogu pristupiti podacima koji se obrađuju. Sustav je dizajniran da ga sigurnosni istraživači mogu neovisno verificirati putem objavljenih dnevnika transparentnosti. To su smislene obveze, a arhitekturno su drugačije od tradicionalne usluge u oblaku.

Ali Private Cloud Compute je i dalje Razina 3, ne Razina 1. Tvoji podaci napuštaju tvoj uređaj. Obrađuje ih hardver koji kontrolira Apple. Appleova jamstva privatnosti za njega su snažna za sustav u oblaku. Nisu ista kao obrada isključivo lokalno.

Apple Intelligence može pristupiti tvojoj knjižnici fotografija za zadatke na uređaju poput stvaranja uspomena ili odgovaranja na pitanja o tvojim fotografijama. Ta obrada ostaje na uređaju. Appleova pravna stranica o privatnosti za intelligence engine navodi da se podaci poslani na Private Cloud Compute ne pohranjuju niti su dostupni Appleu, i da se prikuplja samo minimalni metapodaci, a ne sadržaj. Ono što Apple Intelligence ne čini je slanje tvojih sirovih fotografija za treniranje AI modela. Appleova pravna stranica o privatnosti za Photos navodi: "Apple ne pristupa tvojim fotografijama ili videozapisima, niti ih koristi za istraživanje i razvoj."

Kako isključiti Enhanced Visual Search

Ovi koraci provjereni su prema Appleovom službenom članku za podršku (KB 122033) i višestrukim izvorima trećih strana. Put opisan ispod potvrđen je za iOS 18 i iOS 18.1. Apple povremeno reorganizira Postavke. Ako koristiš iOS 19 ili noviju verziju i ne vidiš Aplikacije na gornjoj razini Postavki, potraži Enhanced Visual Search u traci za pretraživanje unutar Postavki.

Na iPhoneu ili iPadu: otvori Postavke, tapni Aplikacije, tapni Photos, pomakni se do dna i isključi Enhanced Visual Search.

Na Macu: otvori aplikaciju Photos, idi na Photos, zatim Postavke (ili pritisni Command i zarez), klikni Općenito i odznači Enhanced Visual Search.

Isključivanje zaustavlja buduće upite. Ne briše nikakve podatke koji su već poslani na Appleove poslužitelje. Appleova politika je da se podaci odbacuju nakon obrade, ali ta tvrdnja nije neovisno provjerljiva.

U trenutku objave ovog članka, pretpostavlja se da je Enhanced Visual Search još uvijek uključen po zadanim postavkama u trenutnoj verziji iOS-a, u skladu s ponašanjem pri pokretanju u listopadu 2024. Nijedan primarni izvor iz 2026. nije potvrdio promjenu te zadane postavke. Provjeri pregledom postavki Photos na svom uređaju.

Gdje se uklapa Vaultaire

Pitanje koji model privatnosti ti treba je u konačnici pitanje arhitekture, a ne značajki. Ovaj tekst naglašava specifičnu razliku: koji stupanj zaštite ti zapravo treba?

Ako te brine da bi treća strana mogla provaliti Appleove poslužitelje i povezati tvoje fotografije s tvojim identitetom, arhitektura Enhanced Visual Searcha izravno to rješava. Šifrirani zapisi, OHTTP relej, bez veze s IP adresom - model rizika koji je dizajniran da porazi je smislen. Kriptografija je stvarna.

Ako te brine da ikakvi podaci o tvojim fotografijama uopće napuštaju tvoj uređaj - jer čuvaš osjetljive datoteke, jer prelaziš granice, jer ne želiš da ikoja tvrtka donosi ikakve odluke o tvojim fotografijama na bilo kojim poslužiteljima - taj model ti ne daje što trebaš.

Arhitektura Vaultairea je na Razini 1. Datoteke šifrirane enkripcijom temeljenom na uzorku ostaju na tvom uređaju. Nema računa, nema poslužitelja, nema mrežnih zahtjeva. Tvoj uzorak izvodi AES-256-GCM ključ i nikada se ne pohranjuje. Na poslužitelju nema ničega za šifriranje, korelaciju ili provalu. Neobavezna sigurnosna kopija u iCloudu šifrirana je prije nego napusti tvoj telefon, a mi ne držimo ključ za nju. Za model prijetnje gdje odgovor na pitanje "napuštaju li podaci o mojim fotografijama moj uređaj" mora biti "ne", isključivo lokalna pohrana jedina je arhitektura koja to pruža.

Napomena: mi izrađujemo Vaultaire. To utječe na zaključak ovog teksta. Čitaj s dozom skepticizma. Svaka tehnička tvrdnja ima izvor.

Povezano čitanje:

Izvori

Često postavljana pitanja

Skenira li Apple Intelligence moje fotografije?

Apple Intelligence može pristupiti tvojoj knjižnici fotografija za zadatke na uređaju poput stvaranja uspomena ili odgovaranja na pitanja o tvojim fotografijama - ta obrada ostaje na tvom uređaju. Za računalno zahtjevne zahtjeve neki podaci idu na Private Cloud Compute, gdje se obrađuju bez pohrane prema Appleovoj dokumentaciji. Zasebno, Enhanced Visual Search, značajka aplikacije Photos aktivna od iOS-a 18.1, po zadanim postavkama šalje šifrirane podatke o tvojim fotografijama na Appleove poslužitelje radi identificiranja prepoznatljivih mjesta. To su dva različita sustava.

Šalje li Enhanced Visual Search moje stvarne fotografije Appleu?

Ne. Enhanced Visual Search šalje šifrirane vektorske zapise - matematičke prikaze regija s prepoznatljivim mjestima u tvojim fotografijama - a ne same fotografije ili piksele. Zapisi su šifrirani homomorfnom enkripcijom prije nego napuste tvoj uređaj. Appleovi poslužitelji ih obrađuju bez dešifriranja. Tvoja IP adresa sakrivena je putem OHTTP releja kojim upravlja treća strana. Apple ne može rekonstruirati tvoju fotografiju iz podataka koje prima.

Što zapravo Enhanced Visual Search šalje Appleu?

Šalje šifrirani vektorski zapis: numerički otisak potencijalne regije s prepoznatljivim mjestom u tvojoj fotografiji. Zapis je šifriran BFV homomorfnom enkripcijom shemom prije nego napusti tvoj uređaj. Lažni dummy upiti šalju se uz njega kako poslužitelj ne bi mogao identificirati stvarni. Tvoja IP adresa uklanja se OHTTP relejem prije nego zahtjev stigne do Applea. Sama fotografija i pikseli nikada se ne šalju.

Kako isključiti Enhanced Visual Search?

Na iPhoneu ili iPadu: otvori Postavke, tapni Aplikacije, tapni Photos, pomakni se do dna i isključi Enhanced Visual Search. Na Macu: otvori Photos, idi na Photos zatim Postavke, klikni Općenito i odznači Enhanced Visual Search. Taj put potvrđen je za iOS 18 i iOS 18.1. Ako koristiš noviju verziju iOS-a i ne možeš ga pronaći, potraži Enhanced Visual Search u traci za pretraživanje unutar Postavki.

Je li Apple Intelligence privatan?

Apple Intelligence koristi modele na uređaju za većinu zadataka, tako da nikakvi podaci ne napuštaju tvoj uređaj za te zahtjeve. Za složene zadatke koristi Private Cloud Compute, gdje Apple tvrdi obradu bez pohrane i ne zadržavanje podataka. PCC je dizajniran da ga sigurnosni istraživači mogu neovisno verificirati. To su snažna jamstva za sustav u oblaku - jača od većine usluga u oblaku. Nisu ista kao isključivo lokalna obrada, gdje podaci uopće ne napuštaju uređaj.

Koristi li Apple moje fotografije za treniranje svog AI-a?

Appleova pravna stranica o privatnosti za Photos navodi: "Apple ne pristupa tvojim fotografijama ili videozapisima, niti ih koristi za istraživanje i razvoj." To pokriva i aplikaciju Photos i Apple Intelligence. Šifrirani zapisi koje Enhanced Visual Search šalje ne mogu se koristiti za treniranje jer su šifrirani ključem koji Apple ne posjeduje i ne može oporaviti.

Što je homomorfna enkripcija i zašto je ovdje važna?

Homomorfna enkripcija je kriptografska metoda koja poslužitelju omogućuje pokretanje izračuna nad šifriranim podacima bez dešifriranja. Za Enhanced Visual Search, tvoj uređaj šifrira vektorski zapis prije slanja. Appleovi poslužitelji uspoređuju ga s bazom podataka prepoznatljivih mjesta i vraćaju šifrirani rezultat - bez ikada viđanja nešifriranog upita. Rigoroznija je od standardne enkripcije u prijenosu, jer poslužitelj zaista ne može čitati podatke koje obrađuje.

Preuzmi Vaultaire besplatno