Skenuje Apple Intelligence vaše fotografie?

Od iOS 18.1 (október 2024) posiela aplikácia Fotky od Apple šifrované dáta o vašich fotografiách na servery Apple v predvolenom nastavení prostredníctvom Enhanced Visual Search. Samotná fotografia nikdy neodchádza. Odchádza šifrovaný matematický odtlačok oblastí orientačných bodov vo vašich fotografiách. Apple to nemôže prečítať - ale vaše zariadenie to napriek tomu opúšťa.

Apple Intelligence sama spracúva väčšinu fotografických úloh na zariadení. Samostatne, funkcia aplikácie Fotky nazvaná Enhanced Visual Search je v predvolenom nastavení zapnutá od iOS 18.1 (október 2024) a posiela šifrované vektorové vloženia oblastí orientačných bodov vo vašich fotografiách na servery Apple. Vloženia sú šifrované pomocou homomorfného šifrovania ešte pred opustením vášho zariadenia. Apple nemôže z nich rekonštruovať vaše fotografie, ale dáta o vašich fotografiách zariadenie napriek tomu opúšťajú. Enhanced Visual Search môžete vypnúť v Nastaveniach, pod Aplikácie a potom Fotky.

Čo Enhanced Visual Search skutočne robí

Enhanced Visual Search je funkcia aplikácie Fotky, zavedená v iOS 18.1 a macOS 15.1 v októbri 2024. Umožňuje vám vyhľadávať v knižnici fotografií orientačné body a zaujímavé miesta podľa názvu. Napíšte "Eiffelova veža" a Fotky nájdu každú fotografiu, ktorá ju obsahuje, bez ohľadu na to, či má fotografia priložené GPS dáta alebo nie. To je skutočne užitočné pre každého, kto má roky netriedených fotografií z ciest.

Na to potrebuje váš iPhone porovnať orientačné body na vašich fotografiách s globálnou databázou, ktorú Apple spravuje na svojich serveroch. Tento proces vyžaduje, aby vaše zariadenie odoslalo niečo o vašich fotografiách von. Čo odosiela, ako to chráni a či ste s tým súhlasili - to sú tri otázky, ktoré stojí za to položiť.

Enhanced Visual Search je oddelená od Apple Intelligence, širšieho generatívneho AI systému Apple. Obe majú rôzne technické architektúry a rôzne prístupy k súkromiu. Toto rozlíšenie je dôležité a je popísané nižšie.

Čo opúšťa vaše zariadenie: tri úrovne "súkromia"

Tu väčšina reportáží chybuje, a to v oboch smeroch. Architektúra má tri zmysluplne odlišné úrovne a ich miešanie znemožňuje informované rozhodnutie.

Úroveň 1 je iba lokálna. Nič neopúšťa zariadenie. Vaše súbory sú spracúvané a ukladané na hardvéri, ktorý držíte. Žiadny server, žiadna sieťová požiadavka. Toto popisuje šifrovanie s nulovou znalosťou.

Úroveň 2 je šifrovaná mimo zariadenia - to je model Enhanced Visual Search. Dáta o vašich fotografiách opúšťajú zariadenie, ale sú pred odoslaním chránené. Ochrana je sofistikovanejšia, než naznačuje väčšina textov.

Úroveň 3 je cloudové spracovanie so zárukami súkromia - Private Cloud Compute Apple Intelligence. Požiadavky sú spracúvané na serverovej infraštruktúre Apple so zárukami na úrovni architektúry, že dáta nie sú ukladané a Apple ich nemôže čítať. Iný systém ako EVS, popísaný nižšie.

Tu je presný mechanizmus Enhanced Visual Search, podľa blogu Apple ML Research zverejneného 24. októbra 2024. Najprv model ML na zariadení preskúma vaše fotografie a identifikuje oblasti, ktoré môžu obsahovať orientačný bod. Pre každú oblasť zariadenie vygeneruje vektorové vloženie - numerický odtlačok vizuálneho vzoru, nie samotnej fotografie. Toto vloženie je šifrované pomocou homomorfného šifrovania (konkrétne schéma BFV). Homomorfné šifrovanie znamená, že servery Apple môžu vykonávať výpočty so šifrovanými dátami bez ich dešifrovania. Servery nikdy nedržia kľúč k vašej otázke.

Šifrovaná otázka cestuje na servery Apple cez relay Oblivious HTTP (OHTTP) prevádzkovaný treťou stranou. Relay odstráni vašu IP adresu pred tým, než požiadavka dorazí k Apple, takže Apple nemôže prepojiť žiadnu otázku s vaším zariadením alebo vaším účtom. Na ďalšie zakrytie skutočnej požiadavky vaše zariadenie odosiela vedľa nej falošné fiktívne otázky. Server nemôže rozlíšiť, ktorá otázka je skutočná. Servery vrátia šifrovaný výsledok. Vaše zariadenie ho lokálne dešifruje. Server všetko zahodí.

Samotná fotografia nie je nikdy odoslaná. Pixely nie sú nikdy odoslané. Odoslané je šifrované matematické znázornenie jednej oblasti jednej fotografie a Apple ho nemôže prečítať. To je skutočne sofistikované. Je to tiež v predvolenom nastavení zapnuté, čo je samostatná otázka.

Kryptografia je skutočná a napriek tomu to nebolo opt-in

Technická námietka voči Enhanced Visual Search nie je, že Apple zabudovala zadné dvierka. Námietka je, že Apple ju dodala ako predvolené nastavenie, aktivovala ju na stovkách miliónov telefónov v októbri 2024 a neposkytla žiadne zmysluplné oznámenie, kým si to výskumníci súkromia nevšimli koncom decembra 2024.

Sada homomorfného šifrovania plus diferenciálneho súkromia plus relay OHTTP je skutočná, zdokumentovaná a prísnejšia ako väčšina cloudových implementácií súkromia. Apple zverejnila technický článok, ktorý za ňou stojí. Kryptografia si zaslúži uznanie ešte pred prednesením argumentu o súhlase.

Ale pôsobivá kryptografia a informovaný súhlas sú dve rôzne veci. Väčšina používateľov nikdy nenájde nastavenie na zmenu predvoleného stavu. Väčšina používateľov nevedela, že funkcia existuje, kým už nefungovala. A funkcia spracúva každú fotografiu na vašom zariadení, nielen tie v iCloud, bez ohľadu na to, či iCloud vôbec používate. Nemusíte dôverovať cloudovej službe, aby ste boli ovplyvnení.

Pre toto existuje termín v politike súkromia: opt-out namiesto opt-in. Praktickým dôsledkom je, že predvolené nastavenie je takmer vždy výsledkom pre väčšinu ľudí.

Objav v januári 2025

Debata o súkromí sa stala verejnou koncom decembra 2024 a začiatkom januára 2025, keď vývojári a bezpečnostní výskumníci zistili, že funkcia už beží na ich zariadeniach.

1. januára 2025 Michael Tsai verejne zdokumentoval problém. 3. januára 2025 ho The Register zachytil. Vývojár Jeff Johnson to vyjadril jasne: "Moja námietka voči Enhanced Visual Search od Apple nie je konkrétne o technických detailoch, ktoré je pre väčšinu používateľov ťažké posúdiť, ale skôr o tom, že Apple mi vzala možnosť voľby a v predvolenom nastavení online službu aktivovala."

Matthew Green, kryptograf na Johns Hopkins, povedal: "Je veľmi frustrujúce, keď sa o službe dozviete dva dni pred Silvestrom a zistíte, že je na vašom telefóne už aktivovaná."

Ani jedna námietka nespochybňuje šifrovanie. Obe namietajú to isté: rozhodnutie bolo urobené za vás. To je argument o súhlase v jeho najčistejšej forme.

Apple Intelligence vs. Enhanced Visual Search: dva rôzne systémy

Vo väčšine reportáží sú tieto pojmy zamieňané. Fungujú odlišne a majú rôzne prístupy k súkromiu.

Enhanced Visual Search je funkcia aplikácie Fotky s vlastnou samostatnou architektúrou súkromia - homomorfné šifrovanie, diferenciálne súkromie a relay OHTTP. Apple zverejnila svoj technický článok v októbri 2024. Je oddelená od marketingovej strešnej kategórie Apple Intelligence.

Apple Intelligence je značka Apple pre jej generatívny AI systém: Writing Tools, zhrnutia, Smart Reply, generovanie obrázkov a vylepšenia Siri. Pre jednoduchšie úlohy Apple Intelligence používa modely na zariadení, ktoré spracúvajú dáta celkom na vašom zariadení bez akejkoľvek sieťovej požiadavky. Pre úlohy vyžadujúce viac výpočtového výkonu používa Private Cloud Compute.

Private Cloud Compute používa servery Apple silicon s hardvérovými ochranami podobnými Secure Enclave iPhonu. Apple tvrdí bezstavové spracovanie - vaša požiadavka je spracovaná a zahodená, nie uložená - a že ani vlastní inžinieri Apple nemôžu pristupovať k spracúvaným dátam. Systém je navrhnutý tak, aby bol nezávisle overiteľný bezpečnostnými výskumníkmi prostredníctvom zverejnených protokolov transparentnosti. To sú zmysluplné záväzky a sú architektonicky odlišné od tradičnej cloudovej služby.

Ale Private Cloud Compute je stále úroveň 3, nie úroveň 1. Vaše dáta opúšťajú vaše zariadenie. Sú spracúvané na hardvéri, ktorý Apple kontroluje. Sľuby Apple o súkromí pre neho sú silné pre cloudový systém. Nie sú totožné s lokálnym spracovaním.

Apple Intelligence môže pristupovať k vašej knižnici fotografií pre úlohy na zariadení, ako je vytváranie spomienok alebo odpovedanie na otázky o vašich fotografiách. Toto spracovanie zostáva na zariadení. Stránka Apple Legal o súkromí pre engine inteligencie uvádza, že dáta odoslané do Private Cloud Compute nie sú ukladané ani prístupné Apple a že sú zbierané iba minimálne metadáta, nie obsah. Čo Apple Intelligence nerobí, je odosielanie vašich surových fotografií na trénovanie AI modelov. Stránka Apple Legal o súkromí Fotky uvádza: "Apple nepristupuje k vašim fotografiám ani videám a nepoužíva ich na výskum a vývoj."

Ako vypnúť Enhanced Visual Search

Tieto kroky boli overené oproti oficiálnemu článku podpory Apple (KB 122033) a viacerým zdrojom tretích strán. Nižšie uvedená cesta bola potvrdená pre iOS 18 a iOS 18.1. Apple pravidelne preorganizuje Nastavenia. Ak používate iOS 19 alebo novšiu verziu a nevidíte Aplikácie na najvyššej úrovni Nastavení, vyhľadajte Enhanced Visual Search vo vyhľadávacom poli Nastavení.

Na iPhone alebo iPade: otvorte Nastavenia, klepnite na Aplikácie, klepnite na Fotky, prejdite na koniec a vypnite Enhanced Visual Search.

Na Macu: otvorte aplikáciu Fotky, prejdite na Fotky, potom Nastavenia (alebo stlačte Command a čiarku), kliknite na Všeobecné a zrušte zaškrtnutie Enhanced Visual Search.

Vypnutie zastaví budúce otázky. Neodstráni žiadne dáta, ktoré už boli odoslané na servery Apple. Politika Apple je, že dáta sú po spracovaní zahodené, ale toto tvrdenie sa nedá nezávisle overiť.

K dátumu zverejnenia tohto článku sa predpokladá, že Enhanced Visual Search je stále v predvolenom nastavení zapnutá v aktuálnej verzii iOS, v súlade so správaním pri spustení v októbri 2024. Žiadny primárny zdroj z roku 2026 nepotvrdil zmenu tohto predvoleného nastavenia. Overte to kontrolou nastavení Fotky na vašom zariadení.

Kde Vaultaire zapadá

Otázka, ktorý model súkromia potrebujete, je v konečnom dôsledku otázkou architektúry, nie funkcií. Tento text nastoluje konkrétne rozlíšenie: akú kategóriu ochrany skutočne potrebujete?

Ak sa obávate, že tretia strana môže preniknúť na servery Apple a prepojiť vaše fotografie s vašou identitou, architektúra Enhanced Visual Search to priamo rieši. Šifrované vloženia, relay OHTTP, žiadne prepojenie IP - model rizika, ktorý je navrhnutý na porážku, je zmysluplný. Kryptografia je skutočná.

Ak sa obávate, že akékoľvek dáta o vašich fotografiách vôbec opustia vaše zariadenie - pretože ukladáte citlivé súbory, pretože prekračujete hranice, pretože nechcete, aby žiadna spoločnosť robila akékoľvek rozhodnutia o vašich fotografiách na akomkoľvek serveri - tento model vám neposkytuje to, čo potrebujete.

Architektúra Vaultaire sa nachádza na úrovni 1. Súbory šifrované vzorovým šifrovaním zostávajú na vašom zariadení. Žiadny účet, žiadny server, žiadna sieťová požiadavka. Váš vzor odvodzuje kľúč AES-256-GCM a nikdy nie je uložený. Na serveri nie je nič na šifrovanie, koreláciu alebo prelomenie. Voliteľná záloha iCloud je šifrovaná pred opustením vášho telefónu a my k nej nemáme kľúč. Pre model hrozby, kde odpoveď na otázku "opúšťajú dáta o mojich fotografiách moje zariadenie" musí byť "nie", je lokálne spracovanie jedinou architektúrou, ktorá na to odpovedá.

Upozornenie: vyrábame Vaultaire. To ovplyvňuje, kde tento text končí. Čítajte ho skepticky. Každé technické tvrdenie má zdroj.

Súvisiace čítanie:

• Sú fotografie iCloud šifrované end-to-end?
• Šifrovanie s nulovou znalosťou, vysvetlené
• Čo skutočne hovoria zásady ochrany súkromia cloudového úložiska fotografií
• Sú aplikácie pre trezor fotografií bezpečné?
• Vzorové šifrovanie: váš vzor je kľúčom

Často kladené otázky

Skenuje Apple Intelligence moje fotografie?

Apple Intelligence môže pristupovať k vašej knižnici fotografií pre úlohy na zariadení, ako je vytváranie spomienok alebo odpovedanie na otázky o vašich fotografiách - toto spracovanie zostáva na vašom zariadení. Pre výpočtovo náročné požiadavky niektoré dáta putujú do Private Cloud Compute, kde sú spracúvané bez uloženia podľa dokumentácie Apple. Samostatne, Enhanced Visual Search, funkcia aplikácie Fotky aktívna od iOS 18.1, odosiela šifrované dáta o vašich fotografiách na servery Apple v predvolenom nastavení na identifikáciu orientačných bodov. Jedná sa o dva odlišné systémy.

Posiela Enhanced Visual Search moje skutočné fotografie Apple?

Nie. Enhanced Visual Search odosiela šifrované vektorové vloženia - matematické znázornenia oblastí orientačných bodov vo vašich fotografiách - nie samotné fotografie ani pixely. Vloženia sú šifrované pomocou homomorfného šifrovania pred opustením vášho zariadenia. Servery Apple ich spracúvajú bez dešifrovania. Vaša IP adresa je skrytá prostredníctvom relay OHTTP prevádzkovaného treťou stranou. Apple nemôže z dát, ktoré obdrží, rekonštruovať vašu fotografiu.

Čo presne Enhanced Visual Search posiela Apple?

Odosiela šifrované vektorové vloženie: numerický odtlačok potenciálnej oblasti orientačného bodu vo vašej fotografii. Vloženie je šifrované schémou homomorfného šifrovania BFV pred opustením vášho zariadenia. Vedľa neho sú odoslané fiktívne otázky, aby server nemohol identifikovať tú skutočnú. Vaša IP adresa je odstránená relay OHTTP pred tým, než požiadavka dorazí k Apple. Samotná fotografia ani pixely nie sú nikdy odoslané.

Ako vypnem Enhanced Visual Search?

Na iPhone alebo iPade: otvorte Nastavenia, klepnite na Aplikácie, klepnite na Fotky, prejdite na koniec a vypnite Enhanced Visual Search. Na Macu: otvorte Fotky, prejdite na Fotky a potom Nastavenia, kliknite na Všeobecné a zrušte zaškrtnutie Enhanced Visual Search. Táto cesta bola potvrdená pre iOS 18 a iOS 18.1. Ak používate novšiu verziu iOS a nemôžete ju nájsť, vyhľadajte Enhanced Visual Search vo vyhľadávacom poli Nastavení.

Je Apple Intelligence súkromná?

Apple Intelligence používa modely na zariadení pre väčšinu úloh, takže pre tieto požiadavky žiadne dáta neopúšťajú vaše zariadenie. Pre zložité úlohy používa Private Cloud Compute, kde Apple tvrdí bezstavové spracovanie a žiadne ukladanie dát. PCC je navrhnutá tak, aby bola nezávisle overiteľná bezpečnostnými výskumníkmi. To sú silné záruky pre cloudový systém - silnejšie ako väčšina cloudových služieb ponúka. Nie sú totožné s lokálnym spracovaním, kde dáta vôbec neopúšťajú zariadenie.

Používa Apple moje fotografie na trénovanie svojej AI?

Stránka Apple Legal o súkromí Fotky uvádza: "Apple nepristupuje k vašim fotografiám ani videám a nepoužíva ich na výskum a vývoj." To sa vzťahuje na aplikáciu Fotky aj Apple Intelligence. Šifrované vloženia, ktoré Enhanced Visual Search odosiela, nemôžu byť použité na trénovanie, pretože sú šifrované kľúčom, ktorý Apple nemá a nemôže obnoviť.

Čo je homomorfné šifrovanie a prečo je tu dôležité?

Homomorfné šifrovanie je kryptografická metóda, ktorá umožňuje serveru vykonávať výpočty so šifrovanými dátami bez ich dešifrovania. Pre Enhanced Visual Search vaše zariadenie šifruje vektorové vloženie pred jeho odoslaním. Servery Apple ho porovnajú s databázou orientačných bodov a vrátia šifrovaný výsledok - bez toho, aby kedy videli nešifrovanú otázku. Je to prísnejšie ako štandardné šifrovanie pri prenose, pretože server skutočne nemôže čítať dáta, ktoré spracúva.