Nadace Vodafone představila webovou aplikaci RODIcheck, která pomáhá rodičům i prarodičům rozhodovat, jaké snímky svého dítěte je vhodné sdílet a jaké ne. K této službě využívá algoritmy umělé inteligence a Nadace Vodafone zdůrazňuje, že vložené fotografie se neukládají na serverech.
Já sám jsem měl k aplikaci několik technických dotazů, které sdíleli i někteří čtenáři. Nejpodrobněji se jich ujal čtenář Pavel Růžička, jehož otázky se shodovaly s mými, a proto jsem je přeposlal společnosti Vodafone. Na všechny dotazy odpověděl vývojář aplikace ze společnosti Cross Masters.
Pavlu Růžičkovi moc děkuji za výborné zpracování všech dotazů a Vodafonu za poskytnuté odpovědi.
Otázky a odpovědi
1. dotaz: „Úvodní stránka aplikace uvádí „Vaše data jsou uložena jen ve vašem zařízení“, průvodce ale popisuje, že „obsah určený k analýze je bezpečně přenesen do cloudové infrastruktury společnosti Microsoft“. První formulace budí dojem, že obsah zařízení neopouští, což neodpovídá skutečnosti. Plánujete ji upřesnit?“
Odpověď na 1. dotaz: „Uvedená formulace měla zdůraznit skutečnost, že aplikace sama neukládá analyzovaný obsah ani výsledky analýzy do svých databází a že výsledky zůstávají pouze v zařízení uživatele. Současně však platí, že pro provedení samotné analýzy je obsah dočasně odeslán ke zpracování do služby Azure OpenAI společnosti Microsoft. Obě informace jsou tedy správné a popisují dvě různé části procesu: samotná analýza probíhá v cloudové infrastruktuře Microsoftu, zatímco výsledky jsou ukládány pouze v zařízení uživatele. Souhlasíme však, že současná formulace v aplikaci může vést uživatele k nepřesným závěrům, proto formulaci upravíme.“
2. dotaz: „Průvodce uvádí: „Obsah ani výsledky analýzy nejsou ukládány do databází provozovaných společností Vodafone ani společností Cross Masters.“ Ve výčtu chybí Microsoft, kde samotná analýza probíhá. Zůstávají nějaká data odvozená od nahraného obsahu uložena na straně Microsoftu, a pokud ano, jak dlouho?“
Odpověď na 2. dotaz: „Uvedená pasáž dokumentu vysvětluje, že obsah ani výsledky analýzy nejsou ukládány do databází provozovaných Nadací Vodafone ani společností Cross Masters. Smyslem této informace bylo uživatele ujistit, že ani provozovatel aplikace, ani její technologický dodavatel nevytvářejí databázi analyzovaného obsahu.
Společnost Microsoft má v rámci tohoto řešení odlišnou roli. Azure OpenAI je využívána jako součást cloudové infrastruktury Microsoft Azure, na které je řešení provozováno. Nejedná se tedy o subjekt, který by aplikaci provozoval nebo vystupoval v obdobné roli jako provozovatel aplikace či její technologický dodavatel. Z tohoto důvodu nebyla role společnosti Microsoft v této části dokumentu samostatně rozepisována.
Dle dostupné dokumentace společnosti Microsoft nejsou zákaznická data využívána k trénování modelů a nejsou standardně uchovávána. V rámci poskytování služby Azure OpenAI však Microsoft provozuje vlastní bezpečnostní mechanismy, včetně abuse monitoringu, kde vystupuje ve vlastní roli definované dokumentací společnosti Microsoft. V takovém případě může za splnění určitých podmínek dojít ke krátkodobému zpracování na straně společnosti Microsoft.“
3. dotaz: „Má Nadace Vodafone u služby Azure OpenAI schválený režim „modified abuse monitoring“? Pokud ne, mohou být při detekci indicií potenciálního zneužití prompty a výstupy – tedy i fotografie dětí – uloženy na straně Microsoftu a zpřístupněny lidským revizorům. Můžete doložit, že máte na příslušném Azure resource nastaven atribut ContentLogging = false?“
Odpověď na 3. dotaz: „Aplikace využívá standardní režim služby Azure OpenAI. Microsoft v dokumentaci uvádí, že součástí služby jsou bezpečnostní mechanismy včetně abuse monitoringu. Microsoft zároveň u obrazových vstupů používá technologii automatického rozostření detekovaných obličejů při zpracování obrazu.
Je současně důležité doplnit, že abuse monitoring neslouží k běžnému ukládání veškerého obsahu zpracovávaného službou. Je určen k detekci případného zneužívání služby nebo porušování podmínek používání. Microsoft uvádí, že v odůvodněných případech může dojít k uchování relevantních dat pro účely těchto bezpečnostních procesů po dobu až 30 dní. Neznamená to však, že by byl každý požadavek nebo každý obrázek automaticky ukládán po tuto dobu.
Současně považujeme za důležité uvést, že aplikace RODIcheck byla navržena jako osvětový nástroj, který pomáhá rodičům vyhodnocovat rizika spojená se sdílením obsahu o dětech na sociálních sítích. Nejde o aplikaci určenou k vytváření nebo šíření obsahu, který by byl v rozporu s podmínkami používání služeb Microsoftu. Microsoft veřejně zveřejňuje typy činností, které považuje za porušení podmínek používání AI služeb, a na základě účelu i způsobu fungování aplikace nemáme důvod se domnívat, že by běžné používání aplikace RODIcheck spadalo do kategorií chování, na které jsou tyto mechanismy primárně zaměřeny.“
4. dotaz: „Jaký typ nasazení Azure OpenAI používáte (regionální, DataZone EU, Global) a je garantováno, že data nejsou zpracovávána mimo EU?“
Odpověď na 4. dotaz: „Řešení využívá Azure OpenAI v režimu Data Zone Standard v regionu West Europe. Při výběru technického řešení byl kladen důraz mimo jiné na využití evropské infrastruktury a odpovídající úroveň ochrany dat.“
5. dotaz: „Správcem osobních údajů je Nadace Vodafone. Posouzení dopadů na ochranu osobních údajů (DPIA) bylo ve vztahu k aplikaci provedeno a součástí návrhu řešení bylo rovněž posouzení souvisejících rizik, včetně aspektů spojených s využitím umělé inteligence. Děkujeme za upozornění, že tyto informace nejsou v dokumentu dostatečně jasné a potvrzujeme, že budou v dokumentu zpřesněny.“
Odpověď na 5. dotaz: „Kdo je správcem osobních údajů ve smyslu GDPR – Nadace Vodafone, kterou průvodce označuje za „provozovatele“, nebo Vodafone Czech Republic a.s., uvedená v patičce aplikace? Průvodce neobsahuje kontakt na správce ani pověřence. A byla vzhledem ke zpracování fotografií dětí novou technologií provedena DPIA dle čl. 35 GDPR?“
6. dotaz: „Jakou roli hraje společnost Cross Masters s.r.o. v řetězci zpracování – má jako technologický dodavatel přístup k přenášenému obsahu (byť průchozímu), nebo je pouze dodavatelem kódu aplikace bez přístupu k datovému toku?“
Odpověď na 6. dotaz: „Společnost Cross Masters vystupuje jako technologický dodavatel aplikace, tedy v pozici zpracovatele osobních údajů, který koná dle pokynů správce. Podle navržené architektury aplikace nemá společnost Cross Masters přístup k obsahu analyzovanému uživatelem a nevytváří ani neprovozuje databázi tohoto obsahu. Technická infrastruktura využívaná pro zpracování obsahu je provozována v prostředí Microsoft Azure.“
Je vhodné sdílet fotky dětí? S tím pomůže aplikace RODIcheck
