Oživit úsměv zesnulého příbuzného nebo vylepšit snímek dítěte zabere s AI pár vteřin. Snímky ale v cizích systémech zůstávají navždy. Poznejte skrytá rizika umělé inteligence i nová unijní pravidla, která mají chránit naše soukromí, ale i pomáhat rozpoznávat podvrhy.
Poslat starou fotku zesnulého tatínka do chytré aplikace a sledovat, jak se na obrazovce po pár vteřinách najednou na vás od srdce usměje nebo zamrká? Dojemný okamžik, ze kterého běhá mráz po zádech, když vám následně dojde, co do AI nástroje nahráváte. Stejně snadno rodiče upravují snímky svých malých dětí, které na fotkách nechávají vylepšovat novým filtrem.
Málokdo z nás si ale uvědomí, kam tyhle soukromé vzpomínky ve skutečnosti putují a co vše o nás mohou prozradit. Děti vám neřeknou, že s tím nesouhlasí, ani ti, co bohužel nejsou mezi námi. Všechny tyto citlivé údaje přitom mizí v neznámých databázích a otevírají skrytá rizika umělé inteligence, která si většinou ani neumíme představit.
O bezpečnosti sdílení dětí často informuje policie na sociálních sítích, protože edukovat je stále nutné. Nejde jen o sdílení obličejů, ale i vysvědčení či fotek ultrazvuků, ze kterých se dozvíte spoustu informací.
Jakmile někam nahrajeme rodinný portrét, nad jeho dalším osudem nadobro ztrácíte kontrolu. Aplikace na druhé straně planety si z fotky vytáhne detailní biometrické údaje a použije je k trénování dalších výpočetních modelů. Často to vypadá tak, že fotky malých dětí z běžných profilů na sítích končí na místech, kde by je žádný rodič v životě vidět nechtěl.
Rodinné snímky zkrátka zůstávají v cizích systémech a nikdo je odtud už nikdy nesmaže. Z obyčejné vzpomínky se tak stává volně dostupná surovina pro kohokoliv, kdo k ní získá přístup. Stačí si vzpomenout na potíže AI Grok, která na základě snadného promptu dokázala osoby na fotce svléknout, a to se bohužel rozkřiklo.
Varování před nahráváním fotek na internet už dávno nejsou jen přehnané obavy. Tvrdá fakta nedávno ukázal výzkum organizace UNICEF a Interpolu. Přes milion dětí se v něm přiznalo ke zkušenosti, že někdo vzal jejich obyčejnou fotku a upravil ji do nevhodné, nahé nebo vymyšlené podoby. V některých zemích takhle dopadlo každé pětadvacáté dítě, takže vlastně jeden žák z téměř každé běžné školní třídy.
Nejhorší na tom je, jak snadno to jde. Na sociálních sítích fungují programy, kam stačí poslat fotku z výletu nebo od vody, a aplikace z ní sama smaže oblečení. Pro děti je to obrovský šok a lidé z UNICEF navíc upozorňují, že jakýkoliv takový zásah do soukromí zanechává na dětské psychice hlubokou stopu. Případů přitom přibývá rychleji než možností, jak se bránit.
Ledy se ale konečně pohnuly, protože od 2. srpna 2026 totiž začínají platit přísnější pravidla pro vývojáře i aplikace, která navazují na evropský Akt o umělé inteligenci z roku 2024. Když vám teď někdo naservíruje upravovanou fotku, podvržené video s reálným člověkem nebo změněný hlas, musí vám to bez mučení přiznat.
Na takové výtvory přibudou jasné ikony od Evropské unie nebo speciální kód přímo uvnitř souboru. Pokud by se nějaká firma chtěla zkoušet vyhýbat pravidlům, riskuje obří pokutu až 15 milionů eur, případně tři procenta ze svého celkového ročního obratu. Otázkou je, jestli to dokáže odradit i jedince, kteří si generují falešné obrázky jen tak na své sociální sítě.
Ani ten nejlepší zákon ale neodklikne tlačítko odeslat za nás. Fotky našich dětí a vzpomínky na příbuzné patří k tomu nejsoukromějšímu, co máme, a žádná aplikace na světě za jejich bezpečí ruku do ohně nedá. Jakmile jednou pošlete obrázek neznámému algoritmu, vrátit čas už nejde. Nejlepší ochranou proto zůstává prostá obezřetnost a pár vteřin přemýšlení předtím, než jakoukoliv fotku nahrajeme na internet, sociální sítě či do AI programů.
Zdroje: Autorský text, Policie ČR, Unicef
