Když zaměstnanec vloží do AI chatu e-mail se jménem, adresou nebo zdravotním stavem klienta, firma tím zpracovává osobní údaje a předává je poskytovateli služby. Podle obecného nařízení o ochraně osobních údajů (GDPR) za to odpovídá firma, ne zaměstnanec. Nejjednodušší ochrana je jasné pravidlo, co do AI nepatří, a vypnuté trénování na vašich datech.

Proč na tom záleží

GDPR vyžaduje, aby firma měla pro každé zpracování osobních údajů právní důvod a aby o něm lidi informovala. Vložení klientských dat do bezplatného chatu, který je může použít k trénování svých modelů, tyto podmínky obvykle nesplňuje. Odpovědnost nese firma jako správce údajů a dohled nad tím má v Česku Úřad pro ochranu osobních údajů.

Evropský sbor pro ochranu osobních údajů, který sdružuje dozorové úřady členských států, se vztahu AI modelů a osobních údajů věnoval ve stanovisku 28/2024 přijatém 18. prosince 2024. Řeší v něm mimo jiné, kdy lze AI model považovat za anonymní a na jakém právním základě se smí osobní údaje při vývoji a používání modelů zpracovávat.

Podle průzkumu AI MOMENTUM 2026, který udělala Česká asociace umělé inteligence s Hospodářskou komorou, patří obavy o bezpečnost dat mezi hlavní brzdy zavádění AI v českých firmách. Jasná pravidla tak firmě pomohou nejen se zákonem, ale i s tím, aby se lidé AI nebáli používat.

Trénování na vašich datech jde vypnout

V ChatGPT najdete v nastavení sekci Data controls a v ní přepínač Improve the model for everyone. Když ho vypnete, nové konverzace se k trénování modelů OpenAI nepoužijí. Firemní účty ChatGPT Business, Enterprise a Edu OpenAI k trénování ve výchozím stavu nepoužívá vůbec.

U Gemini rozhoduje nastavení Keep Activity na stránce aktivity v aplikacích Gemini. Když je vypnuté, Google konverzace podle své nápovědy k trénování AI nepoužije a nebudou je číst lidští hodnotitelé, uchová je však 72 hodin. Pracovní a školní účty Google Workspace mohou mít podle Googlu jiné podmínky zpracování dat.

U Clauda jde o nastavení Model Improvement v soukromí účtu. Anonymní chaty se podle Anthropicu k vylepšování modelu nepoužijí nikdy. U všech tří služeb ale platí, že když odpověď ohodnotíte palcem, může se celá konverzace použít ke zlepšování modelu i při vypnutém trénování.

Co do AI chatu nepatří

Nejjednodušší pravidlo zní: osobní údaje klientů a zaměstnanců, rodná čísla, zdravotní údaje, hesla, přístupové údaje a důvěrná čísla do bezplatných AI chatů nevkládat. Když je potřeba pracovat s dokumentem, údaje předem anonymizujte: jména nahraďte zkratkami, čísla smluv a adresy vymažte. AI na shrnutí nebo přeformulování textu konkrétní jména nepotřebuje.

Pozor i na nahrávky a přepisy porad. Hlas a jména účastníků jsou osobní údaje, takže o nahrávání musíte lidi předem informovat a přepis vkládat jen do nástroje, který má odpovídající podmínky zpracování dat.

Co to znamená pro vás

Pokud AI ve firmě používá víc lidí, vyplatí se firemní verze nástrojů, které se k trénování ve výchozím stavu nepoužívají a nabízejí smlouvu o zpracování osobních údajů. Sepište jednoduchá pravidla, co se do AI smí vkládat, projděte je s týmem a u bezplatných účtů nechte každého vypnout trénování hned po registraci. Při nejasnostech se obraťte na pověřence pro ochranu osobních údajů nebo na právníka.

Zdroje: OpenAI: Data controls in ChatGPT, Google: Gemini Apps Privacy Hub, Anthropic: Is my data used for model training?, EDPB: stanovisko 28/2024, BusinessInfo.cz: průzkum ČAUI a HK ČR, ÚOOÚ. Foto: Unsplash.

Vzorové prompty ke zkopírování