Šest otázek pro každého poskytovatele AI, než mu svěříte zákaznická data

Mnoho firem váhá se zavedením AI kvůli ochraně osobních údajů – a často zcela oprávněně. Dobrou zprávou je, že k rozpoznání seriózních poskytovatelů nemusíte být právníkem. Těchto šest otázek byste měli položit každému dodavateli dříve, než k němu začnou proudit zákaznická data. Kdo se vyhýbá odpovědi, ten vám už vlastně odpověděl.

1. „Máte zpracovatelskou smlouvu (DPA)?“

Podle článku 28 GDPR je nezbytná smlouva o zpracování osobních údajů, v níž se poskytovatel zavazuje zpracovávat data výhradně podle vašich pokynů. Bez této smlouvy žádná zákaznická data nepředávejte.

2. „Kde jsou data uložena a kdo další k nim má přístup?“

Ptejte se na konkrétní datacentra a další dílčí zpracovatele. Uchovávání dat v rámci EU právní situaci výrazně zjednodušuje.

3. „Používají se má data k trénování modelu?“

Jediná správná odpověď zní ne. Vaše zákaznická data patří vám, nikoli modelu daného poskytovatele.

4. „Vidí AI více informací než zaměstnanec, který zadává dotaz?“

Často přehlížená, ale zásadní otázka. AI systém, který má přístup ke všemu, může neúmyslně zpřístupnit informace kolegům, kteří by k nim jinak neměli oprávnění – například ze soukromých e-mailových schránek nebo osobních kalendářů. Pro odpovědi generované AI musí platit stejná přístupová práva jako pro lidské uživatele.

5. „Co smí AI dělat autonomně a lze toto nastavení změnit?“

U každého úkolu by mělo být možné nastavit, zda AI pouze navrhuje řešení, jedná až po schválení člověkem, nebo pracuje zcela samostatně. Tyto pravomoci musí jít kdykoliv upravit či odebrat.

6. „Lze zpětně dohledat a auditovat každou akci?“

Detailní protokol (audit log) o tom, co AI kdy a z jakého důvodu udělala, je základem pro kontrolu i pro reakce na žádosti subjektů údajů o informace.

A jak je to mimo EU?

Ve Spojeném království platí UK GDPR s obdobnými principy, v USA se uplatňují státní zákony jako California Consumer Privacy Act (CCPA) a v Kanadě zákon PIPEDA. Těchto šest otázek představuje spolehlivý výchozí bod kdekoli na světě. Právní poradenství však nenahrazují.