Šest pitanja za svakog pružatelja AI usluga prije nego što mu povjerite podatke klijenata

Mnoge tvrtke oklijevaju s uvođenjem umjetne inteligencije zbog zaštite podataka, i to često s razlogom. Dobra vijest: ne morate biti pravnik kako biste prepoznali pouzdane pružatelje usluga. Ovih šest pitanja trebali biste postaviti svakom ponuđaču prije nego što podijelite podatke svojih klijenata. Tko izbjegava odgovore, zapravo vam je već odgovorio.

1. „Postoji li ugovor o obradi podataka (DPA)?“

Prema članku 28. GDPR-a potreban je ugovor kojim pružatelj usluga jamči da će podatke obrađivati isključivo prema Vašim uputama. Bez tog ugovora nema dijeljenja podataka o klijentima.

2. „Gdje se podaci pohranjuju i tko je još uključen u proces?“

Informirajte se o podatkovnim centrima i podizvođačima (podizvršiteljima obrade). Pohrana podataka unutar EU-a znatno pojednostavljuje pravnu usklađenost.

3. „Koriste li se moji podaci za treniranje modela?“

Jedini ispravan odgovor je ne. Podaci Vaših klijenata pripadaju Vama, a ne modelu pružatelja usluge.

4. „Vidi li AI više informacija od zaposlenika koji postavlja upit?“

Često zanemareno pitanje. AI sustav koji ima pristup svemu može nehotice otkriti informacije kolegama koji na njih nemaju pravo – primjerice iz privatnih pretinaca e-pošte ili osobnih kalendara. Za odgovore AI-ja moraju vrijediti ista prava pristupa kao i za čovjeka.

5. „Što AI smije učiniti bez mog nadzora i mogu li to promijeniti?“

Za svaki zadatak trebalo bi biti moguće podesiti predlaže li AI rješenje, djeluje li tek nakon odobrenja ili radi potpuno samostalno – uz opciju promjene postavki u bilo kojem trenutku.

6. „Mogu li provjeriti i rekonstruirati svaku radnju?“

Zapisnik (log) o tome što je AI učinio, kada i zašto, temelj je za kontrolu rada sustava te za odgovaranje na zahtjeve za pristup podacima.

A izvan EU-a?

U Ujedinjenom Kraljevstvu primjenjuje se UK GDPR sa sličnim načelima, u SAD-u zakoni pojedinih saveznih država poput California Consumer Privacy Act-a, a u Kanadi PIPEDA. Ovih šest pitanja svugdje predstavljaju izvrsno polazište. Ipak, ona ne zamjenjuju pravni savjet.