Nabava AI rešitev: GDPR, DPIA in pregled dobavitelja

AI nabava se začne z use casom, ne z demo predstavitvijo

Pred stikom s ponudnikom opišite problem, uporabnike, dovoljene podatke, pričakovani rezultat, kritične napake in alternativo brez AI. Demo je optimiziran za idealen primer; nabava mora oceniti vaš kontekst. Brez zahtev boste primerjali funkcije, ne sposobnosti za zanesljivo opravljanje naloge.

Določite organizacijsko vlogo po AI Actu in vloge po GDPR. Kdo je controller, processor ali morebitni joint controller je odvisno od dejanskega odločanja o namenih ter sredstvih obdelave, ne samo pogodbenega naslova. Ločeno preverite, ali podjetje s spremembo ali lastno znamko prevzema obveznosti providerja AI sistema.

Vzpostavite en intake, ki na podlagi odgovorov usmeri zahtevo v pravni, zasebnostni, varnostni, arhitekturni in poslovni pregled. Nizko tvegano orodje naj dobi hitro pot, sistem z osebnimi podatki ali vplivom na ljudi pa globlji pregled.

Podatkovni tok narišite od izvora do izbrisa

Zabeležite, kateri podatki vstopijo v sistem, kdo jih pošlje, kje se obdelujejo, kateri podizvajalci jih prejmejo, kaj se beleži, koliko časa se hrani in kako se izbriše. Preverite, ali se prompti, outputi ali feedback uporabljajo za izboljšanje modela ter ali je to mogoče pogodbeno in tehnično izključiti.

Ločite poslovne zaupne podatke, osebne podatke, posebne vrste, podatke zaposlenih in intelektualno lastnino. Psevdonimizacija zmanjša nekatere rizike, vendar podatki ostanejo osebni, če jih je mogoče povezati z osebo. Trditev ponudnika, da je model 'anonimen', zahteva konkretne dokaze in presojo primera.

EDPB poudarja, da je anonimnost AI modela treba presojati individualno ter da mora biti zelo malo verjetna tako identifikacija posameznika kot ekstrakcija njegovih podatkov. Ne enačite odstranitve imena z anonimnostjo.

• Diagram podatkovnega toka in lokacije
• Namen, pravna podlaga in minimizacija
• Uporaba podatkov za učenje ter hramba
• Izbris, izvoz in pravice posameznika

DPIA je proces obvladovanja tveganja za ljudi

Kadar je verjetno veliko tveganje za pravice in svoboščine, GDPR zahteva DPIA pred obdelavo. Tipični sprožilci lahko vključujejo sistematično ocenjevanje, obsežno obdelavo občutljivih podatkov, spremljanje, inovativno tehnologijo ali vpliv na ranljive osebe, pri čemer preverite tudi seznam pristojnega nadzornega organa.

DPIA opiše potrebo in sorazmernost, tveganja za posameznike ter ukrepe. Ne omejite se na kibernetsko varnost. Napačna AI odločitev lahko povzroči diskriminacijo, izgubo priložnosti, manipulacijo ali onemogočeno uveljavljanje pravic, tudi ko podatki niso ukradeni.

Če velikega preostalega tveganja ni mogoče ublažiti, je potrebno predhodno posvetovanje z nadzornim organom. DPIA posodobite ob spremembi namena, modela, podatkov, obsega ali prizadetih skupin. Podpis pred pilotom ni trajna izjema za vse prihodnje verzije.

Varnostni pregled mora vključiti AI specifične napade

Poleg klasične varnosti ocenite prompt injection, data exfiltration, zlonamerne dokumente v RAG, neustrezno uporabo orodij, model denial of service, zastrupljanje podatkov in uhajanje skozi loge. Preverite tenant isolation, upravljanje ključev, SSO, RBAC, šifriranje, backup, ranljivosti dobavne verige in odziv na incidente.

Orodja agenta naj imajo minimalne pravice in strukturirane funkcije. Produkcijski sistem ne potrebuje splošnega dostopa do pošte ali baze, če mora samo ustvariti osnutek. Za nepovratna dejanja zahtevajte človekovo odobritev, omejitve zneskov, allowlist destinacij in transakcijski audit trail.

Zahtevajte rezultate relevantnih testov, vendar ne sprejmite certifikata kot dokaz pravilnosti vašega use casa. Ponudnik lahko varno upravlja infrastrukturo, aplikacija pa še vedno daje diskriminatorne ali napačne rezultate v vašem procesu.

Pogodba mora pokriti spremembe skozi življenjski cikel

Določite dovoljeni namen, navodila, podatke, lokacije, podizvajalce, roke hrambe, varnostne ukrepe, pomoč pri pravicah posameznikov, incidente, audit, izbris in vrnitev podatkov. Dodajte obveznost obveščanja o materialni spremembi modela, podatkovne politike, funkcionalnosti ali podizvajalca ter pravico do ponovne ocene.

Razjasnite odgovornost za dokumentacijo po AI Actu, transparentnost uporabnikom, oznake sintetične vsebine, loge in informacije, potrebne za human oversight. Če ponudnik omeji dostop do dokazov, lahko podjetju onemogoči izpolnitev lastnih obveznosti.

Exit plan naj vključuje izvoz podatkov in konfiguracije, brisanje, migracijsko pomoč, nadaljevanje kritičnega procesa ter preklic ključev. Vendor lock-in ni samo cenovno tveganje; lahko prepreči pravočasen umik neskladnega ali nevarnega sistema.

Produkcijsko odobritev pogojujte z dokazi

Pilot izvedite na reprezentativnih primerih in primerjajte z baselineom. Preverite kakovost, pristranskost, zavrnitve, varnost, latenco, strošek in človeško delo po uporabi AI. Uporabnik ponudnika ali prodajna ekipa ne sme sama potrditi produkcije sistema, ki vpliva na ljudi.

Go-live paket vsebuje klasifikacijo, pogodbe, DPIA oziroma obrazložitev, varnostni pregled, eval rezultate, navodila, usposabljanje, transparentnost, monitoring, incident plan in podpis lastnika. Odstopanja naj imajo rok, odgovorno osebo in kompenzacijsko kontrolo.

Po uvedbi spremljajte SLA, kakovost in spremembe dobavitelja. Četrtletno preverite aktivne uporabnike, strošek, incidente in realiziran učinek; letno obnovite due diligence ali prej ob materialni spremembi. Nabava je začetek odnosa, ne konec nadzora.

Pogosta vprašanja