Što to znači za vaše poduzeće?
Želite uvesti AI u svakodnevni rad – očitavati račune, razvrstavati helpdesk upite, odgovarati na rutinsku e-poštu. No u zraku ostaje pitanje: „Smijemo li to uopće? Što kaže zaštita podataka?“
Kratak odgovor glasi: Da, ako ga pravilno postavite. Tri točke moraju štimati – tko obrađuje vaše podatke, gdje se podaci nalaze i zašto ih smijete obrađivati. Kada su te tri točke jasno uređene, primjena AI-ja u srednjim poduzećima izvediva je u potpunom skladu s GDPR-om – pod uvjetom da se ugovori i tokovi podataka urede unaprijed.
Ovaj članak vrijedi pročitati do kraja ako želite sami proći kroz sve tri točke ili svom službeniku za zaštitu podataka dati čvrstu podlogu. Za svaku točku prolazimo konkretne ugovorne klauzule i preporuke pružatelja koje poznajemo iz više od 400 projekata za srednja poduzeća. Ako tražite kraći put: 30-minutni uvodni razgovor s nama obično je najbrži korak.
O čemu ovisi dopuštena primjena AI-ja
Hoće li procesi potpomognuti AI-jem u srednjim poduzećima biti pravno usklađeni ovisi o tehničkoj i ugovornoj postavi. Moraju se poklopiti tri temelja: ugovor o obradi podataka po nalogu (DPA / AVV) s pružateljem AI usluge, EU rezidentnost podataka za obradu te dokumentirana pravna osnova na strani naručitelja. Kada su ta tri stupa uredno postavljena, 80 % uobičajenih AI slučajeva primjene u srednjim poduzećima nije rizično.
Praktični izazov najčešće leži u odabiru odgovarajućeg operativnog modela. Od 2023. produkcijski uvodimo AI agente za srednja poduzeća te ovdje sažimamo koji obrasci funkcioniraju, gdje nastaju najčešće pogreške i kako izgleda čista arhitektura.
Tri stupa AI arhitekture usklađene s GDPR-om
Stup 1: Ugovor o obradi podataka po nalogu (DPA / AVV) prema čl. 28. GDPR-a
Čim AI obrađuje osobne podatke (što je automatski slučaj kod svakog helpdesk, CRM ili e-poštanskog procesa), primjenjuje se čl. 28. GDPR-a: obvezan je pisani ugovor o obradi podataka po nalogu (DPA / AVV) između naručitelja i pružatelja AI usluge.
Što mora sadržavati ugovor o obradi podataka:
- Što se obrađuje: npr. „tekstovi iz helpdesk tiketa radi klasifikacije“
- Gdje se obrađuje: fizička regija pohrane i obrade podataka (idealno EU)
- Koliko dugo: najčešće 30 dana zapisnika, nakon čega slijedi automatsko brisanje
- Tko odgovara: kod povreda zaštite podataka primarno voditelj obrade (naručitelj), sekundarno izvršitelj (pružatelj)
- Koje tehničke i organizacijske mjere (TOM): šifriranje, prava pristupa, procedure sigurnosnih kopija
- Podizvršitelji obrade: ako sam pružatelj AI usluge koristi cloud servise (što je čest slučaj: OpenAI koristi Microsoft Azure, Anthropic koristi AWS)
Svi ozbiljni pružatelji AI usluga nude standardne DPA predloške. Ako pružatelj to odbija ili se poziva isključivo na standardne opće uvjete poslovanja, to je jasan znak za oprez.
Stup 2: Europska pohrana podataka
Pozadina: Sud Europske unije presudom Schrems II (2020.) ukinuo je EU-US Privacy Shield. Prijenos podataka u SAD od tada je dopušten samo uz dodatne zaštitne mehanizme (standardne ugovorne klauzule – SCC i procjenu učinka prijenosa – TIA). To je pravno izvedivo, ali složeno i nosi preostali rizik.
Pragmatično rješenje: ugovorno osigurati EU rezidentnost podataka. To znači da se sva obrada i pohrana fizički odvijaju unutar Europske unije, čime zaobilazite problematiku prijenosa u treće zemlje.
Konkretno:
- Zoho raspolaže EU podatkovnim centrom u Amsterdamu – standardna postava za europske klijente
- OpenAI Enterprise standardno nudi EU rezidentnost podataka (regija Frankfurt)
- Anthropic obrađuje upite putem AWS EU regija kada je tako konfiguriran
- Mistral je francuska tvrtka s europskim hostingom kao zadanim standardom
- Aleph Alpha ima sjedište u Njemačkoj i nudi on-premise te EU cloud opcije
- Odoo se može pokretati putem self-hostinga u vlastitom EU cloudu – AI moduli poput OCA-AI mogu se povezati s lokalnim jezičnim modelima
Ako pružatelj AI usluge ne može ugovorno zajamčiti EU regiju, odaberite drugog pružatelja.
Stup 3: Dokumentirana pravna osnova
Na strani naručitelja (dakle u vašem poduzeću) svaka obrada osobnih podataka mora imati pravnu osnovu prema čl. 6. GDPR-a:
- Izvršavanje ugovora (čl. 6. st. 1. t. b) – obrada narudžbi i ugovornih zahtjeva uz podršku AI-ja
- Legitimni interes (čl. 6. st. 1. t. f) – AI pretkvalifikacija u helpdesku, AI očitanje dokumenata u računovodstvu
- Privola (čl. 6. st. 1. t. a) – marketinška personalizacija, profiliranje, personalizacija newslettera
Legitimni interes najčešća je pravna osnova u poslovanju srednjih poduzeća. Zahtijeva procjenu ravnoteže interesa: vaš interes (učinkovitost) naspram interesa ispitanika (zaštita podataka). Kod čiste pretkvalifikacije u helpdesku vaš interes u pravilu prevladava – sve dok AI ne donosi konačne odluke umjesto čovjeka, već samo daje prijedloge.
Tu procjenu trebate zabilježiti u evidenciji aktivnosti obrade. Ako je dosad niste vodili, uspostavite je odmah pri uvođenju AI-ja umjesto da čekate prvi nadzor zaštite podataka.
Tri arhitektonska obrasca za integraciju
Obrazac A: AI integriran u platformu (Zoho Zia, Odoo moduli)
AI funkcije ugrađene su izravno u ERP ili CRM platformu. Prednosti: ugovor o obradi podataka već je dio postojećih ugovora platforme, EU rezidentnost podataka osigurava sama platforma, a u arhitekturu ne uvodite dodatnog dobavljača.
Kada je to pravi izbor:
- Standardni slučajevi primjene (pretkvalifikacija u helpdesku, bodovanje prilika, generiranje nacrta e-pošte)
- Poduzeća kojima su Zoho One ili Odoo središnja poslovna platforma
- Kada AI funkcije želite brzo pustiti u produkciju
Primjer: Reifen24 koristi AI pretkvalifikaciju u helpdesku – AI razvrstava pristigle tikete u četiri kategorije (status isporuke, reklamacija, savjetovanje, račun). Klasifikacija se odvija na modelu s EU rezidentnošću podataka, a osobni podaci prethodno se pseudonimiziraju. Više detalja donosi studija slučaja Reifen24.
Detaljniji članak: Vodič za AI usklađen s GDPR-om u Zoho One
Obrazac B: Povezivanje vlastitih ili namjenskih jezičnih modela
AI radi na vlastitoj infrastrukturi (ili provjerenom EU cloudu), a ERP sustav šalje upite izravno na API jezičnog modela. Prednosti: maksimalna kontrola jer podaci nikada ne napuštaju vašu infrastrukturu.
Kada je to pravi izbor:
- Visoko osjetljivi podaci (ljudski resursi, financije)
- Zahtjevi usklađenosti stroži od samog GDPR-a (npr. ISO 27001, BaFin, sektorski propisi)
- Vrlo specifični slučajevi primjene s prilagođenim radnim tokovima
Opseg posla: u pravilu 3 do 4 puta veći od rješenja integriranog u platformu. Preporučujemo ga samo kada Obrazac A doista ne zadovoljava zahtjeve.
Detaljniji članak: Vodič za AI usklađen s GDPR-om u Odoou
Obrazac C: Vanjski jezični modeli putem europskih cloud krajnjih točaka
Koristite najsuvremeniji veliki jezični model (npr. Claude, GPT, Mistral Large), ali je regija obrade obvezujuće postavljena na EU. Prednosti: najviša kvaliteta AI obrade uz istodobnu usklađenost s presudom Schrems II.
Kada je to pravi izbor:
- Potrebne su vam pune mogućnosti modernih jezičnih modela (složeno zaključivanje, dugi konteksti, multimodalni ulazi)
- Standardni poslovni procesi koji zahtijevaju visoku kvalitetu – npr. analiza ugovora, istraživanje tržišta, tehnička dokumentacija
- Nemate interne IT resurse za vlastiti self-hosting sustav
Detaljniji članak: Usporedba pružatelja za EU rezidentnost podataka kod AI-ja
Tipični propusti iz prakse
1. „Koristimo ChatGPT, ali samo besplatnu verziju“: besplatna razina ChatGPT-a nema Enterprise ugovor o obradi podataka, nema jamstvo EU rezidentnosti podataka, a upiti se po zadanim postavkama koriste za treniranje modela. Za srednja poduzeća to nije dopušteno ni u jednom procesu s osobnim podacima. Ako vam je alat doista potreban u poslovanju: ChatGPT Enterprise ili API s isključenim treniranjem – nikada besplatni paket za poslovne podatke.
2. „Pružatelj paušalno oglašava usklađenost s GDPR-om“: usklađenost s GDPR-om nije certifikat dobavljača, nego pitanje arhitekture. Čak i najbolji pružatelj postaje neusklađen ako naručitelj obrađuje podatke bez pravne osnove. Odgovornost ostaje na naručitelju – pružatelj odgovara samo za vlastite tehničke i organizacijske mjere.
3. „Imamo potpisan DPA, pa je sve u redu“: ugovor o obradi podataka nužan je preduvjet, ali nije dovoljan. Uz njega trebate dokumentiranu pravnu osnovu, smanjenje količine podataka, pseudonimizaciju gdje je moguća, edukaciju zaposlenika i plan postupanja u slučaju povrede podataka.
4. „Pseudonimizaciju ćemo dodati kasnije“: to je točka na kojoj pada 80 % AI projekata. Pseudonimizacija mora biti postavljena prije puštanja u produkciju, a ne naknadno. Mi je uvijek ugrađujemo kao prvi korak podatkovnog toka.
5. „Ne treba nam evidencija aktivnosti obrade“: naprotiv, potrebna je prema čl. 30. GDPR-a. Za poduzeća s više od 250 zaposlenika zakonski je obvezna, za manja snažno preporučena (i obvezna kod redovite obrade), a službenik za zaštitu podataka očekuje je pri svakoj provjeri.
Tri načela iz naših projekata
Prvo: arhitektura ispred alata. Koju AI platformu odabirete tek je druga najvažnija odluka. Najvažnije je kako je ugrađujete – sa slojem za pseudonimizaciju ili bez njega, s dokumentiranom pravnom osnovom ili bez nje, s jasno ograničenim opsegom primjene ili bez njega.
Drugo: EU rezidentnost podataka nije predmet kompromisa. Nekoliko postotaka razlike u latenciji između američke i europske regije beznačajno je u usporedbi s pravnim rizikom presude Schrems II. Odbijamo projekte u kojima nije moguće zajamčiti obradu u EU.
Treće: korak ljudske potvrde u radnom toku. AI agente u pravilu projektiramo tako da izrađuju prijedloge, ali ne donose samostalne konačne odluke. To štiti od dva rizika: tehničkih pogrešaka (jezični modeli mogu halucinirati) i ograničenja iz čl. 22. GDPR-a (isključivo automatizirano donošenje odluka u pravilu nije dopušteno bez izričite privole).
Sljedeći korak
Ako želite uvesti AI agente u skladu s GDPR-om – javite nam se. U 30-minutnom uvodnom razgovoru prolazimo vaš slučaj primjene, klasifikaciju podataka i pravni okvir zajedno s vašim službenikom za zaštitu podataka. Na kraju razgovora imate jasnu procjenu: je li proces nekritičan (standardna postava), osjetljiv (uz sloj za pseudonimizaciju) ili visokorizičan (vlastiti EU cloud).
Pregled konkretnih provedbi donosi naša stranica Automatizacija i AI, a naš pristup projektima opisujemo pod O Mate iT-u. Konkretan Mate iT projekt s AI-jem usklađenim s GDPR-om: primjer iz trgovine gumama (Reifen24).
Česta pitanja
Što konkretno znači usklađenost s GDPR-om kod AI agenata?
Moraju biti ispunjena tri uvjeta: prvo, postoji važeći ugovor o obradi podataka po nalogu (DPA / AVV) s pružateljem AI usluge koji uređuje obveze u skladu s čl. 28. GDPR-a. Drugo, jasno je definirana regija obrade podataka – za osjetljive osobne podatke EU rezidentnost podataka mora biti ugovorno zajamčena. Treće, klijent (srednje poduzeće) ima dokumentiranu pravnu osnovu za obradu – najčešće legitimni interes ili izvršavanje ugovora. Kada su sve tri točke uredno dokumentirane, primjena AI-ja usklađena je s GDPR-om.
Koji su pružatelji AI usluga usklađeni s GDPR-om za srednja poduzeća?
Trenutačno postoje tri glavna smjera: (1) Američki pružatelji (OpenAI, Anthropic, Google) s konfiguracijama za EU rezidentnost podataka – prikladni za standardne slučajeve primjene, ali uz određeni preostali rizik vezan uz implikacije presude Schrems II. (2) Europski pružatelji (Mistral, Aleph Alpha, Black Forest Labs) – izvorno usklađeni s GDPR-om, s nešto manjim mogućnostima od vodećih američkih modela, ali sasvim dovoljni za potrebe srednjih poduzeća. (3) AI integriran u platformu (Zoho Zia u EU podatkovnom centru, Odoo OCA AI moduli) – manji napor pri postavljanju jer je ugovor o obradi podataka već dio ugovora o ERP platformi. Najčešće preporučujemo (2) ili (3), ovisno o slučaju primjene.
Trebam li za AI agente ugovor o obradi podataka po nalogu (DPA / AVV)?
Da, uvijek kada AI obrađuje osobne podatke – što je automatski slučaj kod svakog helpdesk, CRM ili e-poštanskog procesa. Ugovor o obradi podataka (DPA / AVV) uređuje što pružatelj smije činiti s podacima (ništa osim same obrade), gdje se pohranjuju, koliko dugo, tko odgovara u slučaju povrede te koje su tehničke i organizacijske mjere (TOM) dokumentirane. Bez ugovora o obradi podataka primjena AI-ja formalno nije dopuštena. Svi ozbiljni pružatelji AI usluga (OpenAI Enterprise, Anthropic, Mistral, Zoho, Odoo) standardno nude DPA / AVV.
Što je EU rezidentnost podataka i zašto je važna za AI?
EU rezidentnost podataka znači da se sve operacije obrade i pohrane fizički odvijaju unutar EU – bez usmjeravanja preko američkih poslužitelja i bez sigurnosnih kopija u trećim zemljama. Kod AI-ja je to važno jer su mnogi veliki jezični modeli (LLM) trenirani na američkoj infrastrukturi pa se upiti po zadanim postavkama šalju onamo. Presuda Schrems II ukinula je EU-US Privacy Shield, pa prijenos podataka u SAD danas zahtijeva dodatne zaštitne mehanizme (SCC i TIA). Uz EU rezidentnost podataka izbjegavate problematiku prijenosa u treće zemlje. Srednjim poduzećima preporučujemo da ugovorni partner jamči EU regiju podatkovnog centra (npr. Frankfurt, Amsterdam, Dublin).
Smiju li se osobni podaci dijeliti u AI upitima (promptovima)?
Da, ako to pokriva ugovor o obradi podataka i ako je osigurana EU rezidentnost podataka. Važno je dijeliti samo one podatke koji su nužni za svrhu obrade (načelo smanjenja količine podataka). Primjer pretkvalifikacije u helpdesku: sadržaj tiketa se dijeli jer je to svrha obrade, ali datumi rođenja ili brojevi računa ne moraju se slati. Obično ugrađujemo sloj za pseudonimizaciju koji uklanja nerelevantna polja prije slanja AI modelu, čime se drastično smanjuje rizik u slučaju incidenta.
Što se događa s podacima nakon AI obrade?
Kod ozbiljnih pružatelja podaci se ne koriste za treniranje modela – to mora biti ugovorno zajamčeno (kod OpenAI-ja izričito putem Enterprise paketa ili API opt-out opcije, a kod Anthropica i Mistrala standardno). Obrađeni podaci brišu se nakon definiranog roka (najčešće 30 dana zapisnika radi analize pogrešaka, nakon čega se automatski brišu). To mora stajati u ugovoru o obradi podataka. Ako pružatelj ne može ugovorno zajamčiti isključenje iz treniranja modela, ne dolazi u obzir za poslovne osobne podatke.
Koliko stoji uvođenje AI agenata usklađenih s GDPR-om?
Same AI licence često su povoljne (najčešće 10–30 € po korisniku mjesečno kod rješenja integriranih u platformu, odnosno 50–200 € kod prilagođenih LLM sustava). Glavni pokretač troškova je arhitektura uvođenja: pregled ugovora o obradi podataka sa službenikom za zaštitu podataka, izrada sloja za pseudonimizaciju, validacija slučaja primjene i edukacija zaposlenika. Za helpdesk sustav srednjeg poduzeća poput projekta Reifen24 računamo s 8.000–15.000 € za implementaciju plus tekući AI troškovi. Raspoređeno na tri godine, obično 30–40 % otpada na licence, a 60–70 % na implementaciju i usklađenost.
Koji su AI slučajevi primjene u srednjim poduzećima osobito osjetljivi prema GDPR-u?
Tri su područja posebno osjetljiva: (1) Ljudski resursi – pretkvalifikacija prijava za posao, analiza učinka zaposlenika, praćenje raspoloženja. Ovdje GDPR često nije dovoljan jer EU Akt o umjetnoj inteligenciji (EU AI Act) takve sustave svrstava u visokorizične. (2) Podaci o kupcima s posebnim kategorijama – zdravstveni, financijski ili podaci povezani s vjerskim ili svjetonazorskim uvjerenjima, za koje su potrebne dodatne pravne osnove prema čl. 9. GDPR-a. (3) Nadzorni slučajevi primjene – nadzor e-pošte, analiza ponašanja i prediktivna segmentacija kupaca, koje u pravilu ne preporučujemo ili ih provodimo samo uz izričitu privolu. Standardni procesi poput pretkvalifikacije u helpdesku, očitanja računa i prevođenja nekritični su kada su ugovor o obradi podataka i EU rezidentnost uredno postavljeni.