Az AI ma már nem sci-fi, hanem a mindennapok része — és vele együtt megérkeztek az új jogi, adatbiztonsági és vállalati kockázatok is. De ki viseli a felelősséget, ha egy chatbot hibázik? Mi az a Shadow AI, és miért félnek tőle a cégek? Dr. Dávid Péter AI szakjogász szerint a mesterséges intelligencia korszakában a technológia mellett a tudatosság és az oktatás válik a legfontosabb védelmi vonallá.
„Még 2003-ban járunk, egy poros sufniban két összekötött 486-os gép zúg éjszakákon át. A cél? Megtanítani a gépet amőbázni. Az informatikus testvérnek hála a projekt sikerül, a gép megtanul a kis „ixszekkel” játszani és rommá is veri alanyunkat, épp az ő stratégiájával” — valahogy így kezdődött, meséli Dávid Péter AI szakjogász a MI és más adásában.
Az akkori történet ma már mindenki számára kézzelfogható, az AI nem sci-fi, hanem maga a valóság. A különbség az, hogy ma nem egy amőba győzelem a tét, hanem az üzleti titkaink, a felelősségünk és egy olyan uniós szabályozás, aminek a nevétől (AI Act) sok fejlesztőnek még mindig felszalad a szemöldöke.
Az AI chatbot nem jogalany – a pofon az embernél csattan
Sokan hajlamosak vagyunk úgy beszélni az AI-ről, az AI-ügynökökről, mintha kollégáink lennének, de ahogyan az említett podcastben Dávid Péter kifejtette: a jog ezt nem így látja, a nap végén mindig az ember a felelős.
Nincs „majd a chatbot kifizeti a kártérítést”
A szakember a műsorban emlékeztett az Air Canada hírhedt esetére. A légitársaság chatbotja kitalált egy saját szabályt a jegyvisszatérítésre, majd, amikor az utas perelt, a cég azzal védekezett, hogy „hát, a bot mondta”. A bíróság erre az indoklásra nem volt vevő, kimondták, hogy a cég felelős mindenért, amit az általa bevetett algoritmus mond.
Tanulság: ha egy kész modellt (legyen az egy „polcról levett” megoldás) úgy hekkelsz meg, hogy az magas kockázatú döntéseket kezd hozni, onnantól te számítasz fejlesztőnek, és a teljes jogi felelősség is a te nyakadba szakad.
Shadow AI: a céges titkok csendes halála
Van az a jelenség, amit Shadow AI-nak hívunk, és ami minden IT-biztonsági felelős rémálma. Ilyenkor történik meg a Dávid Péter által „adatkiszivárogtatásnak” nevezett jelenség, vagyis, amikor az üzleti titok, a bizalmas információ házon kívülre kerül, és ki tudja, melyik modell tanításánál köt ki legközelebb.
Ha a cégnek titoktartási nyilatkozata (NDA) van egy ügyféllel, és az ügyfél adatait töltik fel egy külső AI modellbe, az már önmagában szerződésszegésnek minősül, mivel az adatokat egy harmadik fél (az AI szolgáltatója) számára hozzáférhetővé tették.
S ehhez nem „kell” más, mint, hogy egy bizalmas szerződést bedobjunk egy gyors fordításra a DeepL-be, vagy hogy egy kolléga megkérje a ChatGPT, hogy nézzen át egy érzékeny kódrészletet.
Határidő tologatás Brüsszelben
Az AI Act kapcsán sokan attól féltek, hogy az befékezi innovációt Európában. A jogalkotók azonban rájöttek, hogy a jogászok nem ugyanazt a nyelvet beszélik — mondja a Dávid Péter. A jogászok szigorúak voltak, a mérnökök meg jelezték, hogy a technológia ennél sokkal bonyolultabb. Így született meg a Digital Omnibus csomag 2025. végén. Mit jelent ez a gyakorlatban?
• Csúsznak a határidők: mivel látszott, hogy a 2025-2026-os dátumok tarthatatlanok, a legszigorúbb szabályok bevezetését egy-másfél évvel eltolták.
• Mérnöki szempontok érvényesítése: a szakértő szerint a csomag lényege, hogy a szabályozás ne legyen „túl jogászi”. Ez egyfajta „békejobb” a technológiai szektornak, ahol a mérnökök és a jogászok végre megértették egymást, biztosítva, hogy a szabályozás ne fojtsa meg az innovációt.
• KKV-k támogatása: a Digital Omnibus célja a kis- és középvállalkozások megfelelésének könnyítése, hogy a kisebb cégek számára ne jelentsen elviselhetetlen terhet a szabályoknak való megfelelés.
• A „cookie-k” egyszerűsítése: a csomag a felhasználói élményt is javítaná azáltal, hogy egyszerűsítené a weboldalakon állandóan felugró süti-ablakokat, így könnyebbé válna az online tartalomfogyasztás.
• Konzultáció: a módosítások részeként jelenleg is folyik egy egyeztetés (például az 50. paragrafusról), mert a jogalkotók belátták, hogy a szabályozás korábban túl szigorú és túl általános volt.
Összességében a Digital Omnibus csomag azt a célt szolgálja — emeli ki Dávid Péter, hogy a jogi kereteket hozzáigazítsák a technológiai fejlődés valós sebességéhez és a versenyképesség megőrzése mellett egyfajta „jogbiztonság által szült szabadságot” és digitális szuverenitást teremtsen az európai polgárok számára.
A „Fekete Doboz” vége és a FOMO-érzés
A szabályozás egyik legfontosabb pontja a Black Box technológia tilalma. Nem lehet többé olyan algoritmust használni (főleg magas kockázatú területeken, mint a hitelezés vagy a munkaerőfelvétel), aminek nem tudjuk megmagyarázni a működését. Itt jön a képbe az Explainable AI (XAI), ahol a rendszernek meg kell mutatnia, „min gondolkodik” éppen. A szakértő szerint fejlesztőként ezért érdemes a RAG (Retrieval-Augmented Generation) irányába mozdulni: ha csak a saját, ellenőrzött adatbázisodból engedjük dolgozni a gépet, drasztikusan csökken a „hallucináció” és a jogi bukta esélye is.
Természetesen mindenki érzi a FOMO-t (a lemaradástól való félelmet). Naponta jönnek ki az új modellek, amik gyorsabbak, okosabbak, jobbak. Minden új alkalmazás kipróbálása, bevezetése azonban összetett feladat és nem szabad, hogy háttérbe szorítsa a kollégák képzését. Ahogy Dr. Dávid Péter mondja: oktass, oktass és oktass!
Az oktatás eleve kötelező feladat, a kollégák pedig akkor is használni fogják az AI-t, ha nem kapnak rá engedélyt. A menedzsment felelőssége, hogy tisztázza, milyen adatokat szabad feltölteni, és milyen zárt, biztonságos rendszereket (például saját „on-prem” megoldást) kell alkalmazni az adatok védelme érdekében.
A vezető számára pedig csak az a kérdés marad, hogy vajon tud-e az AI használatról és hogy a kollégák biztonságosan csinálják, vagy épp most töltik fel a cég jövő évi stratégiáját egy nyilvános szerverre?
A cikk szerzője a minden szerdán új adással jelentkező „MI és más – közérthetően a mesterséges intelligenciáról” podcast szerkesztő műsorvezetője, akinek a cikk megírásában a felvétel alapján a NotebookLM segített. Az összes eddigi adás elérhető a Youtube-on és a Spotify-on, minden más a műsor Linkedin és Facebook oldalán.
