Az elmúlt hét ismét felkavarta az AI körüli vitákat: Dario Amodei, az Anthropic vezérigazgatója a fejlesztések lassítását és szigorúbb ellenőrzését sürgette, amit Elon Musk és Sam Altman is támogatott, miközben Donald Trump elutasította a lassítás gondolatát.
A mesterséges intelligencia fejlődése azonban nem egyszerűen újabb verziószámokról szól. A kérdéseinkre válaszoló chatbotok korszaka után megjelentek az AI-ágensek, amelyek már nemcsak információt adnak, hanem önállóan összetett feladatokat is végrehajtanak. Ez pedig új lehetőségeket és új kockázatokat is jelent a vállalatok számára.
A MI és más legutóbbi adásában valamelyest a turbulenciát kiváltó fejleményekről – elsősorban az mesterséges intelligencia ügynökökről – beszélgettünk Kerek Istvánnal, az Everengine vezérigazgatójával, a „ChatGPT magyarul” csoport alapítójával. Ahogyan ő fogalmazott, a korábbi nagy nyelvi modellek korszakát, ahol a rendszerek kizárólag a feltett kérdéseinkre adtak válaszokat, felváltja az Agentic AI világa. Az a világ, ahol AI-ágensek már nem passzív információforrások, hanem önállóan komplex feladatsorokat elvégző digitális asszisztensek.
Kerek István szerint az autonóm működés megjelenésével a kritikus gondolkodás mellett a szigorú biztonsági keretrendszerek felépítése a legégetőbb vállalati feladat. Amikor egy ágens önállóan cselekszik a cég nevében, a mögöttes jogi és pénzügyi felelősség változatlanul a felhasználót vagy a vállalkozást terheli – a technológiai buktatók pedig súlyos adatvesztéshez vagy működési zavarokhoz vezethetnek.
Egy pontatlan utasítás végzetes is lehet
Mint mondta, megfelelő jogosultságkezelés híján egy pontatlan utasítás is végzetes lehet. Példaként elmondott egy egyszerű esetet, amikor az agent feladata két meghajtó szinkronizálása volt, de az eredmény egy hibás parancssori opció végrehajtása miatt katasztrofális lett. Az agent ugyan szinkronizálta a két adathordozót, de ahelyett, hogy az egyikről hiányzó fájlokat átmásoltra volna a másikról, inkább törölte azokat, amelyek csak az egyiken voltak – így érve el a nem tökéletesen megfogalmazott célt.
Kerek István, akinek épp a napokban jelent meg az „AI Agentek a gyakorlatban” könyve, mindenkinek kellő óvatosságot, dedikált tesztgépek használatát, folyamatos biztonsági mentéseket, szigorú szabályrendszereket, a protokollal szabályozott jogosultságokat, valamint az ágensek tevékenységének kötelező logolását javasolja.
Szerinte első lépésként olyan területre érdemes ágenst építeni, ahol kizárólag befelé jövő adatokat dolgozunk fel, így nincs közvetlen pénzügyi, jogi vagy ügyfélkommunikációs kockázat. Ideális kezdőfeladat a konkurenciafigyelés, a beszállítói árak és akciók összehasonlítása, az iparági trendek követése, vagy akár egy konkrét rendezvényfigyelő ügynök.
Emellett érdemes az ügynököt elkülönített gépen, vagy munkaterületen futtatni, megelőzve, hogy hozzáférjen a teljes fájlrendszerhez. Szigorú jogosultságkezelésre van szükség és az úgynevezett MCP (Model Context Protocol) protokollal és keretrendszerekkel pontosan szabályozni kell a hozzáférést (például kizárólag olvasási jogot adni, és a promptban kifejezetten megtiltani a fájlok törlését vagy felülírását).
Szintén nagyon fontos, hogyha valamilyen adatot vagy dokumentumot átadunk az ágensnek, akkor arról készítsünk előzetesen biztonsági mentést.
Hangsúlyozta, hogy az ágens működési kereteit is pontosan meg kell határozni, be kell állítani a futtatás gyakoriságát (például napi rendszeresség), a szűrési paramétereket (például földrajzi korlátok), valamint a kimeneti formátumot (például Excel-táblázat, riport, dashboard vagy üzenet) – és természetesen az így kapott adatokat, riportokat a felhasználás előtt mindig le kell ellenőrizni.
Vibe-coding versus WordPress: a szoftverfejlesztés új dilemmája
Napjaink egyik slágere a vibe-coding, amely lehetővé teszi, hogy a felhasználók, mint e cikk szerzője is, pusztán a vágyott funkciók elmondásával, leírásával fejlesszenek weboldalakat, alkalmazásokat vagy szoftvereket – érdemi programozói tudás nélkül.
Vállalati szempontból azonban a vibe-coding komoly DevOps és biztonsági kihívásokat hordoz magában. Bár egy így előállított sima, statikus HTML oldal biztonságosabb lehet a felületi sérülékenységeket hordozó WordPress oldalaknál – ahol sok esetben egy verziófrissítés leírása szinte a „lábtörlő alá készíti a kulcsot a betörőknek”.
Ugyanakkor véleménye szerint a skálázás és az adatbázis-kezelés terén az amatőr kódbázisok komoly kockázatot jelentenek és ha egy ilyen alkalmazás látogatottsága megugrik, az üzemeltetési költségek és a kibertámadási felületek hirtelen robbanásszerűen megnövekednek.
Híd a lakossági próbálkozás és a vállalati digitális érettség között
Magyarországon a magánszemélyek mintegy 80%-a próbált már valamilyen AI-eszközt, míg a vállalati szféra továbbra is a sereghajtók között foglal helyet az érdemi integráció terén. A hagyományos oktatási intézmények 2 éves akkreditációs átfutási ideje képtelen lekövetni az AI fejlesztések elképesztő tempóját – emeli ki Kerek István, aki ezt a szakadékot saját módszertanával és az általa kifejlesztett Skill Pass platformmal igyekszik áthidalni.
A Skill Pass egyfajta gamifikált digitális AI-útlevél és képességtérkép, amely a közösségi visszacsatolásokon és a valós gyakorlati eredményeken keresztül igazolja a felhasználók AI-kompetenciáit.
A projekt sikere esetén ez a megoldás a vállalatok számára megbízható iránytűt nyújthat majd a munkaerő-kiválasztásban, míg a szakembereknek kiszámítható életpályamodellt biztosít az ágensek biztonságos és üzletileg nyereséges üzemeltetéséhez, mondta Kerek István a MI és más – közérthetően a mesterséges intelligenciáról adásában.
A cikk szerzője, akinek a cikk megírásában a felvétel alapján a NotebookLM segített, a minden szerdán új adással jelentkező „MI és más – közérthetően a mesterséges intelligenciáról” podcast szerkesztő műsorvezetője.
Az összes eddigi adás elérhető a Youtube-on és a Spotify-on, minden más a műsor Linkedin és Facebook oldalán, illetve a www.miesmas.hu oldalon.
