Kiépült az OTP Bank és az Innovációs és Technológiai Minisztérium(ITM) együttműködésében tető alá hozott mesterséges intelligencia(AI) alapú szuperszámítógép(HPC). Kapacitásának egyharmada a későbbiekben elérhető lesz majd a köz- és a magánszféra, valamint a felsőoktatás számára is.
November közepén jelentette be a bank, hogy a rendszer megvalósítására szerződést kötött az amerikai SambaNova Systems-szel. A 2017-ben alapított szilícium-völgyi vállalkozás jelenleg a világ legjobban finanszírozott mesterséges intelligencia startupja, amely az iparág élenjáró szoftvereit, hardvereit és szolgáltatásait építi ki AI-alapú alkalmazások futtatásához.
A bank a kapacitások kétharmadát köti le
Alig pár héttel a bejelentés után el is készült a szuperszámítógépet alkotó hardver-szoftver konfiguráció. Az első körben három évre tervezett – szolgáltatás alapú, vagyis bérleti díjas – projekt költsége 7,3 milliárd forint, amihez az ITM 2,5 milliárd forinttal járul hozzá – mondta el Csányi Péter az OTP Bank vezérigazgatóhelyettese.
Azért ilyen a költségmegosztás, mert a 26-28 petaFlops számítási teljesítményűre tervezett szupergép kapacitásának a kétharmadát a bank használja majd a belső folyamatainak a további digitalizálására, egyharmad jut a köz- és a magánszféra, valamint a felsőoktatás egyéb céljai számára.
Az állam és a pénzintézet jövőbeni együttműködéséről erről szóló szerződést Palkovics László, innovációs miniszter és Csányi Sándor a bank elnök-vezérigazgatója írta alá. A miniszter kiemelte, hogy a kormány célja az AI alkalmazásával gyorsabb és hatékonyabb szolgáltatások nyújtása magyar nyelven a közigazgatás, az oktatás, és az üzleti élet területén is. A bank első embere számára pedig ez a projekt a digitális fejlesztésekben élen járó pénzintézet eddigi versenyelőnyének a megőrzését is támogatja.
Mélytanulásra optimalizált, adatfolyam-elvű a magyarországi megoldás
Jakab Roland, a Mesterséges Intelligencia Koalíció elnöke Európában meghatározónak nevezte ezt a mesterséges intelligencia alapú fejlesztést, amellyel a magyarországi megoldás bekerülhetett az első tíz európai szuperszámítógép rendszer közé.
Rámutatott, hogy az eddig ismert AI-alapú rendszereken túlmennek a jövőbeni megoldások. Ezek nyomán nemcsak egy szűk szókinccsel rendelkező szótár lesz az, amit megért, és ami alapján válaszol nekünk a gépi AI alkalmazás. Nemcsak szigorú szabályok mentén előállított beszédparancsokat adhatunk, hanem természetes nyelven, akár egyénhez igazított többféle megfogalmazást használva beszélgethetünk a géppel, legyen annak tárgya banki művelet vagy egy gyártósori robotnak szóló parancs.
Kiemelte, hogy most egy a nyelvi modellekre és „mélytanulásra” optimalizált adatfolyam-elvű, dinamikusan rekonfigurálható szuperszámítógép átadására került sor, amely igen gyors feldolgozást biztosít, sokkal gyorsabbat, mintha programozott úton haladna a párhuzamos adatfeldolgozás.
Hozzátette: a mesterséges intelligencia alapú alkalmazások köre gyorsan bővül, jönnek az autonóm járművek, jó terep lehet a genetika, vagy az orvosi diagnosztika is. Emlékeztetett rá, hogy a 2020-ban elfogadott magyarországi AI stratégiában már szerepel a 100 százalékban automatizált ügyintézés magyar nyelven, és már neki is láttak a piaci szereplők valós igényeinek felméréséhez.
A magyar nyelvi modell fejlesztése pár hónapot vesz igénybe
A hazai szuperszámítógép más, mint a nemzetközi statisztikákban rangsoroltak, ezért is nehéz összehasonlítást végezni, de ennek alapján is elmondható, hogy ott van az európai 10 legjobb rendszer között.
Az OTP-ben működő gépet ugyanis nem klasszikus tudományos számításokra tervezték, hanem kimondottan mesterséges intelligencia alapú fejlesztésekre. A szuperszámítógép képességeit első körben a GPT-3(Generative Pre-Training Transformer 3) technológián alapuló, öntanuló magyar nyelvű mesterséges intelligencia modell fejlesztésére fordítják, ami előreláthatólag 3-4 hónapot vesz igénybe.
Az átadási eseményen egy másik AI-rendszer révén a maszkban fellépő miniszter „beszédén” demonstrálták is a mesterséges intelligencia képességeit, ami már hangzás alapján is jelentősen eltért a hangasszisztensek túl gépies beszédétől. Onnan volt csak felismerhető, hogy mégsem emberi hang, hogy a mondatok végét nem zárta le a szokásos módon.
A szövegek, amelyeket ez a nyelvi modell generál, ugyanis nagyon hasonlítanak ahhoz, ahogy az emberek beszélnek, vagy írnak. Ez a természetes nyelvi feldolgozási rendszerekhez(NLP)sorolható nyelvi modell mély tanulást használ az emberi íráshoz, vagy beszédhez hasonló szöveg előállításához.
Az OTP-projekt keretében megvalósuló nyelvi modellt a magyaron kívül azoknak az országoknak a nyelvével is kibővítik majd, ahol az OTP csoport már jelen van. A mesterséges intelligencia alapú megoldás a bank számára több területen is bevethető.
Ezt profitálja belőle a pénzintézet
A pénzintézet a megoldás révén képes lesz nagy mennyiségű szöveges információ gyors feldolgozására, rövidítve a munkafolyamatokat, de a monoton, ismétlődő feladatokat is a mesterséges intelligencia végzi el a jövőben. Az így felszabaduló kapacitások révén az ügyfelek viszont személyre szabottabb pénzügyi szolgáltatásban részesülhetnek majd.
A fejlesztés nyomán az OTP működésében jelentős változások indulhatnak el, az ügyfélszolgálattól kezdve a háttérfeladatokat ellátó back-office-ig. Kidolgoznak egy olyan modellt, amely alkalmas lesz arra, hogy a magyar nyelvű ügyfélbeszélgetésből automatikusan felismerje az ügyfél szándékát, és a neki megfelelő megoldást nyújtsa.
Az esemény után szűk körű sajtóbeszélgetésen kérdésemre, hogy miért éppen erre a fiatal vállalatra esett a választásuk, Csányi Péter elmondta, azért, mert kimondottan a mesterséges intelligenciához fejlesztett, hardveres és szoftveres elemeket egyaránt tartalmazó rendszert tudnak szállítani. Az OTP-hez telepített gép már be van tanítva az angol nyelvre, erre épülnek rá majd a világ egyik legnehezebb nyelvének tartott magyar specifikumok.
Elhangzott az is, hogy a fokozottabb biztonság érdekében a rendszer adatait nem a felhőben, hanem on premise módon, vagyis a telephelyen tárolják.
Kaszás Zoltán, az OTP Bank ügyvezető igazgatója hozzátette, hogy a három lépcsős nyelvi fejlesztéshez összesen 175 milliárd paramétert használnak fel. Az első fázisban 1,5 milliárd paramétert használnak arra, hogy kiderüljön, jó-e az irány. A következőben már 30 milliárd paraméterrel dolgozzák ki azt a modellt, amely már a hétköznapi helyzetekben képes működni. Az utolsó fázisban teszik közzé az eredményeket, hogy a többi ágazatspecifikus modelleket is kifejleszthessék a piaci szereplők.
A fejlesztői munkába bevonnak hat hazai egyetemet, valamint az egyik magyarországi MI Lab-et is. A SambaNova Systems társalapítója és vezérigazgatója, Rodrigo Liang ehhez hozzátette még, hogy a rendszer fejlesztésénél a magyar szakemberek hozzáférhetnek a kaliforniai cég 250 fős stanfordi kutatóbázisához, sőt Budapestre hoztak egy kisebb szakértői csapatot is projekt támogatására.
