- Üdvözlök mindenkit, ez itt a Digit Podcast. Személyi László vagyok, a Future-NOW vezető partnere és társam a krimiben Szekér Zoltán, az OD&IT és a SailingHangar alapító ügyvezetője. Sziasztok, jó napot kívánok! A Digit Podcast célja, hogy akit nem elégítenek ki a felszínes cikkek és a hangzatos jelszavak, az közelebb kerülhessen a digitalizáció és az informatika mai meghatározó trendjeihez.
- Mi itt a mélyére fogunk ásni a dolgoknak.
- Ez itt a Digi Podcast Deltával közös következő adása. Vendégeink Bakos Róbert, a Delta Technology Zrt. vezérigazgatója és Tóth István rendszerintegrációs és IT szolgáltatási igazgató köszöntelek benneteket.
- Köszöntünk mi is.
- Köszöntünk.
- A mai nap legalább 42 kérdéssel készültem, képzeljétek el, és az első kérdésem, amivel egy picit körbe szeretném járni ezt a 2026-os hype-ot, hogy tulajdonképpen akkor, hogyha arról beszélünk, hogy ki a reálisabb a cégben? Az ügyvezető vagy az IT igazgató. Akkor mit mondtok?
- Köszöntök én is mindenkit. Az ügyvezető azt gondolom, hogy a nagy képek a big picture-ök embere.
- Aki lehetősek és kockázatok reális felmérésével hozza meg a döntéseket, míg egy IT igazgató az, aki a részleteket és a megvalósíthatóságot keresi. Cégen belül én azt gondolom, mindkét fél reálisabb a saját szakterületére vonatkozóan, de a siker érdekében mind a két félnek egy egyensúlyra kell törekedni. De gyakran, ha állást kell foglalnom, akkor azt gondolom, hogy az IT igazgató a reálisabb az erőforrások és a korlátok tekintetében. És mivel ő az, aki alapvetően rákényszeríti az ügyvezetőt arra, hogy az ügyvezetői álmokat hogy és miképpen lehet megvalósítani technológiai alapon, azt gondolom, ebből a szempontból reálisabb. Viszont az ügyvezető reálisabban látja a növekedés lehetőségét, vagy reálisabb abban, hogy mi szükséges a túlélésre az adott piaci környezetben. A legjobb cégekben azt gondolom, a két vezető szorosan együttműködik, és ma az IT vezető az nem csupán informatikus, hanem egyben ilyen stratégiai partnere is a vezérigazgatónak vagy az ügyvezetőnek.
- István? Van-e másik véleményed, bár most nehéz a kérdés.
- Nem nehéz a kérdés. Én azt gondolom, hogy más értelemben realisták egyébként. Tehát alapvetően ugye egy IT-s rendszer a rendszerek működését, annak a realitását látja. Kicsit leegyszerűsítve, hogy mi romolhat el, mi fog elromlani. Konkrétan fizikailag hogyan valósítsunk meg valamit. Ugye egy vezérigazgatói szinten meg igazából a következmények realitása az, illetve az anyagi realitása az, hogy mi mennyibe fog kerülni az, ami inkább fókuszban van. Én szerintem mind a kettőnek igaza van. Egyetértek egyébként Robival teljes mértékben abban, hogy igen, felsőbb szinten azért egy kicsit vannak álmok, tehát azokat néha vissza kell fogni, illetve tudni kell a megvalósíthatóságot értékelni, a helyén értékelni, és azt gondolom, hogy mind a kettő más szempontból, de abszolút realista kell, hogy maradjon, és mind a kettőnek a maga területén és a maga szempontjai alapján abszolút igaza van.
- És akkor, amikor így döntésekről beszélünk, akkor hol húzzuk meg a határt a döntés és az automatizáció között?
- Ha cégvezető és szemmel nézem a kockázati határ meghúzását, az azt gondolom, hogy nem egy fix vonal, hanem egy ilyen dinamikusan, mérlegelés eredményeképpen jön létre, ahol fő szempontok a személyes és a céges felelősségvállalás egyaránt. Én ha vezetőként meghúzom ezt a határt, akkor egy esetleges hiba esetén, ami már nem csak korrigálható veszteségeket okoz, hanem helyrehozhatatlan reputációs károkat, vagy jogi felelősséget von vala után, akkor én ott húzom meg. Most amikor döntök, akkor különböző szempontok alapján döntök. Vannak olyan döntések, amik visszafordíthatatlanok. Magyarul visszafordítható-e egy döntése vagy nem. Ha a döntés azonnali és nehezen visszacsinálható, akkor azt gondolom, hogy egy kötelező emberi kontrollal kell kalkulálni. Van, amikor olyan döntéseket hozunk, amikor az adatok jóságát vizsgáljuk, mennyire strukturált, mennyire naprakész. Amennyiben egy jó strukturált adatbázis alapján döntünk, akkor azt gondolom, hogy az automatizációs tűréshatára magas. Ha az alatt van, azt gondolom, hogy a támogató rendszerek, azok mindenképpen egyre csak támogató rendszerek maradnak. De vannak azok a döntési pontok, amikor egy megbízhatósági küszöböt veszek alapul, és csak olyan rendszerek kaphatnak véleményem szerint autonómiát, ahol a döntéspontosság egy bizonyos küszöbérték fölött van, mint például 99,9%. Ha ez alatt van, akkor azt gondolom, hogy a rendszereknek mindenképpen kell, hogy eszkalációt adjanak az emberi szintre, és a döntés megszülessen emberi szinten? Amit nem tudok visszacsinálni, adott esetben gyorsan visszacsinálni, azt nem automatizálom. Tehát látni kell és tudni kell elválasztani, hogy mi az, ami egy egyszerű technikai lépés, és mi az, ami egy üzleti döntés.
- Tehát egy adattörlés az most technikai lépés, vagy az már egy üzleti döntés, egy izoláció például, üzleti döntés, egy adott rendszer leállítása, üzleti döntés vagy technikai lépés.
- De nem gondolod, hogy jelentősen leszűkíted az automatizáció és az ezzel kapcsolatos bárminemű törekvéseket. Nem gondolod, hogy az AI, a mesterséges intelligencia szerepét kicsit degrolálod?
- Azt gondolom, hogy nem, mert hogy bár ezek üzleti döntések, de túlmutatnak a sima edzői technológiai lépéseken, de ugyanakkor azt is látni kell, hogy a következményeik tükrében lehet ezeket ugye meglépni vagy nem meglépni. Tehát egy automatizáció akkor működik jól, hogyha egy adott esetben egy hiba olcsón és gyorsan korrigálható. Én azt gondolom. Tehát ahol nem, ott viszont kell az ember. És innentől kezdve már nem technológiai lépés, hanem üzleti döntésről beszélünk. Ezért kérdésként tettem föl pont azt, hogy például egy rendszerleállítás, egy adattörlés, egy izoláció, az most melyik a kettő közül? Kontextusban kell vizsgálni, és akkor látni fogjuk.
- Én azért örülök neki, hogy most egymást kezdtétek el kérdezgetni, mert ugyanez zajlik az igazgatói üléseken is. Annyi különbséggel, hogy nem hívják be az IT-t.
- Ott van a jogász, ott van a pénzügyi igazgató, ott van a vezérigazgató, és ebből a beszélgetésből egyáltalán senki nem kérdezi meg az IT-t, hogy tulajdonképpen hol van az a határ, ami még visszafordítható, vagy visszafordíthatatlan akár egy adat.
- Nálunk igen.
- Nálatok igen.
- Szerencsére így van.
- És egy kicsit tudnál róla beszélni?
- Melyik részére gondolsz?
- Hát hogy például akkor, amikor behívnak, és azt mondod, hogy automatizációnak van egy határa, vagy ennek a visszafordítható, tehát mondjuk egy adattörlés. Tehát, hogy GDPR szempontból mondjuk legyen kötelező egy adattörlés, de technikailag, ha kitörlöd azt az adatot, akkor azt később nem fogod tudni használni, de mondjuk üzletkritikus az adat.
- Tehát ezen a vékony mezsgyén szeretnélek kérdezgetni?
- Az a szerencsés helyzet alakult, tehát úgy alakult az én karrierem, hogy én szerencsére nemcsak IT vezető vagyok, hanem szakember is, és próbálom megőrizni a tudást, és próbálok benne maradni az operációban, részvénység keretein belül. Pontosan azért, hogy érdemben tudjak válaszolni azon kérdésekre, amik egy ilyen megbeszélés alkalmával felmerülhetnek. És én nagyon örülök, és egyébként büszke vagyok rá, hogy Robi említette, hogy az IT vezető, ugye ideális esetben is, de általában ez szerencsére így van, stratégiai partnere a vezetőségnek.
- És még azért azt látnod kell, hogy az én mostani szerepem az az ügyvezetősdi, de emellett én több éven keresztül szakmai területeket, IT területek működését irányítottam, és alapvetően azt gondolom, hogy átérzem azt a kérdéskört, meg átérzem azt a felelősséget, amellyel akár egy automatizációs kérdés, vagy akár egy adatvagyon kérdés tekintetében mit is és hogyan lehet csinálni, és mi az, amit egy szakembernek el kell végezni, mikor lehet egy szakemberre bármi olyan dolgot bízni, amely a kockázatot minimalizálja az ügyfél oldaláról.
- Egyébként egyáltalán elfogadható az, hogy a rendszer emberi jóváhagyás nélkül döntsön?
- Én azt gondolom, hogy igen. Emberi jóváhagyás nélkül is el tudok képzelni döntéseket, de nagyon szigorú, korlátozott területeken és keretek között. Az üzleti gyakorlatban talán meg tudok említeni három olyan modellt is, amellyel ezt lehet nézni és elemezni, például teljes autonómiai döntés. Akkor elfogadható, azt gondolom, hogy a döntés sebessége kritikusabb a tévedés kockázatánál, vagy az adott hiba költsége elenyésző, elhanyagolható. De vannak azok a döntések is, amikor emberi jóváhagyás szükséges. Valószínű ezek azok a döntések, amik üzletileg a legideálisabbak, a rendszer javasol valamit, az ember vagy megnyomja a gombot, vagy nem nyomja meg a gombot. És vannak azok a kivétel alapú döntések, amikor a rendszerek önállóan dolgoznak egy adott folyamat mentén, és ezeket a folyamatokat az emberek monitorozzák, és hogyha a trendtől való eltérést tapasztalnak, akkor be tudnak avatkozni. Vezetőként én soha nem ruházom át a felelősséget a gépre. Ha egy gép dönt, ugyanúgy felelősnek érzem magamat, és úgy veszem, mintha ez az én döntésem lett volna, illetve a kockázatot is nekem kell állnom. Az EU is és a magyar szabályozási környezet is egyértelműen kimondja, főleg a magas kockázatú, ha jól tudom, magas kockázatú rendszereknél, az szigorú emberi felületet.
- Hát igen, amerre a szabályozás nagyon jól, tehát hogyha a pénzügyi területen nézzük, Dóra, de most éppen mondhatnánk a Nis 2-t is. Mit gondolsz erről?
- Dóráról és Nis 2-ről.
- Úgy általában erről, hogy az előző kérdés jóváhagyás nélküli döntés?
- Ez egy nagyon érdekes kérdéskör, és érdemes lenne nagyon messziről indulni egyébként, de én azt gondolom, hogy a felelősségvállalás kérdése az itt kiemelten fontossá válik. Tehát ha van egy gépi rendszered, őt nem fogod tudni felelőssé tenni. Nem teheted se jogilag, se semmilyen szinten felelőssé azért, hogyha ráhagytál egy döntést, akkor azt a döntést ő meghozta. És az az igazság, hogy én úgy gondolom, hogy a mesterséges intelligencia alapú rendszerek nem abban hoztak nagy változást, hogy jobban döntenek, mert mindig egy valószínűleg jó alternatívát fog adni, illetve választani, ha arról van szó, hanem hogy többet látnak. És ugye nekünk, mint szakemberek, ezt kell kihasználnunk, mert régen ugye azt figyeltük a kis monitoring rendszereinkkel, stb. Tehát amire előre gondoltunk. Nem feltétlenül figyeltünk mintákat, mintázatokat nem kerestünk, főleg olyanokat, amikre nem tudtunk számítani, amivel erről nem kalkuláltunk. Viszont ugye egy MI-rendszer ezeket most észreveszi, képes észrevenni, képes jelezni, sőt képes tényleg olyan eseményeket vagy viselkedéseket is felismerni, amire mi tényleg szakemberként soha nem gondoltunk volna, de ettől még nem autonóm, csak egy nagyon jó monitoring rendszer. Legalábbis én például így gondolok rá, vagy nem rá, hanem arra. Ez nézőpont kérdése.
- Te elfogadhatónak tartod, hogy emberi jóváhagyás nélkül egy rendszer döntsön.
- Igen, mert ez egy kicsit már egy másik kérdésre vezet rá, amit én szeretnék majd föl is tenni.
- Vagy te is azt mondod, amit én, hogy szigorúan korlátozott, szabályrendszerek mentén, adott területekre igen, bizonyos területekre meg nem. És akkor azért, amit itt talán beszéltünk és említettem is, hogy azért megvannak azok a modellek, kategóriák, amelyben érdemes gondolkodni, és nem lehet egy kalap alá venni mindent. Most akár ez a teljesen autonóm döntés, amikor. Ez nagyon érdekes, amikor tudod, amikor egy döntés sebessége sokkal fontosabb és kritikusabb, mint maga a tévedés kockázata.
- Meg dönteni.
- Igen, dönteni.
- Bocsánat, most egy kicsit, hogyha megengeditek, akkor a hallgatóinknak azért egy picit villantsuk már föl, hogy mi ez a különbség. Ott állok a rotterdami gátnál, és emelkedik a víz. És az a kérdés, hogy pszichésen ez rám milyen nyomást helyez, hogyha bezárom a gátat, megnyomom a piros gombot, akkor minden egyes óra onnantól fogva több milliárd dollár kiesés. De megnyomtam. Mégpedig azért nyomtam meg, mert technikailag mögötte van a családom, technikailag betörhet a víz, megszüntethet egy csomó mindent, vagy ezt az egészet rábízom egy rendszerre, ami viszont csak akkor fogja megnyomni az automatizálásban ugye a döntés, ami csak akkor fogja megnyomni ezt a gombot, amikor elér egy bizonyos szenzor egy bizonyos szintjét. De ha rossz a szenzor, és nincs mögötte, és nem zárja be a kaput, akkor kivállalja a felelősséget. Itt ezt a kérdést feszegetjük most.
- Igen, de ugye erről már beszéltünk, hogy megvannak azok a döntési módok, most akár ez a kivétel alapú döntés például, amit hozhattál példaként, hogy a rendszer önállóan dolgozik, monitorozza, dönt, ha kell, akkor eszkalál és alapvetően emberi szintre hozza. És ennek a kettőnek az együttes együttműködésének kell alapvetően majd eldönteni, hogy ténylegesen mi lesz a beavatkozás módja, mértéke és üteme.
- Ez most azért is fontos kérdés, mert megjelent egy csomó AI ügynök.
- És az AI ügynökökre bízunk automatizációs folyamatokat, amiben ezt a döntést delegáltuk egy általunk nem ismert gyártó, nem ismert AI ügynökének a nem ismert működési módjára, miközben a saját folyamataink, amik automatizációt tudnának maguk után vonni, eddig nem lettek feltétlenül mindenhol fölmérve. Értitek ezt az ambivalens dolgot. És erről mit gondoltok?
- Tehát, hogy a mesterséges intelligencia eszközök betörésével ez az automatizáció kérdés, ez hogyan változott?
- Ez elvezet több területre is, de egy nagyon fontos dolgot le kell szögezni. Jó? Mondtam neked, hogy az előbb említettem, hogy az AI az alapvetően valószínűségekkel dolgozik. A valószínűség az predikció, vagy inkább fordítv, a predikció az valószínűség. Jó a döntés, viszont ez felelősség. Tehát ez a nagy különbség közte és felelősséget egy AI alapú rendszer nem viselhet. Egy eszköz, egy szenzor nem viselhet felelősséget. Aki ezt üzemelteti, vagy akinek a tulajdonában áll, az viselheti, egy személy viselheti a felelősséget. Tehát igazából ezért mondom, hogy nagyon fontos a döntések mellett a kontroll, a human in the loop. Ugye az ember a folyamatban legyen ott. És tudnunk kell felismerni, hogy mi az a bizalmi szint egy adott rendszer esetében, amely bizalmi szintet még hajlandók és képesek vagyunk felelősen bevállalni. Tehát hogyha azt mondom, hogy tudom, hogy például végtelenségig redundánsak a szenzoraim, nagy valószínűséggel az összes egyszerre nem fog elromlani, tehát annak matematikailag olyan kicsi az esélye, hogy.
- Máshova jön ki a 99,9.
- Így van. Tehát alapvetően akkor úgy fogok dönteni, hogy meg fogok bízni a rendszerben. És ha ad egy információt, akkor annak alapján könnyű lesz meghozni egy döntést, sőt azt fogom tudni mondani, hogy bizonyos szintű döntéseket nyugodtan át is ruházhatok rá, mert magas a bizalmi szint. Ha nincs meg ez a magas bizalmi szint, mert a rendszer bonyolultsága vagy az egyéb körülmények miatt, akkor egész egyszerűen ezeket az automatikusan meghozandó döntéseket, ezeket szépen fogom, és magamhoz veszem, és mint ember, én fogom meghozni. Akkor is, ha ez számomra többletterhelést, többletfeladatokat jelent. Tehát igazából nagyon rendszerspecifikus, és szerintem ma elég sokszor el fog hangzani a kifejezés, kontextusban kell vizsgálni.
- És akkor, amikor egy darab algoritmusnál egy darab bemenet után egy darab kimenet jön ez az AI-nál, ez elmondható?
- Ugye akkor itt feszegetjük rögtön a transzparencia kérdéskörét.
- Tehát alapvetően a transzparencia az egy nagyon fontos dolog. Egy ember által épített és üzemeltetett rendszerben azért a transzparencia sokkal inkább adott, mint egy AI-rendszerben. Tehát ott pontosan tudom, hogy mit miért építettem be, pontosan tudom, hogy az általam felépített szabályrendszer, bitről bitre akár fölépített szabályrendszer hogyan fog viselkedni és mi alapján hoz meg bizonyos döntéseket.
- És Robi, azt szeretném tőled megkérdezni, hogy vezetőként ugye maga az összes ilyen, akár algoritmus, akár folyamat, akár mesterséges intelligencia, nemcsak bemeneti, hanem kimeneti outputokat is kezd el használni, ami azt jelenti, hogy ami az egyik oldalon kimenet, a másik oldalon az adatgyűjtés. Tehát elkezdünk adatokat gyűjteni. Ezeket az adatokat te már föl tudod használni vezetői döntésben?
- Igen.
- Üzemeltetési oldalról tekintve egyébként ez az üzemeltetés, az automatizált üzemeltetési rendszernek a lényege, ugye a tanulás.
- A tanulást azt úgy tudjuk elősegíteni, támogatni, úgy tudjuk egyáltalán megvalósítani, hogyha adatokat gyűjtünk, és az adatok adatbázist építenek idővel, és hogyha azt megfelelően értelmezzük, tudjuk értelmezni, akkor alapvetően ez bármilyen üzleti döntést elősegíthet. Tételezzük fel, fogyasztói szokások, ugye? Nem csak például egy bankkártya kibocsátó cég képes vizsgálni nemcsak azt, hogy kinek mekkora pénzforgalom volt, hanem azt is, hogy milyen fogyasztói szokásai vannak. A megfelelő algoritmussal el kell rendezni gyakorlatilag az információkat. Az IT területen ugyanez a helyzet.
- Hogyha a Security Operation Centerben nézzük, akkor ugye ezek az információk, ezek lehetnek különböző negatív vagy pozitív riasztások, amiben az értékelésnél ugye a junior szenior kérdés azért most egy kicsit bele kell, hogy hozzuk, de hogy azzal tudunk kiégetni egy csomó juniort, hogy folyamatosan false pozitív eredményeket elemeztetünk velük. Ebből a szempontból ezek a kimenetek, ezek AI-ra, ha rákötöd, akkor segítséget fognak nyújtani?
- Ez egy nagyon érdekes kérdés egyébként, mert a válaszom most így hirtelen felindulásra, hogy igen.
- De azért azt látni kell, hogy mit szeret az üzemeltető. Fals negatív vagy fals pozitív? Hiába több a zaj, azért a fals pozitív még mindig jobb. Miért? Mert a csend az sokkal veszélyesebb. Az azt jelenti, hogy nem látod a problémát.
- Egyetértek. És a gazdasági oldalon is ugyanezt a kérdést föl tudom tenni, hogy ha és amennyiben elkezdem gyűjteni az adatokat, látom például a szerződéses állományt, és a kiszámlázott, tehát van a szerződés, ott van egy vállalt feladat, meg van mondjuk túlmunka. Lehet látni, hogy mennyit számláztam ki, mennyi volt a túlmunka. Ebből számotokra van-e már olyan pozitív eredmény vagy példa, amiből meg tudtátok mondani, hogy olyan mennyiségű túlmunkát vállalunk valakinél, hogy érdemesebb lenne szerződést módosítani, hogy megtartsuk?
- Ilyen rendszeresen van.
- Ez alapján vizsgáljuk felül az összes szerződésünket, ez alapján teszünk újabb és újabb javaslatokat az ügyfeleknek. Ez alapján tárgyalunk volumen alapján, és ez alapján gondolkodunk, és mi ezt a nem is tudom, közel 2000 szerződésünknél évről évre megtesszük, részben akkor, amikor az indexálást végezzük, részben, amikor azt látjuk, hogy szignifikáns eltérés van a vállalt és a valós munkavégzés ideje között.
- És ehhez kellenek új készségek, hogy ezt így elsajátítsátok? Tehát a mesterséges intelligencia hozott-e olyan új készség elsajátítására vonatkozó tanulmányi, vagy bármilyen empirikus úton megtanulható lehetőséget, amivel követni kell a cégnek?
- Hajaj! Tehát üzemeltetési készség. Nagyon érdekes kérdés. Talán a legnagyobb változás az elmúlt időszakban az, hogy egyre kevesebb a gombnyomkodás. A gombnyomásos feladat, és egyre több az értelmezési. És itt ugye már nem feltétlenül az a kérdés, hogy mit is csinál a rendszer, hanem hogy ami feladatokat elvégez, azt jól csinálja-e, és hogy felismerjük-e, hogy mikor nem szabad rá hallgatni. Jó, tehát nem az a lényeg, hogy felismerjük, hogy mikor működik jól. Ezt tekintjük a bizalmunk alapjának, hanem ismerjük fel, és ez a legnehezebb, és ez egy fontos fejlesztendő készség, hogy értelmezzük, hogy mikor nem teszi jól a dolgát. Ez inkább ítélőképesség kérdése egyébként, ez nem feltétlenül technikai kérdés. Én azt gondolom, hogy ebben nagyon sokat kell fejlődnie egyébként minden üzemeltetésben komoly szinten résztvevő szakembernek a jövőben, illetve már most tudnunk kell kiszűrni a zajból ugye a nem megfelelő információkat.
- És az üzleti oldal mennyire, nálatok mennyire, tehát az üzleti oldalon mennyire számít a gyorsaság? A versus kontroll.
- Az üzleti életben a gyorsaság és a kontroll közötti egyensúlyozás, én azt gondolom, az egyik legnagyobb kihívás a vezetők számára. A modern üzleti környezetben a gyorsaság gyakran versenyelőnyt lejelent, míg a kontroll az egy ilyen nélkülözhetetlen kockázatkezelési mód és metodika. Én azt gondolom, a gyorsaság most már elengedhetetlen. A gyorsaság ma már azért fel is értékelődik, de nem mindenáron kell azt gondolom gyorsnak lenni. Épp olvastam nemrég egy Mckenzie jelentést, amelyben a gyorsan döntő cégek kétszer nagyobb valószínűséggel hoznak magas minőségű döntéseket, és magas minőségű döntések alatt értem azokat a döntéseket, amelyek kellő előkészítettséggel bírnak. Viszont van a másik oldal, a kontroll, most akár a folyamatok kontrollja, vagy az adatok ellenőrzése, a szükséges birodalom fenntartásához és a reputációs kockázat csökkentéséhez elengedhetetlen. És ugye a kérdésedben volt egy mennyire mennyire szó is. Én azt gondolom, hogy erre az a válasz, hogy a megfordítható döntések esetén a gyorsaság az egy fontosabb dolog. Még a visszafordíthatatlan és nagy horderejű döntések esetében a kontroll és az alaposság az elengedhetetlen és sokkal fontosabb.
- Akkor ugyanígy szeretném megkérdezni tőled is, hogy a valószínűleg jó döntés egy informatikában az hogy hangzik?
- Én inkább egy kicsit más oldalról közelíteném meg. Ha már támogatjuk mindenféle automatizációval, mesterséges intelligencia alapján az üzemeltetést. Szükségünk van-e még egyáltalán mély megértéssel rendelkező szakemberre? Ez a kérdés sokkal gyakrabban felmerül.
- Határozottan, igen.
- Szükségünk van egy kritikus gondolkodásra. Tehát ezt azért szeretném megkérdezni, mert.
- Igen. Még a valószínűleg jól ment, és ez nekem nagyon tetszik ez a kérdés, mert nagyon sok minden van mögötte. Tehát én azt gondolom, hogy a valószínűleg jó döntés az egy elfogadható kompromisszum. Sőt, kell is használni ezt a módszert, mert a tökéletes információra való várás az több kárt tud okozni, mint esetleg egy 70-80-90 százalékos biztonsággal meghozott döntés. De valószínűleg jó döntést akkor lehet hozni, hogyha a környezet úgymond változékony, a döntési teráható és később alapvetően ez a döntés finomítható. De ennek is azért megvannak a kockázatai. A valószínűleg jó döntésnél meg kell határozni a bizonyos határeseteket és azokat a kompromisszumos vonalakat, amely már például nem befolyásolja a cég alapértékét, vagy esetleg nem veszélyezteti a cég működését? Gyors döntés vagy kontrollált döntés?
- Attól függ, ha a vezetőt kérdezed, akkor egészen más lesz a béke.
- Ha a vezetőt kérdezi, akkor én azt mondom, hogy törekedni kell az egyensúlyra, tehát ez teljesen egyértelmű.
- Ha engem, mint szakember kérdezel, akkor Robi tudja a választ, inkább a kontrollált, végletekig elhúzott és kielemezett döntés.
- Amúgy szerintem a nyertes stratégia nem a kettő közötti választás, hanem meg kell vizsgálni a döntés jellegét, és ahhoz kell igazítani. A gyors döntés az a, hát már beszéltünk róla, de a csekély kockázatú, visszafordítható esetekben, míg a kontrollált folyamat inkább az a stratégiai jelentőségű ügyekben érdemes használni és alkalmazni.
- Azért érdekes a kérdés, mert hogy technikailag ugye a döntési részben benne van az, hogy amíg meghozok egy idő, vagy meg akarnám hozni a döntésemet, közben múlik az idő. És az az információ, amit összeszedtem a döntés meghozásáig, az lehet, hogy elavul az idő múlásával. És ugye ebben az AI az tud predikciót is csinálni. Viszont, ha nincs kritikus gondolkodás a válaszra, tehát kapok az AI-tól egy várható predikciós döntési előkészítésre vonatkozó információt, viszont hogyha nem ismerem magát a cégnek a működését, a folyamatait, vagy nem ismerem az informatikához tartozó kritikus riasztásokat, akkor én mondhatok igent egy olyan látszólag kontrollált válaszra, ami valójában félreviszi a céget.
- Erről mit gondoltok? Ez egy igazi provokatív kérdés. Mit mondtam, ilyen kifejezést fogok gyakran említeni? Kontextus. Csak hirtelen beugrott, hogy annak idején Kevin Mitnicktől olvastam egy könyvet, és ő volt az, aki azt feszegette egy fél fejezeten keresztül, hogy mi is az, hogy bizalmi rendszer, és arra a következtetésre jutott, hogy igazából nem azért lesz bizalmi egy rendszer, mert megbízható, hanem azért, mert bíznom kell benne, hogy elvégezhesse azt a funkciót beteljesíthesse, amire az hivatott. Itt is azt kell mondjam, hogy igen, meg kell vizsgálni mindig a kontextust, meg kell vizsgálni a környezetet, és el kell dönteni, hogy mi az a bizalmi szint, ameddig engedem gyakorlatilag, elengedem a gyeplőt akár az AI esetében. És akkor ez visszavezethető erre. Én azt gondolom, hogy valószínűleg jó döntés, igen.
- Lehet, hogy.
- Alkalmazzuk. Abszolút. Adott esetekben villámgyorsan alkalmazkodunk hozzá, és azt mondjuk, hogy igen, ez egy jó lépés, meghozzuk. Robi?
- Én egyetértek ezzel. Azért is kérdezem, mert a következő topikunk az Személyi László által egy személyes szálnak nevezett a témához egyáltalán nem kapcsolódik a kérdés. De ha már a kontroll, akkor a Hogyan viszonyultok az állatokhoz? kérdés van nekem most fölírva.
- Én szeretem az állatokat, bár nekem jelen pillanatban nincs, de a gyermekkoromat azt végig különféle állatok között töltöttem, tehát az egértől a hörcsögön keresztül a különféle halakig, Goethén át a kutya-macska, tehát nagyjából ezek a sztenderdek mind megvoltak. A Goethe mondjuk annyira nem sztenderd, de ezek mind megvoltak. Viszont most nincs állatom, és ha tehetném, akkor egy orkát tartanék talán.
- Hol?
- Nem tudom, talán a fürdőkádban egyébként, de az az igazság, hogy az orkák azok különösen közel állnak a szívemhez, mert végtelenül okosak, és nem simán csapatban vadásznak, hanem családban vadásznak.
- És ezért ennél nagyobb összetartó erő szerintem nincs.
- Tehát abszolút tiszteletre méltóak.
- Robi?
- Én nagyon pozitívan viszonyulok az állatokhoz, társként tekintek rájuk, szeretek velük foglalkozni, de nagyon fontos, hogy legyen időm rá. Most nincs állatom, mert nincs időm vele foglalkozni. És mindig, ha állatról van szó, akkor eszembe jut. Gyerekkoromban nekem is volt mindenem is. Volt macskám, volt kutyám, volt teknősöm, volt hörcsögöm, de volt egy kutyám, és amikor már felnőtt koromban, amikor az építkezést befejeztük, ez a történet mindig eszembe jut, kertészkedtünk. A kutya akkor érkezett hozzánk, Teónak hívták. Egy barna vizsla volt, egy német vizsla volt. Imádtam vele futkározni, imádtam vele túrázni, de már olyan energiaigénye volt, hogy már vennem kellett egy robogót, amivel tudtam sétáltatni. De visszatérve az eredeti történetre mindig eszembe jut, hogy a hobbim az a kertészkedés. És akkor elkészült a ház, akkor a kertet kezdtük építeni. Én a kutyával együtt építettem ezt a kertet. Másnap, mikor fölkeltem, a kertbe egy háborús állapotot találtam. A kutya, amit közösen előtettünk fát, tettünk a kerítésre nádat, az mindent lebontott, mindent kiszedett. Mondanom sem kell, hogy lefőtt a kávé. Nem tudtam hova tenni a dolgot, de nagyon jól megtanultam, és elgondolkodtam rajta, hogy esetleg hogyan kellett volna nekem másképpen megváltoztatni azt a környezetet, amit közösen a kutyával változtattunk, de nem a kutya egyetértésében és jóváhagyásában.
- Hát most ez a környezet, akkor visszatérünk egy kicsit a témára, hogy ebben a környezetben, hogyha nézzük, akkor a mesterséges intelligencia a mi vizslánk, és hogy hogyan lehet tulajdonképpen az üzemeltetőknek megszelídíteni ezt a mesterséges intelligenciát, akár oroszlánhoz és elefánthoz is hasonlíthatnám, de hogy mit gondoltok erről?
- Megszelídíteni?
- Ühüm.
- Szerintem nem megszelídíteni kell.
- Ugye mert aki megszelídít egy állatot, az így dumál. De szerintem ide egy jó pásztor kell.
- Így terelgetni.
- Pásztor kell, aki igen, figyel, értelmez, és ha kell, akkor beavatkozik, terelgeti a megfelelő irányba.
- Hát akkor itt jön a következő gondolat, de hogy hogyan teszed átláthatóvá az amúgy fekete dobozt?
- A transzparencia kérdése.
- Igen.
- Ugye az AI működését azért, még ha mi magunk programozzuk is, akkor sem fogjuk száz százalékosan átlátni, miért nem. Mert jellemzően nem szabályok, hanem minták és tanult minták alapján, tehát ez a lényege az egésznek, működik. És pontosan egy szabályokon alapuló rendszerben mindig meg tudod mondani, ideális esetben meg tudod mondani, akkor inkább fogalmazzunk így, hogy egy adott bemenet milyen kimenetet fog eredményezni. Pontosan tudod, hogy működik, mi történik a dobozon belül. Egy MI esetében igazából maximum azt tudod megmondani, vagy inkább azt fogod megérteni tudni, hogy milyen valószínűségek vezettek oda egyébként, hogy az az otput megszületett. És ez nagyon nem ugyanaz. Mert az egyikben van egy mély megértés, egy pontos szabályismeret, a másikban pedig van egy felszínes megértés.
- És azt gondolom, hogy ez a felszínes megértés, ez probléma lehet az üzemeltetésben.
- Tehát akkor technológiai értelemben, hogyha nem átlátható, akkor ez az üzemeltetésben egyfajta problémát fog okozni.
- Ugye nemcsak az számít, hogy mi is történt, hanem hogy mi történhet még, illetve mi fog még történni.
- Ez egy nagy különbség egyébként. És az AI nagyon jó ebben, ahogy már utaltál rá az előbb, hogy prediktíven gondolkodjon. Tehát meg tudja kvázi jósolni a jövőt. De ha nem értem a működését, és mondom, itt nem a szabályokon alapuló pontos működését, hanem egy megértés a működése fölött nincs számomra, akkor érhetnek meglepetések. És mutass nekem egy olyan embert, IT-st, üzemeltetésben érintett IT-st, aki szereti a meglepetéseket.
- Hát az Álmos könyv szerint működő rendszerhez nem nyúlunk, úgyhogy nem nagyon tudok ilyet mutatni.
- Én is azt gondolom egyébként, hogy mondom, ha nem számítható ki egy bizonyos eseményre a reakció, akkor nincs megértés a rendszer fölött. Ha nincs megértés a rendszer fölött, akkor a bizalmi szint alacsony lesz. Tehát ezért fontos a transzparencia, és ezért nagyon fontos egyébként, hogy a blackbox rendszereket ugye a maguk helyén kezeljük. Jó, de valójában nem is kell tényleg azt tudnunk, hogy pontosan hogyan működik a rendszer. Elég, ha azt tudjuk, hogy mikor működik jól, milyen feltételek mellett adott esetben, mik a korlátai, és ugye megvan a kontrollunk a viselkedése fölött.
- És tudjuk, hogy mikor kell beavatkozni.
- Ez a következő kérdésem volna, hogy nem csak egy okos monitoringról beszélünk?
- Egyszerűsítsük le a választ, de. Alapvetően Robival beszélgettünk a múltkor, és ez a transzparencia egy Blackbox rendszer esetében pont felmerült, hogy ez most megvalósítható-e vagy nem. Én szerintem nem, viszont ami nagyon fontos, az már közelít ehhez. Ez az explainability. Ez a gyönyörű angol kifejezés, ugye az megmagyarázhatóság.
- Tehát, hogy tényleg tudjam, hogy miért.
- Technológiailag erre is vonatkozik a szabályozás, mert az AI-k bevezetésével ezt ilyen kvázi kötelező jelleggel kell tudni valamilyen módon behozni a gondolkodásba.
- Jó, de ez segít értelmezni egy döntést, de ez nem azt jelenti, hogy értjük a rendszert.
- De akkor ez hogyan kommunikálható az ügyfelek felé, hogyha van egy Blackbox rendszer, akkor azt hogyan kommunikálod?
- Ez egy bizalmi szint kérdése. És a megfelelő kontrollt kell mellé raknunk. Az emberi kontrollt. Human in the loop ismételten tudok hivatkozni, hogy kell bele a kontroll, és meg kell tudnom mutatni akár az ügyfélnek.
- Ki kell szépen tudnom ilyen sorkiemelővel húzni azokat a sorokat, azokat az eseményeket, azokat a pontokat, amikor szükséges az emberi beavatkozás.
- Tehát akkor ez is igaz, hogy egy olyan rendszerre nem lehet bizalmat építeni, amit nem ismerünk.
- Nem, de olyanra lehet, amit megmagyarázhatunk.
- Hát a bizalomépítés egy nem teljesen értett rendszer esetében ez legyen egy bonyolult szervezeti struktúra, vagy legyen egy AI technológia, vagy legyen egy új üzleti modell lehetséges véleményem szerint, de korlátokba ütközik, és más típusú bizalommal kell, hogy legyen, mint egy ilyen transzparens átlátható rendszerek esetében. A bizalom amúgy mire épül, épül a rendszer korábbi eredményeire, megbízhatóságra, kiszámítható működésre és azokra a szakértőkre, akik fejlesztették vagy üzemeltetik a rendszert. Na de itt is azért megvannak ennek a korlátai, mert ha már a fekete dobozról beszéltünk, akkor a fekete dobozként működik, nem tudjuk, hogy miért és milyen döntéseket hoz, és hogyha azokat a döntéseket mi kockázatosnak látjuk, akkor azt gondolom, hogy a bizalom is nagyon könnyen el tud illanni. Viszont a bizalom nagyon fontos, fejleszthető, fejleszthető az átláthatóság növelésével, különböző auditorok bevonásával, működési elvek megismerésével, dokumentáltsággal. Hogyha vezetőként nekem különbséget kellene tennem, hogy mi a működik és mi az érthető dolog, akkor azt mondom, hogy nekem a működik az az alap. Az érthető az a biztonságot jelenti és a fejlődés zálogát. Nem kell minden technológiai szinten érteni, de érteni kell a rendszer korlátait, a bemeneti adatokat, és azokat az eredményeknek az ellenőrzési módját, amelyet nekem a rendszer biztosít. A bizalom nem azt jelenti, hogy kontrollálnunk kell mindent, hanem inkább az, hogy értenünk kell a rendszert annyira, hogy tudjuk, hogy mikor bízhatunk benne, és tudjuk, hogy mikor kell beavatkoznunk.
- Gondolat ehhez?
- Szerintem kicsit másképp és egyszerűbben megfogalmazva ugyanezt mondtam. Egyetértek.
- Egy kicsit egy nagyon minimális fordítást fogok ehhez tenni, ha megengeditek.
- Köszönöm.
- Új autó, és ez új autó, egy régi alapjára.
- Én nem mondom ki, hogy melyik gyár és hogy milyen típusa. Megbízható márka, megbízható alapokon, hosszú történelmi múlttal, és bevezették ezt a digitális műszerfal gondolatot, ahol elvetették a hagyományos gombokat. És olyanná vált ez az egész az újdonság jegyében, hogy a jól bevált mérnöki tudás innoválódott az alvázban, a futóműben, a motorban, és minthogyha egy 14 éves gyereket ültettek oda volna, aki nem tud vezetni egy play station kialakítására a műszerfallal, 53 darab ikonból kell választani, amikor beülsz. És ezt azért próbálom meg ilyen faramuci módon összekötni, hogy de mit fog, tehát hogy fogadják el ezt a típusú gondolkodást a kollégák? Ugye ennek van egy szervezeti kultúra nevezetű része, amit én mindig el szoktam mondani.
- Pontosan tudom, mire gondolsz, szerintem én egy olyannal jöttem.
- Én azt gondolom egyébként, hogy nemcsak hogy elfogadják kollégák, hanem sokszor örülnek is neki, mert pont a leggyűlöltebb feladatokat, a monoton, időigényes, aprólékos feladatokat tudják levenni a vállukról. Viszont van itt egy félreértés, ami ott kezdődik, hogy sokan azt gondolják, vagy úgy érzik, hogy ezzel együtt a felelősségük is csökken.
- És ez a felelősség szervezeti szinten hogy alakul, vagy hogy tolódik el?
- Ez nem csökken, csak átalakul, a jellege alakul át, és hogy hogy tolódik el, nem tolódik el. Ez ott marad mindenkinek a vállán egyébként, tehát a döntéseket meg kell hoznunk. És mindenkinek a saját szintjén eddig is megvoltak a döntések, amiket meg kell hoznia, most is megvannak. Csak a döntésig vezető előkészítő út, az válik könnyebbé.
- És ebből a szempontból, hogyha másképp teszem föl a kérdést ugyanerre a vonatkozóan, hogy ha egy digitális kultúrában nagyobb felelősséget szeretnék delegálni a kollégáknak, akkor ebből a szempontból igaz-e az a mondat, hogy ezt be kell építenem valamilyen policybe, és ennek valamilyen szabályozott környezetet kell majd megteremtenem.
- Részben igaz, sőt, szerintem teljes mértékben igaz, de arra számíts, hogyha ilyet akarsz tenni, akkor hatalmas lesz az ellenállás.
- Mutass egy embert az üzemeltetésben, aki szereti a meglepetéseket, ugyanakkor mutass egy embert az IT-ban, aki szereti, ha több felelősséget raksz a vállára.
- Ez jó, csak ugyanakkor meg a kérdésem az meg a bort felé irányul, hogyha nem tudod, hogy mit jelent, hogy shadow AI és shadow IT, akkor ez az IT kérdés, ez most bordszintű vagy nem bordszintű?
- Véleményem szerint egyértelműen borzszintű a döntés. Bár az IT vezetők, az IT szakemberek, akik végrehajtják a technikai bevezetést, de ettől függetlenül az IT használata stratégiai etikai jog és kérdéseket és kompliens megfelelőséget kell, hogy eredményezzen. Élmény ezzel.
- Mert hogy egyre többször kell megfelelni olyan típusú compliance működésnek, amik a különböző szabályozások miatt gyakorlatilag a jognál landolnak.
- Nagyon fontos látni egyébként, hogy szerintem itt van egy nagyon egyszerű, de nagyon gyakori félreértés.
- A gyenge láncszemet próbálom meg megtalálni.
- Épp ezt akarom mondani, szerintem egy nagyon egyszerű és nagyon emberi tulajdonság a gyenge láncszem ebben az egészben, hogy sokan azt gondolják, hogy az MI az elveszi, vagy átveszi a felelősséget. De ez csak kényelmesség kérdése. Tehát kényelmesebb azt gondolni, hogy igen, holott ez nem történik meg.
- Egy kicsit más szemszögből itt közben még beszélgettetek, gondolkodtam, hogy amikor az AI algoritmus és a tapasztalt szakember véleménye eltér, akkor az a vezetői döntéshozatal egy ilyen komplex folyamattá válik, én ezt tapasztaltam, amely már nem technológiai, hanem inkább ilyen stratégiai és etikai kérdés. Én mint vezető, én az AI-nak automatikusan nem hiszek most jelen pillanat még. Nem is cserélem le a szakembert, viszont törekszek egy olyan hibrid döntéshozatalra, amelyben mind figyelembe veszem az AI-nak azt a képességét, amellyel képes nagy mennyiségű adatokat gyorsan feldolgozni, de a szakembert is nagyon szeretem végighallgatni, mert a szakember érti a rendszert így kontextusában, amiről már beszéltünk. Emellett a vezető azt gondolom, megvizsgálja az AI logikáját, meghallgatja a szakember véleményét, az AI alapú mintázatot mutat, de ha a szakember nekem így oldalirányból egy olyan dolgot mond, amelyet én nem találtam az AI adatbázisában, akkor nekem többé-kevésbé, de a szakember véleménye a mérvadó. A felelősség kérdése az szerintem egyértelműen nem delegálható a szoftverre. Az alkalmazásra az ember vagy a vezető felel, aki az AI által hozott javaslatra igent mond vagy nemet mond, vagy aki az AI alkalmazást értelemszerűen jóváhagyta. A folyamatok és a struktúrák kérdése miatt én azt gondolom, egyértelműen szabályokat kell alkotni. A Policyban rögzíteni kell például, mely folyamat esetében használható AI és mikor kell kötelezően emberi beavatkozást igénybe venni. A szabályoknak tartalmaznia kell az eszkalációs utat, tipikusan olyan esetekben is, amikor a szakember és az AI nem ért egyet. Policyt definiálni nem egyszerű, de meg kell tenni, és ezekben nagyon-nagyon fontos, hogy definiálva legyenek ezek az eszkalációs tag, hogy ki dönt az adott kérdésben, és az adott patthelyzetet ki oldja föl.
- És mi van, hogyha az ember a gyenge láncszem? Vagy mi van akkor, hogyha egy szervezet nem meri rábízni a döntést, vagy bármit nem mer rábízni mondjuk egy mesterségre. Tehát fordítsuk meg, az inverzére gondolok. Tehát arra gondolsz, bocsánat, arra gondolsz, hogy mi van, hogyha az ember a gyenge láncszem. Tehát azért kéne AI-t bevezetni, mert a rotterdami gátos példához nyúlva egyszerűen olyan pszichológiai döntés van rajta, amit már ő nem bír elviselni. Összeroppan a döntés súlya alatt. Ez egy nagyon érdekes kérdés. Tehát, hogy ugye a pszichológia az mindig egy ilyen, az embert érintő, de a gépet nem érintő kérdéskör.
- Ez szerintem alkalmassági kérdés. Tehát mielőtt a szenzorokat fölszerelted a Rotterdami-gátra, és mielőtt bevezeti ott egy MI alapú rendszert, előtte ugyanaz volt a gátőr, és akkor képes volt elviselni a felelősség súlyát?
- Innentől kezdve viszont, hogyha a gép azt jelzi, hogy probléma van, akkor már nem képes elviselni. Ez alkalmassági kérdés az igazság.
- Nem, a Zoli nem ezt mondja, hogy egy adott helyzetben a szakember összeomlik.
- Igen.
- A nyomás nevét viselni, akkor mi történik?
- Ezekben az esetekben egyébként, ha tudjuk, látjuk előre, ideális esetben látjuk előre azért, hogy melyek lesznek a nehéz döntések. Én azt gondolom, hogy nem baj, ha többszörös emberi kontrollt használunk, tehát többlépcsős emberi kontrollt. Ugye ez az eszkalációs kérdés. Ha egy bizonyos szintet meghalad a döntés súlya, akkor igenis menjünk eggyel följebb. Tehát ez viszont szintén szabályozható, akár Policy-kben szabályozható, sőt szabályozandó, hogy mikor hozzuk meg ezt a döntést. Üzemeltetési szerződések, SLS eszkalációs táblájában mindig szerepel egy ilyen rész nálunk, hogy gyakorlatilag mikor, milyen esetekben hova kell eszkalálni egy adott kérdéskört. Viszont szeretnék visszatérni egy pillanat erejéig erre az EMI vs. ember, szakkolléga témára, mert azért ez egy nagyon érdekes kérdéskör, és én úgy látom egyébként, hogy ugye itt van egy döntési helyzet, ugye ez volt az alapvetés, hogy van egy döntési helyzet, kinek van igaza. Ugye ez nem döntési helyzet. Az én véleményem szerint, ez egy vizsgálati helyzet.
- Ez bináris, hogy nulla vagy egy, mert a végén meg kell nyomnod egy gombot, de az előzmény az viszont érdekes, hogy például egy vezető pszichológiai helyzetben fel van-e készülve arra, hogy vitázzon.
- Tehát van egy gép, mond egy ellenjavaslatot. Volt egy olyan film, amikor a tengeralattjárón a mai napig szimuláció egyébként, hogy az A, a kapitány kap egy értesítést, hogy neki ki kell lőnie egy rakétát, és a helyettese nem hajlandó elfordítani a kulcsot, mert hiszen eltört az antenna, tehát nem biztos, hogy felülírták magát, vagy hát nem biztos, hogy él a parancs, mert lehet, hogy felülírták. És ugye ez az a helyzet, amit egy AI-jal képes-e egy ember versus képes-e egy csoport jól lekommunikálni.
- Tehát, hogy így szeretném visszaadni neked ezt a kérdést.
- Ez is nehéz kérdés. Egy kicsit Kobajasi Máru.
- A Healing?
- Igen.
- Mert alapvetően jól válaszolni erre a kérdésre is szinte lehetetlen. Pontosan azért, mert ezt is kontextusban kell vizsgálni, és az adott környezetben kell vizsgálni. Tehát tudnom kell megítélni, hogy az adott környezetben gyakorlatilag előfordulhat egy ilyen szituáció, ha igen, akkor viszont ugye különféle kontrolllépcsőket kell beépítenem, különféle eszkalációs lépcsőket kell beépítenem. És az AI-jal nem kell vitatkozni, vagy nem csak lehet vitatkozni, de kell is vitatkozni adott esetekben, és ezért kellenek ugye a felkészült szakemberek a megfelelő ismeretekkel, akik képesek arra, hogy nem feltétlen mindenáron felülbírálják a döntést, nem megcáfolják, hanem ellenőrzik, hogy igen, az valószínűleg jó döntés-e?
- Tehát én abból indulok ki, hogy üzletkritikus rendszereknél és megoldásoknál a ZAI az javaslatot tesz. És erre ugye szabályozási környezet, mind az EU-s, mind a hazai és elég erős direktívákat tartalmaz. Na, innentől kezdve az emberi beavatkozás elkerülhetetlen. Az emberi beavatkozás megtörténjen, szabályokat kell alkotni. Eszkalációs listát kell készíteni, protokollárisan kell eljárni, és ez alapján kell meghozni a döntést. Tehát itt magát az, hogy gondolkodni, az azt gondolom, hogy nem biztos, hogy kell, hanem végig kell követni azt az eszkalációs listát, azt az eszkalációs lépéssorozatot, azokat a protokollokat, amelyeket ilyen esetben előírnak.
- Tehát hogyha gyakorlatilag, ha lerántjuk a hype-ot és a félelmeket, akkor a végeredmény egy lista, amit az AI kezel?
- Itt hol jön az AI már be?
- Nem azért kérdezem.
- Nekem itt már nem AI-ról beszélek. Az AI alapvetően tett egy javaslatot. A javaslatot értékelni kell. Az értékelést az ember meg tudja tenni, az embernek mi van a segítségére, egy szabályozott környezet, egy eszkalációs lista és egy protokolláris eljárás a különböző lépésekhez. És ez alapján kell az embernek alapvetően úgymond döntéseket hozni, nem is döntéseket hozni, hanem megtenni azokat a lépéseket. Ha az ember esetlegesen valami olyan dolgot lát vagy tapasztal, ami eltér a tendenciától, akkor értelemszerűen van lehetősége javaslatot tenni, és az alapján esetlegesen az újabb döntéseket meghozni a megfelelő eszkalációs szinten.
- Három kérdésünk maradt, ebből az egyik, hogy szerintetek milyen kompetenciákat várjunk el a jövő IT-saitól?
- Válaszolok, jó?
- Köszönöm.
- Szerintem a jövő ATI szakemberének már nem csupán csak kódolniuk kell tudni, hanem integrálniuk is és felügyelniük is kell a mesterséges intelligenciát, miközben kiemelt figyelmet kell fordítaniuk az etikus használatra és a biztonságra. De emellett egyre több úgymond softskillekkel is kell bírniuk és rendelkezniük. Meg kell érteni a mesterséges intelligencia működését, meg kell ismerni, hogy mit is jelent az, hogy adatmenedzsment, és nem utolsó sorban meg kell tanulni ezt a képi tanulási folyamatokat, mert enélkül alapvetően azt gondolom, nem fog tudni kialakulni egy egészséges egyensúly, mint az AI és a szakértelem között. Kiegészíted valamivel? Az az igazság, hogy még egy pár év kell hozzá, hogy eljussunk oda, hogy már nem az lesz a kérdés, hogy mit is tud a mesterséges intelligencia, hanem hogy mennyire vagyunk képesek megérteni saját szerepünket mellette. Nagyon fontos látni egyébként, hogy azért ez egy komoly, nehezített terep, egy kétbitesen gondolkodó mezei szakembernek. Tehát alapvetően, ha meg kell értenünk a működését, és tudnunk kell megérteni azt, hogy mennyiben tudjuk ezt úgy kiegészíteni, hogy ketten együtt egy meséltét megkönnyítve értéket teremtsünk.
- Ezt kiegészítendő szeretném megkérdezni, hogy szerintetek hogyan lehet-e, vagy hogyan lehet jól működő felelősségi struktúrát kialakítani egy ilyen típusú környezetben?
- Lehet és kell is. Egy jól működő felső struktúra építheti azt gondolom a mesterséges intelligencia köré. A mesterséges intelligenciát is folyamatosan monitorozni kell véleményem szerint. A kritikus döntéseknél pedig az emberi jobbanjást kell alkalmazni. Meg kell határozni azt, hogy ki felel például a generált tartalomért? Ki az, aki a tanító adatokat kezeli, az esetlegesen kockázatokért ki fog felelős lenni? Ezeket mindenképpen valami úton-módon, de felelősségi struktúrába kell illeszteni. De az sem elhanyagolható, hogy a mesterséges intelligencia működésének dokumentáltságát és annak magyarázhatóságát is lehetővé kell tenni. És ugye már említettük a beszélgetés elején, hogy mind az Európai Unió és a magyar hatóságok a magas kockázatú rendszerek esetében szigorúbb ellenőrzési folyamatokat kell bevezetni, és ezeket is szabályozni kell.
- Ezt egy kicsit leegyszerűsíteném. Igen, kell és lehet is, sőt. De a legfontosabb valójában az, hogy meghozzuk a határokat. Az utolsó kérdés, amit szeretnék még nektek a mai nap föltenni, hogy egy vállalatnál milyen reputációs kérdésekre kell, hogy figyeljünk? Mind IT, mind biznisz oldalon.
- Ha engeded, akkor válaszolok először. És akkor visszatérve az IT üzemeltetéshez. Nagyon fontos látni egyébként, hogy ha a reputációról beszélünk, akkor arról beszélünk, hogy mennyire bíznak meg bennünk az ügyfeleink. Mennyire tartanak minket megbízhatónak, mennyire tartanak jó partnernek, és ugye ahhoz, hogy ez megsérüljön ez a kapcsolat, ez a bizalmi kapcsolat, ahhoz elegendő, hogyha mondjuk egy automatizálásnál megfelelően végzünk el, kárt okozunk neki, vagy esetleg az ő reputációja sérül egyébként egy olyan szolgáltatás kiesés kapcsán, ami ha még nem is okoz közvetlen, de egyébként hosszabb távon akár közvetett kárt neki. Tehát ugye erre figyelnünk kell, és nálunk ezért nagyon fontos az, hogy akármit nem szabad, úgy látjuk, hogy nem szabad automatizálni, csak a legnagyobb körültekintéssel, és ami még nagyon fontos, bármilyen AI alapú szolgáltatást előzetesen, ha tudunk, akkor le kell pilotolni. Le kell pilotolni, hogy lássuk, hogy milyen hatással lesz egyébként az ügyfelekre. És akkor itt lehet beszélni a különféle AI asszisztensekről például. Ki szereti, ki nem.
- Ha abba gondolok bele, hogy a mesterséges intelligencia magabiztosan állíthat valótlanságot, ami téves ügyféltájékoztatást vagy téves üzleti döntéseket okozhat. Vagy hogyha arra gondolok, hogy a szenzitív vállalati adatok vagy ügyfél adatok bevitele, nyilvános mesterséges intelligencia eszközökben, mint akár a Chatgpt, milyen adatvédelmi incidenseket okozhat, vagy esetleg hogyha az ügyfelek nem tudják, hogy egy géppel beszélnek, az milyen bizalomvesztést eredményez, akkor azt gondolom, hogy nagy hangsúlyt kell arra fektetni, hogy egy adott vállalatnak a reputációja megmaradjon, és valamilyen úton-módon, de a reputáció megóvása érdekében ellenőrzéseket kell végrehajtanunk.
- Nagyon köszönöm mindegyikőtöknek, hogy együtt gondolkoztunk ebben a szerintem elképesztően komplex témában. Elfogyott a műsoridő.
- Köszönöm, hogy itt voltatok. Nagyon szépen köszönöm.
- Én is köszönöm.
