MI integráció kontra kiberbiztonsági környezet

Üdvözlök mindenkit, ez itt a Digit Podcast.

Személyi László vagyok, a Future-NOW vezető partnere és társam a krimiben Szekér Zoltán, az OD&IT és a Sailing Hangar alapító ügyvezetője. Sziasztok, jó napot kívánok!

A Digit Podcast célja, hogy akit nem elégítenek ki a felszínes cikkek és a hangzatos jelszavak, az közelebb kerülhessen a digitalizáció és az informatika mai meghatározó trendjeihez.

Mi itt a mélyére fogunk ásni a dolgoknak.

Elmúlt két évben szinte minden konferencián elhangzott ugyanaz a mondat, az MI mindent megváltoztat, sőt lehet, hogy 3 évben. Én viszont egyre gyakrabban hallom a szakma tapasztalt képviselőitől ennek pont az ellenkezőjét. Például a kiberbiztonság kapcsán azt, hogy a támadások logikája nem változott, csak a sebességük meg a mennyiségük, és az, ahogy ma szinte bárki lehet kibertámadó, annyira könnyű elindulni ezen a lejtőn. Ma arról fogunk beszélgetni, hogy melyik igaz a kettő közül, és még máshol is. És hát mit jelent egyáltalán az, hogy egy mesterséges intelligencia megbízható. Vendégünk Tusor Tamás, a Tigra Zrt. információbiztonsági szolgáltatások vezetője. Üdvözlünk a Digit Podcast stúdiójában.

Szeretettel köszöntöm a hallgatókat és üdv nektek is. Engedjétek meg kérlek, hogy egy kicsit pontosítsak ezzel a titulussal kapcsolatban.

Na tessék, az első pontot elhibázom.

Nem olyan nagy hiba, ami történt. Igazából arról van szó, hogy a Tigran belül több üzletág működik, több nagyobb üzletág, főként fejlesztéssel foglalkozik a cég. Alföldi Judit vezeti a mi üzletágunkat, ezt az IT biztonsági szolgáltató üzletágat. Mi alapvetően külső partnerek felé szolgáltatunk. És Judit kért föl engem arra a megtisztelő pozícióra, hogy ennek az üzletágnak én legyek a szakmai vezetője, tehát igazából a pontosítás úgy hangzik, hogy én az IT biztonsági üzletágnak vagyok a szakmai vezetője.

Gratulálunk hozzá, és köszönjük szépen, hogy eljött.

Köszi a pontosítást, és azt is, hogy vállaltad a megmérettetést itt a stúdióban. Na most valóban nem az első szakember vagy, aki beül hozzánk a Tigra csapatából, és ez azt hiszem, elárul valamit abból, hogy mennyi mondanivalója is van a cégnek a témák kapcsán a kiberbiztonságban. Kezdeném a nemzetközi trendekkel. Az alkalmazásbiztonsági közösség, az Owwasp, talán olvasónak lehetne mondani. Tavaly novemberben adta ki az MI tesztelési útmutatójának az első verzióját, jelzem tavaly novemberben az első verziót. Ebben már nem biztonságos MI-ről, az angolul safe AI beszéltek, hanem megbízhatóságról, Trustworth AI-ról beszélnek. Vajon az érdekel engem, hogy azt ismerték-e be ezzel az apró szóhasználatbeli különbséggel, hogy a klasszikus értelemben vett kiberbiztonság ezekre a rendszerekre nem is értelmezhető, vagy egyszerűen csak változik a terminológia, de igazából ugyanarról beszélünk.

Én azt gondolom erről, hogy igenis, meg nem is, ez egy jó konzerv válasz lenne.

Nagyjából arról van szó szerintem, hogy általában a biztonságról való gondolkodás az paradigmaváltáson megy keresztül úgy általában. Nem csak az AI Security területén, hanem ugyanígy mondhatnám az IT biztonság területét, ugyanígy mondhatnám az OT-t, vagyis az iparbiztonság területét. Nem gondolkodhatunk már önállóan csak ezekben az önálló zárt területekben, hanem egy paradigmaváltással most éppen szintet lépünk ebben, és hát kicsit ilyen ezoterikus szóval élve, hogy mondják ezt, ilyen holisztikus szemlélettel kell vizsgálnunk a biztonság kérdését, nem csak önálló területenként. Merthogy ezek nagyon szorosan összefüggnek egymással. Most már annyira összekapcsoltak a hálózataink, rendszereink, az AI-rendszerekkel is most már egyre inkább, hogy nagyon nagy hatással vannak egymásra ezek a rendszerek, és a biztonságuk is kifejezetten nagy hatással van egymásra.

A megbízhatóság és a biztonság kapcsolatáról el lehet mondani. Ugye ezek az AI-rendszerek, ezek alapvetően egyre bonyolultabbak, egyre nagyobb bonyolultságúak. Egyre nehezebben látjuk át, hogy pontosan milyen módon is történik egy döntéshozatal belül egy AI-nak a belsejében, és emiatt ezekre a rendszerekre már azt mondjuk, hogy nem determinisztikusan működnek. Korábban a biztonságról úgy gondolkodtunk, hogy beállítunk egy valamilyen biztonsági szintet a megszokott módszereinkkel, ez a biztonsági szint többé-kevésbé stabilan tartható, néha jönnek sérülékenységek, azokat a sérülékenységeket, azokat tudjuk detektálni, tudjuk kezelni, javítjuk, vagy mitigáljuk, vagy csak egyszerűen elfogadjuk a belőlük származó kockázatot, de a lényeg, hogy egy idő után mindig visszatérünk ugyanahhoz a biztonsági szinthez, vagy még akár tudunk is fokozni rajta.

Az AI ezzel a nem determinisztikus jellegű működésével ezzel azért behozott egy bizonytalanságot ebbe az egészbe. Nem mindig tudjuk egyértelműen megmondani azt, hogy ugyanazokra a bemenetekre ugyanúgy fog-e reagálni. Emiatt most már nem csak technológiai, biztonsági szempontból vizsgáljuk ezeket a rendszereket, hanem megbízhatóság szempontjából is. Ami egyébként nem új a nap alatt, mert a megbízhatóság az mindig kulcskérdés volt az informatikában, és ennek már egész kiforrott tudománya van, hogy milyen módon tudjuk a megbízhatóságot vizsgálni.

Én most azt gondolom, hogy egy kicsit lépjünk hátrébb. Rámentünk, gyakorlatilag ez a beszélgetés vége, hogy hogy vizsgálunk egy AI-t. Mert ott tartunk, hogy államkincstár 69, meg ABC 1-2-3. Innen indulunk, és akkor ez egy rendkívül fontos, nemzetgazdaságilag minimum 3-4 szabványnak meg kell, hogy feleltetett kockázatkezelés szabványban megfeleltethető intézmény, ahol nem működött a patch management, a Security Operation Centerben bementek a riasztások, de nem foglalkozott vele senki. És egyébként, ha belegondolunk a Dora-féle jelszó policykba, akkor mi valósult meg ezekből? Hogyan tudnánk elérni azt, hogy az a kockázat alapú gondolkodás megvalósuljon, ami ahhoz kell, hogy egy ABC123 ne legyen a rendszerben.

Még AI-ról ne beszéljünk, még csak.

Igen, pont Solymos Ákos kollégám, aki szintén a vendégetek volt nemrégiben, ővele többször beszélgettünk hasonló témáról, és AI kapcsán egyébként mindig oda jutottunk, hogy tulajdonképpen nincs rendben még az IT biztonság. Tehát, hogy IT biztonságot sem oldottuk még meg, az sincs helyén, az is ilyen állapotban van, mint amit éppen mondtál, hogy egy államkincstárnál a patch management, meg teljesen bagatell dolgok, beledrótozott jelszavak, meg ilyenekkel találkozunk. Persze hibázni ért, de hogy ezek velünk vannak még mindig. Ilyen közegbe beengedni az AI-t, és utána azt várni, hogy majd az AI Security megoldja ezeket a dolgokat, szerintem szélmalomharcnak tűnik. Tehát általában, és nekem markáns véleményem az, hogy azért vagyunk bajban az AI-jal kapcsolatban, mert nincs rendben a Security.

És azt kell rendbe tenni.

Egy kicsit úgy érzem, bocsáss meg, hogy abban az állapotban vagytok, és ezt úgy mondom, hogy én nem vagyok IT biztonsági vagy kiberszekulity szakember, tehát kívülről nézek rátok, mint amiben Semmelweis volt a maga idejében, hogy kezet kell mosni, és akkor hogyan magyarázod el még hatvanféleképpen, mert nem mossák meg, sőt még téged akarnak kidobni az ablakon, hogy mibe kényszeríted bele a kollégát.

Azt gondolom, és ebben most egy picit, hogy mivel mégiscsak kollégák vagyunk, ebből a szempontból, el szoktam mondani, hogy mennyire sok olyan nehéz pillanatot élünk meg vezetői oldalon, amikor megpróbálod elmondani ezt a kézmosás dolgot. És ha jól van az úgy, tíz éve így működik. Tehát mondom az egzakt példát. Vasárnap telefon, feltörtek. Elmondom, nézzük végig, szűrjük ki, zárjuk le, változtassunk jelszót, szokásos védelmi opciókat, majd a kolléga mondta, hogy jó, vissza foglak hívni, amikor végeztem. Közben még fölhív legalább négy embert. Mind a négy ember ugyanazt tanácsolja neki, majd ezek után megnyugszik, hogy szerinte nem is történt akkora probléma, de technikailag nem változtatott semmit, majd ezek után, amikor azt mondom, hogy legalább vírusirtó van a gép ellen, akkor azt mondja, hogy nincs.

Mert tíz éve sincs, és tíz éve azért váltott Macre, merthogy az jó, és nincsenek ilyen támadások. Innen indulunk, és ezt szeretném visszaadni neked.

Igen, én nagyon erősen bevett alapvetés az, hogy a leggyengébb láncszem mindig az ember a biztonságban. Én ezt egy picit challenge-elném, láttam már ennek az ellenkezőjét, ahol az ember tud lenni a legerősebb védelmi vonal. Olyan helyeken, ahol nincs meg a megfelelő technológia, nincs meg a megfelelő erőforrás, de a kollégák, főleg kifejezetten egyébként kis cégnél lenne erre esély olyan szintre képezni a kollégákat, mert kevesen vannak. Sokkal könnyebb lenne őket olyan szintre képezni, hogy önállóan saját magukban ellenállóak legyenek a támadásoknak a nagyon nagy részével. És láttam már ilyen szervezetet. Igazából nagyobb szervezetnél is láttam olyat, ahol olyan volt a kollégáknak a tudatossága, biztonságtudatossága, hogy én külső szakértőként voltam jelen annál a cégnél.

Elvileg vendégkártyával mindig lett volna egy kisgazdám, aki kísérget a folyosókon, de hát azért az akkori munkámnak a jellegéből fakadóan én mindig így elbóklásztam, és akkor tényleg éltem szépen a kollégák után, és majdnem minden alkalommal 10-15 perc után valaki jött, hogy biztos eltévedtem és nem találom meg az utat vissza az én kísérőmhöz, úgyhogy ha megmondom a nevét, akkor ő visszakísér hozzá, és visszakísértek rendszeresen. Nagyon sokáig.

Ez jópofa ez a Mr. Naworks-i a termináltban, és hogy megjön az ember, és visszakíséri, de hogy azért technikailag én vittem ki úgy szervert egy nagy cégtől, ahol annyit mondtam, hogy én a cégtől jöttem, és hogy nekem el kell vinnem a szervert, és konkrétan a receptet vidd be az izébe, és segített kivinni. Betettem a csomagtartóba, még vártam egy fél órát, mert addigra volt megbeszélés a vezérigazgatóval, és senki igazából nem nagyon problémázott azon, hogy a cégnek a központi ügyfél nyilvántartása hiányzik, mert azt a szervert sikerült elvinnem. A gyártás ment, de az, hogy az irodistáknak, értsük jól, leállt az, hogy most Excel, annyira hozzá voltak szokva, és annyira rezisztensek voltak már arra, hogy nem működik valami, hogy tulajdonképpen fel sem tűnt.

És hogy hogy lehet azt elérnünk, hogy az egy gén mérről működtetem a céget gondolkodásból, egy gmailes vagy a gmailhez tartozó Google Calendar van hozzácsatolva egy Excellel, ami még lehet, hogy hivatalos forrásból van vagy nem, hogy tudunk innen indulva eljutni egy tudatosságig. Tudom, és most szeretném, hogyha beskáláznád, mert mindig azt mondják, hogy merthogy te csak nagy cégekkel foglalkozol. Viszont ez egy kis cég példája, ahol konkrétan 7 milliárdos forgalmat bonyolítanak, négyen vannak, kettő darab számítógéppel. És miért gondoljuk, hogy a kis cég, meg a nagy cég ennyire különbözik?

A kis cég annyiban különbözik, hogy egy kis cégnél az emberállományt karbantartani, most ez elég zordan hangzik, de hogy az emberállományt karbantartani és fejleszteni sokkal egyszerűbb. Ott személyre, ténylegesen személyre szabottan most nagyon divatos az oktatásban egyébként a személyre szabott oktatás, ami tök jól működik, de egy IT biztonsági tudatosságnövelő oktatásban ott szerintem különösen fontos a személyre szabhatóság. És ez az oktatás nemcsak ilyen, elmondom és te megérted dologként kell, hogy működjön, hanem aktív, akár gyakorlati tesztekkel és szituációs játékokkal vagy szituációs gyakorlatokkal kell ezt megspékelni, egészen addig, amíg készséggé nem válik ez az ellenálló képesség a kollégákban.

Szerintem kisebb cégeknél ez nagyon jól tud működni. És akkor ezzel nagyon sok technikai kontrollt is helyettesíteni tudunk. Nyilván ez egy auditon egyébként nem állná meg a helyét, mert ott az auditor el fogja várni a technikai kontrollok tényleges meglétét, legyen ilyen szigorú tűzfalszabály, olyan szigorú, minden legyen spamszűrő, meg végpontvédelem, persze ezek legyenek. De hogy ezeknek a hiányosságait nagyon jól tudja kezelni a humán. Sajnos ez a legutolsó általában, amit fejlesztenek. Sokkal egyszerűbbnek tűnik venni egy tűzfalat, akár még egy komplett szokott is fölépíteni anélkül, hogy egyébként embert raknának bele, de a technológiai részét megépítik. Nagyon sok helyen látom azt, hogy jelen van a SOC és viaszt is visít, amikor jönnek a problémák, csak nem foglalkoznak vele.

Ember nincs.

Már az előbb mondtunk egy ilyen példát. Na most hadd legyek én egy picit az ördög ügyvédje, mert ezek jó válaszok, tehát hogy abba nem szeretnék semmiképpen beleesni, hogy ebbe kötnék bele. De hogy azon túl, hogy nem oldottuk még meg nagyon sok cégnél a Gmail, a jelszó és a mentés és a biztonságtudatosság problémáját. Már itt van az integrációra váró vagy éppen már integrált MI megoldás is. Amiben promptok vannak, amiben megbízható lehet, de egyébként nem determinisztikus semmiképpen, és erre is kell valamilyen választ adni. És akkor eszembe jutott egy ilyen trükkös kérdés, hogy ezt én most becsomagolom neked, mert most ahogy így hallgatlak tíz percet, neked ezt be fogom tudni csomagolni úgy, hogy értelmes legyen az eredmény, hogy mit mondanak a gyártók, és mit gondoljunk erről?

Most így név nélkül. Mert azért nagyon sok gyártónak a kommunikációja, az anyagai, az előadásai, az értékajánlata is gyakorlatilag, az hemzseg a buzzword-öktől, az tele van a hatalmas erő és tudás fitogtatásától, mintha nem is ugyanahhoz az ügyfélhez beszélne, mint te, akikről az előbb azért már jó párszor beszéltünk. Valóban hasznos-e az, hogy a gyártók ilyen mindenféle csilivili anyaggal, mindenféle hiper atombiztos megoldással érkeznek, miközben a legegyszerűbb dolgokkal kéne talán kezdeni. Segít-e a te feladatod megoldásában, amit most a gyártók kínálnak ezen a téren. Vagy neked amellett meg kell oldani a feladatot, hogy kezeled ezeket a gyártókat?

Nekem alapvetően nehézséget okoz ez, mert a gyártók nyilván mire törekszenek, fölülnek a hype vonatra, és vígan lobogtatják a hajukat a szélben.

Meg se hozzák az anyagot, ugye így kell mondani?

Hát attól függ.

Igen.

Nagyjából igen. De a lényeg az, hogy ők nyilván az ügyfelek azt igénylik, most minden tele van az AI-jal, minden telekült töltünk vele, mindenki AI-t akar otthonra, meg a céghez is, meg mindenhova, és az összes folyamatot AI-jal akarom optimalizálni és fejleszteni, stb. Nyilvánvalóan fölmerül az igény, hogy ezt valahogy meg kell zabolázni, és akkor biztos majd az AI támogatott viedelmi eszközök lesznek a megoldások erre, ezért a gyártók is így vagy úgy, de valahogy vért izzadva küzdenek azon, hogy rányomhassák az éjjel plecsnit a termékeikre. Majd persze utána sikerül jó nagy hírverést csinálni és reklámot és próbálják ezt minden platformon sulykolni, hogy az ő cuccuk az AI-jal van fölboostolva, de a nap végén én azt gondolom, hogy nem értéktelenek ezek az eszközök, egyáltalán nem, de nem azért értékesek, mert belerakták az AI-t, hanem azért, mert beviszik azt a biztonságot, ami már ismert biztonsági megoldás volt.

Tehát ugyanazokat a kontrollokat, ugyanazokat beviszik és használják. Az, hogy teljesen AI alapú védelmi rendszereket építsünk, ami autonóm döntéseket hoz és tevékenyen beavatkozik, attól én azt gondolom, hogy még messze vagyunk, hogy azt biztonsággal lehessen engedélyezni. Nem azt mondom, hogy nem próbálkoznak néhányan ezzel, de én azt gondolom, hogy alapvetően felelőtlen dolog automatikus beavatkozást ilyen módon AI-ra bízva beépíteni a rendszereinkbe. Úgyhogy én szerintem hasznos, mert végül a nap végén eljutnak azok a biztonsági megoldások a cégekhez, csak most van egy új marketing eszköz, amit AI-nak nevezünk, és az viszi be ezeket az eszközöket.

Nekem az az érdekessége, hogy mondjuk itt van egy tűzfal, beépítem az AI-t. Az AI hallucinál. Most a tűzfalban nem fog hallucinálni ez az AI. Tehát nekem értitek, hogy mi a félelmem, hogy van egy termék, amiről tudjuk, hogy hallucinál, beépítem, ez a kiváló ehetek-e ilyen típusú gombát. Persze, ehetsz. Jaj, de meghaltam, ez mérges gomba volt. Ó, bocs, igazad van. És hogy azért egy ilyen típusú AI egy tűzfalban azért az álmoskönyv szerint nem biztos, hogy jót jelent. Erről te hogy vélekedsz?

Megvannak a módszerek az AI-nak, ennek a hallucinációjának a mitigálására. Teljesen kiszűrni nem tudják, de azért megvannak a különböző eszközök, amikkel egészen alacsony szinten lehet ezt tartani, mégis maga a döntéshozatal ettől még nem válik a számunkra determinisztikusan értelmezhetővé. Tehát lehet, hogy ugyanarra a támadástípusra egyszer úgy fog reagálni, hogy semmi baj, kitiltottam az IP-jét, aki támadni akart, és meg van oldva, a másik esetben meg azt fogja mondani, hogy rettenetesen támadnak minket, lekapcsolom a szerveremet. És akkor az már mindjárt egy más minőségű döntés, mert megakadályozta az én üzletmenetemet. Holott az előző valószínűleg nem akadályozta meg. Ezért én azt gondolom, hogy nem szabad ilyen típusú automatizációkat humán interakció nélkül engedélyezni.

Ugye ez a human in the Loop módszertan az az, ami megakadályozná ezt. Nyilván bizonyos intenzitás fölött nem tudjuk ezt beletenni, tehát nem állhatott egy nagy látogatottságú szerver mellett 35 ezer analiszt, akik minden egyes kódsort másodpercenként néznek és döntenek róla, hogy ez most mehet, nem mehet. Meg kell találni a megfelelő prioritást, de én azt gondolom, hogy tisztán AI-ra bízni a döntést, azt egyelőre nem lehet, de vannak erre megoldásaink már régen. Tehát ezek a támadások, sérülékenységek, kockázatok, amiket az AI behozott, nem újak. Mindegyiknek megvan a megfelelője és a megfelelő kezelési módja is már a korábbi IT biztonsági világból. Az egésznek a volumene, az intenzitása az, ami igazán naggyá teszi ezt a problémát, és ezt kell tudnunk most kezelni.

Ez pedig az, hogy az eddig nem megoldott IT biztonsági kérdéseket most meg kell oldanunk, és sokkal szigorúbban, sokkal teljeskörűbben kell megoldanunk ahhoz, hogy ellenálljunk ezeknek a nagy hullámoknak.

Na most akkor szavadon foglak. Ugye azt mondtad, hogy nincs új a nap alatt, ezek a sérülékenységek megvoltak. Szerintem van például egy új, ami eddig nem volt, és ez pont abból az architekturális kérdésből fakad, amiből a hallucináció is fakad, mégpedig a prompt injection, ami arról szól, hogy ha egy bronzban jól elhelyezek bizonyos szavakat vagy bizonyos utasításokat, akkor azzal rosszindulatú tevékenységre tudom késztetni azt az eszközt, azt az MI eszközt. Sőt, azt hiszem, van ennek egy ilyen fejlettebb változata, a közvetett prompt index. Sőt, amikor már nem is kell hozzáférni konkrétan a felhasználónak, nem is kell találkozni azzal a felülettel, hanem valami elrejtett utasítás egy beolvasott forrásból egy dokumentumban egy weboldalon fehér betűvel elrejtett utasítás is kiválthatja ezt a hatást.

Na most ez ugyanúgy, ahogy a hallucináció, ez nem küszöbölhető ki teljesen, mert akkor gyakorlatilag megállítottam a működést. Viszont erre meg kell valami új megoldás, vagy valamilyen új biztonsági elemet beépíteni, nem?

Igen, és még nem is. Az én véleményem továbbra is az, hogy nincs új a nap alatt. A nap végén ez egy indection támadás, amiket ismerünk már, SQL Injection, Prompt Injection, ugyanaz.

Nem ugyanaz, nagyban hasonlít. Code Indjection szintén nagyon hasonló ehhez. Ezeknek az ötvözete gyakorlatilag a most megismert prompt injection. De a megoldás is ugyanaz. Tehát, hogyha egy Pentesternek, akinek már rutinja van a különböző sérülékenységeknek a felderítésében és a mitigálásának a kidolgozásában. Egy Pentesternek odaadod, hogy itt van egy újabb injection, mit kellene vele csinálni, anélkül, hogy értelmezné akár, hogy pontosan mi ez, biztos, hogy rá fogja vágni, hogy input validációt kell csinálni, adatszűrést, adattisztítást kell végrehajtani, és ezt értelmezni kell minden olyan adatra, ami az ügyféltől érkezik. A Print Injectionnél az a fájó, hogy itt nem válik el a kód az adattól a promptok esetében, mert gyakorlatilag, ha innen nézzük, akkor minden csak adat, ha meg onnan nézzük, akkor minden csak kód.

Emiatt maga a nagy nyelvi modellek önmagukban zártan, tehát ha konkrétan magát a modell magját nézed, ők nem tudják ezt kivédeni. Képtelenség, mert nem tudnak különbséget tenni, mert számukra ezek mind csak statisztikai jegyek egy nyelvben. A megoldás erre az, hogy köré kell építenünk egy olyan réteget, ami tudja szűrni a bemenetet. És nyilván az lesz a megoldásunk rá, hogy elő kell szűrnünk mindent, amit odaadunk az AI-nak. Erre aztán sokféle megoldásunk lehet, egyik se igazán jó.

Sajnos.

Mindegyik fáj valahol?

Mindegyik fáj valahol, hogyha belegondolsz abba, hogy van egy ilyen hármas, hogy mondjuk a biztonság, a kényelem, meg a funkcionalitás. Ebből a háromból nem tudod az összeset fönntartani párhuzamosan.

Csak egyet választott.

Egyet választott igazán, és az el fogja húzni a másik kettőről a fókuszt. Ha kulcsfontosságú a biztonság, akkor a modelledet, az AI részt az egész AI applikációdból nagyon messzire teszed a usertől, és nagyon sok réteget raksz közé, hogy oda már nagyon kontrolláltan juthassanak csak el adatok, lehetőleg már nagyon előszűrten. Viszont ezzel nagyon sokat veszítesz a rugalmasságából a rendszernek. Ha meg mindegy, mert sokaktól hallom ezt, hogy nekem mindegy, nekem a biztonság az nem számít, nekem az számít, hogy nagyon gyorsan legyen egy működő rendszerem, akkor dönthet úgy a felhasználó, vagy adott esetben a szervezet, hogy ő mérlegeli a kockázatot, de itt is fontos, hogy kockázat alapon kell csinálni ezt az egészet.

Tehát, hogy ha ő úgy dönt, hogy ő vállalja ezt a kockázatot, akkor vállalja. Ez nem az én ügyem. Én tanácsadóként elmondom neki, fölhívom neki a figyelmét, hogy ez óriási kockázat, néha olyan nagy kockázat, amit felmérni is nehéz, mert rajta kívülálló hatásai lehetnek, de ha ő vállalja ezt a kockázatot, akkor én ki vagyok, én nem tehetek semmit, hogy megakadályozzam ezt. De a lényeg, hogy ebben a hármasban meg kell találni a megfelelő egyensúlyt.

Itt ez nagyon fontos mondat volt. A securitis ki vagyok? Ezt a kérdést teszi föl. Ki vagyok? Úgy, hogy egy szervezetben a pénzügy ott van, mint döntő ember, bevezetheti és elkaszálhatja és mondhat rá igent. A HR ott van, mint döntő, elkaszálhatja, bevezetheti, mondhat rá igent, és gondoljunk bele, önéletrajzok. Olyan önéletrajzok, amit hogyha bemegy, azon keresztül a támadó, ez a kedvencem, és nevesíteni fogom, sajnálom, úgy hívják az etikus hacker kollégát, hogy Matek Camillo, és az ő előadásán előszeretettel szokott elővarázsolni egy PDF-et, amiben egy doom játék van. Tehát beküldünk a szervezetbe egy PDF-et, látszólag CV, miközben a támadó az doomozik a szerveren belül, és ez egy jobbik eset.

És ugye itt a ki vagyok kérdésnél. Úgy fogalmaztad meg, hogy addig, ameddig a nincs új aznap alatt, és hogy addig, ameddig az alap informatikai kérdések nincsenek rendben. Na most tudnál-e abban segíteni, hogy mondjuk el, hogy mi az az akár öt, akár tíz dolog, ami kötelező jellegű, akkor, ha nem az a kérdésre a válasz, hogy ki vagyok én?

Ki vagyok én? Azért teszem föl, mert én IT securitysként nem vagyok a cégben meghatározó olyan szempontból, nem, hogy nem miattam van a cég. Nem én termelek, nem én viszem az üzletet, tehát nagyon kevés az a cég, aki az IT biztonság miatt létezik.

Nem, nem. Szóval azt szerettem volna ezzel mondani, és ez nagyon fontos, mert mindig átmegyünk védekezésre.

Igen, igen.

A Kibersecuritynak nincs dolga védekezni. Meg kell védenünk a rendszert. Csak azt szeretném megkérdezni, hogy mitől. Mert minden alkalommal mindig belefutunk egy olyan vezetői beszélgetésbe, ahol azt gondolják, hogy mi fölöslegesen ülünk és költjük el a pénzt, miközben ők saját maguk nem tudják, hogy hogy működik a saját üzletük. Nekünk, mint kiberszekurity szakembereknek kötelezően tudnunk, hogy hogy kell büdzsét tervezni nekik kiber securityre. Akkor, amikor egyébként azt mondanám, hogy a kiber security költség mondjuk legyen 1,0% az összes éves leadózás utáni mindennemű pozitív eredmény mellett. Ezt kérem elkölteni. Ez az egyetlen mondatom van. Tehát én veled vagyok, azt gondolom, hogy ugyanazt csináljuk, és ebben szeretném azt a tudatosítást behozni, hogy oké, nem hívnak be bennünket a bordűlésre, és lehúzzák a büdzsét, a kedvenc példám, amikor az aggregátort lehúzzák.

Ugye itt a biztonságnak is több rétege van, tehát a fizikai, szervezeti, stb. Lehúzták az aggregátort, de áramszünet fog bekövetkezni, és én visszarakom az aggregátort soronként, alkatrészenként, majd mégis egy áramszünetet próbálunk meg ezzel elhárítani. Tehát hogyan próbáljunk meg javaslatot tenni az operatív vezetésnek, vagy a stratégiának vagy a víziónak vagy bárminek, hogy a Kiber Securityben ezeket az üzletmenet-folytonosság érdekében kockázat alapon így mérlegeld.

A rövid válaszom az az lenne, hogy üzleti kockázatokká kell fordítani az IT-nak és alapvetően a technológiai kockázatokat üzleti kockázatokká kell fordítani, és azt a nyelvet megértik az üzleti területnek a döntéshozói. Ez szinte mindig működik. Nem olyan triviális ez, mert pont az kell hozzá, amit mondtál, hogy ezek nem feltétlenül mi vagyunk, akik értjük az üzleti kockázatot, mi a technológiai kockázatot értjük leginkább, de azt gondolom, hogy egy szervezeten belül mindig meg lehet találni. Minél nagyobb a szervezet, annál jobban meg lehet találni azokat a transzformátor embereket, akik képesek átváltani a két világ között a kommunikációt. Egyébként például erre egész jó lehet az AI is, ezt csak csendben jegyzem meg, de hogy miket javaslok általában, azok most is az élvilágban is ugyanazok az alapprincípiumok.

Nem tudjuk elérni, lehetetlen gyakorlatilag az Erotreszt-et tökéletesen megvalósítani, de törekednünk kell efelé. Csökkentsük a jogosultságokat, folyamatosan tartsuk kontroll alatt ezeket, figyeljünk a végpontvédelemre, figyeljünk a kiszivárgott jelszavainkra, képezzük a kollégáinkat, ezt már az előző szakaszokban beszéltük, ezek a megoldások. De kockázatarányosan nem tudjuk eladni az üzleti területeknek azt, hogy áldozzanak a büdzséből nem 1%-ot, hanem 30%-ot, mert értelmetlen. Nem azért van a cég, hogy IT security-t valósítson meg, hanem azért, hogy csavarokat gyártson.

És hogyan tud például egy négyfős cég magának mondjuk mentést választani. Tehát amikor azt mondjuk, hogy mélységi védelem, akkor a mélységben benne vagy a többrétegű védelem mélységben elhelyezve legyen mondjuk egy mentés. Mert ugye az a legtávolabb és legfontosabb védelmi vonalunk, hogy vissza tudjunk állni, üzletileg fontos?

Én azt gondolom, hogy egy ilyen kis cégnél különösen fontos, hogy ők már nem pazarolhatják arra az amúgy is kis létszámukat, hogy abból legyen egy szekurit is. Tehát, hogy nehezen tudom elképzelni, hogy házon belül akarják ezt ők jól megoldani. Ha igen, akkor valaki magára veszi ezt a sapkát, és ő próbálja ezt elvégezni. Ugyanezt tudom mondani, hogy elemezni kell azt, hogy miért akarnak ők biztonsági mentéseket, egyáltalán szükségük van-e biztonsági mentésekre. Találkoztam olyan tervezőirodával, aki azt mondta, hogy őnekik egyáltalán nem számít. Nekik annyi mentés kell csak, ami éppen, amit rajzolnak tervrajzokat, az ne vesszen el, de onnantól, hogy ők azt átadták az ügyfélnek, semmi közük hozzá, nem érdekli őket.

Őket az sem érdekli, hogyha bejönnek hozzájuk és valaki elolvassa ezeket. Semmi nem számít. Tehát, hogy őnekik az egyetlen egy igényük így rendelkezésre állás terén az, hogy azalatt a nem tudom, néhány óra alatt, amíg ő megrajzolja azt a rajzot, nem tudom mennyi idő, mindegy, bocsánat az építészektől, hogyha ezt magukra veszik, hogy nem bagatellizálom el, tehát azok alatt az órák alatt, amik ő dolgozik azon a munkadarabon, addig ne vesszen el. Ennyi. Tehát simán lehet, hogy nincs rá szükségük. Ezért mondom, hogy kockázatarányosan kell védekezni. Lehet a másik véglet is, ahol szupertitkos adatokkal dolgoznak és olyan üzleti titkok vannak, akkor megint csak szerintem be kell vonni egy szakembert, aki meg tudja mondani nekik, hogy mi az a megfelelő védelem az ő szintjükön.

Nem szeretnék általánosan mondani most egy tuti jó megoldást.

Nem, nem, nem, abszolút nem. Inkább azt szerettem volna, amit válaszoltál, hogy a saját kockázataikat próbálják meg megérteni, hogy jelent-e problémát, ha és amennyiben kettő órán keresztül, amikor a fontos rajzot rajzolja, akkor nem működik a számítógépe.

Ez egy üzleti kérdés. Tehát ezt próbáltam meg egy picit.

Négy fős cégnek ugyanúgy végig kell ezt gondolni, teljesen egyetértek. Félidő van. Ilyenkor mi meg szoktuk szakítani a szakmai beszélgetés egyre sűrűbb fonalát, és egyébként egy teljesen váratlan kérdést szoktunk föltenni, ami ilyen személyes szál, hogy eltérjünk azoktól a kérdésektől, amiket az egyéb korábbi Tigra vendégeinknek föltettünk, most a nyári munkát hoztam. Mi volt az első nyári munkátok? Jól fizetett-e, mire költöttétek, miért mentetek el nyári munkát végezni?

Igen, nekem a nyári munkám nagyon izgalmas volt az első. Az, hogy jól fizetett, arra emlékszem. Az, hogy mire költöttem, azt pontosan már nem tudom megmondani. Azért mentem el, mert alapvetően nem egy jómódú családból származtam, és a nyár amúgy is egy olyan holt időszak volt, mert nem nyaraltuk végig az egész nyarat, hanem volt egy csomó időm, én unatkoztam, 11-12 éves körül lehettem, és amúgy nem kaptam végtelen sok zsebpénzt sajnos, úgyhogy ez volt az az időszak, amikor kicsit összeszedhettem magam anyagilag, és akkor az egész évre kitartott. Nagyjából ez volt a felhasználás. Az első munka, amit tényleg már nyári munkának lehetett nevezni, egy kőműves brigádba kerültem be. Egy nyolc fős kőműves brigád volt, én 11 év körül lehettem, és az volt a különlegessége ennek a könyv és brigádnak, hogy én 11 évesen én voltam az egyetlen olyan tagja ennek a brigádnak, aki nem ült legalább öt évet börtönben.

Aha, az élet sűrűje.

Igen, igen. Amúgy elképesztően jó tapasztalat volt, és semmilyen negatívumot nem tudok róla mondani. Sok mindent tanultam, viccesen általában azt szoktam elsőnek említeni, hogy megtanultam bármivel kinyitni a sört, akármivel. Ez volt az első, amit megtanítottak, amikor nem gondolták, hogy elbírom a cementes zsákot, akkor nyitogassam nekik a sört, aztán utána bevontak más munkákba is. De ami igazából értékes volt ebben, az az, hogy ezek az emberek sokan azt mondanák, hogy ezek nem jó emberek, hiszen börtöntöltelékek voltak, huszonvalahány évet volt börtönben. Nyilván az elég súlyos bűncselekmény miatt lehetett. Mégis azt kellett ott megismernem, meg meglátnom, hogy ezek az emberek, ezek alapvetően nem mondhatom rájuk, hogy ezek rossz emberek, ezek nem rossz emberek, csináltak hülyeségeket, csináltak rossz dolgokat, hibáztak nagyokat, de ettől ők még emberek, és amúgy azóta most már nagyjából tisztességesen élnek, ahogy sikerül, de ezek hibák voltak, ettől ők nem lettek igazán rossz emberek, nem azt mondom, hogy csodálatos dolgok, amiket tettek, mert nem azok, mert nyilván bűncselekményeket követtek el, az pedig rossz.

De mindig ott van mögötte az ember. És hát hibáztak. Ilyen egyébként a szakmában is nagyon sokszor van, tehát hogy az emberek hibáznak.

Zoli? Nyári munka.

Ja igen, vízimentőztem. Ez most azért érdekes ebből a szempontból a kérdés, meg ahogy összeveted, hogy valamelyik nap. Ugye én balatoni vagyok, és valamelyik nap az egyik fórumon egy kedves turista fölvetette azt, hogy másodfokú viharjelzésben neki miért kell kimennie, hiszen befizette a 2600 forintos belépőt, és hogy ez neki jár vissza. Ezzel kapcsolatban nyilván nem én vagyok a megfelelő ember, aki válaszoljak, hanem valószínűleg Bagyó Sándor, és elképesztően nagyra értékelem a vízimentők munkáját, és odaírtam egy empirikus tapasztalatot, hogy mennyire rossz elmondani, miközben a 40 centis vízben megfullad valaki a hátul zokogó családnak, hogy sajnos elvesztette az éppen aktuális szerettét.

És akkor ebben jöttek különböző trollok, meg támadások, és hogy a suszter maradjon a kaptafánál, a hüjájt is, miért dumál arról, hogy vízimentő? Na, hát akkor itt most az önéletrajzomat elmondanám, hogy én vízimentőztem. Azt hiszem, hogy nagyjából hat éven keresztül, és mindezek után hét éven keresztül segítettem a magyar gyerekmentők munkáját is. Szerintem nagyon fontos erkölcsi dolgokat tanulhatunk arról, hogy milyen helyzetekben mennyire nehéz embernek maradni. Laci?

Én nagyot mosolyogtam, amikor elkezdte Tamás a sztorit, mert ugyanaz volt az első nyári munkánk, én is kőműves segéd voltam, csak sokkal idősebb koromban, én 17 éves koromban mentem el nyáron. Pontosan emlékszem, hogy miért. Ugyanúgy nem voltunk földokban anyagilag a család története, erről annyit jegyez föl, hogy még évekkel ezelőtt a sztori előtt el kellett adnunk a kispolszkit, mert drága volt a fenntartása. Na, ebben a helyzetben én szerettem volna egy mobiltelefont, nem is tudom, hát ez ilyen '90-es évek, tehát hogy nem okos mobil.

Egy jó noki 30-30-as.

Hogy mobil, meg ugye azt hiszem Ericsson volt egyébként, amit akkor akartam venni, és akkor hát erre gyűjtöttem, és akkor elmentem, és akkor reggel fölültem a biciklire, Fótról átbicikliztem Dunakeszi külsőre. Nekem nem volt brigád, volt egy bácsi, aki kőműves volt, és akkor ő mellé el tudtam szegődni, egy tanáromon keresztül találtam meg egyébként. Annyit jegyeztem meg ebből az állapotból azon kívül, hogy lehet fejleszteni a fizikumot, de azért korlátaim vannak a szemeteszsákra utalva, de annyit megjegyeztem belőle, hogy a bácsinak volt egy szavajárása. Ezt ott tanultam meg, hogy ilyen van, hogy szavajárás. Mi reggeltől estig dolgozunk, és amikor már huszonötödször hallod ugyanezt, akkor ott már valami nincs rendben.

Azt mondogatta a bácsi, hogy szegény férfi szenved, szenved. Ez ugye Madách Ember tragédiája, tehát hogy egyébként az eredeti kontextusában egy csodálatos mondat. A kőműves munka közben ez huszonötödször már nem az, és ott rá kellett jöjjek, hogy vannak választások 17 éves kamaszként, hogy milyen életet szeretnék élni, az nem azon múlik, hogy milyenek a körülmények, hanem az itt dől el fejben. Úgyhogy azon kívül, hogy egyébként lett mobiltelefon, és szerintem többet ért ez a tapasztalat így visszatekintve. Na de vissza a kaptafához, ha már a vízimentős is kaptafa volt egyébként, csak nem tudta a troll. Támadó oldal. Ugye van védekező oldal, most ez fél órával keményebb.

Trónok.

Támadók, igen. A kártékony kódok átlagos hossza egyébként állítólag 125 sor, ez nem tudom honnan van, de hogy ilyen nagyon rövid, miközben egy modern szoftver akár több millió soros kódban is lehet. Tehát, hogy van egy ilyen aránytalanság, és hogy ez ilyen elég izzasztó így elsőre elolvasni laikusként. De hogy nem pont a rövidség az, ami egyébként ebben segít, illetve hogy amikor ügynökökről beszélünk most így az MI kapcsán, akkor itt a támadó ügynököknél esetleg van-e valami új trend, ami megváltoztatja ezt a korábban mondjuk könnyen azonosítható rövidségű kódokat.

Ez az aránytalanság valóban megvan, és ez igazából nagyon fura, de a védekező oldalnak az előnye ez a furcsa aránytalanság, mert az operációs rendszereink, a védelmi eszközeink, a tűzfalaink, meg minden iszonyatosan robusztusak. Ezek a végpontvédelmi eszközök is több millióssal, vagy több tízmillióssal is akár. A támadó kódnak szükségszerűen rövidnek kell lennie, mert át kell csusszani a levelezőkön, át kell csusszanni a bűzfalakon, a forgalomfigyeléseken, meg mindenen. Nem tartalmazhat sok esetben igazi binárisokat, hanem csak a meglévő eszközöknek a kvázi ilyen scriptelésével kell, hogy operáljanak, ezért nagyon rövidnek kell lenniük. Így a védekező, hogyha megtalál egy állományt, és elkezdi elemezni, akkor nagyon gyorsan ki tudja tokától bokáig elemezni azt az adott malware-t, azt az adott kártékony kódot, megismeri a működését, és nagyon gyorsan tud rá reakciókat reagálni, és csillapítani a hatását ennek a kártékony kódnak.

Ez tök jól működik, amíg nem rakjuk bele az egészbe az AI gondolatot. És azt gondolnánk, hogy mivel iszonyat bonyolultságú a működése, ezért maga a kód is, amit elkészít, az is nagyon nagy méretű lesz, nagyon nagy bonyolultságú lesz, de nem lesz sikeres. Tehát hogyha nem tartja be ugyanazokat a szabályokat, amiket támadóként be kell tartani, hogy maradjon kisméretű, akkor maradjon észrevétlen, maradjon radar alatt, akkor elbukik. Ezért ugyanúgy kénytelen az AI is rövid, tartalmas kódokat írni, amiket ugyanúgy könnyű kielemezni, akár egy AI-jal megtámogatva a másik oldalról. Emiatt ez nem válik igazából extra támadó potenciállá. A volumen az megint csak itt is változik, tehát hogy sokkal több ilyen támadó kódot tudnak generálni, és nem marad már más, mert mindegyik támadó kód egyedi lesz, ezért szignatúra alapon, tehát a támadó kód kinézete alapján nem tudjuk megtalálni azt, hogy ez egy támadó kód, hanem viselkedés alapján kell mindenképpen elemezni.

Ha megengeditek, közben hoznék egy ehhez kapcsolódó, ehhez nagyon szorosan kapcsolódó dolgot, ami nem tudom, tudjátok-e, hogy vannak olyan Access brókerek, akik csak odáig viszik el a támadásokat, hogy az Initial Access, tehát a hozzáférést, a bejutást.

Kapu mögé kerülés.

Igen, kapu mögé kerülést lebonyolítják, és utána áruba bocsátják ezt a hozzáférést, és utána jönnek más hackercsapatok, és azok fogják a többi dolgot csinálni. Kilenc óra volt nagyjából, ez 2022-ben. A Mandinernek a nemrég kijött tanulmányából látjuk azt, hogy mostanra ez az idő, ez 22 másodpercre rövidült, 22 másodperc. Nyilvánvalóan azért, mert jól automatizált ez az egész, és azonnal történik a csere. Tehát ilyen szempontból szerintem jobban kell aggódnunk az AI-nak és az agenteknek a jelenléte miatt, mint az, hogy ők tök jó támadó kódokat tudnak írni.

Nekem ez régóta jár a fejemben, hogy a hacker az a szerviz, tehát hogy az ellen nem vét semmi. Laci?

Biztos, hogy nincs olyan biztonsági költés, ami mellett ez nullára csökken. Nekem az jutott eszembe, hogy még egy picit érdemes lenne itt a támadói oldal szempontjából ezt a KKV nagyvállalat dilemmát kapirgálni, mert a nagyvállalatok azért tényleg a felkészültebb ügyfelek közé tartoznak, van kivétel, de azért sok helyen legalábbis nagyobb erőforrásaik vannak, és akkor ott ki is alakult egy ilyen zsargon, hogy nem tudom, van ret teaming, ezt magyarul azt hiszem támadás szimulációnak kéne mondani, beépítik a fejlesztési folyamatba a tesztelést, a saját dokumentumokra épülő, ilyen visszakeresett kiegészítő MI rendszereket alkalmaznak, tehát tényleg van nekik egy ilyen eszköztáruk, meg szakszókincsük.

De hogy mi az, ami ebből átszivárog, mondjuk egy magyar viszonylatban átszivárog egy KKV életébe. És akkor egyébként itt nem vagyunk-e Magyarországon hátrébb vagy előrébb, mint a világpiacon lévő egyéb országok. Merthogy vannak dolgok, amiben technológiailag Magyarország baromira élen jár, és nagyon érdekelne az, hogy pont ebben a KKV kibervédelemben meg hol állunk.

Hát nagyon sok dolgot kérdeztél egyszerre, mármint nekem nagyon sok minden jutott erről eszembe, amiket mondtál.

Ez volt a cél?

Visszafelé indulok. Énnekem meggyőződésem, hogy nem azért nem hemzsegnek az ehhez hasonló hírek, mert amúgy annyira erős a védelmünk, hanem sajnos azért nem, mert nem vagyunk célkeresztben. Tehát, hogy itt Magyarországon mi nem vagyunk célpont igazán a nagy nemzetközi hadviselésben. Nem azt mondom, hogy nem érkeznek ide támadások, de hogyha igazán nagyon támadnának minket, akkor nagyon gyorsan elbuknánk, sok kisebb és nagyobb cégnél egyaránt. Úgyhogy ez a mi szerencsénk, hogy nem vagyunk a célkeresztben.

Én azért ezt így kiegészíteném egy kicsit, mondjuk azt, hogy rigorózus gondolatom van, hogy nem célpont vagyunk, lépcsőfok.

Igen.

És ez nagyobb probléma.

Tehát, hogy mi hozzánk, aki bejön, lehet, hogy nem minket akar megtámadni, hanem megkeresi azt, akit igen, és tőlünk szerzi be az információt, miközben hát igen, nem nagyon támadtak meg bennünket.

Lehetőleg igyekszik úgy csinálni, hogy mészre se vegyük, különben ki fogják védeni globálisan ezt a hiányosságot. Igen, a startupoknál is ezt mondják, hogy Magyarország tesztpiac, hát úgy látszik, akivel védelemben is el lehet ezt mondani.

Hát meg ugyanez a másik oldal is. Tehát, hogy technikailag az, hogy ki milyen gépen van bent, ahogy mondtad.

Tehát azt nem tudjuk, lehet, hogy már rég ki van nyitva, lehet, hogy rég bent van, és az egyetlen feladata az, hogy a háttérben futtasson egy olyan figyelőt, egy ilyen sentinelt, ami a háttérből az információkat folyamatosan kifelé dobálja, viszont nem olyan mértékben, hogy mondjuk egy tűzfalon adatforgalom, eltérő adatforgalom keletkezzen. És tudjátok, itt jön be megint egy kérdés, hogy nincs 100%-os védelem, pont. A kompliens sem azért kell, hogy 100%-os védelmet adjon, de akkor itt van egy ilyen államkincstár példa, ahol kőkemény és szigorú compliance volt, akkor tessék nekem már valakinek elmondani, hogy akkor a checkbox compliance rész. Melyik időpillanatban hol volt igaz és hol nem volt igaz, de ez lehet költői is, és ha ki akarod egészíteni, akkor örömmel.

Nem tudom nagyon kiegészíteni. Azt a részét köszönöm, hogy behoztad, hogy mi csak egy lépcsőfok vagyunk. Igen, én is így gondolom, és ide akartam egyébként kilyukadni, és el is terelem egy kicsit más irányba a szót erről a kérdésről, mert az, hogy lépcsőfok vagyunk, az egyúttal azt is jelenti, hogy mivel egyébként nem csak a védekezésben, de a detektálásban sem vagyunk nagyon erősek, ezért simán lehet az, hogy évek óta velünk élnek a rendszereinkben azok a kártevők, azok a támadó csoportok akár, akiktől rettegünk, de mivel mi nem vagyunk végcélpont, ezért nálunk csak megbújnak és rejtőzködnek és várnak és figyelnek és adatot gyűjtenek, információkat gyűjtenek, mert ugyanaz a user meg fog jelenni az energiatermelő cégnek a rendszerében is, de az felhasználója lesz egy másik nagy rendszernek.

És akkor szépen át tudnak járni, mert ismerjük a felhasználói szokásokat, ugyanazt a felhasználónevet, jelszót fogják használni. Ez borítékolható, de a lényeg az, hogy sok esetben nem is tudjuk, hogy ott vannak, tehát hogy évekig rejtőzködhetnek anélkül, hogy észrevennénk. És visszakanyarodva az eredeti kérdésedre, hogy a támadó oldal hogy áll ezekkel az agentic eszközökkel és az AI-val támogatott eszközökkel. Én azt tartom nagyon nagy szerencsénknek, hogy a feladatok komplexitásával nő ez a bizonyos kontextusablak, ami igénye van az AI modelleknek, és minél nagyobbra nő ez a kontext, minél nagyobb lenne az igény arra, hogy nőjön ez a kontextusablak, egy idő után nem tud nőni, mert iszonyatosan költséges.

Tehát mindannyian ismerjük azokat a híreket is, ahol véletlenül egy fejlesztőcégnél elszabadult valami fejlesztési igény, és akkor ilyen több tíz-százmilliós, nem tudom, már nem emlékszem pontos összegre, de óriási tokenköltséget generált, és hát ezt a támadók sem tudják akármilyen szintig viselni ezt a költséget. Úgyhogy kompromisszumokat kell kössenek. A kompromisszum az az, hogy a komplexitással fordítottan arányosan nő a megbízhatatlanság, és itt a legelejére visszautalnék az élelmiszereknek a megbízhatóságára. Sokkal megbízhatatlanabbá válik a rendszer. Bizonyos szintig a támadót ez nem érdekli, mert neki nincsenek olyan szigorú korlátjai, mint mondjuk nekem például a Pentester kollégáimnak a hátán föláll a szőr a gondolattól is, hogy egy AI Agentet csak úgy odaengedjünk penteszteni valahova, mert teljesen kontrollálhatatlan, hogy mit fog csinálni.

És ilyen restrikcióik a támadóknak nincsenek, őnekik nem fáj az, hogyha kicsit félremegy és a szomszéd céget is lebombázza az élet.

Nagy ügy.

Nagy ügy, igen.

Igen, nekik nem számít. De a hatékonyságuk nem jó ilyen szempontból, mert vagy az van, hogy nagyon egyszerűen kell tartani, akkor nagyon komplex, bonyolult feladatokat nem tudnak vele megoldani, vagy elszáll az egész, és már ők sem látják, a támadó csapatok sem látják át, és akkor vaktában próbálkoznak, és vagy sikerül, vagy nem, de akkor nagy a lelepleződésnek a veszélye.

A háború, akkor beszéljünk fegyverekről. Ugye a vietnami háborúban az M16-os versus a Kalasnyikov, ugye? Ez a kettő állt egymással szemben, és a nagyon megbízható M16-os az mindig sajnos elromlott, merthogy olyan kis tűréshatárokkal dolgozott, amivel az ellenfélnek a kis nagy szórásban, de sokat eltaláló, kicsit sem precíziós gépfegyvere viszont kiszolgálta. És hogy ebben, amit mondasz, most is én ugyanezt látom. Tehát kockázat alapon dolgozik maga a hackercsoport is, hiszen azt mondja, hogy neki bevételt kell termelni, a végtelen bevételt kell megtermelni szabályozás nélkül, ergo annyit fordíthat rá, amennyit akar, mert megtérülési mutatókban, ha ezzel nem azt a céget, hanem másik ötöt talál meg, akkor neki megvan a bevétele.

És egy kicsit azt látom, és nem tudom, hogy ezt jól látom-e, hogy tulajdonképpen az van, hogy volt vendégünk, ezért így bátran mondom, hogy fölmennek az Opterre, lekérik a céginfót, megnézik, hogy milyen cégértéket képvisel maga a cég, és egyébként elindítanak egy támadást. És a hasonló karakterű, karakterisztikájú cégekre is ráindítják ugyanazt a támadást, és hogyha ebből mondjuk tízből hat jön csak be, akkor az már bőven rentábilis, és a ROI-t hozták a hacker, azt a szerviznél a gazdasági igazgató boldogan tapsol a megtérülési ROI számításnál. Mit gondolsz?

Abszolút, igen, így, pontosan így működik. Én azt gondolom, hogy nyilván megint csak visszanyúlhatunk az alapokhoz, és beszélhetünk arról, hogy mi a motivációja egy-egy támadónak, és sokféle motiváció lehet. Legtöbb esetben a gazdasági haszon, néhány esetben a hírnév, de azt gondolom, hogy az nem elég erős motívum, vagy motiváló tényező. Meg hát ugye vannak a különböző államok és kormányok által finanszírozott egyéb célú, tehát általában hatalmi törekvések vagy valamilyen nemzeti érdek felől támogatott hackercsoportok. És azt gondolom, hogy kifejezetten az államok és kormányok által finanszírozott hackercsoportoknak nagy a nyomás rajtuk, hogy őnekik azt az adott célpontot kell támadniuk. Ezért ők mindent kapnak hozzá, ezért ők nagyon nagy erőforrásokkal rendelkeznek általában, és ők tudnak célzottan nagy AI kapacitást mondjuk felvonultatni egy-egy támadás kivitelezésére, de megint ott vagyok egy kicsit ezzel a gondolattal, hogy nincs új a nap alatt, ezek régen is megcsinálták ezt.

Hirtelen akartam mondani, hogy egy deepfake videónak az elkészítése. Ma nyilvánvalóan trivialitás, egy 12 éves gyerek megtalálja a pikk-pakk azt az eszközt, amivel tud egy deepfake videót csinálni ebből a podcast adásból is bármelyikünkről.

Ez így van.

Tehát, hogy a virtuális térnek az igazolása, az lett a legnehezebb feladat az egyik oldalon.

Így van.

És most már az MI hatóság oldalára is fel tudja tölteni, hogy ez az NDP videó.

Igen, igen. De évekkel ezelőtt is voltak már deepfake videók, csak akkor a nagyközönség számára elérhetetlen volt. Most ez sokkal közelebbivé vált és elérhetőbb, de a lényeg az, hogy ezek az APT csoportok, akiket kormányok tartanak fönt, kormányok fizetnek, ők rendelkeznek azzal a potenciállal, hogy jól tudják használni ezeket az AI eszközöket. Ellenük nem nagyon tudunk máshogy védekezni, csak a nagyon robosztus védelmi környezet kialakításával. És a korábban már sokszor ismételt mindenféle IT biztonsági vagy kiberbiztonsági princípiumoknak a minél precízebb betartásával és minél részletgazdagabb kidolgozásával.

Mondtad, hogy azért ez egy kalibráció, hogy mennyit teszünk bele az ellenőrzésbe és a biztonsági lépcsőkbe egy MI funkciónak a használatba vételekor, az ugye fordítottan arányos azzal, hogy mennyi kockázatunk lesz benne. És hogy hogy érzed, hogy most ez úgy általában jól van már kalibrálva a cégeknél, tehát nem túl sok, de nem is túl kevés kontrollpontot építenek be. Ugye minél több a kontrollpont, annál lassabb lesz az egész, annál inkább gyakorlatilag eltűnik az az előny, amit az MI adna, hogy gyors lesz és automatizált, vagy esetleg általában elbillen ez a kalibráció még valamelyik irányba?

Szerintem ez elbillen még ez a kalibráció, és nem is csak azért, mert nem jól találják meg ezeket a súlyokat, hanem mert nem jól használják az MI-t a cégek, mert azt gondoljuk most, hogy itt egy kalapács, akkor minden szög.

És mindent az MI-vel akarunk beverni. Ezért amikor például egy Agentic hálózatról beszélünk, sok adásotokat meghallgattam, de nem tudom, hogy mennyire mentetek, nem mindegyiket hallgattam még, és nem tudom, hogy.

Instant ügynökökbe nem mentünk bele. Pont azért nem mentünk bele, mert egy kicsit.

Vártunk rád.

Itt a Kibersecurity részen biztosan vártunk rád, ugyanakkor a gyakorlati megvalósítás részén valahogy azt látjuk ebben az agentingben, hogy a csillagszemű juhászok jelentek meg ebben, hogy mindenki tud egyfajta megoldást, és valójában mindegyik AI tudja a saját konnektorával, hogy összekössön egy game-et, és majd a levelekben rendet tegyen, de technikailag azért egy teljes céget leautomatizálni úgy, hogy nem tudom, hogy a saját folyamataim hogy működnek, szerintem mondjuk azt, hogy bátor dolog.

Igen, az ágens definícióhoz kéne tudni, hogy mi a folyamat.

Pont erre szerettem volna én is kilyukadni a végén, hogy egyrészről, amikor eljut egy cég oda, hogy nagyon akarom az AI-t, úgyhogy vezessük be, csináljuk. Sokszor nem csak az IT biztonsággal nincsenek rendben, hanem a saját folyamataik sincsenek meg, és az AI-tól várják azt, hogy majd megcsinálja nekik a jó folyamatokat, de nem csinálja meg, ez az egyik, ami nagyon fontos ez ügyben szerintem, a másik pedig, hogy ezek az Agentic hálózatok, ezek szerintem óriási nagy félreértés van az emberek fejében azzal kapcsolatban, hogy az agentic hálózat az önmagában nem egy AI hálózat, hanem az Agentic hálózat az a régi Old School mindenki által az IT-ban már jól ismert mikroszerviz topológia gyakorlatilag, ahol pici egységeknek pici önálló feladataik vannak.

És ezek, most nem beszélek AI-ról. Arról beszélek, hogy van egy kis egységem, ami önállóan valósít meg valamit.

Igen, csak még a mikroszervizben pontosan mindig ugyanarra a bemenetre.

Tehát ugyanazt a szolgáltatást nyújtja, addig az AI-nál van egy kicsit ilyen indeterminisztikus hullámzása, hogy mit fog csinálni.

Így van, és pont ezért nem kell az összes identünkben AI-t szuszakolni, hanem csináljuk meg szépen. Először tisztázzuk le, hogy milyen folyamataink vannak. Találjuk ki, hogy milyen lépések kellenek, milyen agentek kellenek hozzá, hogy működjenek, de ne éjjel agentben gondolkozzunk, agentek, akik rendesen algoritmikus módon végiggiterálnak, végignyálaznak egy Excel-táblát, sorról sorra végigmegy rajta, nem kell hozzá egy szkript, végigveszi és kiszedi onnan az adatot, és odaadja egy következő Agentnek. Ezek szépen, zártan, tök jól tudnak működni, agyon lehet őket tesztelni, mindig ugyanarra a bemenetre ugyanazt fogja adni, és azokra a feladatokra, amik túlontúl bonyolultak lennének mondjuk egy adatkonverzió, mondjuk egy hangfájlból Excel-táblává konvertálni valamit, azt csak azt a szűk feladatot jól definiáltan adjuk oda egy AI jentnek, és így lesz nekünk ez az agenting hálózatunk, egy AI applikáció, hogy a megfelelő helyen ott van benne az AI, ami segíti a munkánkat, de nem rontja a megbízhatóságunkat, és főleg nem a Security-t.

És hogyha így gondolkozunk erről, akkor nagyon jól el tudjuk rejteni ebben az Agentic hálózatban az AI ügynököt úgy, hogy lehetőleg minél kevesebb közvetlen interakciója legyen a külvilággal. Így akkor nem viselünk akkora kockázatot ezzel.

És nem kell annyi biztonsági kaput köré építeni, hogy nagyon lassú legyen.

Illetve maga az Agentic hálózat lesz körülötte a biztonsági kapu. És egyébként, ha jól értelmeztem, akkor most már így a végéhez közeledünk a beszélgetésünknek, úgyhogy ha megengeditek, még két gondolatot mondanék az AI-jal kapcsolatban, amit csak így itt hagyjuk egyelőre a levegőben, mert ezt már nem hiszem, hogy ki fogjuk tudni most fejteni, de az egyikhez az, hogy én erősen hiszem és gondolom azt, hogy hamarosan nem én vagyok ezzel az egyetlen, hamarosan jön egy AI bumm, ami véget fog vetni egy kicsit ennek a mostani állapotunknak, hogy mindig minden AI és tényleg a szöget is AI-jal akarjuk beverni. És ennek a mostani faramuci helyzetnek ennek a megoldása egészen máshonnan várható szerintem, mint amire számítunk.

Az energiaéhség az, ami meg fogja ezt állítani szerintem. Van olyan idősebb ember, aki tök jókat játszik az AI-jal, verseket generáltat arról, hogy hogy kell húslevest főzni, meg nem tudom, tehát hogy ilyenekre használja, és azt ő nem látja, hogy milyen irdatlan energiamennyiséget éget el ezzel, csak vicces az egész, de ugyanígy azok a megoldások, amiket tök fölöslegesen minden egyes agentet mondjuk AI-jal valósítunk meg, annyira nagyon pazarlóak, hogy ez fenntarthatatlan. Ráadásul ez a komplexitás, amit ez az egész AI belevisz a működésünkbe, ez megint csak fenntarthatatlan. Ez az egyik fontos gondolat, tehát ez nem fog működni így tovább. És a másik, ami már inkább ilyen kicsit jövőkutatós gondolat, ezt az egészet, amiről idáig beszéltem, és amit vallok, hogy most nincs új a nap alatt, és minden ugyanúgy, kérem, nincs itt semmi látnivaló, menjünk tovább, csak csináljuk jól a dolgunkat.

Ezt mindet zárójelbe teszi az, hogyha bekövetkezik az, hogy szintet lépnek az AI-ok. Most jelenleg beszélünk AI-okról, azok is leginkább nyelvi modellek, amikről most beszélünk. Amikor jön az általános mesterséges intelligencia, arra mondják azt, hogy az már rendelkezik egy valódi személy kreativitásával, megoldóképességével, intelligenciájával és nagyon nagy tudással. Az már egy egészen más szint, és ha megjön ez az általános mesterséges intelligencia, ilyen még nincs. Tehát ez definiáltan nincs még ilyen. Mindenki szeretne lenni az első, aki ő.

Az övé az első.

Övé az első flag ezzel kapcsolatban, de ilyen még nincsen. Szerintem hamarosan elkezdődik majd az az időszak, amikor majd ezt kiabálják, hogy én megcsináltam, de még egyelőre ne higgyük el szerintem. Az nagyon látványos lesz, hogyha ez megérkezik. Nem olyan lesz, mint ez a Mythos mizéria, ami mostanában volt, meg az elszabaduló agentek, hanem ennél sokkal látványosabb lesz. Ráadásul azért lesz nagyon látványos, mert ez az idő, amikor ez megjelenik, az nagyon közel hozza a rákövetkező még veszélyesebb szakaszt, ami már egy úgynevezett szuperintelligencia. Ez lehet kicsit ilyen alulsisakos dolognak tűnik, de az összes AI kutató egyetért abban, hogy ez a fejlődésnek az iránya. A szuperintelligencia az már kb. az egész emberiségnek a teljes tudásával és megoldóképességével rendelkezik.

Ez egy nagyon nagy lépték, azzal már nem tudunk mit kezdeni. Tehát ezek a szintek már az általános mesterséges intelligencia is ténylegesen zárójelbe teszi azt, amiről az előbb beszéltem, akkor már lesznek új támadási formák, amiket most még nem látunk jól.

És még ezt összekötik a robotikával.

Így van.

Szerintem lesz miről beszélgetnünk jövőre és két év múlva is, de már ma is én örömmel nyugtáznám a napot, mert szerintem elértük a célunkat, hogy ne csak a marketing anyagok alapján alkossunk véleményt az MI IT biztonsági vonatkozásairól. Tamás, nagyon szépen köszönjük, hogy elfáradtál hozzánk.

Köszönöm szépen én is a lehetőséget.

Köszi, hogy eljöttél.

Klassz volt.