Új technológiai kihívások és AI

Üdvözlök mindenkit! Ez itt a DIG-IT Podcast, Személyi László vagyok, a Future-NOW vezető partnere, és társam a krimiben, Szekér Zoltán, az OD&IT Solutions és a SailingHangar alapító ügyvezetője. Sziasztok, jó napot kívánok! A DIG-IT Podcast célja, hogy akit nem elégítenek ki a felszínes cikkek és a hangzatos jelszavak, az közelebb kerülhessen a digitalizáció és az informatika mai meghatározó trendjeihez. Mi itt a mélyére fogunk ásni a dolgoknak. A Az elmúlt fél évben mindenki az AI-ról, vagyis a mesterséges intelligenciáról beszél, azonban azt tapasztaltuk, hogy a legtöbben a szoftverekkel foglalkoznak, sőt leginkább a képernyőn látható részükkel foglalkoznak. Azt tényleg megtanultuk, hogy mi az a promptolás, hogy hogyan kell képet generálni, chatbotot összekattintani, sőt még dokumentumokban is van, aki tud keresni ezek alapján.

Na de mi a helyzet a hardverrel? Magyarul, amikor nem elég a felhő, hogyan kell hozzányúlnunk a saját szervereinkhez. Vagy ha privát MI megoldást szeretnénk, ami csak a mi környezetünkben használható adatokat kezel, akkor mit kell tenni a motorháztető alá? Úgy láttuk jónak, hogyha meghívunk egy vérbeli szakértőt és egy vérbeli kereskedőt a stúdióba, és velük ásunk a mélyére, akik ezt vállalták. Ja, és külön köszönet Csorba Andreának, a HRP Europe-tól, aki segített őket meggyőzni. Kurucz Tamás megoldástervező, vagyis a csatornán túli nyelven szólva solution architect és Horváth Richárd üzletfejlesztési menedzser. Sziasztok!

Köszöntjük a hallgatókat.

Jó, hogy eljöttetek. Tamás, kezdjük ott, ha már hardver, kezdjük már ott, hogy mi volt az első számítógép, amit összeraktál, és az első szerver, amit összeraktál, az mikor volt? Ja, és mire szolgált? Akkor mire kellett?

Most csúnya nagy időutazás lesz.

Valamikor a kőbalta után még úgy az 1900-as évek végén az első személyi számítógépekkel kezdtem egy szervizben, ahol utána a gyártást, tehát a kliens PC-ket raktam össze, már nem saját magamnak, hanem rendelésre, és ha már elindult a gyártás, akkor valahol akkortájt 1999-ben az első szervert is eredeti Intel alkatrészekből, tehát Intel Server alaplapház, egy Night Light T440B, egy processzoros Slotos Pentium 2-es gép.

Ugye, hogy emlékszik rá?

Az mind semmi, de hogy a Ricsi volt az Intel szóvivője, úgyhogy ő is.

Igen, de én kicsit később, alighanem ő már összerakta a szervereket.

Igen.

De akkor ezek általános alkalmazásszerverek voltak, tehát fájlszerver, levelezés, tehát akkoriban azért még nem volt ilyen dömping a szolgáltatásokból, amik szerverfronton elérhetőek. Tehát ezek még az első, már nem mainframe, hanem a közép kisvállalatok számára is elérhető szerver megoldások voltak.

Ez még a novellás időszaknak a kezdetén volt?

Már azért itt nemcsak a 3.12 ment, hanem itt már a 4-es, tehát azért a 90-es évek végénél már NT351, NT4 és a Novellből a magasabb generációk már dübörögtek.

A kedves hallgatók kedvéért ezek most szoftverkifejezések voltak, amik a hardverkifejezéseken futottak.

Tök jó, hogy lesz egy ilyen kis transzlétünk, merthogy az AI is erre épül, hogy tud ilyen scripteket lefordítani, de hogy ezt azért kérdeztem, mert annak idején pont ebben a korszakban volt egy olyan szerver, amit mi igazából nem tudtunk semmire használni, és ezért az akkori AI-nak a counter-strike szerverét kezdtük el használni, és jól tudom-e, hogy itt most van egy ilyen kis átkötésünk ebben, hogy a videokártyák teljesítménye majdnem egy szerverével ér fel. Nehéz analógiát kötni a kettő között, mert teljesen más a működése.

Annak idején, ugye itt most AI-ról beszélünk, a történet a nyolcvanas évek elején kezdődött, amikor volt egy látnok, aki kitalálta, hogy a személyi számítógépet azt egy háztartási készülék szintű egyszerűségű eszközzé varázsolja, tehát nem csak a fehér köpenyes mérnökurak tudják majd használni, hanem szinte bárki, és ehhez a grafikus felhasználói felületet látta az útnak. Ez ugye Steve Jobs volt az Apple-nél, és aztán utána mindenki ebbe az irányba indult el, egy Microsoft alapon a Bill Gates és mindenki, tehát jöttek sorra különböző már grafikus feladatra épülő rendszerek. Tehát ez már megkövetelt valamit, ami több, mint a processzor, ami ugye elsődlegesen általánosan alkalmazásokra, a programok oktatására lett készítve, de a grafika más, a képernyő más, ott sok-sok egyidejű képpont megjelenítése kiszámolható.

Tehát ott az egy más jellegű feladatot igényel. És ugye egyre több médiatartalom, egyre több grafika, egyre nagyobb felbontások, több szín, egyre több igény lett, egyre nagyobb teljesítményű videokártyák jelentek meg, és rájöttek, hogy ez a sok-sok-sok videoprocesszor, hiszen sok képponttal kell dolgozni, tehát ez sokkal egyszerűbb, ha egyszerre több szálon tudjuk lekezelni. Ez másra is jó. Ezek jellemzően valamilyen lebegőpontos matematikai számításokat takarnak, és innentől kezdve kezdtek el gondolkodni azon, hogy ezt másra is lehetne használni, és adtak teret, platformot, elsődlegesen az Nvidia kezdte ezzel a KUDA magok megjelenésével, hogy programozhatóvá váltak ezek a magok, hogy elsősorban ilyen nagy számításigényű tudományos számítási feladatokra kezdték el komplexebb feladatokra tömörítés, titkosítás és egyébre használni, ami aztán kinőtte magát odáig, hogy ma már a mesterséges intelligencia óriási számításigénye is jellemzően ezeken fut.

Valószínűleg a legtöbben tényleg a közösségi médiában vagy a munkahelyi, legjobb esetben a munkahelyi gépükön találkoztak ilyen mesterséges intelligencia megoldásokkal mostanában, és kevesen gondolnak bele, hogy hát valahol a háttérben, a világ valamely pontján vagy több pontján komoly szervertermek vannak, mindenféle környező, nem informatikai megoldásokkal egybekötve, mint hűtés meg áramellátás.

Nem igazán tudjuk, hogy hogy működik ez az AI. Egyébként tökre szerintem azt gondolom, hogy ez is egy ilyen tök fontos kérdés, hogy hogy kerül ide mag, meg memória, meg kapacitás, meg számítás, meg egyáltalán, tehát hogy áll össze szerintetek ez az AI történet? Hogy lehet ezt lefordítani a hallgatóknak a nyelvére?

Én szívesen mondok egy ilyen 90 másodperces verziót, és utána Tamás elmondja a valóságot. Tehát az AI, hogyha jól jártál, akkor az az elképesztő számítási teljesítmény, ami ahhoz kell, hogy akár deepfake videókat generáljon egy szerver, ami tele van pakolva a videokártyával, tehát ha jól csináltad, az nem a te szobádban van, mert így nem te hűtöd, és nem te hallgatod a ventilátoroknak a susogását. Tehát én azt mondanám, a 90 másodpercből persze már simán kifutottam, ahogy szoktam, hogy az AI az a megfelelően beparaméterezett, elképesztő számítási teljesítmény, ami majd csinál neked valami olyat, amit te sokkal, de sokkal hosszabb idő alatt tudnál csak megcsinálni, ha egyáltalán megtudod.

Ennek volt egy másik tudományosabb megközelítése.

Igen. Bíztam benne, hogy ezt fogod mondani.

Tehát nem ennyire konkrétan most fake videót akarunk gyártani, hanem egyáltalán mesterséges és intelligencia.

És azt kutatták, hogy hogyan lehetne dolgokat automatizálni. Még a kilencvenes évek végén, amikor az IBM a Deep Blue-val csinált egy sakkozó automatát, ami elég komplexre sikerült ahhoz, hogy az akkori legnagyobb sakkozó világbajnokot, Kaszparovot is megfektesse, még egy automata volt. Úgyhogy azt mondták, hogy valahol igazából, ha tényleg intelligenciáról beszélünk, akkor ez a definíció, hogy önállóan cselekedni képes, önállóan reagálni képes valami legyen, ez nem állja meg a helyét. Úgyhogy azt mondták, hogy legyen az a mesterséges intelligencia, ami élő állat, bármi, amit mi úgy gondolunk, hogy intelligens egyéb, aszerint tudjon reagálni bizonyos eseményekre, helyzetekre, ezt tegye önállóan, még akkor is, ha ezt a cselekvést nem ugyanolyan eljárás során, nem ugyanazzal a megoldással éri el.

Ilyen lehet a játékokban bármelyik NCP karaktere, a knopling laptop, aminek van valamilyen saját cselekvése. Ha te közel mész egy nagy puskával, akkor ő arrébb megy, sikítva, mert fél, stb. De ez még mindig nem az igazi, és aztán csináltak egy harmadik definíciót, ahol azt mondták, ahol a mesterséges intelligencia az, ahol önállóan képes akár a megváltozott körülményekhez alkalmazkodni, tanulni és aszerint reagálni. Tehát bekerült az intelligenciába az a képesség, hogy tanulni képes. Adaptáció, változtatni képes a viselkedésén a külső hatásoknak, az igényeknek megfelelően.

Látod Zoli, látom, hogy a Tamás megmondja.

Abszolút így van. Kellenek ezek a kis kiegészítők, mert alapjában véve ugye az, hogy a nem tudom én, most nem reklám, de hogy a GTA-nak melyik részében melyik alak fut elsikoltozva, az nem biztos, hogy ugyanazt jelenti, és nem biztos, hogy tudjuk, hogy az mesterséges intelligencia által generált, tehát hogy mind a kettő igaz.

Laci?

Visszakanyarodnék a hardvertémára. Tehát, hogy még csak-csak tegyük fel, eljutnak odáig emberek, hogy ezt a szervertermet elképzelik, amit a Ricsi is mondott, hogy ez de jó, hogy nem nekem kell hűteni. Igen ám, de hogy azt a kérdést is fel lehet ma már tenni, hogy miért is ne lehetne nekem egy saját szerverem, egy saját hardverem, amin ilyen típusú komplex alkalmazkodni is képes algoritmusokat tudok úgy futtatni, hogy nem függök attól a szolgáltatótól, aki ezt valahol a világ másik kontinensén teszi, hanem kontroll alatt tudom tartani ennek a működését, funkcionalitását. Szerintem ez ritka, hogy ilyenekben gondolkodnak, ezért tök érdekes lehet, hogy kik ezek, akik ma is, lehet, hogy a szomszéd utcában, vagy a szomszéd városban, itt a közelben ilyeneken törik a fejüket, hogy mondanátok-e néhány ilyen példát, hogy itthon milyen célra épülnek ilyen hardver környezetek, illetve mekkora vállalatméretben?

Köszönöm szépen a lehetőséget. Először is nem csak lehet erről gondolkodni, hanem egyre inkább kell, hiszen vannak olyan biztonsági tételek, ami ezt megköveteli. Mivel intelligenciáról beszélünk, ha én azt mondom, hogy az én adataimban szeretnék dolgozni, és azokból valamilyen hasznos eredményt kinyerni, akkor én tényleg oda akarom adni a felhőnek az én privát, céges, akár érzékeny, titkos adataimat, vagy azt mondom, hogy egyébként is vannak GDPR és mindenféle egyéb előírások, hogy én ezeket ki sem hozhatom a szervertermemből. Tehát ha én ilyen megoldásban gondolkodok, akkor kell saját AI megoldásban gondolkodni, biztonsági okokból is. A másik.

Tamás, hadd kötözködjek egy kicsit, hogyha a felhőben csináltatod a Microsoft Copylottal, akkor is ott van egy ilyen kis átkapcsolható valami, hogy milyen adatokból dolgozhat ő, és nem fogod ráküldeni a te éles céges adataidat a világra.

A felhőnél mindig ott van, hogy bizalmi kérdés. Leírta, igen, elhiszem vagy nem. Illetve a felhőnél mindig ott van, hogy az ott van, nem itt. Ott van egy késleltetés, az adatokat el kell oda juttatni, őneki azt föl kell dolgozni, és utána megkapom az eredményeket. Mennyi adatod van?

Illetve manapság már az sem mindegy. Néhány fájl, vagy néhány gigabájt, vagy akár terabájtok.

Teljesen igazad van, hiszen attól függően, hogy az általunk használt internet sebességétől függ majd az a percepció, hogy valami gyors vagy nem, hiszen ha on-prem fut nálunk, akkor az annyival fut, amennyivel a szobán belül tud.

Ha ez a felhőben fut, akkor az internet sebessége fogja definiálni, hogy én minek érzem ezt az egészet.

Egy picit segítsetek már ezt a felhő versus on-prem környezetet. Régen ahhoz, hogy szervertermet építsen az ember, meg egyáltalán szerverről beszéljen, azért ott voltak biztonsági funkciók, ilyen álpadló, meg klíma, meg hűtés, meg fűtés, meg hozzáférés, meg hát egy csomó minden. De hogy a szerverterembe való bemenetel is függött attól, hogy milyen biztonsági funkciók vannak. Most én azt olvastam és ebben szeretnék egy kicsit tisztán látni, hogyha segítenétek nekem ebben, hogy az Nvidia azt is mondja, hogy ugyanezt a privát környezetet megteremti, de úgy, hogy az erőforrásokat megosztja egymással. Tehát az, hogy van egy videokártyám és számol, az össze tud kapcsolódni egy másik videokártyával, ami számol.

Ebből mi igaz? Vagy hogy lehet megfogni ezt a gondolkodást? Onnantól kezdve, hogy mesterséges intelligenciáról beszélünk, és előkerültek a különleges dolgok, a nagy számítási igényű megoldások.

Ebben egy óriási nagy ugrás volt 2022-ben év végén, amikor a Chatgpt bejelentette a GPT környezetét, ami egy nagy nyelvi modellre épült. Akkoriban azt hiszem, ez a 3.0, 3.5-ös modell volt még olyan 150 milliárd paraméteres megoldásként nagyságrendileg. Ez egy iszonyatosan nagy modell. Ahhoz, hogy ezt a teljes modellt tudjad futtatni, kezelni, és az ehhez tartozó adatokat egybe kezelni, ahhoz iszonyatosan nagy számítási teljesítmény és erőforrás kell gép kell. Alapesetben a legnagyobb adatközponti videokártyák sem rendelkeznek elégséges memóriával és számítási teljesítménnyel, tehát mindenképpen valamilyen klaszterben kell gondolkodni. Ennek az első szintje az, amikor a gépen belül van több videokártya.

Itt a szűk keresztmetszet maga a PCI buszrendszer lehet. Tehát az Nvidiánál, az adatközponti megoldásoknál van olyan, ahol a saját Nvidia Nvidia Switch-jein keresztül egy NVI linken keresztül beszélnek egymással a videokártyák. A jelenleg piacon levő architektúránál ez 900 gigabájt per szekundum, tehát nem bit byte per szekundum, hozzátéve, hogy a leggyorsabb, létező pisze expressz 5.0, 16-szoros pisze expressz, az 64 GB.

Bocsánat, csak hogy nagyságrendeket akartam.

A technológiában, tehát van egy alaplap minden szerverben, ebben annak idején fehér színű volt még, amikor én legutoljára alaplapot láttam, a PCI slot, ebből ő most hányat foglal el akkor, amikor arról beszélsz, hogy több meg összekapcsolódik.

Most egyelőre arról beszélt, hogy az egyik hagyományosabb, mondjuk processzoroknak szánt alaplapon körülbelül tizenötöde az átviteli teljesítmény.

Próbáltam lefordítani. Engem is ez zavart gyorsabb, amikor az Nvidia saját magának kialakított adatátviteli lapkát használ.

Ezt hogy lehet elképzelni?

De azt még nem tudjuk, hogy hány ilyen lapkának a kommunikációira használja. Valószínűleg többre, merthogy azért kell a nagy adatmennyiség, nem?

A dolog úgy néz ki, hogy a jelenlegi architektúrában négy, illetve nyolc videokártyát lehet így összekötni.

Ezek a videokártyák ugyanúgy ott csücsülnek a PC Express buszon is, de van egy nagy sebességű kapcsolat közöttük, ennek köszönhetően ez a sebesség - csak hogy érzékeltetni tudjuk

a létező leggyorsabb videokártyák, tehát egy gamer kártya az RTX 4090-ne, a saját belső memóriasebessége ez a 900 gigabájt per szekundum, most pedig arról beszélünk, hogy a videokártyák egymás között beszélgetnek ezzel a sebességgel. Tehát így el tudta érni az Nvidia, hogy egyetlen egy számítógépben ezek a kártyák olyan sebességgel érjék el a másik kártyának a memóriáját, mintha a sajátjuk lenne. Kvázi egybe tudja kezelni a 80 gigabájtos videokártyából 8 darabot, 640 gigabájt videómemóriát. Ez innentől kezdve lehetővé teszi az óriási modellek kezelését. És ott tartok, hogy a jelenlegi legnagyobb modellek már rég nem férnek bele ebbe se, tehát ezek a gépek vannak speciális módon nagy sebességgel összekötve egymással.

A normál hálózathoz képest egy alacsony késleltetésű, még mindig azért ehhez képest a 400 gigabites sávszélesség azért egy töredéke, de mégis egy óriási sávszélességen úgy kialakítva, hogy a videokártya közvetlenül a PIS expresszen beszél a hálózati kártyával, ami a másik gépen a kártyával és a videokártyával beszél, nincs közben processzorfelügyelet, hogy ezzel is lerövidítsék az utat, tehát hogy minél alacsonyabb késleltetéssel, minél nagyobb sebességgel tudjon beszélni egymással az összes kártya, így egy nagy, óriási összeadott teljesítményt elérve.

Na most már értem, hogy miért olyan ritka dolog ez, de hogy visszakanyarodva ne ússzátok meg annyira a kérdést csak azzal, hogy elbeszéljük a bitek és a bitek irányába, hogy akkor mi van itthon ebből mégis saját környezetként kialakítva, kik azok a szereplők, mármint nyilván nem feltétlenül, de milyen iparágból mekkora méretű szervezetek, akik belevágnak egy ilyen high-tech szerver dologba, ami azért high-tech, hogy ezt a mesterséges intelligencia nagy modellezést támogassa.

Két példát mondanék. Az egyik egy ilyen nem konkrét példa lesz, és a másik még kevésbé lesz konkrét. Azok a szervezetek, amelyek nem rakhatják fel a felhőbe a ki tudja mit, tehát itt on-prem kell megvalósítaniuk ezeket a dolgokat, akár azért, mert nemzetbiztonsági kockázata lenne, akár azért, mert simán törvényi szabályozás vonatkozik rájuk. Ők azok, akik a végtelen mennyiségű ilyen hardvert megvásárolják és időegység alatt üzembe helyezik, megfelelő szoftveres rétegeket is ráteszik. Illetve a másik kitérő válaszom a következő lenne. Az AI-jal úgy találkozunk, hogy valójában mi nem értjük ezeket a számokat, nem tudjuk, hogy valójában milyen számítási teljesítmény van a feladat mögött. Annyit tudunk, hogy amikor az adott oldalon

ugye én szeretem ezeket a családtörténetes történeteket, kutatjuk az őseinket, satöbbi. Felmegyünk a családfás oldalra, és egy hete megjelent egy funkció, generálj magadból 30 fotó feltöltésének segítségével 106 féle korhű, nem létező verziót a te személyedből. Mindez 60-90 perc alatt elkészül, nem mondják meg, hogy milyen vas van mögötte. Én ezt kipróbáltam, egyébként 62 perc alatt elkészült. Jól nézek ki, viking is vagyok, meg ilyen perzsa harcos, meg amit akarsz, szultán, amit akartok, ki is raktam a linktérre, hatalmasat megy, nem mondom a számot, mert mire adásba kerül, már nagyobb lesz, de jó móka. És visszatérve az alapgondolatra, ez semmilyen körülmények között nem nálunk a szobában fog futni, mert ez elképesztő.

Én ilyen, olyan típus vagyok, elolvasom ezeket a disclayereket. Mit csinálnak az én fotóimmal, mikor törli le az adatot a betanító fájl, stb. És tovább tartott végigolvasni a szerződést, mint amennyi idő alatt elkészült az én Dzsingisz kán, meg perzsa harcos, meg ilyen francia arisztokrata verzióban.

Persze, mert az egyiket egy gép csinálta.

Jó, ott a pont.

Azt hadd kérdezzem meg, hogy akkor ez kiderült-e, hogy ez a kedves örökséggazdálkodó oldal, ez most akkor vett egy ilyen, a processzorgyártók valamelyik nevére hallgató szerverkupacot, vagy pedig fogta a nagy M-betűs vagy G-betűs szolgáltatót, és megvette kilóra így darab három.

Ha van eszük, kapacitást vásároltak. Emlékeztek arra, amikor Denzel Washington részeges pilótát alakít a Flight című filmben?

Amikor fordítva megy a géppel.

Igen.

Fejjel lefele is repülnek egy darabig, és ott a szárny széle a templomtorony széléhez odaér, de végül nem mondjuk el, nem lőjük le a poént, de hatékonynak bizonyult a manőver. Abban az esetben is, pedig az egy sima renderelés ahhoz képest, amiről most beszélünk, egy ilyen 1.0, otthon megcsináljuk a Greenboxban. Nyilván Denzel Washingtont nem bírjuk oda elhozni, de a maradék részt otthon meg tudnánk most már csinálni. Ők is kapacitást vásároltak. Miért? Mert az skálázható. Ha például ahogy Tamás elmondta ezeket a definíciókat, nem jól paraméterezzük be ezt az egészet, és Zoliéknál otthon, bárhol lakik is, megállnak a teherautók, húzzuk be a szervereket, adunk áramot, erővel beszélünk, még több Alaszkában.

Itt van egy régi malom, egy régi malom, egy vízi halom, ahogy az is termelje az árat.

Igen. Hogyha benéztük, nem jól paramétereztük be ezt az egészet, milyen számítási kapacitás kell, meg háttértár, és így tovább, és így tovább, akkor Zoltán nem lesz hatékony, nem tudjuk megcsinálni a dolgot. Ha kapacitást vásárolunk, akkor skálázható, kifutottunk belőle, semmi gond, ahogy Király István kollégánk szokta mondani, odaklikkelsz, megnöveled, már fut is az Azúrban, megoldottad, négy perc alatt átállítottad az egészet.

De itt most Tamásnál, bocsánat, Tamásnál akkor most videokártyát kell vennem, vagy kapacitást kell vennem.

Pont ezt akartam kérdezni, csak máshogy, merthogy bemutattuk a vendégeinket, hogy itt van a kereskedő, meg ott van a solution architect, azaz megoldásszállító, és most mintha helyet cseréltek volna.

Nem nálunk dolgozik.

Én vasat akarok eladni, bocsánat.

Ő meg felhőt?

Nem, én bármit.

Az van, hogy egyrészt igaz, másrészt nem így van. Először is igen, lehet otthon is, még egyedül te is tudsz otthon ilyen megoldást futtatni.

Csak legyen egyedül a maszk.

Még csak az sem kell, tehát most már vannak olyan megoldások, ami egyetlen videokártyán is működőképes és használható lesz. Tehát azt mondod, hogy te otthon akarsz a saját dokumentumaiddal chatelni, erre kész megoldást tudsz letölteni az Nvidiánál, van egy ilyen chat RTX, ahol ha már van egy olyan videokártya, aminek legalább 30-as, 40-es generációba tartozik, tehát ez az amper, vagy az ad all offline architektúra, és van minimum 8 giga memória benne, a rendszerben meg 16 giga, akkor ingyenesen le tudod tölteni az alkalmazást, föltelepíted, egy kisebb méretű, tehát a Large Language modellekből egy ilyen kisebb Mistral, mondjuk 7 milliárd paraméterest, vagy hogyha elég nagy a rendszergép, akkor engedi a láma 2, 13, vagy 15 milliárd paraméteres modelljét is letölteni és azon használni, és utána annyi a teendő, hogy a saját dokumentumaidat egy könyvtárba összerendezve odaadod neki, Word, Text Five, PDF, jellemzően szöveges dokumentumok működik.

Ő ezeket átalakítja, vektorizálja, hogy a mesterséges intelligencia tudjon vele mit kezdeni dolgozni, nem tanítod be az intelligenciát. Ez egy úgynevezett rag modell, ez a Retrieval Augmented Generation, ahol a kész modell csak aki tud keresni, tud kommunikálni, csak keres és dolgozik a te adataidból, de nem tanulja be, azt nem teszi magáévá, és innentől kezdve otthon te el tudod érni már ezzel a hardverrel, hogy egy-két másodperces válaszidőkkel. Te beszélgetsz úgymond a dokumentumaiddal, keresel bennük a saját hardvereden, a saját megoldásodon. Túl sok promptolásra és túl sok finomhangolási lehetőségre nincs. Ez egy demó megoldás, de hogy teljesítményben ilyen célra már ez is elég. De ha éjjel-jel tovább megyünk és mondjuk podcastolunk egyéb.

Vannak olyan megoldások, amelyek mondjuk a háttérzajszűrésre, hangminőség javításra szolgálnak, és egyetlen videokártyát elégséges hozzá, ingyenesen letölthető az eddigi oldalról, de ha már video stream is van, és a többi, és azt mondom, mondjuk én előadást tartok, és számít az, hogy milyen az ügy, a partner érzete, az, hogy én hogy beszélek. Van olyan feature, amit bekapcsolsz, e-kontakt. Gyakorlatilag azt csinálja, hogy folyamatosan úgy rajzolja a fejedet, hogy te belenézel a kamerába. Akkor is, hogyha lenézel és a lapot olvasod, te belenézel a kamerába. Pislogsz, mindent csinálsz, de belenézel. Olyan, mintha veled beszélnék, mintha a hallgatóval beszélnék, mintha neki hozzá beszélnék. Mesterséges intelligencia.

Otthon elérhető egyetlen videokártyával.

Mi van akkor? Mert én látom, hogy Zoltán nagyon gyorsan tanul, mondjuk, hogy ő még ma délután nem ért hozzá, de megvan benne a hivatástudat, 219 és fél az IQ-ja, tehát hamar meg fog mindent tanulni.

Vagyis tanultam valamit, igen.

És azt mondja, de hipotézis nyelve.

Oké.

Lehet, hogy csak 195, ezt nem tudhatjuk.

Figyelj, kezelés, igen.

És akkor azt mondjuk Zoltánnak, hogy figyelj, adunk neked krediteket, eladunk neked olyan krediteket, aminek a segítségével te majd beváltod mindenféle ilyen Nvidia tudásra, és a végén gyufaszálból fogsz katapultot építeni, meg ennél bonyolultabbakat.

Én leszek maga Mcgiver.

Te leszel Mcgiver szakállas verzióban, szemüvegben.

De egyébként igen. Tamás, hogy vesz krediteket?

Készpénzért.

Igen.

Tehát az Nvidiánál.

Hoztad a tárcát itt a hasonlattal.

Persze, persze.

Az van, hogy Nvidiáról beszélgettünk első körben, és különböző hardverekről. Az Nvidia volt az első, aki fölismerte, hogy ezek a videokártyák ugye másra is jók, nem csak játszani, meg médiatartalmakat megjeleníteni, és nyitott először a számításigényes, tehát a nagy számításigényes HPC jellegű terhelésekre, és utána a mindenféle egyéb, akár mesterséges intelligencia irányába. Manapság is sokat hallunk még a videók, játékkártyákról, egyebekről. Az alapító nem hallott beszélni gamer kártyákról. Az Nvidia manapság már nem chipgyártóként tartja magát számon, hiszen a GPU-n, a videokártyán kívül ő már komplett keretrendszereket értékesít, beleértve a hálózatot, amivel összekötöd ezeket a nagy klasztereket, az adatközponti videokártyákat, beleértve a szoftverkörnyezetet, ami utána munkára bírja.

Addig, amíg van egy gyönyörű videokártya clustered farmod, iszonyatos számításteljesítménnyel, kapacitással, van elég áramod, van elég hűtésed, mindened van, addig az egy darab vas, és nincs benne élet. Kell hozzá valaki, aki vagy mindent is tud, mindenhez is ért, és ő megépíti azon a mesterséges intelligencia környezetet, felprogramoz mindent, vagy pedig azt mondom, hogy igénybe veszem az Nvidia komplex keretrendszerét támogatással, ezek sok esetben open source megoldásokra épülnek, de kiegészítve egy terméktámogatással, kiegészítve a világ egyik legnagyobb támogatói fejlesztői közösségével, és onnantól kezdve, mikor én elkezdek saját megoldást építeni, ő ehhez nem csak a futtatókörnyezetet, keretrendszert adja, de ezeket az előre betanított, az adott felhasználási területet, specifikus modelleket, mintamegoldásokat és akár segítséget, támogatást a saját kód, a saját alkalmazás kialakításába.

Olyan ez, mintha valaki, aki eddig mondjuk egy zöldségest vitt a sarkon, az ott a zöldségestől nem messze, hogy azért a logisztika ne legyen bonyolult, de mondjuk nyit egy ilyen szakács sulit, ahol ilyen előre készített kis kitek vannak, hogy te most a paradicsomos lecsót vagy a japán sushit szeretnéd elkészíteni, és akkor ott van benne minden. Majdnem itt a csapatépítőkön, hogy oda is van, hogy elhozzák ugye az alapanyagot, és te ott meg megfőzöd. Tehát körülbelül így kezdtem elképzelni, akkor ez valahol átmenet, ha jól értem, a dobozos termék, meg az egyedi termék között, merthogy azért be van valamennyire így dobozolva, kreditekbe, de hogy igazából elég egyedi szolgáltatásokat lehet ráépíteni.

És mivel dobozos terméket mondtál, mesterséges intelligenciából dobozos terméket nagyon nehéz kreálni. Tehát ha belegondolsz, van két cég, mondjuk gyár, fröccsöntött műanyag termékeket állít elő. Nem ugyanazon a gépsoron dolgozik, nem ugyanaz az ügyviteli rendszere, az SAP rendszere, a logisztikai rendszere, nem ugyanaz a raktározási, gyártási, nem ugyanazokkal a pénzügyi modulokkal dolgozik.

Nem ugyanolyan a HR.

És innentől kezdve nem ugyanolyan adatstruktúrában, nem ugyanolyan szenzori információkkal dolgozik, tehát nem tudom azt mondani, hogy akkor most bemegyek az AI boltba, azt a kék dobozt leveszem a polcról, kifizetem, hazaviszem, kicsomagolom, mint egy karácsony, széttépem, bedugom a konnektort, bekapcsolom, és van AI, mert bár ugyanazt műveli a két cég, nem tudod azt a megoldást ráhozni, hiszen az AI-nak a lényege, gyakorlatilag volt egy korábban, hogy ez nem egy egzakt, hiszen ahogy beszéltünk, volt automata, aztán egyéb, egyszerűbb, és aztán a tanulni képes mesterséges intelligencia, ez egy folyamat, és az egész gyakorlatilag az adatvezérelt folyamatokból. Tehát az AI-nak az értelme maga az adat, ami maga a tudás ad értelmet.

Ha a te adataid, a te információid nem egységes formában vannak, akkor nincs dobozos termék rá. Vagy a cégedet alakítod át, és próbálsz valami dobozos termékkel, tehát mondjuk van egy zöldmezős beruházás, olyat már láttam, hogy például valaki csinált egy okoskórház megoldást, a betegirányítástól kezdve az orvosi képdiagnosztika feldolgozásán át mindenfélére, de az egy zöldmezős beruházás, tehát ott a kabáthoz a gomb ott készül, tehát van egy szoftverem és már a kórházat úgy építem föl, az informatikát, a szenzorokat, mindent, hogy az illeszkedjen a szoftverhez.

De jellemzően nem ez a példa. Általában van egy működő vállalkozás, van egy működő történet, és ahhoz kellene AI, és innentől kezdve viszont fejlesztő kell.

Az Nvidia az mindenkinek általában videokártyaként aposztrofálódik a nevében.

Tehát, hogyha most én elmegyek bárkihez, és az utcán közvéleményt kutatok, akkor ott az Nvidia az még így videokártya meg gamer cuccokhoz, hogy most meg azt mondod, hogy ők kifejlesztettek egy olyat, amit tud kommunikálni a világban, meg le lehet tölteni különböző nyelvi modelleket, de hogy ehhez azért tartozik egy kiberbiztonsági rész, merthogy most meg már egyre jobban abban az irányban ment el a világ, hogy ezeket a típusú, nem boltban kapható nyelvi modelleket kezdik el támadni, és ezzel próbálnak meg különböző káreseményeket okozni. Erről mi a vélemény? Vagy hogy lehet ezt kezelni?

Erre megint ez egy megoldás. Tehát az van, hogy a legtöbb ilyen nyelvi modell azért Open Source, nyílt forráskódban elérhető.

Nem igazán tudod, hogy ki nyúlt bele, mire tanította, vannak-e benne olyan rejtett csapdák, egyebek, ami majd később valahogy aktiválódik, és utána adatszivárgáshoz távolodik, tehát bármi kibertámadásra ad lehetőséget. Ha ezeket a nyelvi modelleket egy irányított cégtől veszed, ahol azt mondja, hogy az Nvidia ott volt a betanításnál, tudja, hogy milyen adatokon tanították, mi van benne, és ez alapján a keretszerződésen belül garanciát vállal azok működéséért, akkor már adtál egy lépést a biztonságnak. Ha ezt továbbviszed, és azt mondod, hogy ezeket a kommunikációkat, egyebeket, illetve azt mondod, hogy kiberbiztonság. Ez az egyik, hogy nagy nyelvi modellek és a többi, de ahogy beszéltünk itt a fizikai biztonságnál, az, hogy van-e védősisak az építkezésen megjelent munkáson, a felszerelés rendben van-e egészen odáig, hogy kiberbiztonsági információelemzés, hálózati forgalomelemzés.

Erre ugyanúgy van hálózati elemzés.

Hálózati elemzés. Ugye, amit szoktam mondani példát, hogy hajnal háromkor négy terhet, amikor feltölt hálózati adatforgalom elemzés.

Tehát viselkedésellenőrzéstől kezdve sok minden egyéb, ezekre ugyanúgy vannak moduljai, megoldásai, eszközei. Innentől kezdve jönnek be már nemcsak a videokártyák, nemcsak a GPU, a Grafical Processing Unit, hanem az Nvidia-nak vannak okoshálózati kártyái, sőt DPU-data Processing Unit, ahol saját memóriája és processzora van A processzora a hálózati kártyának, és önálló kódot futtat, így titkosítást, tömörítést, de adatelemzési funkciókat is levesz.

Ez azt is jelenti, hogy van egy olyan, tehát van a videokártya, akkor emellett van egy hálózati titkosító eljárás is, vagy ezt most így lehet érteni?

Egészen odáig, hogy megcsinált olyan eszközöket, amikor a videokártyára szerelt hálózati portokat és a nagy teljesítményű, kifejezetten csomagelemzési funkciókat a videokártya végzi. És bármi ezen túl, ami jut a PC Expressen a gépe, az már átment egy komoly ellenőrzésen, feldolgozáson, amihez ő adja a keretrendszert, a szoftverkörnyezetet, a fejlesztői környezetet, hogy a saját igényeidre szabva ezt te tudod egy biztonságos munkakörnyezetben kialakítani.

Sztori, a ma délutáni éned, az kap egy listát, hogy mi közül választhatsz, de a gyorsan tanuló éned két hónap múlva azt fogja mondani, hogy de jó, hogy egy olyan gyártóval indultam el, amelyiknek minden egyéb felmerülő igényre lesz javaslata, LEGO komponense, akár security, akár adatfeldolgozási fél.

Ne értsétek félre a kérdést, de hogy mitől nem lesz ez Windex. Tehát ugye van a bazi nagy görög lagziban, ahol mindenre megoldás a Windex.

Itt nem egy megoldás van, itt van megoldás biztonságra, Morpheusnak hívják a keretrendszert. Bíztató neve van? Igen, hát nyilván. Van gépi látásra, a metropolisz, ahol az okos terekre, egyebekre van, az egészségügyre, a Healthcare-re, a Clara. Van a Speech-re, ahol ugye az Automatic Speech-re kommunikál. Ugye a beszédfelismerés és a textus is, ahogy az írott szöveget kimondja a riva. Minden ilyen területre van egy keretrendszere, előre tanított nyelvi modellekkel, megoldásokkal, fejlesztő környezettel, amiből te tudod utána a saját környezetedet tovább alakítani.

Bennem ugye az merült fel, saját önző példa. Idén, tehát 2024. januárban mit tudott a Microsoft Copylo-t, és mit tud ma reggel? Elképesztő fejlődésen ment keresztül, és az Nvidiában, ugye ott nem négy mérnök csinálja hétvégenként részmunkaidőben ezt az egészet.

A csuklós buszfejlesztés az Ikarusban, azt nem tudom, hogy tudjátok-e, de hogy három mérnökön múlt, hogy kész lett, bocsánat.

Ez egy jó sztori. Én azt mondanám, hogy mire a gyorsan tanuló éned két hónap múlva azt mondja, hogy Szia Tamás, felhívnálak, eddig eljutottunk, még mire lőhetném el a kreditjeimet, mert túlvásároltam magam, addigra lesz számos olyan komponens, ami nem a mai problémádra ad megoldást, javaslatot, hanem a két jövőbe problémámra.

Gyakorlatilag várjál, beszélhetünk manapság már mesterséges intelligencia professzionális, tehát olyan szakértőkről, akik ebben mindent is tudnak?

Én azt gondolom, és hogy a kérdésednek az egyik fele a válaszra, hogy a világ kutatja, hogy ki tud erre igennel válaszolni, de a másik felében pedig nagyon fontos lenne például egy szénhidrogén kutatásnál ugye elképesztően fontos azok a képalkotási módszerek, de nemcsak szénhidrogén kutatás, hanem legyen ez mondjuk egy. Orvosbiológiai molekulakutatás. Jó, tehát hogy ezeknél a részeknél egyrészt a képalkotásnak a végeredménye egyáltalán nem biztos, vagy nem egy ilyen kézzelfogható valami, és ugye a bevitt adatokhoz tartozó IT biztonság, hogy az Innsbruckből Copy, ugye a Richter Edwards-i kedvenc szoba, hogy nem megmásítható fizikailag az adat, hogy lehet ezt körbejönni az Nvidiánál? Tehát, hogy most én letöltöm egy on-preme környezetben, ugye ott fut a szervertermemben, amit te hallgatsz, igen, a malmomban, amit én hallgatok.

Amihez saját vízierőműved is van, meg különben nem győzhetek.

Gyorsan fejlesztek technológiát, de hogy ezt hogy kell elképzelni, hogy én ezt hogy tudom biztonságban. Ez meg már azért a másik történet.

Tehát alapvetően most mesterséges intelligenciáról beszéltünk, megvan a számítási teljesítmény, megvan az intelligencia, megvan az adat.

Az, hogy utána ez az adat hol tárolódik, általában ezeknél az AI megoldásoknál vannak minősített sztorik, megoldások, sztorik, gyártók, és talán azt az adatot kezelni kell, igénybe kell mindenféle mentési és egyéb biztonsági megoldás.

Az Nvidia-nak van ilyen?

Storage-ja nincs, de vannak Nvidia szerverek, ahogy vannak Nvidia minősített megoldások, tehát nemcsak ő gyárt szervert, és nemcsak őneki lehet, hiszen az összes nagy ébren is szinte minden gyártónak vannak Nvidia minősített megoldásai, amivel te megépíted a saját adatközpontodat, mivel ő ismeri ezt az egész folyamatot, ismeri a környezetet, vannak referencia architektúrák, mint a környezetek, hogy ez egy működő megoldás legyen, így a sztoridzs irányába is le vannak írva az elvárások, hogy mit kell tudjon, mit kell teljesítsen, és erre vannak gyártók, de nem egy gyártó, hanem több gyártó megoldást lett minősítve, tehát nem akarta az egészet bezárni, nem az ő gyártója, nem a saját terméke, de minősített megoldása van a legtöbb nagy gyártótól.

Hogyha fölhívjuk a Máté nevezetű vendégünket, akkor ő azt fogja tudni mondani, hogy figyelj, fölhívom, hogy Máté, tudsz-e nekem minősített Nvidia sztori megoldásokat hozni. Erre Máté nekem azt mondhatja nagy valószínűséggel, hogy igen.

Egyrészt igen, másrészt nem kell Mátét fölhívni, fölhívhatod az Nvidiát, és megmutathatod, hogy te milyen gyártó megoldásaival gondolkozol, hiszen ha neked van egy adatközpontod, ami már létezett a mesterséges intelligencia előtt is, és ott már van bent egy brand, és neked annak a menedzsmentfelülete annak a megoldásaival vannak kiképezve az embereid. Bár a mesterséges intelligencia jellegű megoldások új ismereteket, új tudást is igényelnek, tehát még a rendszergazdának is tanulnia kell egy ilyen környezet működtetését, sokkal könnyebb mondjuk brand-en belüli megoldást találni, de van.

És onnantól kezdve tudok mondani. Mindegy, hogy milyen brandet mondtál, hogy mit használ jelenleg az adott környezet.

Nagyon izgalmas ez, hogy most már a vendorlokinról is lehet beszélgetni, hogy mennyire vagyunk szabadok vagy bezártak, de lazítsunk.

Jön a nyár, úgyhogy arra gondoltam, hogy a gyümölcsöket szeretném előhozni, hogy vannak-e kedvenc gyümölcseitek, van-e, ami otthon is megterem ezek közül, piacról veszitek a gyümölcsöt vagy a boltláncok kedvencétől, illetve egzotikus is jöhet-e, vagy csak a hazai ilyesmi.

Egzotikus hazai?

Egzotikus is jöhetnek?

Vagy csak a hazai.

Mondom, egzotikus hazai?

Aha.

Tehát a pótláncokat azt próbáljuk kerülni, próbálunk friss és termelőtől származó gyümölcsöt, de egészen véletlenül van kis kertem, és ott vannak gyümölcsök. Tehát, ha a sztenderd gyümölcsökről beszélünk, azért mondanám, hogy szamóca, mert mindenki epres, de az fán terem. Tehát a szamóca az standard, és nálam piszke, amit mindenki esetleg egresként ismer, ezek megvannak, de van nekem egy izgalmas málnám, ami sárga színű. Tehát ha becsukod a szemed, megkóstolod málna, kinyitod, ez nem ára. Ezek helyben is megteremnek, de nem minden, úgyhogy muszáj az ember, jellemzően nem nagy lánc, inkább helyi kistermelőket megtámogatni és friss, jó minőségű terméket vásárolni. Megéri.

Ricsi! Növény?

Gyümölcs.

Ja, gyümölcs.

Meg aztán nem barkóbázunk.

Én egyszerű lélek vagyok. A legfinomabb a paradicsom is.

Na, ennyi, eltaláltuk. Ezt akartam mondani. Én ilyen egyszerű lélek vagyok. Amikor a jelenben kell gondolkodnom, akkor ilyen koktélparadicsom és ilyesmi. Aztán, hogy hol vesszük, számos kiváló helyet ismerek, ahol koktélparadicsomot lehet kapni, és itt az egyik helyen megvásároljuk, majd kiváló módon megesszük. Nem vagyok nagy stratégiai stratégiai növényügyben, tehát hogy kert szinten is ugy, nekem a fű, tuja, mulcs kombináció jelentette a paradicsomot, nem a koktélt, hanem a paradise nevűt, és mikor megismerkedtem a feleségemmel, akkor lettek más növények is.

Tehát, hogy így, most már szép a kár, de nem tudom, azok még jól néznek ki.

Zoli?

Hát, hogy van, ma két tanuló énem van. Az egyik a jelen, a másik a jövő. A jelenben eper, a jövőben barack. A pohárban? Mindegy.

Mivel alkoholallergiám van, ezt sokan tudják, de azért minden alkalommal mantrázzuk, tehát alkoholallergiám van, tehát a pohárban a 100 százalékos nálam máshogy hangzik.

Igen, de egyébként a gyümölcslé kategóriában, ami most nem kérdés, ezért elmondom, hogy csakis a száz százalékosat vesszük, vagy szerezzük be, mert egész egyszerűen az, amiben még víz, meg cukor, meg nem tudom, milyen tartósítószer akár van, az nem gyümölcslé, azt hagyjuk is. Én viszont nagy gyümölcsös vagyok, és nem csak a feleségemre bízom, bár hozzá kell tennem, hogy mostanában különösen, mintha többet látnám a kertben, mint magamat, tekintve, hogy doktorálok, és ez nagyon sok időt a kert elől vett el, mint megtapasztaltam az elmúlt két hónapban. Ettől függetlenül nekünk az egyik első dolgunk az volt, amikor a jelenlegi helyre költöztünk, hogy körülbelül 25-30 méter hátra a kert a háztól, és ott az egyik oldalt végigültettük gyümölcsbokrokkal, úgyhogy igen, az Egrest is tudjuk, de van még josta, meg ribizli, meg berkenye, meg jó pár málnaszeder, stb.

Úgyhogy ezek nagyon. Sőt, még ilyen homoktövis és gólyai bogyó típusú gyümölcsökkel is rendelkezünk, amikor beérnek, mi nagyon nagy gyümölcsösök vagyunk. Viszont azt sajnos be kell, hogy valljam, hogy ezt a termelői szálat ezt két okból sem nagyon izzítottuk még be, bár látom mögötte, meg hát hallom ismerősöktől a rációt. Az egyik az, hogy melós. Tehát, hogy utána kéne járni, és ezt nem tettük bele, és tök egyszerű, szembejön, gyakorlatilag az első áruk között vannak a gyümölcsök egy boltba bemenve, tehát ha amúgy is mész azért boltba, akkor nagyon nehéz azt mondani, hogy nem, ezt itt nem veszem meg, majd kitalálom, hogy hogyan. Ez az egyik oka a kényelem, vagy így az utánajárási időigény, a másik oka pedig az ár, hogy a három felcseperedő gyermek mellett valahol itt húztuk meg azt, hogy sok gyümölcsöt fogyasztunk, akkor nézzük meg, hogy mennyiért tudjuk beszerezni, és akkor itt elvéreztek sok esetben azok a termelői szálak.

A termelőtől fél áron veszem az epret, mint a boltban.

Amikor ez szembejött, még áfonyában gyakran jártunk így, hogy na most lehet rendelni, most jön áfonya egy helyről, és akkor sok jön együtt Gödöllőre, és akkor szólnak-e az ismerősök egymásnak, így mi is. De hát ezt nem tudjuk 365 napra megvalósítani.

De a szándék megvan.

Figyelj, ha a szándék megvan, akkor nincs.

Nem olyan kommunikációs formák.

Mi abszolút nyitottak a lényegre.

A lényeg az, hogy egészségesek legyünk, egészségesek legyünk, és ne igyunk többet mosatlan gyümölcslevet.

Igen, igen, igen. És ne küldjük nyugdíjba ennek a mondatnak a szerzőjét soha. Na most, ha már elkezdtünk benézni a motorháztető alá, akkor azzal folytatnám, hogy nem csak egy gyártó van ezen a téren, hanem sok van, vagy soknak ne mondjuk, de hogy több, mint kettő. Azt látom a konferenciákon én is, hogy itt most külföldi konferenciákon, hogy itt azért elbillent a mérleg az Nvidia felé, tudásban, gyártási kapacitásban, sok szempontból még akár azt mondom, hogy az üzleti modellben is elbillent sok esetben a mérleg, mert előnyösebbek, de hogy most azzal, hogy ők így a legerősebb, meg legnagyobb paraméterekben legnagyobb teljesítményű hardvert tudják gyártani, azzal ők most piacvezetők is, vagy pedig, aki mondjuk sok közepes minőségű paraméterű terméket tud, de sokat tud gyártani jó áron, akkor az lesz a piacvezető.

Illetve, hogy amit az előbb a kitérő előtt bedobtam, hogy ezzel a beszállítói kötöttséggel, amit az angolok vándorlók kinek mondanak, ezzel mit kezdjen egy egyszeri hallgatója a Digit Podcastnak? Mert azért oké, hogy most minden szempontból az Nvidia jött ki a mai adás győzteseként, csak hogy akkor mi lesz egy év múlva és mennyire kell ettől félni, hogyha ezt most így ráépítem. Bocsánat, de tényleg, ha valaki ilyen eszközöket beépít az üzleti folyamatba, akkor azért az elég határozottan függni fog tőle, hogy működik-e az üzlete.

Annyi magas labdát hallottam, hogy ez tulajdonképpen egy ilyen kosárlabdaedzés pattogtatása volt. Tehát ez a korábbi énem, a jelenlegi énem és a jövőbeli énem számára is egy nagyon kedves.

Pszichológust kell hívjak érte.

Mi megválaszoljuk a dolgokat. Ugye a vendor lockingtól azért nem kell ebben az esetben tartani, mert ez nem egy statikus világ. Tehát a gyártóknak vannak megoldásai ezen a héten mindenre. Egy hónap múlva megint lesznek megoldásaim mindenre, de itt ugye. Ha már ők is generatíviája a fejlesztésnek, azzal fejlesztenek. Olyan roadback vannak, amikről most ugyan nem beszélhetünk, de a különböző webes keresők, a barátaink, és akkor ott, ami már publikus, az is elképesztő. Tehát bármelyik nagyobb gyártó mellett ugye nem elköteleződünk, hanem elkezdjük használni a megoldásait, akkor nem az lesz, hogy ez egy zsákutca. Az NVIDIA esetében egyértelműen egy piacvezetőről beszélhetünk ebben a szegmensben. Ha mi ugye kettőt visszagondolunk itt ebből a gondolatmenetből, és azt mondjuk, hogy vajon jó lóra tettem-e, ha a most legnagyobb öt közül bármelyiket választom, teljesen nyugodtak lehetünk, hogy a saját létük lenne veszélyben, hogyha ők zsákutca megoldásokat fejlesztenek.

Most ugyanennek. Most máshogy szeretném föltenni ugyanezt a kérdést.

Ott volt a Motorola és a Nokia. Igen, viszont, ha megnézitek, hogy a megfelelő pillanatban ők reagáltak-e a piac változó igényeire, mondjuk úgy, hogy ők mérsékelten vették fel a fonalat. A Kodak is egy kiváló példa lehet, amely cég most már kevésbé olyan piaci erővel bír, mint fénykorában, viszont ez a mesterséges intelligencia folyamat, ez olyan gyorsan, ez egy gyorsuló dolog, olyan gyorsan változik az egész, hogy semmiképpen sem érdemes statikus módon gondolkodni, tehát oké, akkor ezt kifejlesztették, akkor veszünk az Nvidiától 4652 kreditet, az valamire elég, és akkor minden jó lesz. Mert mire, ahogy a korábbi példa mondta, mire eljutunk ahhoz a problémához, még lesz hatféle csomag, és akkor eldöntjük, hogy mi melyik irányba megyünk, tehát semmiképpen sem kell tartani a vendor lockingtól.

Azok a kérdések, amiket mi cégként kapunk, inkább arra mutatnak, hogy tudtok nekünk ilyet adni azonnal? Persze tudunk ilyet adni azonnal, és utána mit szeretnétek? Ja, arra is van válaszotok? Akkor üljünk le és beszéljünk hosszabban.

Tehát akkor ez egy Kék óceán piac, mert ezt én is fel akartam tenni, de ezt gyorsan lecsaptuk, mint egy jó kosaras.

Előre ütő kosaras.

Igen.

A tollaslabda pályán.

De hogy én Tamás válaszát is szeretném erre a legjobb minőségű hardver, átlag minőségű hardver kérdésre, majd a piacvezetésre hallani.

Egyszer beszélünk a kvázi chipgyártók világáról, hogy vannak AI, illetve gépjármű megoldások.

Az még egy kártyán belüli rész. Igen. Tehát az ugye lehet Nvidia, lehet vizuális típus vagyok. Ott van az Intel, és ott vannak még egyéb speciális célprocesszorok, FPGA-k világa, ez a film programja, gate area, nagyságrendileg ezek is a sok-sok számítási egység párhuzamos feladatokra egyéb, tehát itt is vannak célprocesszorok. És ettől függetlenül ott van ezen egy másik réteg, a gyártó, akinek a megoldását megveszed, aki ugyanúgy az Nvidiától veszi, mindegy, hogy melyik nagybetűs ébredről beszélünk, vagy akár valamelyik másodvonalbeli gyártóról. Tehá, ha most elkezdene mindet fölsorolni, sokáig ülnénk itt, de a két legnagyobb ugye attól függ, hogy ki csinálja a statisztikát és honnan nézzük, ugye a Dell, EMC és a HP Enterprise, de utána a harmadik sorban már a Lenovo, Super Micro, Inspur, utána jön egy ilyen A3C, egy ilyen Huawei és Sri Combo, és akkor mindenki más a Fujitsu-tól kezdve a Gigabyte, Tyan, Asus és egyéb és végtelen, tehát egy nagyon hosszú sor van, akik itt vannak az informatikában, szervermegoldásokat gyártanak, Nvidia minőséggel rendelkeznek, és bárhonnan lehet működő megoldást venni, akár támogatással, akár egyébbel.

És ez még mindig független attól, hogy most én Nvidia, AMD, Intel, milyen alapokon indulok el? Tehát milyen vándorlókról beszélünk? Erről a gyártóról, vagy az, hogy most AMD, vagy Nvidia irányból indulunk el. Beszéltünk az AI hardver minőségről, teljesítményről. Jelenleg a piacon kapható megoldások közül nézve az AMD-nek gyorsabb GPU-ja van. Több memória van rajta, nagyobb számítási teljesítménnyel bír. Később is jött piacra, tehát mondjuk azt, hogy volt ideje még tovább dolgozni rajta, tehát majd, ami kijön az év folyamán az NVIDIA-nak az új Blackwell architektúrája, az majd még gyorsabb lesz, még szebb, még több, mert még színesebb. Tehát ez ilyen sakkozzunk ide, szerváljunk ide-oda, pingpongozzunk, akármi.

Ami a különbség az Nvidiánál ugye nem csak hardver van, van oktatás, tréning, vannak keretrendszerek és szoftver support, tehát teljes körű támogatás van hálózattal, mindennel. Ámde-nél nagyon jó hardver, nagyon jó vas, van valami Open Source keretrendszer, van egy kisebb közösség, de nincs terméktámogatás, nem tudsz úgy supportot venni, nem tudsz úgy kérdezni, nem tudsz úgy, tehát ott neked kell mindenhez érteni, neked kell fejleszteni. Ott is vannak egyszerű projektmodellek, ott is lehet az open source dolgokhoz hozzáférni, de az Open Source, ott meg fölmerül a biztonsági kérdés, fölmerül az, hogy vajon ki mit csinált azzal a modellel és a többi, mennyire biztonságos, vagy azt mondom, hogy jelenleg lehet, hogy nem az övé a benchmarkok szerint a legnagyobb számítási teljesítményű GPU, de az Nvidiánál megkapom az ellenőrzött modelleket gyártói támogatással, ha elakadok valahol, tudok kit kérdezni.

Ha azt mondom, hogy nem olyan teljesítmény a megoldás, segítenek és optimalizálják a kódomat, ahol a hónom alá nyúlnak, ahol átsegítenek a problémán, hamarabb jutok működő megoldáshoz, hamarabb jutok kész megoldáshoz. Ez valahol ez a kisebb ellenállás elve. Tehát, hogy a végén ez úgyis egy üzleti megoldás lesz, mikor lesz működő dolog, mikor tudok ebből pénzt termelni, és valódi hasznot generálni.

Na, ez egy nagyon fontos szempont, ezért is mentem a teljes körű támogatása miatt jelenleg hamarabb lesz ez.

Mert azért még mindig elég férfias ez a szakma szerintem, az informatika világa sajnos, és még mindig nagyon gyakran látom, hogy a döntéshozatal az tényleg teljes egészében a számokon alapszik, hogy hány bit, hány darab, hány dollár, hány év, ami összehasonlítható, ami ilyen férfi aggyal könnyen processzálható, mint az első, második, harmadik hely az olimpián, de az a része, amiről most beszélünk, hogy és milyen támogatás van mögötte, az nehezen számszerűsíthető, hogy és mennyi tréning kell hozzá, és az honnan lesz, és milyen gyorsan lesz, és nem tudom. Egy csomó olyan szempontot sorolt el, amit hatszor alá kéne húzni, ha valaki választ bármilyen informatikai megoldást. Most nem azért, mert én szeretem az Nvidiát, vagy nem szeretem, bárki örülök, igazából az lenne jó, ha minden gyártó utána csinálná, mert valójában a piacnak a rövidlátás teszi a legrosszabbat, a rövidlátó döntéshozatal, nem?

Egyrészt igen, és akkor még menjünk tovább, mert ez volt a gyártói, a chipgyártói támogatás, de a történet nem áll meg itt alapvetően, bár létezik olyan, tehát Nvidiától bizonyos szervereket, nem a teljes bizonyos szervereket, akár az Nvidiától is megvehetjük, de ugye beszéltük, ezt rengeteg egyéb gyártó adja az Nvidia minősített megoldásokat, tehát végül is jó eséllyel nem tőle veszed meg. És itt jön be a második dolog. Mivel egy komplex megoldásról van szó, egy komplex környezetről, ahol fejlesztés kell, érteni kell hozzá, szakemberek kellenek, ehhez tudás kell. Ehhez a tudás sok esetben nincs meg az első pillanatban az adott cégnél, tehát vagy elkezdünk fölvenni már szakembereket, ami egyrészt vagy nincs a piacon, merthogy maga a szakma is olyan szinten a fejlődés stádiumában van, hogy jelenleg úgy definiálják, ez a learning by doing, tehát menet közben tanuljuk, még a szakértők is most tanulják, hiszen jé, meg lehet ezt is csinálni?

Ja, ha meg lehet ezt is csinálni, akkor lehet azt is, és ez egy ilyen öngerjesztő folyamat, hogy újabb területek, újabb megoldások születnek, és a főiskolákon, egyetemeken pedig most, vagy a közelmúltban indultak még csak a mesterséges intelligencia jellegű képzések, tehát mire ebből megjelennek a piacon a junior szakemberek, akiket fel lehetne venni és tovább okítani célirányosan, még az is évek. Tehát ez nem egy olyan egyszerű dolog. Itt jön be az, hogy akkor nézzük meg a gyártókat. Nagyon sok gyártó ezt az iparágat, ezt a dolgot komolyan vette, ugyanis amikor bejött ez az óriási nagy bumm a Chatgpt-vel a 22-es év végén, akkor ez nagyon nagyot szólt. Rengeteg nagy online portál van fórum egyéb, ahol hú, milyet nőttek, és hú, mindenkit messze lekörözött a Chatgpt, bármilyen online megoldás, bármilyen fórumot néztünk, bármilyen egyéb dolgot, mindenkinél nagyobbat szólt.

Ha már emlegettük Jensen Huangot, ő úgy emlegette ezt tavaly tavasszal, hogy ez most, ez a Generative AI, ez az AI-nak az iphone momentuma. Tehát egy akkora nagy változás, akkora nagy különlegesség, akkora lehetőség, ami legalább akkorát szól, mint amikor megjelent az iphone a mobilpiacon. És ezen van most az első év, a 23-as év arról szólt, hogy a nagy játékosok elkezdték ezt tanulni, és megjelentek a felhőszolgáltatások, a Copylot és hasonló megoldások mindenféle nagy játékosoknál, és most jön az, ez az év, és majd a következő, amikor ez lejjebb megy, és már a valódi vállalatok is elkezdenek saját megoldásokon dolgozni, és hozzáférés erre ugrott be minden komolyabb gyártó, beleértve a Dellt, a Fujitsu-t, mindenkit, aki ezt komolyan vette, nemcsak Harderrel van minősített megoldása, de saját szakembergárdája az AI-ra, és ő ugyanúgy meg tudja adni neked azt a támogatást, segítséget, hogy fölmérd az igényeidet, mit csinál most a céged, hol lehet a mesterséges intelligencia megoldást bevezetni, illetve milyen új folyamatok és új lehetőségek nyílnak meg ugyanúgy a mesterséges intelligencia területén.

Tehát nem csak a meglévő folyamatok optimalizálása, de új lehetőségek is jelennek meg ezzel.

Az eredeti kérdése a Lacinak az azért az volt, hogy mennyiség vagy minőség?

Nem nagyon tudom értelmezni a kérdést, mert a minőségből senki nem segített.

Nem promptoltuk be még a kollégákat.

Igen. Arról van szó, hogy igazából mire kell, mit akarsz elérni, milyen folyamatot akarsz megvalósítani.

Van, ahova nem kell az az óriási számítási teljesítmény, és innentől kezdve lehet, hogy nem is kell az Nvidiának az extrém gépi és azok a megoldásai, hanem egy tisztán egy integrált, egy processzorba integrált videokártyával is meg tudod valósítani azt, ami kell.

Tehát akkor jól értem, hogyha tudod a folyamatot, akkor ki tudod választani a technológiát.

És innentől kezdve jönnek be azok, hogy legyen olyan segítséged, legyen olyan szakértőd, aki segít ebben.

Jaj, de jó, hogy ilyenek vannak egyébként, merthogy van ilyen, még munkaköri leírása is van, hogyha olyan cégnél dolgozunk, ahol ezek léteznek, hogy business analyst, vagy business analyst.

Én megértem, hogy ma nem beszélek a HR-ről.

Ja, jó.

És próbálom levenni a lelki terhet róla, azzal, hogy én elmondom.

Beszéljek én a HR-ről?

Nem.

Figyelj, ahogy érzed, de most már meg kell hívnunk.

Egyébként amit akartál mondani, csak gondolatátvitellel kitaláltam, hogy azáltal, hogy egy csomó mesterséges intelligencia megoldást behozunk a folyamatokba, ott fel fog szabadulni emberi kapacitás.

Kedves Waher.

Persze, hogy Waher, de hogy felmerülhet az, és mit fognak csinálni azok az emberek, akiknek a feladatait a mesterséges intelligencia átveszi.

Akik eddig nézték a rendszámot az autóban.

Akik nézték a rendszámot, mondjuk, igen, de hogy valójában egy ideális univerzumban ezeket az embereket nem fogjuk elküldeni, hanem kapnak más kreatív feladatot. Tehát olyat, ami nekik ugye egy lehetőség, és saját magam, ugye korábbi karrierútvonal állomása jutott eszembe, amikor a nyelvtudás vagy a többnyelvű tolmácsolás, az egy ilyen unikális skill volt, és abban a szerencsés helyzetben voltam, ugyanúgy, mint az ilyen katasztrófafilmekben, ilyen Deep Pink, Pack, Tarmageddon és társai.

Nem voltál Bruce Willis.

Nem, nem, a hajam még az dúsabb volt, tehát még nem lehettem Bruce Willis, bár már erősen dolgoztam az ügyön. Következő volt egy megbeszélésen, azt kérdezte tőlem egy egyenruhás katonatiszt, hogy tényleg beszél lengyelül, olaszul, franciául és angolul? Igen. És jól? Hát azt mondják. Jó. Repült már helikopterrel? Nem, még jogosítványom sincs. Jó, rendben van, egy órája van, készüljön, és megyünk. És kiváló volt, mert a nyelvtudás miatt mehettem. Ugye én 19 évesen én örültem ennek, hogy.

Nem tudom.

Hogy olvastad fel a mi nyolcasunkat, hogy mik a kapcsolók?

Nem, a legénység nagyon profi volt. Taszárra mentünk, és ugye nyilván mindenféle NDA-t alá kellett írnunk. Lényeg az, hogy egy workshop volt, és volt lengyel hajtóműtervező mérnök, volt belga vadászpilóta, akik franciául beszéltek, volt olasz szakértő, stb., stb. Lényeg az, hogy ők nem tudtak mindenben egymással szót érteni, és akkor én voltam a katalizátor. És akkor segítettem, de egy bizonyos ponton én sem voltam jól beprombtolva, és akkor mondtam, hogy amikor a lengyel hajtómű tervezőmérnök, én nagyon lelkesen elkezdett magyarázni, meg rajzolni, és ott csillogott a szeme az örömtől, én meg néztem, hogy egy pillanatra álljunk meg. Én ezt fizikából nem tanultam, tehát ha megmondja, hogy mi az, akkor én lefordítom minden nyelvre mindenkinek, de anélkül én nem tudok továbbjutni.

Akkor így mondta, ja, tényleg, igen, hú, akkor elmondta, és megértettem, mármint hát bizonyos szintig, le tudtam fordítani, a többieknek is ilyen csillogó lett a szeme, nagyon örültek, bármi volt is a téma, amiről beszéltek, és én akkor ugye helyesen bepromptolt csapattaggá váltam, és jól sikerült ez az egész, de most, ha megnézzük, ez még a Copyrot előtti időkben volt. Az a tudás, amit én akkor ugye meg tudtam csinálni tizenkilenc évesen, az most már nem egy olyan big dial, mert megvesszük a Copyle-ot, licencet valamennyiért, éves szinten, és ez az összes nyelvre le fogja fordítani. Én ezt nem úgy élem meg, hogy.

Visszért nyelvet vagy pedig írásban?

Írásban.

Mind a kettőt kellett, mert ugye ezeket a.

Ja, hogy a Copyle-ot.

A Copyle-ot.

Ja, a beszédet is megcsinálja.

És ezt már értelmezi és visszamondja?

Hát le tudja fordítani. Ez is egy következő feladat lesz, annyira hamar, hogy a jövő héten fogjuk ezt követni.

Akkor megvették az Nvidia-tól a Maxim keresztrendszert, a konferencia AI-t.

Erre nem tudok egyértelmű választ mondani, de a jövő héten megtudjuk.

Ezért jó, hogy behoztuk ezt, mert hogy ugye említetted ezt fél szóval, de hogy tudjuk ezt összekötni a valósággal?

Tehát, hogy most az Nvidia az most olyan helyen, vagy olyan pozícióban van, hogy egyébként azt a keretrendszert, azt ő adta el a Microsoftnak?

Egyrészt igen, másrészt nem tudom, hogy nem-e sajátot csinált a Microsoft. Az Nvidia megcsinált egy saját olyan keretrendszert, ami beilleszthető bármilyen konferencia és egyéb videóhívásba, tehát ő lesz a kamera és mikrofon történet, és ő capture-rel elkapja a te streamedet, és innentől kezdve bejönnek a speciális dolgok, hogy e-kontakt, meg minden egyéb ilyen bolondságok, és azt mondja, hogy mi lenne, ha erre ráraknánk a rivát, a nyelvi modellt, és azt mondja, hogy értelmezzem, amit én beszélek, és onnantól kezdve, ha meg van textben, akkor ezt lefordítom más nyelvre, és utána az én hangtónusommal kimondja. Ha már úgyis belenyúltunk a streambe, akkor rajzoljuk át a száját is, hogy azokkal a mássalhangzókkal, o-val, e-vel, i-vel elhúzva tátogjon a végponton, mintha azon az idegen nyelven beszélne.

Kell hozzá számolni, kell hozzá nagy vas, meg lehet csinálni, láttam működni. És nem lehetetlen. Egyedül a nyelvtani különbségeket kell olyan szempontból figyelembe venni, hogy az adott nyelvnek, mit tudom én, a törökbe, meg a magyarba egy kicsit később jön az állítmány, most ne egyszerűsített velem, de teljesen mind mint, olyan számítási kapacitás van mögötte, hogy másfél másodperccel később fogod hallani. T teljesen jó. '92-ben, amikor én ilyet csináltam, ilyen organikus módon, aggyal, akkor ott meg kellett várnod, mire kitalálom a mondatot.

Kapsz létrészt, igen.

Igen, de kimondtad, működött, most pillanatok alatt működik. Olyan mennyiségű kérdést kapunk, hogy hoké, ezt is meg lehet oldani? Igen.

És tudtok is árat küldeni? Persze, mindent tudunk, csak paraméterezve jól, amit te szeretnél. És ebben a paraméterezésben most azon kívül, hogy itt beszélünk róla, de hogyan segít nektek az AI a paraméterezésben? Segít-e?

Arra gondolsz, hogy van ilyen árajánlat?

Van ilyen árajánlat.

Kalkulátor Visar 3.0?

Igen, tehát hogy bepromftoltátok-e már a megfelelő nyelvi modelleteket az ajánlatadásra?

Kereskedő szemlélettel a következőt mondanám, ami anyag Tamásnál van Nvidia ügyben, tehát hogy mi az, amit már meg tudsz venni tudásban, termékben vagy kreditben, az már egy olyan biztonságot ad, hogy valójában nem kell, nem kell ilyen wizard.

Őszinte leszek. Én alapvetően hardveres vagyok. Viszont most a fejembe vettem egy kihívást, Challenge-et, hogy annyi minden jött ki. Most áprilisban, bocsánat, március végén volt egy konferencia, egy Nvidia konferencia, minden évben megrendezik, és bejelentettek olyan kód lesz programing, és olyan segítő toolokat, eszközöket, ahol úgy, hogy én egyébként nem vagyok programozó, és persze főiskolán, meg egyéb helyeken az ember bohóckodott, ezen meg tanultam, még TBS 3+ is volt a kezeim között, azért az egy kicsit más világ volt, hogy én ebből mit tudok kihozni, és milyen megoldást tudok magam összehozni. Tehát, ha én ebből már tudok egy működő valamilyen, legyen az egy egyszerűbb AI megoldás, de azt én csináltam meg, én hoztam létre, és nem valamilyen egyéb, ez a chat RTX, kvázi demórendszert használok, hanem konkrétan promptolható, akár nagyobb teljesítményű megoldást, akkor azért az egy izgalmas történet, hogy mit tud az csinálni, akinek ez a munkája, aki ezt tanulta komolyan, és ebben nem két hetet leült a gép elé, és kicsit önerőből tanulgatta és próbálkozott, hanem tényleg ezt csinálja, hogy akkor milyen csodákra lehet képes az ember.

Ez nekem egy ilyen viszonyszám lenne, hogy én most ezt ki célkitűzés, én ezt meg akarom tanulni.

Tamás, te most egy nagyon fontos mértékegységet mondtál, hogy mi van azzal, aki csak két hete tanulja, vagy két hetet szán rá. Én, ha visszaemlékszem az elmúlt két hetemre, én csak AI tréninget, podcastot, Youtube videót és ilyesmit néztem, és úgy kinyílt a világ, akkor már sejtettük, hogy lesz egy podcast, és nem akartunk ugye izomzat nélkül érkezni, de hogy úgy kinyílt a világ, hogy mi lesz még? Még csak kedd van, és már ennyi mindent meg lehet csinálni. Tehát Zoltán ma délutáni énjének a kérdéseire megvannak a válaszok, de szerintem a két hónappal későbbi énedre is megvannak a megfejtések. Minél többet olvastam, hallgattam ebben a témában, annál inkább azt érzem, amit a Tamás mondott, hogy ez a mesterséges intelligenciának az iphone pillanata.

Kerekítsük le egy picit itt a vége felé. Ugye onnan indultunk, hogy megjelentek olyan szolgáltatások, amiket tudok AI-ként azonnal bekapcsolva használni nagyvállalatoktól. De hogy mi lenne, hogyha bizonyos esetekben ezt nem kéne az adatot kiengedve tőlem, és akár más kontinens válaszát és hajlandóságát megvárva, hanem a saját szervertermemben. De arról talán még kevesebbet beszéltünk, amit Ricsi említett, hogy egyébként nem kell megvenni feltétlenül kilóra a hardvert és betenni a saját szerverterembe a saját gépemet, a saját hűtésemet, nem tudom. Vannak ilyen köztes megoldások, például a bérlés. Erre egy pillanatra kitértél. Én nem szeretnék úgy bezárni egy ilyen adást, hogy nem beszéljük ezt ki.

Tehát mi van akkor, ha én ezt csak bérelem, akkor még mindig ott van az, hogy azt azért csak össze kéne szerelni, akkor azt üzemeltetni kell, ne adj isten hibakeresni kell. Ilyenkor, ha ebbe az irányba megyek, akkor a hozzátartozó személyzetet is nekem bérelnem kell, vagy belátható idő és anyagi erőforrás árán a meglévő személyzetem erre átképezhető, továbbképezhető.

Vannak itt a stratégiák. Van egy ötletem sikamlós válaszra. Ez kicsit olyan, mint egy webshop bérlés, de ha nagyon leegyszerűsítjük, persze csak akkor. Te, amikor egy ilyen AI megoldást kibérelsz egy hónapra, akkor te az akkor elérhető legjobb valamit kapod meg, és nincsen az, mint a webshopnál, hogy kifejlesztettek neked, csak neked valamit, és akkor azt peccselgetik tovább. Tehát hogyha most jövőbiztos megoldásban gondolkodunk, akkor az óvatosabb embereknek, akár úgy, hogy mondjuk CAPEX kontra OPEX szempontból is megnézik, lehet, hogy érdemes lenne bérelni valamit, megnézni, hogy képes-e beparaméterezni, hogy neki mire van szüksége, és utána hozni egy olyan üzleti döntést, aminek, ahogy Zoli mondta, öt évig lehet, hogy abban benne leszel, abban a megoldásban.

Nem azért, mert nem tudsz kiszállni belőle, hanem egyszerűen nem éri meg. Tehát én ezt az olvasatot. Ugye lehet, hogy ezt sikamlós válasznak tituláltam az elején, de tulajdonképpen.

Jó, de tulajdonképpen a kereskedelmi válasz, az üzemeltető kollégára még nem tértünk ki.

Igen, tehát hogy ez egy nagyon fontos kérdés, hogy az üzemeltetés versus változó és fix költség, ugye? Tehát, hogy hányan alkalmasak erre, és Tamás, kérlek. A dolog úgy néz ki, hogy én eldöntöttem, hogy beugrok egy ilyen fejlesztésbe, akkor fel kell vinni, hogy mire van szükségem.

Beszéltünk a hardverről, a vasakról.

Arról nem beszéltünk, hogy ezek nem gamer kártyák és nem laptopba valók, tehát nem akkumulátorról üzemelnek. Tehát természetesen, amit az Nvidia gyárt adatközponti legnagyobb kártyát, a H100-as, amiből nyolc darab van egy ilyen gépben, ahhoz kell megfelelő mennyiségű memória, nagysebességű helyi háttértár NVM, nagy processzorok és stb. Tehát egy ilyen gép az 10 kilowatt pont egyetlen gép. Na most ebből nem véletlenül a malmot üzemeltetni.

Igen. Tehát, hogy ehhez olyan adatközpont kell, ahol van elégséges áram, hogy ezt tápláljam. Van elég hűtés, hogy ezt meghűtsem, és ha már itt tartunk, ezek a gépjog akkora teljesítményűek, hogyha beszéltünk a sztoriról és az egyéb környezetről, akkor ha több cluster van, akkor van-e olyan hálózat, ami elég nagy sebességgel tudja kiszolgálni a gépek közötti és a GPU közötti kommunikációt, illetve a Storage adattal elég gyorsan tudja eltömni azt a GPU-t. Jelenleg úgy saccolják, hogy szélsőséges esetben akár 2 gigabájt/szekundum adatmennyiség is kellhet másodpercenként egy gépi óra. Ha egy gépben van 8, az már 16, ha nem egy géped van, hanem több, iszonyatos teljesítmény kell. Tehát van Storageom, tök jó sztorid, nem képes erre, erre speciális egyéb megoldások kellenek, tehát valószínűleg az is kell hozzá. Tehát a teljes környezetet meg kell nézni, hogy alkalmas-e erre, van-e ára, minden, és utána ezt igenis a rendszergazdáknak is meg kell tanulnia ezt a környezetet üzemeltetni.

Ez idő. Ha valaki el akar indulni, akkor egy bérléses jellegű megoldás az működhet.

Mert a bérlésnél nem az van, hogy odajön egy hónapra a kütyü.

Nem kapsz gépet hozzáférésben, ugye?

Persze. Ennek van egy olyan iránya, ahol te valamilyen virtuális gépet kapsz valamilyen gépjó erőforrással, vagy van olyan, ahol egy olyan adatközpontban, ami erre föl van készítve, ami ezeket a gépeket tudja, és olyan storage-ok, és olyan hálózat van benne, akkor te ott tudsz egy gépet, vagy egy klasztert dedikáltan vasat és eszközt bérelni. Ez idő alatt te el tudod indítani a fejlesztésedet, meg tudod nézni, hogy valóban milyen igényeid vannak azoknál a folyamatoknál, akár a tanítás oldalon, akár az inferencia részén, amikor már van egy kész, működő mesterséges intelligencia, és ugye azt használjuk, hogy ő gondolkodjon, és kvázi dolgoztatjuk. Beleértve, hogy mekkora sztori kell, milyen környezet, stb.

Tehát ezeket mind fel tudjuk mérni, és el tudjuk dönteni, hogy mekkora hardver beruházás kell, és ahhoz milyen átalakítások kellenek esetleg a központokon, mit kell megtanítani az embereken. Tehát van erre is megoldás, hogy úgy bérelni, hogy nem egy virtuális gépet valamilyen töredék gépi erőforrással, hanem úgy dedikált hardvert, hogy ez ugyanúgy, mivel a komplett gépet megkapom, biztonságosan tudom üzemeltetni, akár a saját adataimon.

És itt a kedvenc pillanat, amikor ugye a CIO az hol van a szervezetben.

Hol?

Hát hol legyen? Minél magasabban van a tápláléklánc nevű piramisunkon, annál jobban meghallgatják ezt az érvelését, viszont ne a pénzügyi vezetőnek mondja el ezt az ötletet, aki vélhetően nem ért ebből semmit, nem is érdekli, hanem az ügyvezető jogász.

Igen.

Megnéztem, hogy hol van a táplálékláncban az informatika.

Hát ez azért is nagyon fontos, mert hogy képzeljük el, hogy Tamás kollégám tökéletesen paraméterezte ezt a rendszert, és egy olyan embernek mondja el, akit ebből csak az érdekel, hogy Total Cost of Onership, a következő három hétre. És ugye öt évre kéne néznie, tehát hogyha ez a CIO az ügyvezetőnek mondja el a tervet, akkor méltó módon fogják megvitatni, hogyha valaki másnak mondja el, akinek az informatika, és itt most Zolit idézem, csak egy olyan szegmens, ami viszi a pénzt.

Ezt szükséges rossznak szokták emlegetni.

Én tudom, ugye ültem abban a székben, ahol nekem ezeket el kellett mondanom, és azért teszem föl ezeket a kérdéseket, hogy a kedves hallgatók között is, amikor az ügyvezetők és tulajdonosok hallják, akkor ne az legyen, hogy nem kérdezik meg, hogy egyébként mire jó.

És innentől kezdve ezt az ollót nem három hétre kéne nyitni, amikor te vizsgálod, hanem sokkal többre, hiszen maga a projekt egyáltalán mire élesedik, az egy Nvidia esetében, ahol ugye félkész megoldások vannak, ahol segítenek, ahol hátulról támogatnák, fogják a kezedet, ott is alsó hangon minimum hat-kilenc hónap, mire ebből megoldás van, és már elkezd pénzt termelni, nem pedig csak vinni. És mire ez átbillen odáig, hogy már nullán vagyunk, már kitermelte a saját hasznát, és onnantól kezdve már csak pluszt és bevételt termel, ez is akármennyi, viszont valahol meg azt mondták az okosok, ez sem lehet akármennyi, ez sem lehet végtelenig, tehát ez nem olyan, mint a napelem, hogy majd húsz év alatt megtérül.

Tehát ha ez nem másfél-két év alatt, hanem mondjuk öt év alatt érül meg, akkor már valami nem jó. Viszont amit szintén fontos felismerni, hogy mindenki érdeklődik ez iránt, mindenki megoldásokat keres, és ha talál valami olyan apró dolgot, olyan piaci rést, ami másnak nincs, egy olyan megoldást, amire utána igényt tud generálni, olyan előnyre tehet szert, amivel elhúz. És onnantól kezdve, aki nem követi, nem próbálja, az egyszerűen éhen hal.

Említettük a Kodakot.

Említettük a Kodakot, tehát nem a legnagyobb fog túlélni, hanem az, amelyik a leggyorsabban alkalmazkodik a megváltozott környezethez, és az, hogy most hogyan változik meg a környezet idén, pont az AI miatt, az elképesztő.

És igazából nem kell, hogy informatikával foglalkozzon a cég, tehát a mesterséges intelligenciából bármilyen iparág, bárki. Amerikában az egyik legnagyobb hasznot például a dominó pizza húzta belőle.

Azzal, hogy a futárok útvonalát optimalizálta. Mi történt? Ugyanazt a területet kevesebb futárral tudta lefedni, csökkentek az üzemanyag és emberköltségei, a pizza melegen ért oda ki hamarabb, nagyobb volt az ügyfélelégedettség, tehát ha ő tartotta az árait, de nagyobb ügyfélelégedettség miatt, mert hamarabb ér ki és még meleg pizzát kap, már nőtt az ügyfél. Ha még azt mondja, mivel a költségeim csökkentek, mert kevesebb futárt, kevesebb üzemanyagot kellett használni, akkor még egy kicsit az áron is engedtem, onnantól kezdve abszolút piacelőny.

És azok a futárok, akik ugye akkor ugyanúgy élték meg, hogy leépítették őket, most sikeres forgatókönyvírók, énekesek, komikusok, tehát ők sem mentek be a levesbe, hogy pozitív vége legyen ennek a Domino Pizza optimalizációs projektnek.

Szerintem ennyi elég lesz belőlünk, a többit rábízhatjuk a közönségünkre, hogy gondolják tovább. Kedves Tamás és Richárd, köszönjük, hogy itt voltatok.

Köszönjük a lehetőséget.

Köszönjük.

Köszi, hogy itt voltatok.