Hol ér véget a technológia, és hol kezdődik a vezetői felelősség? A DIG-IT Podcast 4. évadának 25. részében a műsorvezetők, Személyi László (Future-NOW) és Szekér Zoltán (OD&IT, SailingHangar), Bakos Róberttel (Delta Technology Zrt. vezérigazgatói képviselet) és Tóth Istvánnal (Delta Technology Zrt. rendszerintegrációs és IT szolgáltatási igazgató) járják körül az IT üzemeltetés, a döntéshozatal és az automatizáció legégetőbb kérdéseit.

Vezérigazgató és IT igazgató: Ki látja reálisabban a helyzetet?

A beszélgetés azzal a kérdéssel indult, hogy a vállalatnál a vezérigazgató vagy az IT igazgató látja-e reálisabban a működést. Bakos Róbert szerint a vezérigazgató a szélesebb kontextust, a piaci túlélést és a növekedési lehetőségeket értékelheti reálisan, míg az IT vezető a részleteket, az erőforrásokat, a technológiai korlátokat és a megvalósíthatóságot látja pontosan. Tóth István hozzá tette: mindkét félnek igaza van a saját területén. A vezérigazgató a döntések pénzügyi következményeire figyel, míg az IT üzemeltetés a rendszerek fizikai és valós állapotát monitorozza.

Hol a határ az automatizáció és az emberi döntés között?

Az automatizáció határait a kockázatok és a felelősség dinamikus mérlegelése jelöli ki. Bakos Róbert felhívta a figyelmet arra, hogy a visszafordítható döntéseknél a sebesség az elsődleges, míg a visszafordíthatatlan, jogi vagy reputációs kockázattal járó lépéseknél kötelező az emberi kontroll („Human-in-the-loop”). Ha egy automatizált rendszer döntési pontossága jól strukturált adatoknál meghaladja a 99,9%-os megbízhatósági küszöböt, ott magasabb autonómia engedélyezhető. Ahol viszont a hiba korrigálása nem gyors és nem olcsó, ott a technikai lépésből üzleti döntés lesz, ami emberi felügyeletet igényel.

Mesterséges intelligencia, felelősség és a „fekete doboz” probléma

Tóth István rámutatott, hogy az AI alapú rendszerek nem feltétlenül hoznak jobb döntéseket, mint a korábbi szabályalapú rendszerek, viszont nagyságrenddel több mintázatot és összefüggést képesek észrevenni. A felelősség azonban soha nem ruházható át a gépre vagy a szoftverre. A szabályozási környezetben (mint a NIS 2 vagy a DORA) kulcskérdés a magyarázhatóság („explainability”) és a pontos eszkalációs protokollok rögzítése a vállalati szabályzatokban (Policy).

Reputációs kockázatok és a jövő IT kompetenciái

A publikus AI eszközök használata (pl. bizalmas adatok bevitele a ChatGPT-be) komoly adatvédelmi incidensekhez vezethet, a gép által generált téves információk pedig közvetlenül veszélyeztetik a cég reputációját. Emiatt az új AI szolgáltatások bevezetése előtt elengedhetetlen a pilótaprojektek futtatása. A jövő IT szakembereitől a kódoláson túl a kritikus gondolkodást, az AI rendszerek felügyeletét és az erős soft skilleket várja el a piac. Nézd meg a teljes adást a YouTube-on: https://www.youtube.com/watch?v=v8bkVbJTT6Y Nezd meg a teljes epizodot a YouTube-on