Megbízható mesterséges intelligencia vezetői felelősséggel
Röviden
- A vendégek szerint az MI eszköz, a felelősség embernél marad.
- A megfelelés költség és idő, az EU‑szabályok adják a keretet.
- A vezetésnek célokat, szerepeket és leállítási pontokat kell rögzítenie.
Egy büntetőbíró barát kérdése hozta közel a tétet: ha egy AI‑val támogatott távműtét félremegy, ki a felelős. A stúdióban a válasz nem kerülte meg az embert. Halász Rita, a Digitaltech Európai Digitális Innovációs Központ (EDIH) tanácsadója és a Blockchain Magyarország Egyesület elnöke, valamint Spiczmüller Bence, fintech és blockchain jogi és szabályozási tanácsadó szerint az MI eszköz marad, a felelősség embernél. Ahol számít, ott a folyamat átlátható és dokumentált, és kijelölt, számonkérhető döntéshozó áll mögötte. Erről szólt a DIG‑IT beszélgetés A jog szerepe a technológiák mellett: fókuszban a Trustworthy AI epizódja.
Egy magyar cégvezetőnek ez ma pénz, kockázat és idő. A megbízható mesterséges intelligencia nem dobozcímke, hanem vezetői felelősséggel felépített működés, emberi felügyelettel és naplózhatósággal. A keretet az uniós szabályozás adja, köztük a MI‑rendelet (AI Act), a NIS2 és a DORA, de a kompromisszumok ára és az ütemezés a vállalatnál dől el. A fő tétel egyszerű: aki előre rögzíti a célt, a szerepeket és a megállítási pontokat, az a kockázat nagy részét még a modell kiválasztása előtt kézben tartja.
Előbb a döntés, aztán a rendszer
Az adásban elhangzott vezetői dilemma gyakori. Ha ugyanarra az utasításra, a promptra eltérő eredmény jön, lehet‑e megbízható az eszköz. Halász Rita szerint a megbízhatóság nem azonos kimenetet jelent, hanem átlátható és visszakövethető folyamatot. Ismert, mikor és miért változik valami, és ez látszik a naplóban. A visszafordíthatatlan lépések emberi felügyelete nem opcionális, hanem a felelősség feltétele. Erről részletesen beszél a csapat az emberi felügyeletről szóló szakaszban, és a tesztelés nyomkövető szerepéről is szó esik a beszélgetés közepén.
A megfelelés nem egyetlen jogszabály kérdése. Spiczmüller Bence szerint a valóság egy összetett megfelelési mátrix, amelyben nem életszerű mindent fejből tudni. Ezért kell a tudatos együttműködés és a dokumentált döntés, különösen nagy kockázatú alkalmazásoknál. Példaként a kriptoeszközök piacáról szóló uniós rendeletet, a MiCA‑t említette. A vendég értelmezése szerint a kriptoeszköz‑szolgáltatások engedélykötelesek a magyar gyakorlatban egy megadott ütemezést követve, de az alkalmazás elemei és határnapjai szakaszosak, és egyes kötelezettségek későbbi dátumhoz kötődnek. A részletekről a MiCA‑ról szóló bekezdésben beszélnek, és jelzik, hogy konkrét ügyben jogi ellenőrzés szükséges.
Átláthatóság és felelősség a gyakorlatban
Az átláthatóság nem adminisztráció, hanem a bizalom feltétele. A megbízható MI (Trustworthy AI) egyik központi elve a magyarázhatóság. A felhasználó tudja, mikor és hogyan használnak MI‑eszközt, és milyen szerep jut az embernek a felügyeletben. A műsorban elhangzott, hogy négy sarokpont mindenhol megjelenik: adatvédelem, adatbiztonság, felelősségi körök és dokumentáció. Ezek adják a vizsgálat és az elszámoltathatóság alapját a magyarázhatóságról szóló részben. A MI‑rendelet (AI Act) elvárásai lépcsőzetesen lépnek életbe, és több átláthatósági kötelezettséget is bevezetnek. A pontos ütemezést a végrehajtási szakaszok határozzák meg, a részletek még alakulnak a gyakorlati alkalmazásban.
A kkv‑k hátránya valóság. Gyakran nincs külön kockázatkezelési vagy megfelelési csapat, a feladat az ügyvezetésen landol. A vendégek szerint ez önmagában versenyhátrányt jelenthet, és természetes az averzió az adminisztratív terhek iránt. Itt érhet sokat a Digitaltech EDIH és az EDIH‑hálózat szemléletformáló és gyakorlati támogatása. Halász Rita szerint a díjmentes workshopok és képzések eligazítást adnak a hatályról, a határidőkről és a bevezetés sorrendjéről a képzéseknél, és segítenek a vezetői döntés előkészítésében.
Költség, mozgástér és az európai kompromisszum
A stúdióban elhangzott, hogy a jogszabályok a minimumot írják elő, attól felfelé lehet adni. Személyi László a MI‑rendelet két sarokkövét emelte ki: egyes, elfogadhatatlan kockázatú alkalmazások tiltását és a transzparencia kötelezettségét. Ez a kettő nem enged kompromisszumot, a többit a vállalkozás forgathatja a saját kockázat‑hozam arányai szerint a sarokkövekről szóló szakaszban. Spiczmüller Bence ugyanakkor rámutatott: a piacegységesítés jelenlegi hullámában a bürokrácia előnyben látszik az innovációval szemben. Várható, hogy ez finomodik, de ma a megfelelés költség és ütemezés, amelyet a vezetésnek előre kell terveznie a kkv‑k helyzetét tárgyaló részben.
A DIG‑IT olvasata szerint a megbízható mesterséges intelligencia nem modellképesség, hanem folyamatképesség. Bizalmat az épít, ha a vezetés arányos kockázatvállalással kijelöli a célt, szerepeket és a leállítási pontokat, naplóz, és csak ezután választ technológiát. Aki így dolgozik, az a kockázatot és a költséget előre hozza, cserébe gyorsabban jut el éles működéshez. A beszélgetés egyik mondata ma is iránytű: az MI eszköz marad, a felelősség embernél.
Kapcsolódó cikkeink
A témával kapcsolatos tudományos cikkek
- Attila Dabis, Csaba Csáki (2024): AI and ethics: Investigating the first policy responses of higher education institutions to the challenge of generative AI. Humanities and Social Sciences Communications. doi.org/10.1057/s41599-024-03526-z
- Igor Calzada, Géza Németh, Mohammed Salah Al-Radhi (2025): Trustworthy AI for Whom? GenAI Detection Techniques of Trust Through Decentralized Web3 Ecosystems. Big Data and Cognitive Computing. doi.org/10.3390/bdcc9030062
- Gyula Szabó (2026): Embedding ethical governance in personal AI systems: design and evaluation of a user-centred oversight agent. AI and Ethics. doi.org/10.1007/s43681-026-01193-1
- Kitty Kioskli, Theofanis G. Fotis, Eleni Seralidou et al. (2025): trustSense: Measuring Human Oversight Maturity for Trustworthy AI. Computers. doi.org/10.3390/computers14110483
- Kerry A. Ryan, Morgan L Sielaff, Dalya Saleem et al. (2026): Community perspectives on health AI: hopes, concerns and implications for health systems and trustworthy AI. AI and Ethics. doi.org/10.1007/s43681-026-00987-7
- Maroua Zalfani, Edit Süle, Mohamad Bakar (2026): Human-Centered AI for Decision Support Systems: Enhancing Usability and Trustworthiness. Systems. doi.org/10.3390/systems14060651
DIG-IT Podcast szerkesztőség - All rights Reserved.