Vállalati tárgyalás megbízható mesterséges intelligencia jogi megfeleléséről

Megbízható mesterséges intelligencia vezetői felelősséggel

Röviden

  • A vendégek szerint az MI eszköz, a felelősség embernél marad.
  • A megfelelés költség és idő, az EU‑szabályok adják a keretet.
  • A vezetésnek célokat, szerepeket és leállítási pontokat kell rögzítenie.

Egy büntetőbíró barát kérdése hozta közel a tétet: ha egy AI‑val támogatott távműtét félremegy, ki a felelős. A stúdióban a válasz nem kerülte meg az embert. Halász Rita, a Digitaltech Európai Digitális Innovációs Központ (EDIH) tanácsadója és a Blockchain Magyarország Egyesület elnöke, valamint Spiczmüller Bence, fintech és blockchain jogi és szabályozási tanácsadó szerint az MI eszköz marad, a felelősség embernél. Ahol számít, ott a folyamat átlátható és dokumentált, és kijelölt, számonkérhető döntéshozó áll mögötte. Erről szólt a DIG‑IT beszélgetés A jog szerepe a technológiák mellett: fókuszban a Trustworthy AI epizódja.

Egy magyar cégvezetőnek ez ma pénz, kockázat és idő. A megbízható mesterséges intelligencia nem dobozcímke, hanem vezetői felelősséggel felépített működés, emberi felügyelettel és naplózhatósággal. A keretet az uniós szabályozás adja, köztük a MI‑rendelet (AI Act), a NIS2 és a DORA, de a kompromisszumok ára és az ütemezés a vállalatnál dől el. A fő tétel egyszerű: aki előre rögzíti a célt, a szerepeket és a megállítási pontokat, az a kockázat nagy részét még a modell kiválasztása előtt kézben tartja.

Előbb a döntés, aztán a rendszer

Az adásban elhangzott vezetői dilemma gyakori. Ha ugyanarra az utasításra, a promptra eltérő eredmény jön, lehet‑e megbízható az eszköz. Halász Rita szerint a megbízhatóság nem azonos kimenetet jelent, hanem átlátható és visszakövethető folyamatot. Ismert, mikor és miért változik valami, és ez látszik a naplóban. A visszafordíthatatlan lépések emberi felügyelete nem opcionális, hanem a felelősség feltétele. Erről részletesen beszél a csapat az emberi felügyeletről szóló szakaszban, és a tesztelés nyomkövető szerepéről is szó esik a beszélgetés közepén.

A megfelelés nem egyetlen jogszabály kérdése. Spiczmüller Bence szerint a valóság egy összetett megfelelési mátrix, amelyben nem életszerű mindent fejből tudni. Ezért kell a tudatos együttműködés és a dokumentált döntés, különösen nagy kockázatú alkalmazásoknál. Példaként a kriptoeszközök piacáról szóló uniós rendeletet, a MiCA‑t említette. A vendég értelmezése szerint a kriptoeszköz‑szolgáltatások engedélykötelesek a magyar gyakorlatban egy megadott ütemezést követve, de az alkalmazás elemei és határnapjai szakaszosak, és egyes kötelezettségek későbbi dátumhoz kötődnek. A részletekről a MiCA‑ról szóló bekezdésben beszélnek, és jelzik, hogy konkrét ügyben jogi ellenőrzés szükséges.

Átláthatóság és felelősség a gyakorlatban

Az átláthatóság nem adminisztráció, hanem a bizalom feltétele. A megbízható MI (Trustworthy AI) egyik központi elve a magyarázhatóság. A felhasználó tudja, mikor és hogyan használnak MI‑eszközt, és milyen szerep jut az embernek a felügyeletben. A műsorban elhangzott, hogy négy sarokpont mindenhol megjelenik: adatvédelem, adatbiztonság, felelősségi körök és dokumentáció. Ezek adják a vizsgálat és az elszámoltathatóság alapját a magyarázhatóságról szóló részben. A MI‑rendelet (AI Act) elvárásai lépcsőzetesen lépnek életbe, és több átláthatósági kötelezettséget is bevezetnek. A pontos ütemezést a végrehajtási szakaszok határozzák meg, a részletek még alakulnak a gyakorlati alkalmazásban.

A kkv‑k hátránya valóság. Gyakran nincs külön kockázatkezelési vagy megfelelési csapat, a feladat az ügyvezetésen landol. A vendégek szerint ez önmagában versenyhátrányt jelenthet, és természetes az averzió az adminisztratív terhek iránt. Itt érhet sokat a Digitaltech EDIH és az EDIH‑hálózat szemléletformáló és gyakorlati támogatása. Halász Rita szerint a díjmentes workshopok és képzések eligazítást adnak a hatályról, a határidőkről és a bevezetés sorrendjéről a képzéseknél, és segítenek a vezetői döntés előkészítésében.

Költség, mozgástér és az európai kompromisszum

A stúdióban elhangzott, hogy a jogszabályok a minimumot írják elő, attól felfelé lehet adni. Személyi László a MI‑rendelet két sarokkövét emelte ki: egyes, elfogadhatatlan kockázatú alkalmazások tiltását és a transzparencia kötelezettségét. Ez a kettő nem enged kompromisszumot, a többit a vállalkozás forgathatja a saját kockázat‑hozam arányai szerint a sarokkövekről szóló szakaszban. Spiczmüller Bence ugyanakkor rámutatott: a piacegységesítés jelenlegi hullámában a bürokrácia előnyben látszik az innovációval szemben. Várható, hogy ez finomodik, de ma a megfelelés költség és ütemezés, amelyet a vezetésnek előre kell terveznie a kkv‑k helyzetét tárgyaló részben.

A DIG‑IT olvasata szerint a megbízható mesterséges intelligencia nem modellképesség, hanem folyamatképesség. Bizalmat az épít, ha a vezetés arányos kockázatvállalással kijelöli a célt, szerepeket és a leállítási pontokat, naplóz, és csak ezután választ technológiát. Aki így dolgozik, az a kockázatot és a költséget előre hozza, cserébe gyorsabban jut el éles működéshez. A beszélgetés egyik mondata ma is iránytű: az MI eszköz marad, a felelősség embernél.

DIG-IT Podcast szerkesztőség - All rights Reserved.