Shadow AI: húsz cégből csak egy tudja, milyen MI-eszközök futnak nála

Az MI átlépett a nyelvből a cselekvésbe: már nem csak mond dolgokat, hanem önállóan dönt, eszközöket hív meg és adatokat kezel. De hogyan védhetik meg a cégek a rendszereiket ebben a gyorsan fejlődő környezetben? A DIG-IT Podcast legújabb adásában Dudás Mátéval, a Check Point értékesítési mérnökével beszélgetett Személyi László és Szekér Zoltán.

A tűzfalak evolúciója és a Shadow AI jelensége

1994-ben a Check Point a Stateful Firewall technológiával indult, ahol a szűrés még IP-címek és portok alapján történt. Az évek során a védelem fejlődött: megjelent a felhasználói kontextus, az alkalmazásszintű szabályozás és a homokozó (sandboxing) használata. Mára azonban megjelent az MI és a Shadow AI jelensége. Egy friss jelentés szerint 20-ból mindössze 1 cég tudja pontosan megmondani, milyen MI eszközök futnak nála. A kliensoldali agentek segítségével a Check Point nem a telepített szoftverek puszta listázására, hanem az MI jellegű hálózati forgalom átláthatóságára és védelmére fókuszál.

Agentic AI és az MCP szerverek kontrollálása

Az MI ügynökök (Agentic AI) és az MCP (Model Context Protocol) szerverek lehetővé teszik, hogy a modellek közvetlenül kommunikáljanak adatbázisokkal vagy menedzsment rendszerekkel. Ebben a környezetben kritikus a granuláris jogosultságkezelés: beállítható például, hogy az MI ügynök csak olvasási joggal rendelkezzen, így nem tud adatot törölni vagy nem kívánt módon módosítani. A Check Point AI Security megoldása valós időben, legfeljebb 50 ezredmásodperces késleltetéssel képes vizsgálni és szűrni ezeket a hívásokat.

Pszichológiai manipuláció és a Gandalf játék

A kiberbiztonsági fenyegetések jellege is megváltozott: a hagyományos nyers erővel (Brute force) történő támadások helyett az MI modellek manipulálása és a pszichológiai meggyőzés került előtérbe. A Check Point Gandalf nevű online játékában – amelyet már több mint egymillióan játszottak – a résztvevőknek promptolással kell bizalmas adatokat kiszedniük egy chatbotból. A tapasztalatok szerint az emberi pszichéhez és manipulációhoz jobban értő játékosok sokszor könnyebben jutnak túl a magasabb szinteken, mint a klasszikus informatikai háttérrel rendelkezők.

Megelőzés és tudatosság a tiltás helyett

A szakértők szerint a teljes tiltás nem megoldás, mert fluktuációhoz és a szabályok megkerüléséhez (például dokumentumok lefotózásához) vezet. A cél az ellenőrzött bevezetés, az oktatás és a folyamatos proaktív védelem. Nézd meg a teljes adást a YouTube-on: https://www.youtube.com/watch?v=WibpKn_u78E Nezd meg a teljes epizodot a YouTube-on