“A mesterséges intelligencia üzleti előny. De csak akkor, ha biztonságosan építjük be.”
Miért fontos a biztonság a mesterséges intelligencia integráció során?
Tekintve hogy egy rendkívül széles körben felhasználható technológiáról van szó, ezért érdemes tisztázni, mit is értünk “mesterséges intelligencia kapacitások integrációja” alatt.
Gondolunk itt – a teljesség igénye nélkül – olyan megoldásokra amik a vállalati/vállalkozási vertikális és horizontális layereibe épülnek be.
- Ilyen kapacitás lehet egy specifikus szerver tevékenység figyelése, amelyet aztán egy MI modullal (az agy) kiegészített automatizmus rendez, elemez, cimkéz és potenciális “action routing”-ot hajt végre. (pl: notification-t küld a végrehajtásról).
- Ilyen kapacitás lehet továbbá egy lead sales pipeline-ba épített adatgazdagítási AI modul, mely valós idejű internetes kutatásokkal egészíti ki a lead tavunkat.
- Ilyen kapacitás lehet ezenkívül egy weboldalba épített LLM (köznyelven “AI Chatbot”), amely különböző információkkal és iránymutatással látja el a weboldára tévedő érdeklődőket vagy leadeket.
Mint látjuk, rettenetesen sok féle képpen lehet hasznosítani a mesterséges intelligencia nyújtotta lehetőségeket, viszont már csak ebből a 3 példából is látszik, hogy még az egyszerűbb megoldások is milyen biztonsági kockázokat rejthetnek.
A mesterséges intelligencia ma már amerikai és sok európai vállalat működésének egyik legfontosabb alappillére. Gyorsítja a folyamatokat, csökkenti a coginitve terhelést az alkalmazottakon, az adatvezérelt döntéshozás egyik kulcs boostere. De ahogy a technológia beépül a mindennapi működésbe és a napi/heti/havi vagy adhoc folyamatok részévé válik, úgy megjelennek az új, komplex kockázati dimenziók is. Egy MI-modul alkalmazási és integrációs területtől függően nem egyszerűen csak feldolgoz adatokat, hanem potenciálisan döntéseket hozhat, hatással lehet emberekre, ügyfélélményre, dokumentációra, infrastrúktúrára, adminisztrációra és még számtalan területetre. Mint látjuk az automatizáció és mesterséges intelligencia nagyon sok féleképpen hat a vállalati működésre ezért a potenciális problémák – amit nem megfelelő implementálási és fejlesztési architektúra okozhat – legalább ugyanilyen sokrétű.
A Cloud Security Alliance és az F5 legutóbbi kutatásai szerint a vállalatok közel 70%-a már használ MI-alapú megoldásokat (magyarországon ez egyébként >10%) , de kevesebb, mint 20%-uk rendelkezik átfogó AI-biztonsági stratégiával. Ez azt jelenti, hogy a többség úgy épít be intelligens rendszereket, vagy úgy okosítja fel a meglévőt, hogy közben nem alakította ki azokat a kulcsfontosságú biztonsági rétegeket és best practice-eket, amelyek megvédik a céget a technológia használatakor inherensen fellépő kockázatoktól.
Ahogy korábban írtuk az “AI automatizáció valósága – miért a stabilitás lesz a következő versenyelőny” című cikkünkben: a sebességből származó előnyök valódi megtérülése csökken, ha közben a szervezetünk szép lassan egyre instabilabbá és kiszolgáltatottabbá válik a megfelelő implementálási, használati, biztonsági és audit keretrendszerek nélkül.
A biztonság 3+1 rétege az MI-integrációban
A biztonságos mesterséges intelligencia és automatizációk működése nem egyetlen technikai döntés, hanem egy több rétegű biztonság architektúrai megközelítés, amely lefedi az egész rendszert – az adatfolyamoktól a potenciális döntéshozatalig.
Sok esetben látjuk a piacon jelenleg, hogy vállalati döntéshozók a megfelelő felkészültség nélkül használnak és próbálnak mesterséges intelligencia modulokkal gyorsítani a napi működésükön. Legyen az egy ChatGPT által generált script, amelyben feketén fehéren bent van minden API endpoint és webhook – azért hogy éppen ahhoz az egy folyamathoz meglegyen a quick fix – viszont a minimum az lenne hogy hogy ezeket a kulcsokat rotáljuk és megfelelően tároljuk és rendszeresen auditáljulk. A másik, ami szintén gyakori jelenség az utóbbi időben, a no code tool-ok használata automatizációkra, amelyek GIU felületén notóriusan elfelejt mindenki RBAC szintű jogosultság kezeléseket alkalmazni vagy végpontok közötti titkosítást implementálni – csak hogy néhányat említsük az egyébként jelentős mennyiségű elmulasztott ellenőrző lépésből.
Tehát mit tudunk tenni hogy hogy növeljük az biztonságot?
Az első és legfontosabb amit ilyenkor kiszoktunk emelni, hogy elengedhetetlen a rendszer designg-ban történő gondolkodás. Mesterséges intelligencia integráció értelemszerűen nem történik rendszeren kívül, így nagyon fontos hogy megértsük a rendszert annak minden működési elemével együtt és azt szigorúan leauditáljuk. Minél komplexebb rendszerekről és logikáról beszélünk, annál fontosabb a mögöttes biztonsági és technikai know-how.
A high level architektúrát általában 3+1 alapon szét lehet bontani infrastrukturális biztonságra, folyamat/működési technológiai biztonságra és szervezeti biztonságra – illetve AI megfelelőségre. (AI compliance)
Egy magas szinten automatizált rendszerben vagy folyamatban sok esetben vannak beépítve külső API-on keresztül hívott szolgáltatások illetve third party mesterséges intelligencia modulok. Ezek a működési biztonság kérdésköre. Itt ismét a teljesség igénye nélkül szeretnénk megemlíteni párat: hogyan és milyen formában továbbítódik az adat (titkosítás), milyen adatokat engedünk/nem engedünk érintkezni((PII,SPI) az MI-vel, hol és hogyan tároljuk a kulcsokat/webhook-okat, model system prompt protokolok, lépések kockázati elemzése, eszkalációs mechanizmusok, model auditálhatóság biztosítása, RBAC, PEL, stbstb.
Jobb esetben a működési biztonsághoz szorosan kötődik a deployment architektúra biztosítása, amely szintén kardinális jelentőségű, ha bármilyen mesterséges intelligencia alapú megoldást szeretnénk tesztelni, integrálni, leszállítani. Az Orion Technologies-nál ezek a saját szervereinken történnek a teljes adatbiztonság (data privacy) és nagyvállalati (multi) függetlenség biztosítása érdekében. Külön figyelmet fordítunk magas kockázatú MI termékek/folyamatok belső izolációjára és több lépésű biztonsági mechanizmusok telepítésére olyanok esetében, amelyek egy potenciális breach esetén komolyabb autonóm jogosultságokkal bírnak. Konténerizált telepítés, izolált instance-k és RDP-k stbstb.
A szervezeti biztonság kérdésköre egy, a fentieknél is kevesebbet tárgyalt témakör.
Egy szervezet akkor működik biztonságosan, ha a döntések mögött egyértelmű felelősségi struktúra áll. Tudni kell, ki hagyta jóvá a modellt, ki ellenőrzi a működést, és mi történik, ha hiba lép fel. A CyberSierra 2024-es felmérése szerint az MI-vel dolgozó vállalatok 60%-ánál nincs kijelölt AI-felelős vagy governance-keretrendszer. Ez véleményünk szerint egy óriási kockázat. Az auditálhatóság, jogi megfelelés és reputációs védelem nélkül sincs biztonságos AI.
A fentiek részletes kutatása és termékeink/szolgáltatásaink fejlesztése során kirajzolódott számunkra, hogy ahhoz hogy segíteni tudjuk Magyarország biztonságos digitális és mesterséges intelligencia transzformációját létre kell hoznunk egy olyan belső rendkívül szigorú ISO típusi többlépcsős megfeleltetési keretrendszert amely alapján minden mesterséges intelligenciával dúsított terméket/szolgáltatást/automatizációt/folyamatot ellenőrzünk.
Ennek a többlépcsős biztonsági minősítésnek a része az Orion Risk Score (ORS) amely működési, infrastrukturális és szervezeti kockázatokat is vizsgál.
Egy mesterséges intelligencia-rendszer biztonsága ugyanis nem azon múlik, hogy mennyire jól van megírva a kód, hanem azon hogy milyen döntési és ellenőrzési kultúra épül köré.
Az ORS ezt a teljes képet elemzi: a technológiai, működési és emberi tényezőket egyaránt.
Az Orion Risk Score (ORS) – amikor a biztonság mérhetővé válik
Az Orion Risk Score egy belső fejlesztésű kockázatelemzési és megfelelőségi modell illetve protokol, amely minden mesterséges intelligencia-rendszer vagy automatizmus élesítése előtt lefut az Orion Technologies-nál.
A célja, hogy objektív, számszerűsíthető képet adjon az adott MI-megoldás biztonsági érettségéről, mielőtt az valós környezetbe kerülne.
Az ORS három fő dimenzió mentén értékel:
- Impact (hatás): milyen következményekkel járhat, ha a rendszer hibázik – üzleti, jogi vagy adatvédelmi szempontból.
- Likelihood (valószínűség): mekkora az esélye annak, hogy a hiba, támadás vagy adatvesztés bekövetkezik.
- Controls (kontrollok): milyen mértékű védelmi, naplózási és felügyeleti mechanizmusok vannak beépítve.
Ezen túlmenően az ORS azonosítja a nem kompenzálható kockázatokat is – ilyen például egy nyitott webhook, hitelesítés nélküli API, vagy rosszul konfigurált környezeti változó, amely kritikus hozzáférést biztosíthat egy rendszerhez.
Az ORS tehát nemcsak egy kockázati guardrail, hanem egy vezetői döntéstámogató eszköz is.
Segít meghatározni, hogy egy adott MI-rendszer hol tart a biztonsági érettségben, és milyen fejlesztésekre van szükség ahhoz, hogy megfeleljen mind a vállalati, mind a EU-s jogszabályi elvárásoknak.
Az AI Act – az európai szabályozás, ami a jövőt keretezi
Az Európai Unió AI Act rendelete 2024-ben került elfogadásra, és fokozatosan lép életbe 2026-ig.
Ez az első átfogó, kockázatalapú szabályozás, amely kimondja, hogy az AI-rendszerek nem működhetnek „fekete dobozként”.
A törvény négy kockázati kategóriát határoz meg:
- Tiltott (unacceptable risk) – például manipuláló vagy megfigyelő rendszerek.
- Magas kockázatú (high risk) – ide tartoznak a pénzügyi, HR, egészségügyi, ügyfélinterakciós és döntéstámogató MI-megoldások.
- Korlátozott kockázatú (limited risk) – például chatbotok, amelyeknél a felhasználónak egyértelműen tudnia kell, hogy MI-vel kommunikál.
- Minimális kockázatú (minimal risk) – pl. spamfilterek, ajánlórendszerek.
A magas kockázatú rendszerekre szigorú előírások vonatkoznak:
- kötelező a dokumentáció és auditálhatóság,
- biztosítani kell az emberi felügyeletet,
- és az adatkezelésnek megfelelnie kell a GDPR-nak és az átláthatósági követelményeknek.
Az Orion Technologies által kifejlesztett ISO szintű biztonsági keretrendszer ezekhez az elvekhez is igazodik.
Biztonságos MI, stabil növekedés – a döntés a tiéd
A mesterséges intelligencia ma egy óriasi üzleti lehetőség, hogy gyorsítsuk a folyamatainkat és segítsük munkavállalóink munkáját. – de csak azok tudják tartósan kihasználni, akik tudatosan, kontrolláltan és biztonságosan integrálják.
A biztonság nem akadálya az innovációnak, hanem annak előfeltétele.
Az Orion Technologies ebben segít:
nem csak technológiát, hanem mérhetően biztonságos rendszereket, termékeket, szolgáltatásokat fejlesztünk, amelyek megfelelnek egy túl gyorsan fejlődő világ egyre magasabb és szigorúbb követelményeinek.
