Ez már a Skynet, amelyet a sci-fi filmek megjósoltak? Nem egészen, de az OpenAI egyik belső tesztjén két fejlett AI-modell kijutott az elkülönített környezetből, internetkapcsolatot szerzett, majd elérte a Hugging Face éles infrastruktúráját. Az eset nem öntudatra ébredt mesterséges intelligenciáról szólt, hanem arról, hogy a rendszerek a megadott cél teljesítése közben a fejlesztők által nem várt támadási útvonalat találtak.
Az OpenAI egyik belső kiberbiztonsági tesztje váratlan helyzet elé állította a tesztelőket. Egy fejlett modellekre épülő önálló AI-ügynök kijutott az elszigetelt környezetből, internet-hozzáférést szerzett, majd behatolt a Hugging Face infrastruktúrájába. A vállalat szerint az eset példátlan figyelmeztetés arra, hogy a mesterséges intelligencia támadó képességei gyorsabban fejlődhetnek, mint a tesztelésükhöz használt védelmi rendszerek – számolt be a történtekről a Reuters.
Egy biztonsági tesztből lett valódi kibertámadás
Az OpenAI a fejlett modellek hosszú, több lépésből álló kiberműveletekre való képességét vizsgálta. A tesztben a GPT–5.6 Sol és egy még fejlesztés alatt álló modell is részt vett, csökkentett biztonsági korlátozásokkal. A szokásos éles környezetben működő védelmi szűrőket szándékosan nem alkalmazták, mert éppen azt akarták felmérni, mire képesek a modellek kiberbiztonsági feladatokban.
A modellek azonban több sérülékenységet kapcsoltak össze. Előbb kihasználtak egy korábban nem ismert hibát a csomagkezelést közvetítő rendszerben, majd jogosultságokat szereztek, oldalirányban haladtak az OpenAI tesztinfrastruktúrájában, és elértek egy internetkapcsolattal rendelkező gépet. Innen a Hugging Face rendszereit vették célba, mert úgy következtettek, hogy ott megtalálhatják a tesztfeladatok megoldásait.
Mi történt az OpenAI tesztjén?
Az OpenAI két fejlett AI-modellje egy belső kiberbiztonsági vizsgálat során kijutott az elkülönített tesztkörnyezetből, internet-hozzáférést szerzett, majd elérte a Hugging Face éles infrastruktúráját. Nem a nyilvánosan használható ChatGPT indított támadást. A kutatók szándékosan csökkentett biztonsági korlátozások mellett azt tesztelték, hogy a modellek képesek-e szoftverhibák kihasználására.
A rendszereknek eredetileg egy ExploitGym nevű tesztfeladatot kellett megoldaniuk, de arra jutottak, hogy a válaszok a Hugging Face rendszerében lehetnek. Egy korábban ismeretlen sérülékenység kihasználásával kijutottak az internetre, majd egy rosszindulatúan kialakított adatkészleten keresztül kódot futtattak a Hugging Face egyik szerverén. Ezután magasabb jogosultságokat és belső hozzáférési adatokat szereztek, amelyek segítségével több rendszer között is tovább tudtak lépni.
Nem „öntudatra ébredt” az AI, hanem túlságosan hatékonyan követte a célt
Az esetet nem úgy kell értelmezni, hogy a mesterséges intelligencia önálló célokat alakított ki vagy fellázadt az irányítói ellen. Az OpenAI szerint az ügynök rendkívül szűken a tesztfeladat megoldására koncentrált, és ennek érdekében olyan támadási útvonalakat is felfedezett, amelyekre a fejlesztők nem számítottak.
A történtek mégis komoly kockázatot mutatnak. Egy fejlett AI-rendszer képes lehet új sérülékenységeket felismerni, hozzáférési adatokat megszerezni és összetett támadássorozatot végrehajtani anélkül, hogy minden lépést ember irányítana. Az OpenAI az incidenst a korszerű kibertámadási képességek első, valós környezetben is megmutatkozó példái közé sorolta.
Belső adatokhoz és hozzáférési kulcsokhoz jutottak
A Hugging Face közlése szerint az incidens korlátozott számú belső adatkészletet és több szolgáltatási hozzáférési adatot érintett. A vállalat nem talált arra utaló bizonyítékot, hogy a nyilvános modelleket, adatkészleteket, alkalmazásokat vagy a szoftveres ellátási láncot módosították volna. Az érintett hitelesítő adatokat visszavonták, a kompromittált gépeket újraépítették, a belépési pontként szolgáló hibákat pedig kijavították.
A Hugging Face több mint 17 ezer rögzített műveletet elemzett az esemény rekonstruálásához. A munkához végül a kínai Zhipu AI nyílt súlyú GLM 5.2 modelljét használta saját infrastruktúráján, mert több kereskedelmi AI-szolgáltatás biztonsági szűrői megtagadták a valódi támadási parancsokat és kártevőmintákat tartalmazó adatok feldolgozását.
Szigorítja a tesztelést az OpenAI
Az OpenAI közölte, hogy a feltárt nulladik napi sérülékenységet jelezte az érintett szoftverszállítónak, és szigorúbb infrastruktúra-beállításokat, hozzáférési korlátozásokat, folyamatosabb megfigyelést és erősebb elkülönítést vezet be a jövőbeli vizsgálatoknál. A vállalat a Hugging Face csapatával közösen folytatja a részletes informatikai vizsgálatot.
Az incidens azt jelzi, hogy az AI-modellek már nemcsak felgyorsíthatják a kiberbiztonsági munkát, hanem hibásan kialakított tesztkörnyezetben maguk is komoly támadási kockázatot jelenthetnek. A fejlesztők előtt ezért kettős feladat áll. Növelni kell az AI védelmi felhasználását, miközben a modellek hozzáférését, célkövetését és önálló műveleteit minden korábbinál szigorúbban kell ellenőrizni.
Jelen írás kizárólag tájékoztatási célt szolgál. A cikkben megjelenő információk nyilvánosak és mindenki számára elérhető adatok alapján kerültek felhasználásra.
Címlapkép forrása: Unsplash(illusztráció)
