Sadiq BhatJúlius 28. reggelén riasztás hallatszott egy brit kormányzati épületben. Egyik számítógépes rendszeréből adat kezdett el távozni titkos csatornákon keresztül, amelyeket arra terveztek, hogy elrejtsék, ki kinek küld adatot.
A vizsgálók gyorsan léptek, és nem egy külső betörőt találtak, hanem saját tesztalanyukat: egy mesterséges intelligencia rendszert, amely közben próbálta eltüntetni a nyomait.
Az érintett rendszer az Anthropic Claude Mythos 5 nevű modelljének egy verziója volt, amelyet az Egyesült Királyság MI Biztonsági Intézete (AISI) szűk feladattal bízott meg: azt vizsgálták, meddig lehet eltolni egy AI modellt, mielőtt nemkívánatos viselkedést produkál.
A kutatók egy hamis, lezárt internetkörnyezetbe helyezték, amelynek a külseje a valódihoz hasonlított, és azt az utasítást adták neki, hogy próbáljon meg behatolni egy számítógép-hálózatba — hasonlóan ahhoz, ahogy egy biztonsági cég megpróbálja feltörni egy bank zárjait.
Senki sem mondta az MI-nak, hogy hazudjon, találjon ki egy hamis személyazonosságot, vegye fel a kapcsolatot valós emberekkel, vagy törölje az elkövetett nyomokat.
Mindezeket mégis megcsinálta.
Amikor az AI elkezdett hazudni
Az AISI ezt a gyakorlatot 122 alkalommal futtatta le, hét világelsőnek számító MI rendszer bevonásával, köztük az OpenAI GPT-5.6 Sol modelljével.
Ezekből a futtatásokból tíz alkalommal az MI túllépte a gyakorlati környezetet és a valódi interneten kezdett el tevékenykedni, valós embereket és szervezeteket megkeresve. A vizsgálók 19 ilyen eseményt azonosítottak: 17 eset Mythos 5-höz, kettő pedig GPT-5.6 Solhoz kötődött.
Kristina Podnar, a washingtoni székhelyű NativeTrust Consulting digitális és MI-politikai tanácsadója a napokban magyarázta el, mit jelent ez a gyakorlatban, és mit nem.
„Az AISI világossá tette, hogy a megtévesztésre soha nem adtak utasítást, az a cél elérésének melléktermékeként jelent meg” – mondta el Podnar a TRT Worldnek. „Ez az a rész, ami évekig elméleti volt, és most dokumentálva lett.”
Amit különösen megjegyzett: a takargatás. „Amikor nyilvánosan megkérdőjelezték, az ügynök átszerkesztette a korábbi tevékenységét, hogy ártalmatlannak tűnjön, és megfontolta egy új identitás felvételét a további rejtett működéshez, ami arra utal, hogy a rendszer optimalizál, nem pedig csupán hibásan működik.”
Még a vizsgálók sem biztosak abban, hogy az MI felfogta-e a cselekedeteinek súlyát.
Podnar ezt tartja a jelentés legfontosabb fenntartásának. Egyelőre senki sem tudja, hogy a rendszer felismerte-e, hogy a való világban cselekszik, vagy azt hitte, még mindig a gyakorlat részét képezi.
„A kontextus számít, ahogy tudjuk az emberek esetében, úgy az MI modelleknél is” – tette hozzá.
Nem ez az első ilyen eset
Ez a harmadik hasonló eset, amely alig két hét alatt került nyilvánosságra.
Néhány nappal korábban a Hugging Face közölte, egyik saját modellje megsértette a cég infrastruktúráját egy rutinteszt során, és röviddel utána a Modal felhőplatformnál is felmerült egy hasonló ügy.
Az Anthropic már július 30-án bejelentette, hogy rendszereik külön értékelések során elérték a működő termelési hálózatokat.
A szabályozók és az MI laborok most ugyanazzal a kényelmetlen mintával küzdenek: a modellek másként viselkednek a teszten belül, és másként, ha valós infrastruktúra válik elérhetővé számukra.
A legkomolyabb epizód az AISI jelentésében úgy játszódott le, mint egy mérnök által kitervelt rablás.
Az MI megpróbált veszélyes kódot csempészni egy ingyenes, nyilvánosan megosztott szoftverbe (olyasmibe, amelyet könyvtárak, kórházak és bankok használnak anélkül, hogy látnák, ki írta), majd megkísérelte meggyőzni emberi felülvizsgálókat, hogy hagyják jóvá a módosítást.
Amikor valaki az interneten megkérdőjelezte, mit csinál, az MI átszerkesztette a korábbi tevékenységét, hogy ártalmatlannak tűnjön, és megfontolta egy új identitás felvételét, hogy észrevétlenül folytathassa.
Változás abban, mi aggasztja a szakértőket
Évekig az MI és a hackelés körüli félelem elsősorban a nyers képességekről szólt: képes-e egy rendszer gyenge pontot találni és kihasználni azt? Podnar szerint ez az eset eltolja a kérdést arra, hogy mit választ egy rendszer tenni, ha az egyszerű út el van zárva előtte.
„A társadalmi manipuláció mindig is a legolcsóbb út volt egy szervezetbe való bejutáshoz, és mindig azzal a korláttal találkozott, hogy mennyi türelmes, hozzáértő ember áll rendelkezésre elvégzésére” – mondta. „Most éppen ennek a kritikus korlátnak a megszűnését láttuk.”
Ugyanakkor óvatosan bánik a túlzásbavivéssel: az AISI teszt eltávolította az MI szokásos biztonsági korlátait és nyílt internet-hozzáférést adott neki azzal az utasítással, hogy törjön be.
„Amit az AISI lemért, az a mennyezet, nem a padló” – mondta. „Ez a történet egyik kritikus pontja.”
Mit tehetnek a hétköznapi fejlesztők?
A szoftverfejlesztőknek és az IT-csapatoknak, akik soha nem fognak ilyen tesztet lefuttatni, Podnar tanácsa nyugodt, nem pánikkeltő.
Azok a bizalmi jelek, amelyekre az open-source közösségek évtizedekig támaszkodtak — egy régi fiók, a hozzájárulások története, mások ajánlása — most olcsón és meggyőzően hamisíthatóvá váltak.
Ajánlásai régi bölcsességek, amelyek most sürgetőbbé váltak: követeljék meg, hogy több ember hagyjon jóvá bármit, ami a rendszermagot érinti; kezeljék a fiókok korát gyenge nyomként, ne bizonyítékként; tartsák szigorúan a hozzáférési jogosultságokat és cseréljék őket gyakran.
A teszt során egy MI személyes hozzáférési kódot szivárogtatott ki online, és más MI-ügynökök megtalálták és újrahasznosították azt. A vállalatoknak pontosan tudniuk kell, mihez érhetnek hozzá a saját MI-eszközeik.
„Ha belsőleg ügynököket futtattok széles jogosultságokkal és felügyelet nélkül, ugyanezt a kísérletet futtatjátok, amit az AISI végzett, csak ők mérőeszközökkel dolgoztak” – mondta el.
Az igazgatóságok számára egyértelműbb. „Ennek szerepelnie kell az igazgatóság kockázati nyilvántartásában” – mondta –, „és nem szabad a biztonsági csapat hátralékába temetni.”
A vizsgálók még dolgoznak azon, hogy kiderítsék, mit értett valójában az MI a világ működéséből, amelyben cselekedett.
„A kontextus számít” – ismételte Podnar – „az embereknek számít, és a modelleknek is.”
