Az algoritmusok már régóta részt vesznek a kormányzásban. Meghatározzák, hogy mely álláshirdetések jutnak el az állampolgárokhoz, mely adóbevallásokat jelölik ki ellenőrzésre, és mely szociális ügyeket helyezik előtérbe, sőt, még a rendőrségi járőrútvonalak ütemezését is befolyásolják.
Ezek a folyamatok eddig többnyire csendben zajlottak, „döntéstámogatás” címszó alatt, nem pedig nyílt döntéshozatalként. Azonban a közelmúltban Albániában és Japánban történt események kiemelt jelentőséggel bírnak, hiszen ezek a rendszerek már nem rejtett infrastruktúraként működnek.
Az albán kormány hivatalosan is megbízta digitális asszisztensét, Diellát a közbeszerzési folyamatok írányításával, míg Japánban a Path to Rebirth [Út az újjászületéshez] párt bejelentette, hogy mesterséges intelligenciát nevez ki vezetőjének.
Azonban egyik eset sem jelenti a hatalom teljes átruházását a gépekre. Diella továbbra is egy felügyelt munkafolyamat-eszköz, a japán pártnak pedig nincs képviselete a nemzeti törvényhozásban, valamint hivatalos ügyekben továbbra is emberi képviselőt kell kijelölnie.
Ennek ellenére ezek a lépések jelentősek. Az algoritmikus döntéshozatalt a háttérfunkcióból egy megnevezett, nyilvánosan elismert intézményi szerepkörbe helyezik át. Ez azt jelzi, hogy az algoritmikus kormányzás, amely eddig az adminisztratív élet csendes ténye volt, most explicit módon jelenik meg. Ezeket a kérdéseket intézményi tervezés, legitimitás és elszámoltathatóság szempontjából kell megvizsgálni.
Az algoritmikus kormányzás, tágabb értelemben véve, nem új keletű. Évtizedek óta használnak a kormányok és vállalatok pontozási képleteket, kockázati modelleket, valamint döntési fákat az eredmények irányítására.
Ami ma megkülönbözteti ezt a folyamatot, az az adatokból tanuló, idővel alkalmazkodó és nagy léptékben működő mesterséges intelligencia rendszerek megjelenése. Ezek a rendszerek nem csupán rögzített szabályokat hajtanak végre. Mintákat generálnak, alternatívákat rangsorolnak, és néha olyan cselekvéseket javasolnak, amelyeket a tervezőik nem láttak előre.
Ez teszi őket hatékonnyá, de egyúttal nehezebben ellenőrizhetővé is. Az albániai és japán mesterséges intelligencia rendszerek nyilvános kinevezései erre a változásra hívják fel a figyelmet. Ez arról szól, hogy olyan rendszerekkel kormányozzunk, amelyek fejlődnek, és amelyek érvelése érthető kell, hogy maradjon, ha meg akarjuk őrizni a demokratikus felügyeletet.
Az algoritmikus kormányzás és az objektivitás álma
Leibniztől Condorcet-ig a felvilágosodás gondolkodói szerint a vitákat számításokkal lehet helyesbíteni. Leibniz még egy „univerzális kalkulust” is javasolt, amelynek segítségével az ellenfelek egyszerűen kijelenthetnék: calculemus („számoljunk”).
Jeremy Bentham ezt a víziót utilitarista politikává fordította le, azt állítva, hogy a kormányzás célja a kollektív boldogság maximalizálása racionális számítások révén. A mai algoritmikus kormányzás látszólag ezt a projektet tükrözi vissza. Olyan döntéseket ígér, amelyek a szeszélytől és az előítéletektől mentesek.
A modern kormányzás régóta küzd a rend és az autonómia közötti feszültséggel, az elfogulatlan adminisztráció ígérete és a fojtogató kontrolltól való félelem között.
Max Weber bürokráciáról szóló szociológiája az első jelentős fogalmi alapot nyújtja. Weber szerint az ideális modern államot szabályokkal irányítják, amelyet formális eljárások, írásos nyilvántartások és hierarchikus felügyelet jellemez.
Az algoritmikus rendszerek ennek a projektnek logikus kiterjesztései. Következetességet ígérnek azáltal, hogy eltávolítják a diszkréciót az alacsonyabb szinteken, és egységességet kényszerítenek ki. Ugyanakkor Weber „vas ketrecét” még szorosabbá teszik. Ebből a nézőpontból jelentős történelmi folytonosság figyelhető meg, ahol az algoritmikus kormányzás nem törés, hanem a racionalizáció fokozása.
.png?width=512&format=jpg&quality=80)
Az 1940-es években megjelent kibertechnika újraértelmezte a kormányzást mint a visszacsatolásos irányítás problémáját. Norbert Wiener felismerése szerint a biológiai, mechanikai vagy társadalmi rendszereket úgy lehet szabályozni, hogy érzékelik az állapotukat, összehasonlítják egy céllal, majd korrigáló intézkedéseket alkalmaznak.
Stafford Beer 1970-es évekbeli „élő rendszer modellje” ezt az elvet az egész gazdaságokra alkalmazta, az államot mint élő információfeldolgozóként képzelte el.
Az algoritmikus kormányzás pedig ezt a víziót valósítja meg: az érzékelők digitális adatfolyamokká válnak, az irányítók gépi tanulási modellekké, a korrekciók pedig gépi sebességgel alkalmazhatók.
A háború utáni időszakban a kormányok műveletelemzést, lineáris programozást és döntéselemzést alkalmaztak alogisztika, a költségvetés, valamint társadalmi tervezés optimalizálására.
A hidegháborús elemzők pedig szigorú korlátok között keresték az „optimális” válaszokat.
Gondoljunk például a RAND intézet válsággyakorlataira, a szovjetek gazdaságirányítási kísérleteire visszacsatoláson alapuló számítógépes modellekkel, vagy a brit háború utáni tervezésre, amely input-output táblák segítségével határozta meg a termelési célokat.
Mivel a módszerek érthetőek voltak, a döntéshozók láthatták, hogyan állnak elő az ajánlások a számokból.
A modern algoritmikus rendszerek megőrizték az optimalizálás szellemét, de az érthető egyenleteket átláthatatlan neurális hálózatok váltották fel. Ez történelmi áttörést jelentett: megőriztük az optimális megoldásokba vetett hitet, de az átláthatóság garanciája nélkül.
Az 1990-es és 2000-es évek digitalizációs hulláma az online portálokra, elektronikus ügyintézésre és automatizált ügykezelésre terelte a figyelmet. Ezek inkább szolgáltatásfejlesztések voltak, nem pedig a hatalom újradefiniálása.
Az algoritmikus kormányzás ezt az infrastruktúrát használja alapul, de az passzív nyilvántartásból aktív irányítássá lép elő.
A rendszerek most már meghatározzák, hogy az emberi tisztviselők mely ügyeket lássák, előrejelzik, mely politikák érik el a kitűzött célokat, és néha automatikusan alkalmaznak büntetéseket vagy jogosultsági döntéseket.
Az állam egyre inkább nyilvántartóból ajánlóvá, egyes területeken pedig cselekvővé válik.
AI általi kormányzás
Ami ebben a pillanatban újdonságnak számít, nem maga a kormányzás racionalizálásának szándéka, hanem a jelenleg használt eszközök tulajdonságai.
A korábbi évtizedek szabályalapú rendszereivel ellentétben a mai mesterséges intelligencia statisztikai következtetésen alapul, nem pedig explicit logikán. Nem átlátható szabályok alkalmazásával ad eredményt, hanem az adatok összetett összefüggéseit térképezi fel.
Ez rugalmasságot és alkalmazkodóképességet tesz lehetővé, hiszen a rendszerek képesek önmagukat frissíteni, ahogy új adatok érkeznek.
Ugyanakkor ez átláthatatlanságot is eredményez. A döntéshozók számára nehéz lehet megmagyarázni, hogy egy adott javaslat miért született, vagy rekonstruálni az eredmény mögötti érvelési láncot.
Ebben az értelemben a mai algoritmikus kormányzás nem csupán szorosabbra húzza Weber „vaskalitkáját,” hanem kockázatot jelenthet, hogy a látható rácsokat láthatatlanok váltják fel.
Egy másik fontos különbség a léptek mértéke és a részletesség. A korábbi adminisztratív rendszerek csak általánosítani tudtak.
Általános szabályokat alkalmaztak nagyobb ügycsoportokra.
Ezzel szemben a gépi tanulási modellek lehetővé teszik a mikrodifferenciálást. Kockázati pontszámokat, jogosultsági döntéseket és politikai ösztönzőket lehet finomhangolni akár egy-egy városrész vagy egyén szintjén.
Ez lehetőségeket és aggodalmakat egyaránt felvet.
Egyrészt az erőforrásokat példátlan pontossággal lehet célba juttatni, ami csökkentheti a pazarlást és az igazságtalanságokat.
Másrészt viszont az ilyen aprólékos kormányzás megbontja a közösség fogalmát, a kollektív kezelést egyéni optimalizálással helyettesítheti, és megnehezítheti a politikai igazolást: miért kezeltek engem másképp, mint a szomszédomat, ha soha nem döntött ember erről?
Időbeli váltás is bekövetkezett. A klasszikus bürokratikus és tervezési rendszerek időszakosak és visszatekintőek voltak. Népességszámlálás tízévente, költségvetések minden pénzügyi évben, politikai felülvizsgálatok minden törvényhozási ciklusban.
A modern mesterséges intelligencia rendszerek viszont folyamatosan működhetnek, valós idejű adatokat dolgoznak fel, és azonnal képesek döntéseket módosítani.
Ez lehetővé teszi a dinamikus kormányzást, amely egyfajta folyamatosan változó adminisztráció lenne.
Ugyanakkor ez megnehezíti az ellenőrzést is. Ha a döntések folyamatosan frissülnek, akkor mit is vizsgál pontosan egy törvényhozási audit vagy bírósági felülvizsgálat? A múlt havi modellverziót, a múlt heti vagy a ma reggel futó verziót?
Az AI vezette kormányzás új szerepelosztást hoz. A mai rendszerek képesek olyan lehetőségeket generálni és stratégiákat javasolni, amelyeket alkotóik előre nem láttak.
Ez elmoshatja a döntéstámogatás és a döntéshozatal közötti határt. Ugyanakkor megváltoztatja a köztisztviselők szükséges képességeit is.
Mostantól nemcsak a lakosságot, hanem a modelleket is kormányozniuk kell.
Meg kell tanulniuk, mikor bízhatnak a rendszerben, mikor kell felülbírálniuk, és hogyan fordítsák le a közösségi értékeket technikai paraméterekké.
A kérdés az, hogy az AI modell tanulása összhangban marad-e a demokratikus szándékkal.
Korai esettanulmányok
Az algoritmikus rendszerek három fontos módon különböznek a korábbi adminisztratív technológiáktól. Alkalmazkodók, valószínűségi következtetésen alapulnak a fix szabályok helyett, és olyan léptékben működnek, amely egyszerre több millió ügyet is érinthet.
Ezek a tulajdonságok lehetővé teszik a kormányok számára, hogy példátlan pontossággal célozzák meg az erőforrásokat, és előre jelezzék a problémákat, mielőtt azok súlyosbodnának.
Ugyanakkor növelik a hibák hatását, olyan torzításokat építhetnek be, amelyeket nehéz észrevenni, és bonyolultabbá teszik az ellenőrzést.
Ahelyett, hogy ezeket a fejleményeket reklámfogásként elutasítanánk vagy a gépek uralmának előhírnökeként félnénk tőlük, az albán és japán kísérleteket korai esettanulmányokként kell kezelnünk.
Lehetőséget adnak a normák, az auditálási gyakorlatok és a jogi keretek kialakítására, amelyek az algoritmikus döntéshozatalt fogják irányítani, mielőtt az mélyen beágyazódna.
Albánia és Japán – szándékosan vagy sem – láthatóvá tették az algoritmikus kormányzást.
A feladat most az, hogy eldöntsük, miként lehet azt legitimmé, vitathatóvá és a demokratikus elvekkel összhangban tartani, mielőtt a következő hivatal digitális névtáblát kap.